اگر با کراس کد زده باشید و اندازه کار بزرگ بوده باشه میدونید که یک سری محدودیت‌های خسته کننده برای
distributed training
وجود داره، البته که می‌شه مشکلات رو حل کرد اما خب زمانبر هست

توی تنسورفلو یک، ،submodule دیگری هم وجود داره به اسم estimator که توی نسخه ۲ توجه خوبی بهش شده و پیشرفتای خوبی داشته، حتی خیلی ریکامند می‌شه که موقع
Distributed Processing
بجای کراس ازین مورد استفاده بشه، ولی چون نوع syntax خودش رو داره برای کدهای بزرگ که روی کراس نوشته شده بنظر مفید نمیاد
اما :
tf.keras.estimator.model_to_estimator()
مشکل رو حل می‌کنه؛ توی تست‌های بنده اگر از خود کراس مستقیم استفاده کنید
pip install keras
و بخواید اینکارو انجام بدید مشکلاتی پیش میاد اما نسخه تنسورفلو ۲ به راحتی و عالی اینکارو انجام میده، دوم اینکه دیگه نیازی نیس یادتون بمونه که حتماً از
@tf.function
استفاده کنید، چون این مورد خوردش بهینه‌ساز‌ی‌هارو انجام میده، پردازش توزیع شده هم که دلیل اصلی استفاده هست

از دیگر مشکلات مربوط به توسعه دیپ‌لرنینگ،🤦🤦
WaterCool , AirCool
فرقی نداره، وقتی دمای حالت
Standby GPU
بالاتر از حد باشه، باید
Thermal Paste
رو عوض کنید، قبل از اینکه ی هزینه زیاد رو دستتون بذاره

“Unsupervised NER using BERT”

Medium Link

چندتا از دوستان سوال پرسیدن چطوری از info و warning های تنسورفلو راحت بشیم، دو خط کد زیر رو به ابتدای اسکریپت‌هاتون اضافه کنید

import warnings; warnings.simplefilter('ignore')
import os; os.environ['TF_CPP_MIN_LOG_LEVEL'] = '1'

دیفالت روی '0' هست و بالاترین مقدار '3' هست (اگر اشتباه نکنم) که تا log های Critical رو هم حذف می‌کنه، بهترین مقدار همین '1' هست چون معمولاً اطلاعات مهمتر ازین سطح لازم می‌شه

پیشنهاد میکنم دوستان علاقه‌مند به موضوع NLP
حتماً ویدئو‌های
Zero to Hero NLP, Tensorflow
رو از کانال یوتیوب دنبال کنند، بسیار عالی و مختصر و مفید هست

تنها مشکل اینه که ۱ بار درهفته ویدئو منتشر می‌شه، قسمت سوم این سری ویدئو هم دیشب منتشر شد

Zero to hero tenaorflow nlp part1

دیتاست
STT (TTS)
فارسی رو موزیلا دراختیار گذاشته، دیتاستی که چندی پیش با مشارکت عالی مردم تهیه شد، حالا به حجم ۶ گیگ رسیده

اما از جمله مشکلاتی که شخصاً باهاش برخورد کردم موقع کار با داده بایاس شدید داده هست
طبق گذارش وبسایت ۷۸٪ داده‌ها صدای آقایون و ۶٪ داده‌ها صدای خانم‌ها هست (احتمالا باقی افراد جنسیتشون رو ترجیح دادند انتخاب نکنن موقع ثبت نام)

تو این روزای قرنطینه اگر وقت داشتید و ازین دیتا استفاده کردید، کمک کنید دیتاست قویتری داشته باشیم برای زبان فارسی و البته گویش‌های مختلف

Dataset Link

چندثانیه با MuseNet :
این شبکه نوت‌های ابتدایی (۳ ثانیه) موسیقی پوکرفیس از لیدی گاگا رو شنیده و از ثانیه ۳ به بعد رو با نوت‌های
Piano, Strings
و در سبک Mozart تولید کرده، که لذت بخشه

برای همه‌ی عزیزان کادر درمان 🌹🌹
تفاهم نامه دعا برای جلوگیری از بلایای طبیعی و بودجه‌های میلیاردی، مردم ناآگاه رو به اینجا رسوند، وقتی که یادمون رفت این بودجه‌ها چه جاهای حساس‌تر و مهمتری می‌تونست خرج بشه

شخصاً هرموقع حرم هرکدوم از امامان یا ... رفتم، هیچ چیزی نخواستم جز ی تیکه از همون طلای ۲۴عیار ضریح، نه فقط واسه خودم واسه همه‌ی آدمای نیازمندی که هرروز میبینم

با امید به اینکه #ی_روز_خوب_بیاد

#یادداشت جالب دکتر فریبا فرهی



پدرم خودش را جلو گلوله سپر کرد که جوان مردم به خاطر یک ماسک و یک لباس بعد از سالها درس خواندن روی تخت بیمارستان جان ندهد..

✍️دکتر فریبا فراهی (متخصص طب اورژانس)

این روزا من کوچکترین گلایه‌ای از ویروسی که دنیا رو فتح کرده ندارم. بالاخره دردا و مصیبتا و عفونتا و ویروسا تقریبا تنها چیزی هستن که تحریم نشدن و راحت وارد کشور ما میشن. خود به خود هم وارد نمیشن به دست یه سریی با پرواز ... میان. من و همکارام هم الان موظف به استفاده از علم بر علیه کروناییم. ما با علممون شکستش میتونیم بدیم. ولی با جونمون نه. ما هم ریه داریم. بدن داریم. باور کنید با حتی فقط یک دست لباس مناسب میشه یک پزشک و پرستار رو نجات داد. که همون پزشک و پرستار از پس مدیریت درمان چندین و چندین بیمار بر میاد. حداقل من که اینطورم ...

من در حسرت آغوش پدرم درس خوندم که مردم رو نجات بدم تا دیگه هیچ دختری حسرت آغوش و نوازش پدر رو شبونه گریه نکنه. مخصوصا الان که دم دمای روز پدره. پدرم هم خودش رو جلو گلوله سپر کرد که جوون مردم به خاطر یه ماسک و یه لباس بعد از سالها درس خوندن رو تخت بیمارستان جون نده.

آسیب ریه از دردناک‌ترین و تدریجی‌ترین انواع مرگه. خفگی تو آب استخر رو تصور کنین، این حال ما بیماران کروناست. حال همکارام. همینایی که تا دیروز تا آخرین لحظه که یارای ایستادن داشتن کنار من بیمار تحویل گرفتیم ...

الان که این پست رو میخونین کلیشه ی اسکن ریه‌های درگیرم با کرونا رو میزه. و چندین پزشک به خاطر نداشتن ساده‌ترین و ابتدایی ترین امکانات محافظتی رو تخت مراقبتهای ویژه. شاید جون پدرم کافی نبوده برای فقط یک دست لباس
یک دست لباس
یک دست لباس ...
نظام پزشکی و وزارت بهداشت که ندید. یعنی دید و کاری نکرد. اما رفیق و پناهگاهمون حتما دید و میبینه ....
أَ لَمْ يَعْلَمْ بِأَنَّ اللَّهَ يَرى

پ.ن. من اهل اخبار نیستم. ولی شنیدم که از زمین و هوا کمک های سازمان های جهانی و داخلی شامل لباس و تجهیزات به کشور اومده. هزاران هزار هم از انبارهای به قول خودشون احتکاری کشف شده. کاش به ما کادر درمانی هم میرسید از این تجهیزات ...

پیشنهاد می‌کنم حتماً این مقاله رو بخونید 👌

توی کار با دیتاهای متنی و دیتاهایی که متغییری به اسم زمان دارند، ی چالش مهم حافظه هست و معماری‌هایی که می‌تونند دیتای قدیمی رو بخاطر بسپارند همیشه برنده‌ بنچمارک‌های این بخش هستند

همین موضوع و پیشرفتای خوب دیپ‌لرنینگ ترنسفرمر‌هارو معرفی کرد، حالا تیم DeepMind یک قدم جلوتر رفته معرفی
Compressive Transformers
و یک دیتاست بنچمارک جدید

Link of paper

خب مثل اینکه، پیام‌رسان سروش جیب اونایی که باید پر می‌کرد رو پر کرد و دیگه نیازی بهش ندارند (باز خوبه بعد چند‌ده میلیارد پول‌خواری سیر شدن)

Link

15 minute to start


https://youtu.be/HlBGYxO8RaU

به مناسبت 1k شدن کانال،اجرای زنده از لارا فابیان ، موسیقی فوق‌العاده عاشقتم
ممنون از همه دوستانی که تو این مدت حمایت کردن و بهمون انرژی دادند

@pytens

#خارج_از_بحث
چجوری آبروی ۸۰میلیون ایرانی رو ببریم بخش دوم، با کتک زدن زنان بخاطر حجاب در خیابان.

چه فرقیه بین برای بی‌حجابی اجباری کتک خوردن و برای حجاب اجباری کتک خوردن.

پیشنهاد می‌کنم این بلاگ پست کوتاه رو بخونید
DeepSence

Link medium

بطور خلاصه، Tensorflow DevSummit
برای جزئیات بیشتر و کدها هم لینک ویدئو (یوتیوب) هربخش بصورت جداگانه در انتهای صفحه وب قرار داده شده

بنظرم بهترین بخشش توضیح درباره profiling هست که متاسفانه خیلی از دوستان برنامه نویس (بخصوص پایتون) استفاده نمی‌کنند و این خیلی خیلی بده مخصوصاً توی کار دیپ‌لرنینگ

DevSummit Summary

.
Google Ai Blog
.

خدمتی دیگر از #آپ در شرایط قرنطینه و کرونا
اگر سیم‌کارت بنام خودتون نباشه
اجازه کارت به کارت و .... رو ندارید

عجب !!!

ابزار بسیار قوی برای لیبل زدن ویدئوها

Link

پیشنهاد می‌کنم حتماً این بلاگ پست رو بخونید :

خداحافظ Backprop, سلام به OPT


Link