AutoML + GAN = AutoGAN

AutoGAN: Neural Architecture Search for Generative Adversarial Networks

همانطور که میدانید آموزش GANها ترفندهای زیادی دارد و رسیدن به بهترین هایپرپرامترها کاری بسیار سخت و نیازمند جستجوی زیاد در فضای مسئله می‌باشد. این مقاله که در ICCV 2019 پذیرفته شده رویکردی را ارائه داده که می‌تواند تقریبا یکی از بهترین حالت‌ها را برای هایپرپارامترهای GAN به صورت خودکار پیدا کند.
در این رویکرد فضای جستجو‌یی برای شبکه مولد (Generator) تعریف شده و به وسیله یک شبکه بازگشتی (RNN) این جستجو هدایت می‌شود.

Paper: https://arxiv.org/abs/1908.03835
Code: https://github.com/TAMU-VITA/AutoGAN

#GAN

دیپ لرنیگ در آینده به چه صورت خواهد بود؟
می‌تونید سخنرانی یوشوآ بنجیو در NeurIPS 2019 در این باره را دنبال کنید.

From System 1 Deep Learning to System 2 Deep Learning

Video: https://www.youtube.com/watch?v=FtUbMG3rlFs
Slide: https://drive.google.com/file/d/1zbe_N8TmAEvPiKXmn6yZlRkFehsAUS8Z/view

MixNet: Google Brain’s new State of the Art Mobile AI architecture

MixNets are a family of mobile-sizes image classification models equipped with MixConv, a new type of mixed depthwise convolutions. Currently, MixNets achieve better accuracy and efficiency than previous mobile models. In particular, MixNet-L achieves a new state-of-the-art 78.9% ImageNet top-1 accuracy under typical mobile FLOPS (<600M) constraint.

MixNet-M with 5M params matches ResNet-153 accuracy but with 60M params and nearly 31x lower FLOPS!

Paper: https://arxiv.org/abs/1907.09595v3
Code: https://github.com/tensorflow/tpu/tree/master/models/official/mnasnet/mixnet

#خبر
#sketch2code
ابزار جدید مایکروسافت برای تبدیل طراحی به کد با استفاده از هوش مصنوعی

https://sketch2code.azurewebsites.net/generated-html/1eb2ac79-5532-43c2-8cfa-9067a195f394

🙏Thanks to : @techinsider_channel

How to improve your image classifier with Google’s AutoAugment

https://towardsdatascience.com/how-to-improve-your-image-classifier-with-googles-autoaugment-77643f0be0c9

ممکنه در آموزش شبکه فقط با ست کردن سید نامپای نتایج تون قابل باز تولید نباشه
برای این کار باید سید های دیگه رو هم ست کنید مثل تنسورفلو و ....

این کد اینکارو میکنه:

# Seed value
# Apparently you may use different seed values at each stage
seed_value= 123

# 1. Set the PYTHONHASHSEED environment variable at a fixed value
import os
os.environ['PYTHONHASHSEED']=str(seed_value)

# 2. Set the python built-in pseudo-random generator at a fixed value
import random
random.seed(seed_value)

# 3. Set the numpy pseudo-random generator at a fixed value
import numpy as np
np.random.seed(seed_value)

# 4. Set the tensorflow pseudo-random generator at a fixed value
import tensorflow as tf
tf.random.set_random_seed(seed_value)

# 5. Configure a new global tensorflow session
from keras import backend as K
session_conf = tf.ConfigProto(intra_op_parallelism_threads=1, inter_op_parallelism_threads=1)
sess = tf.Session(graph=tf.get_default_graph(), config=session_conf)
K.set_session(sess)

#سورس_کد
EfficientDet: Scalable and Efficient Object Detection

https://github.com/signatrix/efficientdet

#آموزش
ابزارهای تنسرفلو برای کاهش زمان inference مدل، این کارها شامل quantization بعد آموزش مدل و همچنین هرس وزنها طی فرایند آموزش است.

Optimize machine learning models

✔️داکیومنت های مرتبط
https://www.tensorflow.org/model_optimization

💬توئیت مرتبط Francois Chollet :
https://twitter.com/fchollet/status/1214225205532323843?s=20

🕰البته قبلا هم در موردش نوشتم:
https://xn--r1a.website/cvision/1242
https://xn--r1a.website/cvision/1271

#سورس کد

#blazeface
مدل تشخیص چهره و ویژگی های چهره real-time در مرورگر با tensorflow js

https://www.npmjs.com/package/@tensorflow-models/blazeface?linkId=80168838

رونمایی از ایده تایپ با دوربین سلفی سامسونگ در #CES2020

تنها با یک دوربین سلفی به موبایل خود این قابلیت را اضافه کنید. ظاهرا تایپ ۱۰ انگشتی باید بلد باشید و فعلا فقط زبان انگلیسی است...
Samsung has an invisible keyboard that you can use with your phone

#fun How to confuse your machine learning model.

#خبر

تنسرفلو 2.1 منتشر شد.

شما میتوانید تغییرات جدید را از اینجا ببینید.
این نسخه آخرین نسخه از تنسرفلو خواهد بود که پایتون 2 هم پشتیبانی می‌کند.
یکی از مهمترین ویژگی‌های اضافه شده به این نسخه لایه‌ی TextVectorization است که یک آموزش استفاده آن در طبقه بندی متن را می‌توانید در این نوت‌بوک ببینید.

https://colab.research.google.com/drive/1RvCnR7h0_l4Ekn5vINWToI9TNJdpUZB3

Tensorflow Lite PoseNet (in #IOS)

📹
TensorFlow Lite takes the camera input and overlays the key body parts in real-time

https://github.com/tensorflow/examples/tree/master/lite/examples/posenet/ios

#پروژه_متن_باز

سلام.
با توجه به فقدان داده فارسی برای کارهایی مثل توصیف تصویر تصمیم گرفتیم دیتاست MS-COCO مربوط به image captioning را به صورت متن باز ترجمه کنیم.
سایت زیر در همین راستا آماده شده است:

http://imagecaptioning.ir

لطفا با مشارکت در آن و همچنین معرفی به دوستان خود مارا یاری کنید.

برای شروع داده های آموزش سال 2014 انتخاب شده است که ترجمه ها برای همگان در دسترس خواهد بود.

#آموزش #سورس_کد

ساخت موتور جست و جو با BERT و Elastic

Elasticsearch meets BERT: Building Search Engine with Elasticsearch and BERT
https://towardsdatascience.com/elasticsearch-meets-bert-building-search-engine-with-elasticsearch-and-bert-9e74bf5b4cf2

https://github.com/Hironsan/bertsearch

YOLACT (You Only Look At CoefficienTs): Real-time Instance Segmentation
Paper: https://arxiv.org/abs/1904.02689

YOLACT++: Better Real-time Instance Segmentation
Paper: https://arxiv.org/abs/1912.06218


Code: https://github.com/dbolya/yolact

Colab: https://colab.research.google.com/drive/1ncRxvmNR-iTtQCscj2UFSGV8ZQX_LN0M#scrollTo=YWzKi-xiGX-i

#خبر

محققان نشون دادند آموزش یک شبکه عصبی عمیق میتونه به اندازه کربنی که در طول عمر کارکرد پنج تا خودرو آزاد میشه، میتونه کربن تولید کنه!
https://jamanetwork.com/journals/jama/fullarticle/2758612

BERT
یکی از قوی ترین مدل های NLP در تاریخ است ، اما همچنین در حال حاضر پرمصرف ترین مدل در صنعت است، به طوریکه هزینه سربار محاسباتی بسیار بیشتر از ImageNet است. محققان گوگل یک بهینه ساز جدید را پیشنهاد داده‌اند که با موفقیت زمان آموزش BERT را از 3 روز به 76 دقیقه کاهش داده است. این مقاله در ICLR 2020 پذیرفته شده است.

https://arxiv.org/abs/1904.00962

Online speech recognition with wav2letter@anywhere
https://ai.facebook.com/blog/online-speech-recognition-with-wav2letteranywhere/

#fun #deeplearning #pix2pix