توی ۳ روز گذشته درگیر یکی از سرورهای لینوکسی مربوط به دیتابیس کلاینت بودیم،
تیم هوش مصنوعی از لحظهای وارد شد که نیاز به آنالیزهای
near realtime
روی دیتاهای دیتابیس بوجود اومد.
اما یک مشکلی هم وجود داشت، زمان خیلی کم بود و پاسخدهی دیتابیس توی بعضی وقتها خیلی طول میکشید (بعد آنالیز متوجه شدیم cpu خیلی درگیر میشه و حتی بعضی وقتا اجازه هیچ کاری رو نمیده)
راهکار ساده اما زمان بر خرید و راهاندازی سرور قویتر یا استفاده از دیتابیس بکاپ و ... برای تحلیلهای تیم هوش مصنوعی.
مورد اول، زمان وجود نداشت
مورد دوم، near realtime بودن راهحل که خیلی مهم بود رو از دست میدادیم.
به لطف تجربیاتی که بعنوان
Server Administrator
داشتم، بجای دنبال کردن یا منتظر بودن برای راهکارهای تیمها، ترجیح دادم به کمک دستور
sar
آنالیز فایلهای
/proc
و به لطف اعتماد مدیر ارشد پروژه، ی سری تغییرات رو توی سرور اعمال کنم
مهمتر از همه فعال سازی
Linux Huge Pages
برای دیتابیس بود.
مشکل ما رو این مورد حل کرد، امیدوارم بدرد دوستان دیگه هم بخوره مخصوصاً اینکه پیدا کردن دلیل این مشکل و راهحل اون اصلا کار سادهای نبود.
اینم ی بنچمارک جالب روی، postgresql هست :
Benchmark PostgreSQL with Huge Pages
تیم هوش مصنوعی از لحظهای وارد شد که نیاز به آنالیزهای
near realtime
روی دیتاهای دیتابیس بوجود اومد.
اما یک مشکلی هم وجود داشت، زمان خیلی کم بود و پاسخدهی دیتابیس توی بعضی وقتها خیلی طول میکشید (بعد آنالیز متوجه شدیم cpu خیلی درگیر میشه و حتی بعضی وقتا اجازه هیچ کاری رو نمیده)
راهکار ساده اما زمان بر خرید و راهاندازی سرور قویتر یا استفاده از دیتابیس بکاپ و ... برای تحلیلهای تیم هوش مصنوعی.
مورد اول، زمان وجود نداشت
مورد دوم، near realtime بودن راهحل که خیلی مهم بود رو از دست میدادیم.
به لطف تجربیاتی که بعنوان
Server Administrator
داشتم، بجای دنبال کردن یا منتظر بودن برای راهکارهای تیمها، ترجیح دادم به کمک دستور
sar
آنالیز فایلهای
/proc
و به لطف اعتماد مدیر ارشد پروژه، ی سری تغییرات رو توی سرور اعمال کنم
مهمتر از همه فعال سازی
Linux Huge Pages
برای دیتابیس بود.
مشکل ما رو این مورد حل کرد، امیدوارم بدرد دوستان دیگه هم بخوره مخصوصاً اینکه پیدا کردن دلیل این مشکل و راهحل اون اصلا کار سادهای نبود.
اینم ی بنچمارک جالب روی، postgresql هست :
Benchmark PostgreSQL with Huge Pages
Percona Database Performance Blog
Benchmark PostgreSQL With Linux HugePages
A review the impact of Linux HugePages settings on the performance of PostgreSQL. Ibrar Ahmed runs some postgres benchmarks to gain some insight.
❤1
من تا حالا چندین هزار بار به اهمیت دیتا در برابر مدل اشاره کردم و این اواخر توی تمام دورهها و سخنرانی و ...
همیشه ی وقتی رو براش اختصاص دادم
تا حالا خیلی گفتم و ازین به بعد هم خیلی راجبش خواهم گفت
Andrew NG
هم توی کورسهای جدیدی که به تازگی منتشر شد خیلی خیلی روی این موضوع صحبت میکنه (چون واقعاً کار توی دنیای واقعی همین هست)
به تازگی تیم DeepLearning.ai بهمراه Landing.ai یک مسابقه رو راهاندازی کردند که اتفاقاً اینبار مدل ثابت هست و شما فقط و فقط دیتاهارو میتونید تغییر بدید (بسیار مفید) :
Competition Link
همیشه ی وقتی رو براش اختصاص دادم
تا حالا خیلی گفتم و ازین به بعد هم خیلی راجبش خواهم گفت
Andrew NG
هم توی کورسهای جدیدی که به تازگی منتشر شد خیلی خیلی روی این موضوع صحبت میکنه (چون واقعاً کار توی دنیای واقعی همین هست)
به تازگی تیم DeepLearning.ai بهمراه Landing.ai یک مسابقه رو راهاندازی کردند که اتفاقاً اینبار مدل ثابت هست و شما فقط و فقط دیتاهارو میتونید تغییر بدید (بسیار مفید) :
Competition Link
https-deeplearning-ai.github.io
Data-Centric AI Competition
placeholder
👍1
کورس هاگینگ فیس که نحوه کار با این لایبراری رو بخوبی آموزش میده خیلی چیز جالبی هست
اما بهتر ازون ویدئوهای آموزش (لایو توویچ این کورس هست)
اگر لایو رو از دست دادید، میتونید توی یوتیوب ویدئوها رو دنبال کنید :
HuggingFace Course Chapter 1
اما بهتر ازون ویدئوهای آموزش (لایو توویچ این کورس هست)
اگر لایو رو از دست دادید، میتونید توی یوتیوب ویدئوها رو دنبال کنید :
HuggingFace Course Chapter 1
YouTube
Chapter 1 Live Session with Sylvain
This is a recording of the twitch session on June 17th 2021. Sorry for the low FPS, we will try to improve that for the next live streams!
Chapter 1 of the course: https://huggingface.co/course/chapter1
Have a question? Checkout the forums: https://disc…
Chapter 1 of the course: https://huggingface.co/course/chapter1
Have a question? Checkout the forums: https://disc…
❤🔥1
دستاوردهای یادگیری عمیق(InTec)
کورس هاگینگ فیس که نحوه کار با این لایبراری رو بخوبی آموزش میده خیلی چیز جالبی هست اما بهتر ازون ویدئوهای آموزش (لایو توویچ این کورس هست) اگر لایو رو از دست دادید، میتونید توی یوتیوب ویدئوها رو دنبال کنید : HuggingFace Course Chapter 1
ویدئو مربوط به Chapter 2 هم قرار گرفت 👌
⚡1
دستاوردهای یادگیری عمیق(InTec)
در حال خوش گذرونی در distrowatch بودم که ی توزیع خیلی باحال پیدا کردم دیپ لرنینگ کارای عزیزی که به دلیل برخی مشکلات (مثلاْ دردسرهای py3 روی CentOS) مجبور به استفاده از ubuntu بودید تجدید نظر کنید با https://system76.com/pop بخوام ساده بگه ؛ کاملاْ…
خیلی وقته که به
PopOS
دسترسی نداشتم، هفته قبل بعد از آپدیت یکی از سیستمها ی فیچر فوقالعاده توش دیدم به اسم
Auto Tiling
بدون شک خیلی فوقالعادهاس اگر نمیدونید چیه این ویدئو رو ببینید
System76 youtube
روی دسکتاپ که کدهای شرکت رو میزنم حجم زیادی دیتا دارم که باعث میشه فکر کردن به تغییر OS هم عذاب آور باشه، از طرفی هم بخاطر این فیچر هم که شده نمیتونم از PopOS جابجا بشم
پس نصبش کنیم رو اوبنتو 20.04 :
$ sudo apt install node-typescript make
$ git clone https://github.com/pop-os/shell
$ cd shell && make local-install
فقط نکته اینکه،
Keyboard shortcut
هایی که خودتون تعریف کردید یا کلی نیست رو از دست میدید مثلاً
ctrl+alt+t
که البته اگر لازمه بعداً میتونید اضافه کنید.
قطعاً برای کد زدن خیلی مفیده، مخصوصاً اگه مثه من بیش از یک wide monitor دارید.
PopOS
دسترسی نداشتم، هفته قبل بعد از آپدیت یکی از سیستمها ی فیچر فوقالعاده توش دیدم به اسم
Auto Tiling
بدون شک خیلی فوقالعادهاس اگر نمیدونید چیه این ویدئو رو ببینید
System76 youtube
روی دسکتاپ که کدهای شرکت رو میزنم حجم زیادی دیتا دارم که باعث میشه فکر کردن به تغییر OS هم عذاب آور باشه، از طرفی هم بخاطر این فیچر هم که شده نمیتونم از PopOS جابجا بشم
پس نصبش کنیم رو اوبنتو 20.04 :
$ sudo apt install node-typescript make
$ git clone https://github.com/pop-os/shell
$ cd shell && make local-install
فقط نکته اینکه،
Keyboard shortcut
هایی که خودتون تعریف کردید یا کلی نیست رو از دست میدید مثلاً
ctrl+alt+t
که البته اگر لازمه بعداً میتونید اضافه کنید.
قطعاً برای کد زدن خیلی مفیده، مخصوصاً اگه مثه من بیش از یک wide monitor دارید.
YouTube
System76 Pop!_OS 20.04 - Auto Tiling Tutorial
New to Pop!_OS 20.04, auto-tiling organizes your windows for you so you can spend more time and focus on the task at hand. Use keyboard shortcuts to move, swap, and resize windows to your liking. Don’t touch that tile! (Though theoretically, you can touch…
🔺طرح صیانت از حقوق کاربران فضای مجازی این هفته به مجلس میرود | استفاده شهروندان از اینترنت دوباره محدود میشود؟
▪️طبق این طرح که در دستور کار بررسی مجلس قرار گرفته است، نمایندگان درصدد هستند قوانین محدودکننده جدیدی را برای استفاده شهروندان از اینترنت تصویب کنند. ممنوعیت استفاده از پیامرسانهای خارجی، تغییر در پهنای باند اینترنت داخلی و خارجی و نیز غیرقانونی اعلام شدن استفاده از فیلترشکن برای دسترسی به سایتهای فیلتر شده و جریمه نقدی و حبس برای استفادهکنندگان از آن، از جمله بندهای مختلف این طرح است.
منبع: کلیک
▪️طبق این طرح که در دستور کار بررسی مجلس قرار گرفته است، نمایندگان درصدد هستند قوانین محدودکننده جدیدی را برای استفاده شهروندان از اینترنت تصویب کنند. ممنوعیت استفاده از پیامرسانهای خارجی، تغییر در پهنای باند اینترنت داخلی و خارجی و نیز غیرقانونی اعلام شدن استفاده از فیلترشکن برای دسترسی به سایتهای فیلتر شده و جریمه نقدی و حبس برای استفادهکنندگان از آن، از جمله بندهای مختلف این طرح است.
منبع: کلیک
دستاوردهای یادگیری عمیق(InTec)
🔺طرح صیانت از حقوق کاربران فضای مجازی این هفته به مجلس میرود | استفاده شهروندان از اینترنت دوباره محدود میشود؟ ▪️طبق این طرح که در دستور کار بررسی مجلس قرار گرفته است، نمایندگان درصدد هستند قوانین محدودکننده جدیدی را برای استفاده شهروندان از اینترنت تصویب…
اگر قرار باشه بخاطر استفاده از VPN مجرم حساب بشم.
توی کلاب هوس،
اکانت من :
https://www.clubhouse.com/@pykeras
سعی میکنم رومها و مباحث جالب رو دنبال کنم
اگر روم مربوط به برنامهنویسی، بخصوص Ai دارید توی بخش کامنت این پست به اشتراک بذارید
مخصوصاً اگه رومها توسط متخصص موضوع ایجاد و رهبری میشه
اکانت من :
https://www.clubhouse.com/@pykeras
سعی میکنم رومها و مباحث جالب رو دنبال کنم
اگر روم مربوط به برنامهنویسی، بخصوص Ai دارید توی بخش کامنت این پست به اشتراک بذارید
مخصوصاً اگه رومها توسط متخصص موضوع ایجاد و رهبری میشه
Clubhouse
M Abbasi - Clubhouse
من حرف نمیزنم که بحث نشه، بعد بحث میشه سر حرف نزدن من
دوست عزیز پیشاپیش، شما حرف بعدیتم درسته ...
لطفا بحث نکن سر اثباتش.
Telegram : @pytens
Machine Learning/Deep Learning Engineer (Daily Job)
Full-time Data Scientist / ML Engineer
Backend Developer…
دوست عزیز پیشاپیش، شما حرف بعدیتم درسته ...
لطفا بحث نکن سر اثباتش.
Telegram : @pytens
Machine Learning/Deep Learning Engineer (Daily Job)
Full-time Data Scientist / ML Engineer
Backend Developer…
👍1
This media is not supported in your browser
VIEW IN TELEGRAM
زمان مصاحبههای :
صف بنویسید که ...
پشته طراحی کن که ...
و ...
چندین سال هست که تموم شده و خیلی از دوستانی که افتخار داشتم مصاحبه کننده باشم، میدونن من هیچ اهمیتی به این موضوعات نمیدم.
چیزای مهم اینه که
چجوری دولوپر خودش رو بروز نگه میداره
چطور مسئله رو حل میکنه
با موضوعات و تکنولوژی جدید چطور برخورد و پیشرفت میکنه
هیچ برنامهنویسی توی سوالاتی که اول گفتم نمیمونه (گوگل کنی ۵۰۰.۰۰۰ تا کد میاد و گوگل و استکاورفلو کاریه که همهی برنامهنویسا هرروز میکنند)
اما توی برخورد با مسئله جدید ۹۰٪ افراد حتی نمیتونن ی راهحل موقتی ارائه بدند
همهی اینها رو گفتم که اشاره کنم اگر جزو دسته اول مصاحبه کنندهها هستید، شما برنامهنویس استخدام نمیکنید.
ابزار Copilot گیتهاب (شدیداً دنبال ی ریلیز رسمی ازش بودم) میدونه که چقدر وقت ی برنامهنویس واقعی با ارزش هست
و توی تسکهای ساده و روزمره بطور کامل پشتیبان برنامهنویسهاس
https://copilot.github.com/
Vscode Extension is Available
صف بنویسید که ...
پشته طراحی کن که ...
و ...
چندین سال هست که تموم شده و خیلی از دوستانی که افتخار داشتم مصاحبه کننده باشم، میدونن من هیچ اهمیتی به این موضوعات نمیدم.
چیزای مهم اینه که
چجوری دولوپر خودش رو بروز نگه میداره
چطور مسئله رو حل میکنه
با موضوعات و تکنولوژی جدید چطور برخورد و پیشرفت میکنه
هیچ برنامهنویسی توی سوالاتی که اول گفتم نمیمونه (گوگل کنی ۵۰۰.۰۰۰ تا کد میاد و گوگل و استکاورفلو کاریه که همهی برنامهنویسا هرروز میکنند)
اما توی برخورد با مسئله جدید ۹۰٪ افراد حتی نمیتونن ی راهحل موقتی ارائه بدند
همهی اینها رو گفتم که اشاره کنم اگر جزو دسته اول مصاحبه کنندهها هستید، شما برنامهنویس استخدام نمیکنید.
ابزار Copilot گیتهاب (شدیداً دنبال ی ریلیز رسمی ازش بودم) میدونه که چقدر وقت ی برنامهنویس واقعی با ارزش هست
و توی تسکهای ساده و روزمره بطور کامل پشتیبان برنامهنویسهاس
https://copilot.github.com/
Vscode Extension is Available
👍3
ای
قدرت اول موشکی منطقه،
دارای انرژی هستهای،
برترین صادر کننده نفت و گاز،
توسعه دهندهی اولین دیش کرونا یاب دنیا،
توسعه دهندهی بیش از ۴ نوع واکسن کرونا،
و ...
جون مادرت ۲۴ ساعت برق رو قطع نکن
دمو و تحویل پروژه داریم، مشتری باور نمیکنه برق ایرانم قطع میشه.
قدرت اول موشکی منطقه،
دارای انرژی هستهای،
برترین صادر کننده نفت و گاز،
توسعه دهندهی اولین دیش کرونا یاب دنیا،
توسعه دهندهی بیش از ۴ نوع واکسن کرونا،
و ...
جون مادرت ۲۴ ساعت برق رو قطع نکن
دمو و تحویل پروژه داریم، مشتری باور نمیکنه برق ایرانم قطع میشه.
👍2
هم تمرین خوبی هست، هم برای یادگیری و درک بهتر مطلب عالیه
توضیح ۶۷ از الگوریتمها (پرکاربرد و مهم) یادگیری ماشین در پایتون
Link to article
توضیح ۶۷ از الگوریتمها (پرکاربرد و مهم) یادگیری ماشین در پایتون
Link to article
AmanXai by Aman Kharwal
Machine Learning Algorithms with Python | Aman Kharwal
In this article, I will take you through an explanation and implementation of all Machine Learning algorithms with Python programming language.
وقتی به کند بودن کد میرسه؛ بدترین بهونهای که میشه آورد "پایتون هست دیگه چه توقعی داری از من"
توی ۹۹٪ مواقع ولی مشکل از کد برنامهنویس هست نه پایتون
cProfiler
یکی ازون ماژولهاس که خیلی کمک میکنه به اثبات این موضوع؛ اما وقتی پروژه خیلی بزرگ میشه و ماژولها و توابع زیادی درگیر هست ی مقدار خوندن خروجی pstats سخت میشه
SnakeViz Github Link
ی ابزار خیلی خوبه که خروجی رو بصورت خیلی تمیز تحت وب نمایش میده و بررسی دلایل کند بودن کد رو راحتتر میکنه
توی ۹۹٪ مواقع ولی مشکل از کد برنامهنویس هست نه پایتون
cProfiler
یکی ازون ماژولهاس که خیلی کمک میکنه به اثبات این موضوع؛ اما وقتی پروژه خیلی بزرگ میشه و ماژولها و توابع زیادی درگیر هست ی مقدار خوندن خروجی pstats سخت میشه
SnakeViz Github Link
ی ابزار خیلی خوبه که خروجی رو بصورت خیلی تمیز تحت وب نمایش میده و بررسی دلایل کند بودن کد رو راحتتر میکنه
jiffyclub.github.io
SnakeViz
SnakeViz is a browser based graphical viewer for the output of Python's cProfile module.
👍3
قطعا خیلی از دوستان
PyImageSearch
رو میشناسند؛ حداقل ۱-۲ بار بهش سر زدید یا ازش شنیدید
ی مجموعه دورههای آموزشی داره به اسم
PyImageSearch University
نسخه کامل این مجموعه رو میتونید ازین لینک دانلود کنید (برای مدت محدود)
PyImageSearch University Tutorial Link
@pytens
PyImageSearch
رو میشناسند؛ حداقل ۱-۲ بار بهش سر زدید یا ازش شنیدید
ی مجموعه دورههای آموزشی داره به اسم
PyImageSearch University
نسخه کامل این مجموعه رو میتونید ازین لینک دانلود کنید (برای مدت محدود)
PyImageSearch University Tutorial Link
@pytens
mega.nz
File folder on MEGA
دستاوردهای یادگیری عمیق(InTec)
قطعا خیلی از دوستان PyImageSearch رو میشناسند؛ حداقل ۱-۲ بار بهش سر زدید یا ازش شنیدید ی مجموعه دورههای آموزشی داره به اسم PyImageSearch University نسخه کامل این مجموعه رو میتونید ازین لینک دانلود کنید (برای مدت محدود) PyImageSearch University Tutorial…
بازهم میگم این لینک برای مدت خیلی کوتاهی قرار هست پابلیک بمونه
دستاوردهای یادگیری عمیق(InTec)
بازهم میگم این لینک برای مدت خیلی کوتاهی قرار هست پابلیک بمونه
دوستان لینکهای دارای
Copyright
نهایتاً ۲ ساعت میتونه روی
Mega
بمونه، که توی این مورد به کمتر از ۳۰ دقیقه رسید، احتمالاً کسی گزارش کرده لینک رو
Copyright
نهایتاً ۲ ساعت میتونه روی
Mega
بمونه، که توی این مورد به کمتر از ۳۰ دقیقه رسید، احتمالاً کسی گزارش کرده لینک رو
ی مدت طولانی بود که حرفی از سفته نمیشد توی استخدامیها چه شرکتهای بزرگ چه استارتاپها (ی سری شرکت خودمختار داریم که اصن داستانشون جداس)
توی چند وقت اخیر (۱ ماه) ۳ تا موقعیت شغلی داخلی رو بخاطر این موضوع از دست دادم (هر ۳ شرکتهای بزرگ و معروفی هستند در صنعت بانکی و امنیت و فروش اینترنتی)
اولین باری که با موضوع سفته به ازای حسن انجام کار مواجه شدم، علاوه بر اینکه برام سوال شد پس چه مریضی هست که ۳-۴ تا مصاحبه انجام میدید، از یک وکیل آشنا راجب این موضوع پرسیدم :
ی نکتهای که باید بگم اینه که، حسن انجام کار با عندالمطالبه هیچ تفاوتی نداره، چون شما بصورت پروژه محور قرارداد نمی بندید که توی متن قرارداد ریز نیازمندیها، وظایف و ... ذکر بشه. پس حسن انجام کار رو مجموعهای که شمارو استخدام میکنه نهایتاً مشخص میکنه بطور کلی سفته دادن کار غلطی هست.
شخصاً به تمام دوستانم میگم :
سفته دادن مثل اینه تبر دست جلادت بدی، تجربه نشون داده بسیار آدم مزخرف و غیر قابل اعتماد وجود داره که موقع خروج از کار لحن و برخوردشون عوض میشه
توی چند وقت اخیر (۱ ماه) ۳ تا موقعیت شغلی داخلی رو بخاطر این موضوع از دست دادم (هر ۳ شرکتهای بزرگ و معروفی هستند در صنعت بانکی و امنیت و فروش اینترنتی)
اولین باری که با موضوع سفته به ازای حسن انجام کار مواجه شدم، علاوه بر اینکه برام سوال شد پس چه مریضی هست که ۳-۴ تا مصاحبه انجام میدید، از یک وکیل آشنا راجب این موضوع پرسیدم :
ی نکتهای که باید بگم اینه که، حسن انجام کار با عندالمطالبه هیچ تفاوتی نداره، چون شما بصورت پروژه محور قرارداد نمی بندید که توی متن قرارداد ریز نیازمندیها، وظایف و ... ذکر بشه. پس حسن انجام کار رو مجموعهای که شمارو استخدام میکنه نهایتاً مشخص میکنه بطور کلی سفته دادن کار غلطی هست.
شخصاً به تمام دوستانم میگم :
سفته دادن مثل اینه تبر دست جلادت بدی، تجربه نشون داده بسیار آدم مزخرف و غیر قابل اعتماد وجود داره که موقع خروج از کار لحن و برخوردشون عوض میشه
👍2