انحصار Nvidia برای محاسبات Deep learning درحال شکستن !؟ (احتمالاً به زودی)

Tesla, Google
و حتی تا حدودی Intel از ابزارهای محاسبات سمت سرور برای هوش مصنوعی پرده برداری کردند و اتفاقاً به خوبی هم نتیجه داد تا جایی که پروژه DGX به نسبت سخت‌افزار در مقایسه با نسخه‌های قبلی قیمت پایین‌تری رو به نسبت داشت.

بعد از اون نوبت به اپل رسید که به انحصار Nvidia ضربه بزنه و بسیار هم موفق بود چیپ‌های M1-M2 نتایج بسیار خوبی رو سمت کاربر نشون میده و باعث شد فروش
External GPU
کم بشه.

اما رقیب دیرینه از همه کمتر ضرر به انویدیا زده (حداقل تا اینجا)، ولی حالا خبرهای بهتری به گوش میرسه :

۱- اسپانسری پروژه pytorch

۲- ابزار Meta برای پشتیبانی از سخت‌افزار‌های مختلف و فریمورک‌های مختلف GPU.

فراموش نکنیم که Intel هم وارد بازی تولید GPU شده.

تأثیرات خوب عدم انحصار رو توی سری 40XX دیدیم و با بیشتر شدن احتمال پشتیبانی از AMD توسط pytorch, tensorflow احتمال مناسبتر شدن قیمت نسل‌های بعدی کارت گرافیک بیشتر هم میشه.

پ.ن : راجب حذف GPU از روتین Mining هم قبلتر پست گذاشتم.

دلیل اصلی این اتفاقات این محصول از AMD هست (سرور) :
MI250X

شما به قدرت و حافظه 128GB نگاه کن
و بعد مصرف 500W جالب اینجاست که Nvidia 3090 همین مقدار مصرف برق داره با قدرت خیلی خیلی کمتر و پهنای باند و حافظه غیر قابل مقایسه.

و جالبتر سرورهای 2u ایی که وجود داره بعنوان مثال من asus رو دیدم با این GPU که تک Cpu باشه با ۴ تا ازین GPU بطور نرمال 2300 وات مصرف داره و خود سرور تا 3600W پاور قرار داده.

اعداد کاملا غبرقابل باور هستند.

احترام گذاشتن به عقاید دیگران بسیار بسیار عمل پسندیده‌ایی هست.

اما یادمون نره :
داعش، طالبان و ... همگی نتیجه‌ی احترام اکثریت فهمیده به عقاید اقلیت نفهم بوده
افراط نکنید.

تصویر از صفحه :
علی آقا کریمی ❤️

پ.ن : کامنت‌های زیر این پست حذف شد، لطفاً کامنت نذارید.

#تجربه

بالاخره تست‌ها تموم شد، و یکی از محبوب ترین پروژه‌های Django شرکت به FastAPI منتقل شد، محبوب چون خیلی از سرویس‌های دیگه به این درخواست میزدن.

بعد از چندین سال کار بالاخره وقت آپدیت بود و خب تصمیم گرفته شد از FastAPI استفاده بشه (من توی این پروژه کد نزدم)

اما توی دپلوی سرعت پاسخ API های سنگین از حدود 83ms به 22ms در بدترین حالت رسیده.

این پروژه فقط Django Rest Api استفاده می‌کرد و انتقالش کاملاً تصمیم درستی بود.


خبری رو دیدم که Pydantic هم آپدیت شده با Rust نوشته شده (قبلا گفتم تیم ماهم داره پکیج‌های اصلی رو Rust بازنویسی میکنه)
و طبق صحبت‌ها FastAPI نسخه‌های آینده به همین دلیل بسیار سریعتر خواهد بود.

شدیداً مشتاقم تست کنم (مخصوصاً با python3.11)

پ.ن :
FastApi
همین ۱ ساعت قبل نسخه جدید رو با پشتیبانی از پایتون 3.11 ارائه کرد.

هیچ ...

ی سوتی خیلی جالبی که توی سورس کد‌های بچه‌های جونیور زیاد می‌بینم.

فرستادن password یا اطلاعات مهم توی JWT Token هست

بنظرم خیلی از بچه‌های تازه‌کار درک درستی از jwt ندارند (وب، api نویسی)

آموزش سریع، توی jwt فقط و فقط:
آیدی دیتابیس (primary key) و exp رو بفرستید، برای کم کردن کوئری به دیتابیس اطلاعات دیگه‌ای نفرستید توی jwt
اینجا جایی نیست که optimization اولویت داشته باشه

یک گروه هکری معروف از اول جنگ اکراین و روسیه بطور گسترده در حال DDOS زدم به سایت‌های مختلف و بخصوص دولتی روسیه هست.
به این صورت که یک سری ابزار DDOS - ویندوز - لینوکس و مک تولید کردند و برای افرادی که میخواستند کمک کنند ارسال میشد و طرف network رو بهشون donate میکرد به نوعی

حالا روسیه هم داره همین کارو می‌کنه و طبق متنی که دیدم ماهانه تا ۲۰۰۰ دلار به ۵ نفر اول پول میده

گفتم این رو بذارم برای دوستانی که می‌گفتند DDOS مهم نیست و ...

این چندمین بار هست که روس‌ها جایزه میذارند (توی اولین خبرها اسکریپت ضد دیداس به مبلغی تا ۵۰.۰۰۰ دلار میخریدند)

کدوم خطرناک‌تره !؟

داعش ❌
جمهوری اسلامی ✅

بچه مسلمون نه مرسی، جیب خودمون.

کامنت نذارید لطفاً

#شخصی
به من درس مطلب گذاشتن ندید.

از روز اول این کانال شخصی بوده، هیچ تبلیغ و هیچ درآمدی هم نداشته؛
Youtube , ...
هم نیست که بگید پرداخت میگیره به ازای بازدید فقط و فقط هدفم کمک بوده هرچند کم و اندک.

شما شاید خودتو فروخته باشی، من نه.

هرکسی با مدل مطلب گذاشتن من مشکل داره بسیار بسیار خوشحال میشم زودتر کانال رو ترک کنه.

به اندازه سن و سالت داری تو سر و سینه خودت میزنی که کربلا چی شد، اهل کوفه چطوری بودند و چطوری حرف حق تو گوششون نرفت (باز حداقل اونا به مبلغ زیاد خودشون رو فروختن تو چی !؟)

تا الان شک داشتی، بفرما نماینده مجلس میاد میگه آقا ج.ا از خود امام زمان هم مهمتره.
خبرش رو خبرگذاری رسمی ج.ا پخش می‌کنه

بچه مسلمون :
حداقلش این نیست خبرگذاری تخته بشه، مسئولاش مجازات بشن

این آدمی که این حرف رو زده چی !؟ مفسد فی العرض نیست !؟ نباید مجازات بشه !؟


این حرف توهین به مقدسات مسلمانان نیست !؟

بعنوان یکی که حداقل فکر می‌کنه بچه مسلمون هست ؛ خواستار اشد مجازات برای این افراد هستم.


کامنت نذارید لطفاً

ی جا هم رفتم واسه امضا قرارداد، بعد ی سورس کد از نیروی Senior رو نگاه انداختم :

دیدم Train Test Split زده، اونم 80:20.
اومدم پایین‌تر دیدم الگوریتم Unsupervised Learning هست.

خدافظی کردم اومدم بیرون حالا موندم به مدیرش بگم چرا یا نگم.


خلاصه : نه به تعداد سال کار هست، نه به حرف قشنگ زدن.

اوبنتو ۲۲.۱۰

به هیچ‌وجه روی این نسخه نیاید (البته نسخه سرور هنوز به مشکل نخوردم 22.04 سرور)

اما 22.10 به راحتی می‌تونم بگم تا ۱۰ برابر کندتر از 20.04 هست (روی لپ‌تاپ شخصی برای تست نصب کردم)

بیشترین مشکل هم بنظرم رم هست
تا امروز (توی ۳ روز گذشته بسیار دیدم سیستم کند میشه ولی رم از ۱۲ گیگ بیشتر اصلا استفاده نمیشه)

خلاصه که شدیداً کند هست اما مشکلاتی رو هم حل کرده :

مثلاً lag ویدئو (یوتیوب و ... مخصوصاً بصورت live) دیگه extension - mplayer روی مرورگر لازم نداره و موارد این چنینی

اما مشکل اصلی کندی بیش از حد خود توزیع هست.

همه چیز آپدیت شده، اگر کسی باگی دیده و راهکاری داره ممنون میشم اطلاع بده.

پ.ن :
این باگ هرچیزی که هست روی 22.04 هم هست مثل اینکه، چون گزارش کند بودن این نسخه هم بسیار زیاد هست

StackOverflow bug (fast solution)

Bug report detail

این موارد توی تست من سرعت رو خیلی بهتر کرد، ولی نسبت به ۲۰.۰۴ که قبلتر روی لپ‌تاپ بود
هنوز تا ۲ برابر کند‌تر هست

اینم جالب بود :

آیدی کانال تلگرامی دیگری که برای من بود رو توی لیست فروش تلگرام دیدم

چک کردم دیدم کانال رو Private کردند و آیدی رو هم گرفتند رزرو خود تلگرام شده

این اتفاق برای ۳ تا از آیدی‌ها و کانال‌هایی که داشتم افتاده.

یک گروه هکری که اسم "Purple Urchin" بهشون داده شده از سرویس رایگان github actions - heroku , ... استفاده میکردند برای Crypto Mining با اینکه خیلی خیلی هزینه زیاد و درآمد کم هست ولی خب داشتن اینکارو میکردند

درآمد برای هکر ۱۶۰ دلار - هزینه برای سرویس دهنده ۱۰۰.۰۰۰ دلار

به همین دلیل خیلی از سرویس دهنده‌ها از جمله heroku , ... با اعلام اینکه هزینه‌ی تیم امنیت با توجه به این نوع استفاده‌های غیر قانونی (هک محسوب نمیشه) داره بالا میره و ضرر‌های سنگینی هم میزنه این مدل استفاده

تصمیم گرفتند سرویس‌های رایگان رو جمع کنند.

دسترسی به اینترنت سرورهامون از صبح داره کم میشه تا جایی که الان
۳ مورد اصلا اینترنت نداره

کسی این شرایط رو داره ؟

پ.ن :

اوضاع اینجوری شده که اگه ی هفته همه‌ی سرورها رو هم دان کنی،

یوزر ناراحت نمیشه فکر می‌کنه مشکل از اینترنت خودشه

مدیرت ناراحت نمیشه فکر می‌کنه از زیرساخت شبکه هست

صاحب بیزینس ناراحت نمیشه، فکر می‌کنه مشکل از شرکت طرف قرارداد سرویس دهنده هست

دولوپر ناراحت نمیشه،
نه دیگه این میفهمه تو بفنا دادی فقط به رو خودش نمیاره که تسک‌های عقب افتادش رو برسونه 😁