🤖 انتشار وزن‌های مدل Mistral Large 4
شرکت Mistral وزن‌های مدل جدید خود با نام Large 4 را منتشر کرد. این مدل که حدود یک تریلیون پارامتر دارد، هم‌اکنون از طریق Hugging Face به‌صورت متن‌باز در دسترس قرار گرفته است.
تیم سازنده اعلام کرده که پس از سه هفته آموزش تکمیلی پیش از عرضه، توانایی‌های این مدل در حوزه‌های کدنویسی و شناسایی آسیب‌پذیری‌ها بهبود یافته است.
علاوه بر دسترسی عمومی به وزن‌ها، تغییراتی در استفاده از سرویس API این مدل اعمال شده که مهم‌ترین آن‌ها به شرح زیر است:
- امکان میزبانی محلی (Self-hosting) برای تیم‌هایی که کنترل داده برایشان اولویت دارد.
- کاهش محسوس هزینه‌های استفاده از API نسبت به نرخ‌های اولیه تعیین‌شده.
#MistralLarge4 #SelfHosting
شرکت Mistral وزن‌های مدل جدید خود با نام Large 4 را منتشر کرد. این مدل که حدود یک تریلیون پارامتر دارد، هم‌اکنون از طریق Hugging Face به‌صورت متن‌باز در دسترس قرار گرفته است.
تیم سازنده اعلام کرده که پس از سه هفته آموزش تکمیلی پیش از عرضه، توانایی‌های این مدل در حوزه‌های کدنویسی و شناسایی آسیب‌پذیری‌ها بهبود یافته است.
علاوه بر دسترسی عمومی به وزن‌ها، تغییراتی در استفاده از سرویس API این مدل اعمال شده که مهم‌ترین آن‌ها به شرح زیر است:
- امکان میزبانی محلی (Self-hosting) برای تیم‌هایی که کنترل داده برایشان اولویت دارد.
- کاهش محسوس هزینه‌های استفاده از API نسبت به نرخ‌های اولیه تعیین‌شده.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#MistralLarge4 #SelfHosting
🤖 ابزارهای متن‌باز برای ساخت ایجنت‌های هوشمند
برای طراحی ایجنت‌های هوشمند که توانایی انجام کارهای چندمرحله‌ای، استفاده از ابزارها و حفظ حافظه را دارند، این پروژه‌های گیت‌هاب قابلیت‌های فنی لازم را فراهم می‌کنند:
OpenHands: ایجنت برنامه‌نویس برای خودکارسازی وظایف مهندسی و رفع باگ.
Browser Use: کنترل مرورگر جهت وب‌گردی، تکمیل فرم‌ها و تعامل با سایت‌ها.
Mem0: فراهم‌کردن لایه حافظه بلندمدت برای حفظ زمینه گفتگو بین جلسات مختلف.
Composio: اتصال ایجنت‌ها به سرویس‌های خارجی از طریق یکپارچه‌سازی‌های آماده.
E2B: ایجاد محیط‌های ایزوله برای اجرای امن کد توسط مدل‌های هوش مصنوعی.
LangGraph: ساخت جریان‌های کاری پیچیده و چندمرحله‌ای برای ایجنت‌ها.
n8n: اتوماسیون بصری فرآیندها با استفاده از هوش مصنوعی و APIها.
Docling: استخراج داده‌های ساختاریافته از اسناد و جداول برای استفاده در مدل‌ها.
LiveKit Agents: توسعه دستیارهای صوتی با قابلیت پاسخ‌دهی در لحظه.
Open Interpreter: اجرای کد و کنترل سیستم‌عامل محلی با استفاده از زبان طبیعی.
با ترکیب این ابزارها، می‌توانید سیستم‌های ایجنتی مستقلی بسازید که از حافظه، امکانات صوتی و دسترسی به محیط‌های عملیاتی برخوردارند.
#OpenHands #LangGraph
برای طراحی ایجنت‌های هوشمند که توانایی انجام کارهای چندمرحله‌ای، استفاده از ابزارها و حفظ حافظه را دارند، این پروژه‌های گیت‌هاب قابلیت‌های فنی لازم را فراهم می‌کنند:
OpenHands: ایجنت برنامه‌نویس برای خودکارسازی وظایف مهندسی و رفع باگ.
Browser Use: کنترل مرورگر جهت وب‌گردی، تکمیل فرم‌ها و تعامل با سایت‌ها.
Mem0: فراهم‌کردن لایه حافظه بلندمدت برای حفظ زمینه گفتگو بین جلسات مختلف.
Composio: اتصال ایجنت‌ها به سرویس‌های خارجی از طریق یکپارچه‌سازی‌های آماده.
E2B: ایجاد محیط‌های ایزوله برای اجرای امن کد توسط مدل‌های هوش مصنوعی.
LangGraph: ساخت جریان‌های کاری پیچیده و چندمرحله‌ای برای ایجنت‌ها.
n8n: اتوماسیون بصری فرآیندها با استفاده از هوش مصنوعی و APIها.
Docling: استخراج داده‌های ساختاریافته از اسناد و جداول برای استفاده در مدل‌ها.
LiveKit Agents: توسعه دستیارهای صوتی با قابلیت پاسخ‌دهی در لحظه.
Open Interpreter: اجرای کد و کنترل سیستم‌عامل محلی با استفاده از زبان طبیعی.
با ترکیب این ابزارها، می‌توانید سیستم‌های ایجنتی مستقلی بسازید که از حافظه، امکانات صوتی و دسترسی به محیط‌های عملیاتی برخوردارند.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#OpenHands #LangGraph
Media is too big
VIEW IN TELEGRAM
🌐 انتشار مدل دنیای Hy-Nomas توسط تنسنت
تنسنت مدل دنیای (World Model) جدید خود با نام Hy-Nomas را به‌صورت متن‌باز منتشر کرد. این مدل امکان کنترل ویدیوها از طریق متن و تنظیم حرکت دوربین را فراهم می‌کند و ویدیوها را به صورت قطعه‌قطعه با حفظ کانتکست در KV-Cache می‌سازد.
ویژگی‌های اصلی این مدل شامل موارد زیر است:
* دسترسی آزاد: کد و وزن‌های مدل تحت مجوز Apache 2.0 در دسترس است و امکان Fine-tuning آن با استفاده از LoRA وجود دارد.
* سازگاری: ارائه آداپتورهای آماده برای کاربردهای سینمایی و رباتیک.
* سخت‌افزار: امکان اجرا روی یک کارت گرافیک RTX 4090 با استفاده از کوانتیزاسیون INT8. در آزمایش‌های انجام شده با سخت‌افزار قدرتمندتر (8×B200)، سرعت تولید به حدود ۱۸.۵ فریم بر ثانیه رسیده است.
برای بررسی عملکرد می‌توانید به دموی آنلاین مراجعه کنید یا جزئیات فنی و وزن‌ها را از طریق Hugging Face دریافت کنید. گزارش کامل عملکرد نیز در مستندات فنی پروژه موجود است.
#Hy_Nomas #KV_Cache
تنسنت مدل دنیای (World Model) جدید خود با نام Hy-Nomas را به‌صورت متن‌باز منتشر کرد. این مدل امکان کنترل ویدیوها از طریق متن و تنظیم حرکت دوربین را فراهم می‌کند و ویدیوها را به صورت قطعه‌قطعه با حفظ کانتکست در KV-Cache می‌سازد.
ویژگی‌های اصلی این مدل شامل موارد زیر است:
* دسترسی آزاد: کد و وزن‌های مدل تحت مجوز Apache 2.0 در دسترس است و امکان Fine-tuning آن با استفاده از LoRA وجود دارد.
* سازگاری: ارائه آداپتورهای آماده برای کاربردهای سینمایی و رباتیک.
* سخت‌افزار: امکان اجرا روی یک کارت گرافیک RTX 4090 با استفاده از کوانتیزاسیون INT8. در آزمایش‌های انجام شده با سخت‌افزار قدرتمندتر (8×B200)، سرعت تولید به حدود ۱۸.۵ فریم بر ثانیه رسیده است.
برای بررسی عملکرد می‌توانید به دموی آنلاین مراجعه کنید یا جزئیات فنی و وزن‌ها را از طریق Hugging Face دریافت کنید. گزارش کامل عملکرد نیز در مستندات فنی پروژه موجود است.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#Hy_Nomas #KV_Cache
❤1
This media is not supported in your browser
VIEW IN TELEGRAM
🔥 دانشگاه هنگ‌کنگ DeepTutor را متن‌باز کرد
آزمایشگاه هوش مصنوعی داده دانشگاه هنگ‌کنگ، DeepTutor، یک دستیار آموزشی هوش مصنوعی همه‌کاره را متن‌باز کرده است. این پروژه که با هدف همراهی دانش‌آموزان در مسیر یادگیری بلندمدت و ارائه آموزش شخصی‌سازی شده طراحی شده، به سرعت در گیت‌هاب بیش از ۵۰ هزار ستاره کسب کرده است.
DeepTutor به کاربران اجازه می‌دهد تا کتاب‌های درسی، جزوه‌ها و یادداشت‌های شخصی خود را وارد کنند. این ابزار می‌تواند بر اساس این داده‌ها به تدریس، حل تمرین، انجام تحقیقات عمیق و تولید نمودارهای بصری بپردازد. تمام این قابلیت‌ها در یک محیط کاربری یکپارچه در دسترس هستند.
یکی از ویژگی‌های کلیدی DeepTutor «حافظه بلندمدت» آن است که پیشرفت یادگیری و اشتباهات گذشته را در جلسات مختلف حفظ می‌کند. این سیستم دارای سه لایه حافظه است: ثبت اولیه تمام مکالمات، استخراج نکات کلیدی هر موضوع، و ایجاد یک پروفایل کلی از توانایی‌های کاربر. تمامی این اطلاعات قابل مشاهده و تنظیم دستی هستند.
آدرس گیت‌هاب: HKUDS/DeepTutor
آزمایشگاه هوش مصنوعی داده دانشگاه هنگ‌کنگ، DeepTutor، یک دستیار آموزشی هوش مصنوعی همه‌کاره را متن‌باز کرده است. این پروژه که با هدف همراهی دانش‌آموزان در مسیر یادگیری بلندمدت و ارائه آموزش شخصی‌سازی شده طراحی شده، به سرعت در گیت‌هاب بیش از ۵۰ هزار ستاره کسب کرده است.
DeepTutor به کاربران اجازه می‌دهد تا کتاب‌های درسی، جزوه‌ها و یادداشت‌های شخصی خود را وارد کنند. این ابزار می‌تواند بر اساس این داده‌ها به تدریس، حل تمرین، انجام تحقیقات عمیق و تولید نمودارهای بصری بپردازد. تمام این قابلیت‌ها در یک محیط کاربری یکپارچه در دسترس هستند.
یکی از ویژگی‌های کلیدی DeepTutor «حافظه بلندمدت» آن است که پیشرفت یادگیری و اشتباهات گذشته را در جلسات مختلف حفظ می‌کند. این سیستم دارای سه لایه حافظه است: ثبت اولیه تمام مکالمات، استخراج نکات کلیدی هر موضوع، و ایجاد یک پروفایل کلی از توانایی‌های کاربر. تمامی این اطلاعات قابل مشاهده و تنظیم دستی هستند.
آدرس گیت‌هاب: HKUDS/DeepTutor
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
📊 پیشی‌گرفتن هوش مصنوعی از انسان در پیش‌بینی‌های Metaculus
در تورنمنت سالانه پیش‌بینی Metaculus، مدل‌های هوش مصنوعی برای نخستین‌بار موفق شدند رتبه‌های اول و دوم را کسب کنند. در این مسابقه، صدها شرکت‌کننده وضعیت رویدادهای مختلف، از قیمت نفت برنت تا محدودیت‌های ساخت دیتاسنترها، را پیش‌بینی کردند و دقت آن‌ها بر اساس میزان نزدیکی به نتیجه نهایی سنجیده شد.
بررسی عملکرد مدل‌ها در بازه زمانی میان‌مدت نشان می‌دهد:
* روند میانگین عملکرد هوش مصنوعی صعودی است و در برخی موارد به دقتِ بهترین پیش‌بین‌های انسانی نزدیک شده است.
* مدل‌های برتر هوش مصنوعی اکنون با عملکرد ۳۰ نفر از برترین پیش‌بین‌های انسانی برابری کرده یا از آن‌ها پیشی گرفته‌اند.
* برخلاف پیش‌بینی‌های انسانی که ممکن است تحت تأثیر سوگیری‌های شناختی قرار گیرند، مدل‌های هوش مصنوعی در این محیط آزمایشی روند رو به رشدی را در دقتِ محاسباتی خود ثبت کرده‌اند.
این نتایج در نمودار تهیه‌شده توسط نشریه اکونومیست، بهبود مداوم مدل‌ها را در بازه سه‌ماهه دوم ۲۰۲۴ تا سه‌ماهه سوم ۲۰۲۶ به تصویر می‌کشد.
🇮🇷 تلگرام
در تورنمنت سالانه پیش‌بینی Metaculus، مدل‌های هوش مصنوعی برای نخستین‌بار موفق شدند رتبه‌های اول و دوم را کسب کنند. در این مسابقه، صدها شرکت‌کننده وضعیت رویدادهای مختلف، از قیمت نفت برنت تا محدودیت‌های ساخت دیتاسنترها، را پیش‌بینی کردند و دقت آن‌ها بر اساس میزان نزدیکی به نتیجه نهایی سنجیده شد.
بررسی عملکرد مدل‌ها در بازه زمانی میان‌مدت نشان می‌دهد:
* روند میانگین عملکرد هوش مصنوعی صعودی است و در برخی موارد به دقتِ بهترین پیش‌بین‌های انسانی نزدیک شده است.
* مدل‌های برتر هوش مصنوعی اکنون با عملکرد ۳۰ نفر از برترین پیش‌بین‌های انسانی برابری کرده یا از آن‌ها پیشی گرفته‌اند.
* برخلاف پیش‌بینی‌های انسانی که ممکن است تحت تأثیر سوگیری‌های شناختی قرار گیرند، مدل‌های هوش مصنوعی در این محیط آزمایشی روند رو به رشدی را در دقتِ محاسباتی خود ثبت کرده‌اند.
این نتایج در نمودار تهیه‌شده توسط نشریه اکونومیست، بهبود مداوم مدل‌ها را در بازه سه‌ماهه دوم ۲۰۲۴ تا سه‌ماهه سوم ۲۰۲۶ به تصویر می‌کشد.
🇮🇷 تلگرام
🤖 پنج دوره رایگان برای یادگیری مهندسی هوش مصنوعی
این منابع آموزشی برای یادگیری مفاهیم کاربردی از مدل‌های زبانی بزرگ تا عملیاتی‌سازی مدل‌ها در محیط واقعی طراحی شده‌اند:
* Hugging Face LLM Course: تمرکز بر مفاهیم پایه شامل Transformerها، توکنایزیشن، کار با دیتاست‌ها و فرآیندهای مدرن آموزش یا Fine-tuning مدل‌های زبانی.
* AI Engineer Notebooks: مجموعه‌ای از نوت‌بوک‌های عملی برای کار با سیستم‌های RAG، عامل‌های هوش مصنوعی (AI Agents)، ارزیابی مدل و مباحث مربوط به LLMOps.
* LLM Zoomcamp: دوره‌ای برای ساخت کاربردی برنامه‌های مبتنی بر LLM که شامل پیاده‌سازی جستجوی برداری (Vector Search)، مانیتورینگ و خط‌لوله‌های تولیدی است.
* MLOps Zoomcamp: آموزش مراحل انتقال مدل‌های یادگیری ماشین از محیط توسعه به تولید، شامل استفاده از MLflow، خط‌لوله‌های CI/CD و پایش مدل.
* LLM Course: منبعی برای یادگیری عمیق‌تر در مورد مدل‌های متن‌باز، تکنیک‌های بهینه‌سازی استنتاج، کمی‌سازی (Quantization)، ترکیب مدل‌ها و روش‌های تخصصی مانند QLoRA.
#Fine_tuning #LLMOps
این منابع آموزشی برای یادگیری مفاهیم کاربردی از مدل‌های زبانی بزرگ تا عملیاتی‌سازی مدل‌ها در محیط واقعی طراحی شده‌اند:
* Hugging Face LLM Course: تمرکز بر مفاهیم پایه شامل Transformerها، توکنایزیشن، کار با دیتاست‌ها و فرآیندهای مدرن آموزش یا Fine-tuning مدل‌های زبانی.
* AI Engineer Notebooks: مجموعه‌ای از نوت‌بوک‌های عملی برای کار با سیستم‌های RAG، عامل‌های هوش مصنوعی (AI Agents)، ارزیابی مدل و مباحث مربوط به LLMOps.
* LLM Zoomcamp: دوره‌ای برای ساخت کاربردی برنامه‌های مبتنی بر LLM که شامل پیاده‌سازی جستجوی برداری (Vector Search)، مانیتورینگ و خط‌لوله‌های تولیدی است.
* MLOps Zoomcamp: آموزش مراحل انتقال مدل‌های یادگیری ماشین از محیط توسعه به تولید، شامل استفاده از MLflow، خط‌لوله‌های CI/CD و پایش مدل.
* LLM Course: منبعی برای یادگیری عمیق‌تر در مورد مدل‌های متن‌باز، تکنیک‌های بهینه‌سازی استنتاج، کمی‌سازی (Quantization)، ترکیب مدل‌ها و روش‌های تخصصی مانند QLoRA.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#Fine_tuning #LLMOps
🧠 خلاصه تحولات 48 ساعت گذشته هوش مصنوعی و علوم داده
🗂 گزارش #11 | 📌 5 آیتم گزارش | 🧾 از 28 پست بررسی‌شده
🕐 جمعه 1405/08/08 ساعت 14:00 تا یکشنبه 1405/08/10 ساعت 14:00
انتخاب الگوریتم بچینگ در موتورهای استنتاج LLM
بازسازی پویای بچ‌ها در هر گام پردازشی، اتلاف توان محاسباتی GPU را هنگام پاسخ‌دهی هم‌زمان به درخواست‌هایی با طول متغیر برطرف می‌کند. این روش معماری سروینگ را از صف‌بندی ایستا نجات می‌دهد، اما بهینه‌سازی واقعی آن منوط به مدیریت دقیق حافظه KV-Cache در ترافیک بالا است. انتخاب این ابزارها برای تیم‌های فنی، هزینه زیرساخت استنتاج را مستقیماً کاهش می‌دهد.
ارزیابی مدل Fern 0.1 با پنجره بافت ۱۰ میلیونی
افزایش ظرفیت ورودی به ۱۰ میلیون توکن امکان تحلیل یکباره کدهای حجیم و لاگ‌های طولانی را فراهم می‌کند، اما کسب امتیاز پایین ۶.۱ در بنچمارک استدلال نشان می‌دهد نباید حجم بافت را با کیفیت خروجی اشتباه گرفت. مهندسان داده برای تحلیل‌های دقیق نباید استدلال مدل را فدای پنجره بافت بزرگ‌تر کنند و استفاده از آن فقط برای پردازش اولیه داده خام مناسب است.
🔬 توسعه مدل‌ها و زیرساخت‌های استنتاج
بهینه‌سازی توان استنتاج LLM با بچینگ پیوسته
موتورهای vLLM و SGLang با بازسازی پویای بچ‌ها در هر گام، توان عملیاتی پردازش توکن را تا ۲۳ برابر افزایش می‌دهند.
انتشار وزن‌های مدل ۱ تریلیون پارامتری Mistral Large 4
مسترال وزن‌های مدل Large 4 را در هاگینگ‌فیس منتشر کرد و امکان میزبانی محلی و کاهش هزینه API را فراهم آورد.
معرفی مدل Fern 0.1 با پنجره بافت ۱۰ میلیون توکنی
استارتاپ Mirendil مدلی با ظرفیت ۲۳ مگابایت کد معرفی کرد که به دلیل مراحل اولیه آموزش، امتیاز بنچمارک پایینی دارد.
متن‌باز شدن مدل دنیای Hy-Nomas توسط تنسنت
تنسنت مدل کنترل ویدیو Hy-Nomas را تحت مجوز Apache 2.0 منتشر کرد که امکان اجرا روی یک کارت RTX 4090 را دارد.
انتشار رایگان ترجمه فارسی کتاب یادگیری عمیق با پایتون
نسخه آنلاین و رایگان ویرایش سوم کتاب فرانسوا شوله به زبان فارسی همراه با لینک نوت‌بوک‌های عملی در دسترس قرار گرفت.
🗂 گزارش #11 | 📌 5 آیتم گزارش | 🧾 از 28 پست بررسی‌شده
🕐 جمعه 1405/08/08 ساعت 14:00 تا یکشنبه 1405/08/10 ساعت 14:00
انتخاب الگوریتم بچینگ در موتورهای استنتاج LLM
بازسازی پویای بچ‌ها در هر گام پردازشی، اتلاف توان محاسباتی GPU را هنگام پاسخ‌دهی هم‌زمان به درخواست‌هایی با طول متغیر برطرف می‌کند. این روش معماری سروینگ را از صف‌بندی ایستا نجات می‌دهد، اما بهینه‌سازی واقعی آن منوط به مدیریت دقیق حافظه KV-Cache در ترافیک بالا است. انتخاب این ابزارها برای تیم‌های فنی، هزینه زیرساخت استنتاج را مستقیماً کاهش می‌دهد.
ارزیابی مدل Fern 0.1 با پنجره بافت ۱۰ میلیونی
افزایش ظرفیت ورودی به ۱۰ میلیون توکن امکان تحلیل یکباره کدهای حجیم و لاگ‌های طولانی را فراهم می‌کند، اما کسب امتیاز پایین ۶.۱ در بنچمارک استدلال نشان می‌دهد نباید حجم بافت را با کیفیت خروجی اشتباه گرفت. مهندسان داده برای تحلیل‌های دقیق نباید استدلال مدل را فدای پنجره بافت بزرگ‌تر کنند و استفاده از آن فقط برای پردازش اولیه داده خام مناسب است.
🔬 توسعه مدل‌ها و زیرساخت‌های استنتاج
بهینه‌سازی توان استنتاج LLM با بچینگ پیوسته
موتورهای vLLM و SGLang با بازسازی پویای بچ‌ها در هر گام، توان عملیاتی پردازش توکن را تا ۲۳ برابر افزایش می‌دهند.
انتشار وزن‌های مدل ۱ تریلیون پارامتری Mistral Large 4
مسترال وزن‌های مدل Large 4 را در هاگینگ‌فیس منتشر کرد و امکان میزبانی محلی و کاهش هزینه API را فراهم آورد.
معرفی مدل Fern 0.1 با پنجره بافت ۱۰ میلیون توکنی
استارتاپ Mirendil مدلی با ظرفیت ۲۳ مگابایت کد معرفی کرد که به دلیل مراحل اولیه آموزش، امتیاز بنچمارک پایینی دارد.
متن‌باز شدن مدل دنیای Hy-Nomas توسط تنسنت
تنسنت مدل کنترل ویدیو Hy-Nomas را تحت مجوز Apache 2.0 منتشر کرد که امکان اجرا روی یک کارت RTX 4090 را دارد.
انتشار رایگان ترجمه فارسی کتاب یادگیری عمیق با پایتون
نسخه آنلاین و رایگان ویرایش سوم کتاب فرانسوا شوله به زبان فارسی همراه با لینک نوت‌بوک‌های عملی در دسترس قرار گرفت.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما