🤖 مدل 8B پارامتری MoE برای اجرا روی دستگاه‌های معمولی
شرکت Liquid AI مدل LFM2.5-8B-A1B را معرفی کرده است؛ یک مدل Mixture-of-Experts (MoE) با 8 میلیارد پارامتر که تنها 1.5 میلیارد پارامتر آن در هر مرحله فعال است. این مدل برای اجرا روی دستگاه‌هایی مانند تلفن‌های همراه، لپ‌تاپ‌ها و ربات‌ها بهینه‌سازی شده است.
⚡ این معماری هیبریدی MoE از خط تولید LFM2.5 بهره می‌برد و دارای پنجره زمینه (context window) 128 هزار توکن است. مدل بر روی 38 تریلیون توکن پیش‌آموزش دیده و سپس با استفاده از یادگیری تقویتی (RL) تقویت شده است.
#خبر #LiquidAI
شرکت Liquid AI مدل LFM2.5-8B-A1B را معرفی کرده است؛ یک مدل Mixture-of-Experts (MoE) با 8 میلیارد پارامتر که تنها 1.5 میلیارد پارامتر آن در هر مرحله فعال است. این مدل برای اجرا روی دستگاه‌هایی مانند تلفن‌های همراه، لپ‌تاپ‌ها و ربات‌ها بهینه‌سازی شده است.
⚡ این معماری هیبریدی MoE از خط تولید LFM2.5 بهره می‌برد و دارای پنجره زمینه (context window) 128 هزار توکن است. مدل بر روی 38 تریلیون توکن پیش‌آموزش دیده و سپس با استفاده از یادگیری تقویتی (RL) تقویت شده است.
📊 Data➕Science — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما
#خبر #LiquidAI
🤖 معرفی مدل LFM2.5-8B-A1B از Liquid AI
شرکت Liquid AI از مدل زبانی جدیدی به نام LFM2.5-8B-A1B رونمایی کرده است. این مدل که بر پایه معماری Mixture-of-Experts (MoE) ساخته شده، دارای ۸ میلیارد پارامتر کلی و ۱ میلیارد پارامتر فعال است و به‌طور خاص برای اجرا روی دستگاه‌های مصرفی مانند لپ‌تاپ‌ها و گوشی‌های هوشمند طراحی شده است. این مدل، نسل جدیدی از سری LFM2 محسوب می‌شود که پنجره زمینه (context window) آن از ۳۲ هزار به ۱۲۸ هزار توکن افزایش یافته و حجم داده‌های پیش‌آموزش آن نیز از ۱۲ تریلیون به ۳۸ تریلیون توکن رسیده است.
🔗 liquid.ai
#محصول #LiquidAI
شرکت Liquid AI از مدل زبانی جدیدی به نام LFM2.5-8B-A1B رونمایی کرده است. این مدل که بر پایه معماری Mixture-of-Experts (MoE) ساخته شده، دارای ۸ میلیارد پارامتر کلی و ۱ میلیارد پارامتر فعال است و به‌طور خاص برای اجرا روی دستگاه‌های مصرفی مانند لپ‌تاپ‌ها و گوشی‌های هوشمند طراحی شده است. این مدل، نسل جدیدی از سری LFM2 محسوب می‌شود که پنجره زمینه (context window) آن از ۳۲ هزار به ۱۲۸ هزار توکن افزایش یافته و حجم داده‌های پیش‌آموزش آن نیز از ۱۲ تریلیون به ۳۸ تریلیون توکن رسیده است.
🔗 liquid.ai
📊 Data➕Science 🇮🇷 — هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما
#محصول #LiquidAI
مقایسه عملکرد و هزینه مدل‌های تصمیم‌گیری هوش مصنوعی
این جدول مدل‌های فعلی بازار را بر اساس زمان پاسخ‌دهی (Latency) مرتب کرده است. مقایسه این مدل‌ها نشان می‌دهد که برای کاربردهای تصمیم‌گیری، تعادل بین پنجره بافت (Context Window) و سرعت تأخیر اهمیت زیادی دارد.
در ادامه، ۵ مدل با کمترین تأخیر آورده شده است:
* LiquidAI: d1 با تأخیر 129ms و کانتکست 65,536 توکن
* TypeSafe: Jev 1.13 با تأخیر 138ms و کانتکست 64,000 توکن
* Perplexity: Decider V1.1 27B با تأخیر 191ms و کانتکست 262,144 توکن
* Microsoft: Microsoft-Decision-1 با تأخیر 193ms و کانتکست 32,768 توکن
* OpenAI: GPT-6 Luna Decisions با تأخیر 211ms و کانتکست 1,050,000 توکن
مدل‌های بررسی شده در این فهرست همگی هزینه‌ی خروجی صفر دارند و تفاوت اصلی آن‌ها در میزان توکن‌های پردازشی هفتگی، هزینه ورودی و سرعت پاسخ‌دهی است. مدل GPT-6 Luna Decisions با وجود تأخیر بیشتر نسبت به رقبا، گسترده‌ترین پنجره بافت را در میان این موارد ارائه می‌دهد.
منبع
#LiquidAI #ContextWindow
این جدول مدل‌های فعلی بازار را بر اساس زمان پاسخ‌دهی (Latency) مرتب کرده است. مقایسه این مدل‌ها نشان می‌دهد که برای کاربردهای تصمیم‌گیری، تعادل بین پنجره بافت (Context Window) و سرعت تأخیر اهمیت زیادی دارد.
در ادامه، ۵ مدل با کمترین تأخیر آورده شده است:
* LiquidAI: d1 با تأخیر 129ms و کانتکست 65,536 توکن
* TypeSafe: Jev 1.13 با تأخیر 138ms و کانتکست 64,000 توکن
* Perplexity: Decider V1.1 27B با تأخیر 191ms و کانتکست 262,144 توکن
* Microsoft: Microsoft-Decision-1 با تأخیر 193ms و کانتکست 32,768 توکن
* OpenAI: GPT-6 Luna Decisions با تأخیر 211ms و کانتکست 1,050,000 توکن
مدل‌های بررسی شده در این فهرست همگی هزینه‌ی خروجی صفر دارند و تفاوت اصلی آن‌ها در میزان توکن‌های پردازشی هفتگی، هزینه ورودی و سرعت پاسخ‌دهی است. مدل GPT-6 Luna Decisions با وجود تأخیر بیشتر نسبت به رقبا، گسترده‌ترین پنجره بافت را در میان این موارد ارائه می‌دهد.
منبع
🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما
#LiquidAI #ContextWindow