‏🤖 معرفی مدل زبانی Beam از ReflectionAI

‏تیم ReflectionAI مدل جدید Beam را معرفی کرد؛ مدلی با ۵۰۱ میلیارد پارامتر کل و ۲۳ میلیارد پارامتر فعال که با هدف بهینه‌سازی استنتاج عرضه شده است. طبق اعلام این تیم، مدل مذکور از نظر کارایی ۳ تا ۴ برابر در زمان اجرا بهینه‌تر عمل می‌کند.

‏مشخصات فنی و اجرایی این مدل به شرح زیر است:
‏- آموزش کامل از صفر طی یک ماه روی ۲۴ تریلیون توکن.
‏- انجام بزرگترین دوره آموزش تقویتی (RL) ثبت‌شده با استفاده از ۱۰.۵ هزار تراشه GB300 طی ۴ هفته.
‏- عملکردی در بنچمارک‌ها نزدیک به مدل GLM-5.2 و در برخی حوزه‌ها مانند SWE Bench Verified با کسب امتیاز ۸۰.۹، فراتر از رقبا.

‏وزن‌های این مدل قرار است تحت لایسنس Apache 2.0 منتشر شوند. جزئیات بیشتر و بررسی بنچمارک‌ها در وبلاگ ReflectionAI در دسترس است.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
🌐 سایت | تلگرام | بله | ایتا | ارتباط با ما

#BeamModel #SparseActivation