‏🤖 معرفی مدل مولتی‌مودال SenseNova-Loop-9B

‏مدل SenseNova-Loop-9B-Preview با ۹ میلیارد پارامتر و پشتیبانی از طول متن ۲۵۶ هزار توکن منتشر شد. این مدل با مجوز Apache-2.0 برای درک اسناد، برنامه‌نویسی و فعالیت‌های ایجنت‌ها بهینه شده است.

‏ساختار فنی این مدل شامل ۳۲ لایه دیکودر متمایز است که با اجرای دوباره بخش میانی، به ۵۶ لایه اجرایی می‌رسد. آموزش این مدل ترکیبی از متن، تصویر، کد و مسیرهای استفاده از ابزار است.

‏مهم‌ترین نکات درباره عملکرد و توسعه این مدل:
‏• پیشتاز در ۶ از ۸ بنچمارک اعلامی، از جمله کسب امتیاز ۷۱.۳۸ در BIRD-Dev و ۶۶.۸۹ در WorkBuddy Bench.
‏• پشتیبانی از MTP برای افزایش سرعت و سازگاری با کتابخانه‌های Transformers، LightLLM، SGLang و vLLM.
‏• قابلیت پردازش داده‌های طولانی تا ۲۶۲ هزار توکن.

‏نسخه فعلی یک نسخه پیش‌نمایش (Preview) است و گزارش فنی آن در آینده منتشر خواهد شد.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما

#SenseNova_Loop_9B #Multi_modal_Learning