‏🚀 تحولی در سرعت پردازش هوش مصنوعی با GPT-5.6 Sol

‏شرکت OpenAI از حالت جدیدی با نام Ultrafast mode برای مدل GPT-5.6 Sol رونمایی کرد. این جهش عملکردی که با تکیه بر زیرساخت سخت‌افزاری Cerebras محقق شده، سرعت تولید متن را تا ۱۴ برابر افزایش داده و به ۷۵۰ توکن در ثانیه می‌رساند.

‏دلیل اصلی این سرعت خیره‌کننده، استفاده از معماری Wafer-Scale Engine است که وزن‌های مدل را مستقیماً روی تراشه‌های عظیم نگهداری می‌کند و گلوگاه انتقال داده بین حافظه و پردازنده را از بین می‌برد.

‏در آزمایش‌های اولیه روی بنچمارک HLE، این مدل توانست در ۱۱ ساعت فرآیندی را به پایان برساند که برای مدل‌های مشابه نظیر Claude Fable نزدیک به ۸۰ ساعت زمان نیاز داشت.

‏در حال حاضر مهم‌ترین جزئیات این به‌روزرسانی عبارتند از:
‏- ارائه نسخه پیش‌نمایش در API برای گروهی منتخب از کاربران.
‏- افزایش چشمگیر نرخ تولید توکن به ۷۵۰ توکن در ثانیه.
‏- کاهش زمان اجرای بنچمارک‌های سنگین تا ۷ برابر.
‏- بهینه‌سازی پیشرفته معماری سخت‌افزاری برای مدل‌های غول‌پیکر.

📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما

#GPT_5_6_Sol #Wafer_Scale_Engine