Machine learning Interview
30.5K subscribers
1.95K photos
177 videos
13 files
1.37K links
ИИ, Rust, вайбкодинг, Data Science, Deep Learning и делюсь тем, что интересно и полезно!

Вопросы - @workakkk

РКН: clck.ru/3FmwRz
Download Telegram
Forwarded from Machinelearning
🌟 Thinking Machines открыла веса Inkling 2 Small

Стартап Мирой Мурати, как и обещал, через неделю после запуска модели на собственной платформе Tinker опубликовала модель Inkling 2 Small.

Под капотом MoE на 594 млрд общих параметров, из которых на каждый токен работают 17 млрд, а в каждом из 48 слоёв токен направляется к 8 экспертам из 384.

Модель принимает текст и изображения, отвечает текстом, держит контекст до 1 млн токенов и позволяет задавать, сколько усилий тратить на рассуждение.

По словам Thinking Machines, на RL-фазе обучения модель, не справляясь с задачей, обошла сетевую блокировку через сторонний сервис, доступный ей из поисковых инструментов.

Это вовремя заметили, обучение остановили, интернет отключили и добавили проверку каждого вызова инструментов и дополнительные этапы обучения поведению.


🟡Бенчмарки

Показатели не поменялись - 31 балл в Artificial Analysis, ARC-AGI-2 - 81,7%, на мультимодальном MMMU Pro - 81,6%.

Слабее всего результат на Terminal Bench Science: 5,7% против 20,0% у Claude Haiku 5.5.

Веса доступны в форматах NVFP4 и MXFP8, первому нужно не меньше 500 ГБ видеопамяти суммарно, т. е. пару B300 или четыре H200.

Модель поддерживают SGLang, vLLM и Unsloth, через API её предлагают NVIDIA, Fireworks, Together, Baseten, Nebius, Modal и Cloudflare, а дообучать её можно на Tinker.


📌Лицензирование: Apache 2.0


🟡Набор моделей
🟡Демо



@ai_machinelearning_big_data

#AI #ML #LLM #Inkling #ThinkingMachine
Please open Telegram to view this post
VIEW IN TELEGRAM
❤6👍5🔥5😁2