Forwarded from Machinelearning
Стартап Мирой Мурати, как и обещал, через неделю после запуска модели на собственной платформе Tinker опубликовала модель Inkling 2 Small.
Под капотом MoE на 594 млрд общих параметров, из которых на каждый токен работают 17 млрд, а в каждом из 48 слоёв токен направляется к 8 экспертам из 384.
Модель принимает текст и изображения, отвечает текстом, держит контекст до 1 млн токенов и позволяет задавать, сколько усилий тратить на рассуждение.
По словам Thinking Machines, на RL-фазе обучения модель, не справляясь с задачей, обошла сетевую блокировку через сторонний сервис, доступный ей из поисковых инструментов.
Это вовремя заметили, обучение остановили, интернет отключили и добавили проверку каждого вызова инструментов и дополнительные этапы обучения поведению.
Показатели не поменялись - 31 балл в Artificial Analysis, ARC-AGI-2 - 81,7%, на мультимодальном MMMU Pro - 81,6%.
Слабее всего результат на Terminal Bench Science: 5,7% против 20,0% у Claude Haiku 5.5.
Веса доступны в форматах NVFP4 и MXFP8, первому нужно не меньше 500 ГБ видеопамяти суммарно, т. е. пару B300 или четыре H200.
Модель поддерживают SGLang, vLLM и Unsloth, через API её предлагают NVIDIA, Fireworks, Together, Baseten, Nebius, Modal и Cloudflare, а дообучать её можно на Tinker.
@ai_machinelearning_big_data
#AI #ML #LLM #Inkling #ThinkingMachine
Please open Telegram to view this post
VIEW IN TELEGRAM
❤6👍5🔥5😁2