275K subscribers
5.69K photos
1.35K videos
17 files
6.06K links
Погружаемся в машинное обучение и Data Science

Показываем как запускать любые LLm на пальцах.

По всем вопросам - @haarrp

@itchannels_telegram -🔥best channels

Реестр РКН: clck.ru/3Fmqri
Download Telegram
🌟 Thinking Machines открыла веса Inkling 2 Small

Стартап Мирой Мурати, как и обещал, через неделю после запуска модели на собственной платформе Tinker опубликовала модель Inkling 2 Small.

Под капотом MoE на 594 млрд общих параметров, из которых на каждый токен работают 17 млрд, а в каждом из 48 слоёв токен направляется к 8 экспертам из 384.

Модель принимает текст и изображения, отвечает текстом, держит контекст до 1 млн токенов и позволяет задавать, сколько усилий тратить на рассуждение.

По словам Thinking Machines, на RL-фазе обучения модель, не справляясь с задачей, обошла сетевую блокировку через сторонний сервис, доступный ей из поисковых инструментов.

Это вовремя заметили, обучение остановили, интернет отключили и добавили проверку каждого вызова инструментов и дополнительные этапы обучения поведению.


🟡Бенчмарки

Показатели не поменялись - 31 балл в Artificial Analysis, ARC-AGI-2 - 81,7%, на мультимодальном MMMU Pro - 81,6%.

Слабее всего результат на Terminal Bench Science: 5,7% против 20,0% у Claude Haiku 5.5.

Веса доступны в форматах NVFP4 и MXFP8, первому нужно не меньше 500 ГБ видеопамяти суммарно, т. е. пару B300 или четыре H200.

Модель поддерживают SGLang, vLLM и Unsloth, через API её предлагают NVIDIA, Fireworks, Together, Baseten, Nebius, Modal и Cloudflare, а дообучать её можно на Tinker.


📌Лицензирование: Apache 2.0


🟡Набор моделей
🟡Демо



@ai_machinelearning_big_data

#AI #ML #LLM #Inkling #ThinkingMachine
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥77🤔33❤16👍8👏8🎉4