275K subscribers
5.69K photos
1.35K videos
17 files
6.06K links
Погружаемся в машинное обучение и Data Science

Показываем как запускать любые LLm на пальцах.

По всем вопросам - @haarrp

@itchannels_telegram -🔥best channels

Реестр РКН: clck.ru/3Fmqri
Download Telegram
⚡️ Liquid AI выпустила модели, которые принимают решения и не генерируют ни одного токена

Liquid AI представила decision models, первая из них называется d1. Модель получает контекст в виде текста или JSON и за один вызов возвращает откалиброванные вероятности по заранее заданным вариантам ответа.

Вопросы бывают трёх типов: «да или нет» с вероятностью от 0 до 1, выбор из нескольких вариантов с распределением вероятностей и оценка по шкале. Несколько вопросов можно задать в одном запросе.
Ответ не нужно парсить, ошибок схемы не бывает, задержка низкая и предсказуемая, а три вызова LLM сливаются в один. Вместе с ответом приходит уверенность модели, поэтому спорные случаи легко отправить на большую модель или человеку.

Архитектурную разницу между конкретными весами d1 и Jev компании пока публично не раскрывают.

Модели: https://docs.liquid.ai/lfm/models/decision-models

Гайд по миграции: https://docs.liquid.ai/guides/decision-model-guide

Демо: https://github.com/Liquid4All/cookbook/tree/main/examples/road-decider

@ai_machinelearning_big_data

#LiquidAI
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥76⚡57🤔34👍21❤17👏14😁3
📌 Anthropic оценила кибервозможности GLM-5.3

Anthropic впервые оценила открытую китайскую модель и опубликовала исследование о том, насколько GLM-5.3 от Z.ai продвинулась в поиске и эксплуатации уязвимостей.

Z.ai выпустила модель в августе, веса выложила через две недели.


Двумя неделями ранее её проверял CAISI, центр стандартов и инноваций ИИ при американском институте NIST, и назвал сильной в киберзадачах среди открытых моделей на сегодня.

По словам Anthropic, в ExploitBench GLM-5.3 довела до рабочего эксплойта известные уязвимости движка V8 в 50 попытках из 410, это 12%.

У Claude Mythos Preview результат 14%, у GLM-5.2 и Claude Opus 4.6 близок к нулю.


В ручных сессиях с человеком модель находила ранее неизвестные уязвимости в браузере и драйверах, а встроенные ограничения, утверждает Anthropic, обходятся без особых усилий и в открытых весах их можно снять.

🟡CAISI более сдержан в описании результатов

На четырёх кибербенчмарках GLM-5.3 заметно слабее американских передовых моделей, в SEC-Bench Pro она решает 40,4% задач против 90,2%.

Совокупное отставание CAISI оценивает примерно в четыре месяца.

Вывод обеих организаций совпадает в главном - возможности, которые год назад были только у закрытых лабораторий, теперь доступны любому, кто скачает веса.

В ответ на это Anthropic предлагает шире открывать передовые модели для безопасников и проверять достаточно сильные модели до выпуска на уровне государств.

Z.ai пока никак не отреагировала ни на оба исследования, ни на инициативу Anthropic.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍82🤔50❤16🤨9🔥5😐5😁4👨‍💻2🤣1😨1
Коннектом дрозофилы нашёл неожиданное применение: цифровая муха расставляет приоритеты в списке задач.

Разработчики MWS собрали веб-демо, где выбор, с какого дела начать, совершает модель мушки, построенная на реальной схеме её нервной системы. Пользователь вводит до 5 задач, а на выходе получает одну приоритетную и перечень отложенных.

Результат оформляется в карточку, которой можно поделиться. Список задач переносится в MWS Tables для планирования по дням.

Полная карта мозга дрозофилы — около 140 тыс. нейронов и 50 млн синапсов — за последний год превратилась в открытый полигон для экспериментов. Исследователи уже подключили её эмуляцию к виртуальному телу, а энтузиасты научили цифровую муху играть в шутеры, парковать машину и диджеить. Теперь к этому списку добавилась и приоритизация задач.

Демо: https://dontdoit.tech

@ai_machinelearning_big_data
❤48👏37😁27🤩16🎉4😨4🙊3🔥1🤣1🎄1🆒1
⚡️ DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8%

DeepSeek выложила DeepGEMM-Ascend, порт своей библиотеки матричных ядер на NPU Huawei Ascend 950. API остался тем же, что у оригинального DeepGEMM, а сами ядра переписаны под особенности Ascend.

Поддерживаются GEMM в FP4, FP8 и BF16, grouped GEMM для MoE, MQA logits и слитые операторы MegaMoE. Плотный GEMM почти упирается в теоретический потолок: FP4 даёт 1701 TFLOPS (98,3% от пика), FP8 861 TFLOPS (99,5%), BF16 431 TFLOPS (99,8%).

Внутри JIT-компиляция, конвейеризация на корутинах и тонкая обёртка над матричными инструкциями Ascend. Нужны CANN 9.20, torch_npu и Python 3.10+. Лицензия MIT.

https://github.com/deepseek-ai/DeepGEMM-Ascend

@ai_machinelearning_big_data

#DeepSeek
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍91🤓48🔥19👏14❤11😎3⚡1👌1
Команда Т-Теха разработала решение для улучшения рексистем в условиях нехватки данных пользователей

Исследователи Т-Технологий на международной конфе по рекомендательным системам ACM RecSys 2026 выступили сразу с тремя работами: библиотекой Scikit‑Rank, фреймворком Perseus и методом ScaL³AE.

Главный релиз — Scikit‑Rank. Библиотека позволяет применять нейросетевые модели в задачах предсказания показателя кликабельности и ранжирования предложений с минимальными изменениями кода. Библиотеку можно использовать для ранжирования предложений, например, в электронной коммерции, банкинге, медиа.

Вторая работа — Perseus. Фреймворк позволяет обучать нейросети на общей последовательности сигналов о пользователе и повышать качество рекомендаций благодаря учету источников данных из разных продуктов и сервисов. В эксперименте на T-ECD он улучшил качество рекомендаций с 16 до 39% в разных доменах при использовании истории пользователя из разных сервисов.

Третья разработка — ScaL³AE — подход, который помогает улучшить качество и эффективность вычислений при работе с большими объемами каталогов в более чем миллионы объектов рекомендаций. Он позволяет компактно применять описание товаров для рекомендаций в больших каталогах в том числе для объектов, по которым накоплено мало взаимодействий. В тестах на четырех категориях Amazon Reviews метод превзошел EASE и SANSA, а также показал сопоставимые или более высокие результаты по сравнению с популярной L³AE.

@ai_machinelearning_big_data

#news #ai #ml
👍141🔥61❤21👏8🤩5🤣4😁3
Media is too big
VIEW IN TELEGRAM
✔️ AMD покупает World Labs

Стартап Фей-Фей Ли, который с 2024 года разрабатывает модели пространственного интеллекта для работы с трехмерным физическим миром, подписал обязывающее соглашение о переходе в AMD.

Сама Ли станет исполнительным вице-президентом и главой по науке AMD и будет работать напрямую с генеральным директором Лизой Су. Сооснователи стартапа вместе с Ли продолжат руководить командой World Labs, на базе которой AMD создаст исследовательскую лабораторию.

Сделке предшествовало партнерство по оптимизации моделей World Labs под GPU AMD. Закрытие покупки ожидается до конца 2026 года после одобрения регуляторов.
worldlabs.ai

✔️ SpaceXAI запустила общих агентов Grok для рабочих команд

Компания открыла публичное бета-тестирование Team Bots на тарифах Teams и Enterprise. Это боты Grok Bot, которых настраивают под общую роль или процесс и выдают всей команде сразу.

Каждый бот получает файлы, инструкции и навыки, плагины для GitHub, Notion и Salesforce, учетные данные для сторонних API без плагинов и долговременную память, которая копит опыт в заданной роли.

Навыки и база знаний у бота общие, а переписка и память каждого сотрудника хранятся отдельно.

Цен в анонсе нет, но SpaceXAI собрала ботов для продаж, продуктового менеджмента, маркетинга и аналитики.
x.ai

✔️ Китай может разрешить закупку чипов Nvidia

Министерство промышленности и информатизации КНР запросило у Alibaba, ByteDance и других компаний планы закупок видеокарт Nvidia RTX Pro и дало понять, что намерено их одобрить, пишет The Information со ссылкой на два источника.

ByteDance, по данным издания, рассматривает партию около миллиона штук. RTX Pro 5500 сделана для рабочих станций на потребительском кристалле без памяти HBM и быстрых межчиповых соединений, облачные провайдеры планируют собирать их в серверные стойки по восемь графических процессоров..

Поставки могут начаться в конце декабря, около 500 тысяч карт в квартал, по цене порядка 13 тысяч долларов за штуку. Для Nvidia это шанс вернуться на рынок, где ее доля, упала с 95% почти до нуля.
theinformation.com

✔️ Kuaishou анонсировала Kling 4.0

Новая модель генерирует до 30 секунд видео за один проход, что вдвое больше Kling 3.0. Она принимает до 10 ключевых кадров, которые фиксируют смену сцен, состояния персонажей и тайминг, и до 15 референсов одновременно.

Модель умеет точечно редактировать готовое видео, продлевать генерацию, создавать стереофонический звук и выполнять липсинк на нескольких языках.

Полная версия выйдет в октябре, облегченная Kling 4.0 Flash с 28 сентября доступна подписчикам тарифа Ultra.
klingai.com

✔️ Американский бизнес переводит часть нагрузок на открытые модели

Растущие счета за модели OpenAI и Anthropic подталкивают компании в США к решениям с открытыми весами. На шлюзе Vercel доля открытых моделей в токенах выросла с 7% в декабре до 56% в августе, хотя в расходах на них пришлось лишь 14%.

На OpenRouter первую десятку по объему токенов возглавляют китайские открытые модели. Расходы Tinder на ИИ в годовом исчислении выросли с 1 до 10 млн долларов с января по июль, и компания начала отправлять часть запросов открытым моделям.

AT&T обрабатывает 45 млрд токенов в день и уже отдает открытым моделям около 40% нагрузок и за год хочет довести долю до 70%.

Кроме стоимости компании ценят возможность запускать модели на своих серверах и дообучать их на закрытых данных.
ft.com


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍82👏26🎉13❤10💯5🔥4👌2😁1
✔️ Google заменит Gems в Gemini на Skills

Личные аккаунты Google перейдут на новый формат в ноябре 2026 года. Рабочие, корпоративные и некоммерческие аккаунты Workspace в марте 2027-го, учебные - в июне 2027-го.

Существующие Gems к этому сроку Google автоматически пересоберёт в навыки, пересоздать их вручную можно уже сейчас.

От Gems навыки отличаются тем, что работают в любом чате. Навык вызывают командой из косой черты и названия (позже Google обещает заменить её на @), но Gemini подключает его и сам, если навык подходит к запросу.

В одном диалоге можно сочетать несколько навыков. Навыки работают с подключёнными приложениями, включая сервисы Workspace, но не поддерживают Canvas, Deep Research и встроенные инструменты генерации видео и музыки.

Одновременно активными могут быть до 100 навыков, общий доступ и файлы с Google Диска обещают добавить позже.

Навык создается в диалоге с Gemini, по готовому или пустому шаблону либо загрузкой файла SKILL.md.

Внутри могут быть текст, код, конфигурации, PDF и изображения, документы Word и таблицы Excel не принимаются.

Для загрузки файлов нужна веб-версия или приложение для Mac.

Google также опубликовал советы по написанию навыков.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔50❤18👍16👨‍💻5⚡4❤‍🔥4😁3👏2🔥1💯1
✔️ Nvidia представила открытую платформу безопасности для агентов

Open Agent Safety Platform – открытый набор средств для запуска автономных агентов в изолированной среде. Основа платформы – OpenShell, среда, которую компания развивает около года.

Второй, необязательный уровень контроля даёт Nvidia Sentry. Это ПО работает на отдельном процессоре обработки данных BlueField вне досягаемости агента, а программная платформа DOCA связывает его с политиками OpenShell.


OpenShell запускает агента в песочнице, где оператор заранее перечисляет доступные файлы, сетевые адреса, инструменты, процессы и ключи. Из коробки поддерживаются Claude Code, Codex, OpenCode и GitHub Copilot CLI, через шаблоны NemoClaw – OpenClaw и Hermes Agent.

Зачем агенту такая изоляция, в Nvidia объясняют дрейфом - при долгой работе, неоднозначных инструкциях или упоре в запрет агент уходит от исходной задачи, и рассчитывать, что он сам удержит себя в рамках, нельзя. Поэтому контроль вынесен за пределы агента, и знать о наблюдении ему не обязательно.

Каждая песочница – отдельный контейнер или Docker, Podman или Kubernetes. Шлюз управляет их жизненным циклом, а движок политик перехватывает каждое исходящее соединение и либо пропускает его, либо подставляет ключи провайдера для разрешённого адреса, либо блокирует и пишет в журнал.

Ключи не попадают в файловую систему песочницы, их передают переменными окружения во время работы. Политики задаются в YAML и охватывают четыре области: файлы, сеть, процессы и провайдеров.

Доступ к файлам и системным вызовам фиксируется при создании песочницы, сетевые правила меняются онлайн с точностью до HTTP-метода и пути, так что агенту можно разрешить чтение API GitHub и запретить запись. По словам Nvidia, OpenShell проверяет ограничения ещё до запуска агента.

Главная площадка для Sentry – системы Vera Rubin POD, где процессор BlueField-4 стоит в каждом вычислительном модуле на единственном пути от узла к модели.

Там Sentry изолирован от хоста, следит за поведением агента и применяет политику OpenShell на скорости линии, а шлюз DOCA проверяет, кто такой агент и какие полномочия ему выданы.


Владельцам систем Vera достаточно обновить ПО, всем остальным установка доступна одним скриптом на Linux, macOS с Apple Silicon и Windows через WSL 2, последний вариант экспериментальный.

Проект в статусе альфа, версия 0.1.0 ещё готовится, развёртывание в Kubernetes и проброс видеокарт в песочницу тоже помечены как экспериментальные.



@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔82👍51👏14❤9🔥7🥰4🎉1💯1
🔥 Google официально представила Gemini 4 Argon

Это новая frontier-модель компании для сложных многошаговых задач: программирования, финансового и юридического анализа, корпоративных workflow и кибербезопасности.

Главная особенность Argon - до 1 миллиона выходных токенов против 64K у предыдущего поколения. Google делает ставку на очень длинные траектории рассуждений, где модель может работать над одной задачей сотни тысяч токенов подряд.

Что показали внутри Google:

- 77,9% на DeepSWE v1.1 для сложных software engineering задач;
- первое место на AutomationBench с 51,3%;
- 91,7% на LVBench для понимания длинных видео;
- 68% на CWE-bench v1 по исправлению уязвимостей.

Агенты Argon помогали Google переносить крупные C/C++-кодовые базы на Rust, включая компоненты Fuchsia Zircon объёмом более 800 000 строк. В другом проекте модель переработала 32 000 строк SIMD-кода в Rust, а итоговая версия работала в 2,7 раза быстрее предыдущего Rust-порта.

Ещё один внутренний проект: несколько Argon-агентов нашли оптимизации памяти в инфраструктуре Google, которые после внедрения освободили более 300 TiB RAM, а потенциальная экономия оценивается в 500 TiB–1 PiB.

Отдельный фокус — кибербезопасность. Argon умеет самостоятельно искать, проверять и исправлять критические уязвимости. Первым доступ получают проверенные специалисты через программу Fairwind.

💰 Стартовая цена API:

$2 / 1M входных токенов
$10 / 1M выходных

Кэшированный input дешевле на 95%. После introductory-периода цена вырастет до $4 / $20.

Пока Gemini 4 Argon не запускают для всех: Google сначала тестирует модель с ограниченным кругом пользователей и усиливает защиту от prompt injection, злоупотреблений и нежелательного поведения агентов. Затем доступ начнут расширять на разработчиков, компании и пользователей, начиная с платных API-клиентов и Google AI Ultra.

https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-4-argon/

@ai_machinelearning_big_data

#gemini
🔥146👍38❤28👏7🤔7🤩4😁3🥰2💯1
✔️ Переименование ИИ в США вызвало ажиотаж на словенские домены

Словенский регистратор Register.si после выступления Президента США на Генассамблее ООН регистрирует в среднем 3700 новых доменов зоны .si в день, тогда как за весь август их было около 3500.

С трибуны ООН американский лидер объявил, что США будут называть искусственный интеллект "суперинтеллектом" (super intelligence, SI), потому что прежнее название, по его словам, звучит фальшиво.


К 29 сентября в зоне .si было больше 220 тысяч доменов и на фоне повышенного спроса регистратор призвал владельцев товарных знаков, слоганов и названий компаний, у которых ещё нет адреса в зоне, зарегистрировать его как можно скорее.

В тот же день, Дональд Трамп закрепил переименование указом Inaugurating the Era of Super Intelligence.

Федеральные ведомства должны, насколько позволяет закон, писать Super Intelligence и SI вместо Artificial Intelligence и AI в официальной переписке, публичных заявлениях, на сайтах, в отчётах и других документах, кроме законодательных.

Юридически новый термин охватывает те же технологии, что и определение ИИ в параграфе 9401 раздела 15 Свода законов США, так что в законах пока ничего не меняется.

В течение 60 дней помощник президента по науке и технологиям должен предложить законопроект с федеральным определением суперинтеллекта, которое может расширить или заменить нынешнее.

Сколько стоит регистрация домена .si и кто покупает адреса после объявления Трампа, пока неизвестно.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
😁84🤣61❤10🙉10👍9🤔4🤷‍♂3🔥1🎉1💯1
Media is too big
VIEW IN TELEGRAM
✔️ Президент США и главы ИИ-компаний подписали соглашение о безопасности

Документ подписали главы Google, Anthropic, xAI и Nvidia и президент OpenAI Грег Брокман. Юридической силы у соглашения нет, стороны называют его морально обязывающим.

Компании обещают ввести четыре уровня контроля и аудита передовых моделей, создать внутренние группы для проверки этих механизмов, допустить внешние проверки и независимый надзор.

Критики сетуют, что соглашение необязательное и почти не содержит деталей.
axios.com

✔️ В Китае заработал первый суперкластер на 100 тысяч отечественных ускорителей

Об этом сообщил Китайский информационный центр интернет-сети CNNIC в докладе о генеративном ИИ. Все компоненты кластера от чипов и сети до хранения данных и охлаждения сделаны в Китае.

Вычислительная мощность для ИИ в стране к июню выросла за год на 177%, до 2185 EFLOPS. Аудитория генеративного ИИ превысила 700 млн человек, это больше половины населения.

ИИ используют более 30% крупных и средних промышленных предприятий Поднебесной.
cnnic.cn

✔️ Ideogram выпустила модель 4.5

Свежая версия сфокусирована на точное и последовательное редактирование графики. Она не накапливает артефакты, смещения пикселей и искажения цвета при длинных цепочках правок.

Модель правит фрагменты снимков высокого разрешения без уменьшения исходника и переводит надписи на изображении на другие языки.

Ideogram 4.5 доступна в веб-интерфейсе, у партнёров и через API в четырёх режимах качества, от 0,008 до 0,22 доллара за изображение в разрешении 2K.

Веса компания обещает открыть в ближайшее время.
ideogram.ai

✔️ OpenClaw Foundation открыл код корпоративной платформы для агентов

OpenClaw Enterprise управляет постоянно работающими агентами в закрытых средах. Проект начинали в OpenAI, затем передали фонду и доработали вместе с Red Hat и Nvidia.

Платформа поддерживает мультиарендность, разделяет доверенные и недоверенные нагрузки, запускает агентов в песочнице, проверяет их действия с помощью языковой модели и позволяет тонко настраивать права доступа. Обвязку, модель и песочницу можно заменить сторонними или собственными.

Версия 1.0 выйдет до конца года, пока платформу рекомендуют для внутренних пилотов. Такие пилоты идут в Red Hat и OpenAI, где агенты получают полный доступ к кодовым базам.

Платформа бесплатна и разворачивается на собственных серверах.
openclaw.ai

✔️ McDonald's рассчитывает цены с помощью ИИ

Пионер фастфуда совместно с Tiger Analytics запустил модель, которая анализирует транзакции и парсит конкурентов, вычисляя метрику готовности платить для каждой геолокации.

По данным Reuters, применение алгоритма привело к разбросу цен - стоимость Биг Мака в заведениях в радиусе трех километров может различаться на 21%.

Корпорация заявляет о рекомендательном характере системы. При этом платформа фиксирует отклонения франчайзи от сгенерированных расценок. Уровень ценового комплаенса напрямую учитывается при аудите бизнеса и продлении партнерских контрактов.

Масштабирование алгоритмического подхода на 14 тысяч ресторанов в США привлекло внимание антимонопольных органов. Сейчас регуляторы проверяют, нарушает ли такое ценообразование законодательство о защите конкуренции.
reuters.com


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍58❤15🔥6🤔4🤣4👏2🎉2💯1
🌟 Bilibili выложила открытые модели перевода Index-Translate

Команда Index LLM китайского видеохостинга Bilibili выпустила семейство открытых моделей машинного перевода Index-Translate на базе на Qwen3.5 в трёх размерах - 2B, 9B и 35B-A3B.

MoE 35B-A3B в статусе превью, её веса обещают выложить позже.


Модели переводят между 150 языками, в том числе на русский и с русского, и понимают инструкции к переводу.

В запросе можно задать глоссарий, попросить сохранить разметку, код и плейсхолдеры, выдержать стиль или учесть контекст соседних фраз.

Модели также умеют переводить мемы и сленг китайских интернет-сообществ.

В релиз также вошли в размерностях 2B и 9В каждая:

🟢Index-Echo S2TT - перевод речи сразу в субтитры;

🟢Index-Echo S2ST - перевод речи в речь с сохранением голоса говорящего;

🟢Index-Homura - перевод под заданное число слогов при дубляже;

🟢Index-NativeLong - перевода целой книги за один проход.

🟡Тесты

На FLORES-200 флагман 35B-A3B набирает 0,8794 по COMET-22, 9B набирает 0,8789.

Для сравнения - DeepSeek-V4.1-Flash и GPT-5.6-Sol выбили 0,8762 и 0,8650 соответственно.


В бенче instTrans (от самой Bilibili), который проверяет следование инструкциям при переводе, у 35B-A3B 0,8336 балла против 0,7624 у GPT-5.6-Sol.

В WMT26 качество перевода оценивает GPT-5.6-Sol по шкале до 100, и здесь Index-Translate-9B набирает 75,35, а сама GPT-5.6-Sol и DeepSeek-V4.1-Flash получают 89,10 и 83,55.

Для локального запуска в bf16 версии 2B нужно около 8 ГБ видеопамяти, версии 9B - около 24 ГБ без учёта кэша для длинных контекстов.


📌Лицензирование: Apache 2.0


🟡Страница проекта
🟡Набор моделей
🟡Техотчет
🟡Демо
🖥GitHub


@ai_machinelearning_big_data

#AI #ML #LLM #Translation #Index #Bilibili
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥52👍27🤓25❤16🤔14👏8💯8😁4🎉4🥰3😍1
🌟 SGLang научил чат-модели отвечать вероятностями

Команда открытого движка инференса SGLang добавила эндпоинт /v1/decisions, который превращает обычную чат-модель в модель для принятия решений.

Второй эндпоинт, /v1/systemone, отдаёт те же решения в формате System One API, который TypeSafe AI представила 19 сентября вместе со своей моделью Jev.

API поддерживает выбор из 2–26 вариантов (до 255 с двухбуквенными метками), оценку по шкале из 2–10 уровней и вопрос «да или нет».

SGLang присваивает каждому варианту метку из одного токена - буквы для выбора, цифры для оценки, yes и no для бинарных вопросов.

Затем движок читает логарифмические вероятности следующего токена по всему словарю и переводит их в вероятности через софтмакс с учётом температуры.

Отсюда ограничение - метка обязана укладываться в один токен в позиции ответа.


Решение принимает один вход без истории диалога, а вероятности у холодного запроса и у запроса из префиксного кэша могут расходиться на несколько сотых.

Для демонстрации SGLang заставил Qwen3.8-27B играть в Pokémon FireRed. Модель по текущему состоянию игры выбирала между атакой, сменой покемона и лечением меньше чем за 100 мс на решение и прошла Элитную четвёрку и чемпиона.

Функция доступна в nightly-сборках SGLang из основной ветки. Её проверили на Qwen3.8-27B и Qwen3.5-35B-A3B, другие модели подойдут, если метки ответов укладываются в один токен.

Примеры запросов и описание формата есть в документации SGLang.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👏94🔥51👍37👌23🤔17❤16🎉9🥰3😁3💯2
✔️ Anthropic раздаёт бесплатные плюшевые игрушки и стикеры

На сайте для разработчиков claude.dev появилась раздача фирменных подарков. В разделе Терминал нужно ввести команду /plushies, чтобы оформить заявку на плюшевого Clawd, маскота Claude Code, или /stickers, чтобы получить набор стикеров.

Покупать ничего не нужно, подарок положен один на человека, участвовать могут только совершеннолетние. Дизайн игрушки выбирается случайно, заказать конкретный нельзя.

Тайваньское издание BlockTempo насчитало пять вариантов – волшебник, ковбой, учёный, весёлый и в солнечных очках.

Заявки принимает и подарки рассылает сторонний сервис Brilliant, поэтому доставка работает только там, где он обслуживает клиентов.

Раздача идёт, пока подарки не закончатся. По наблюдению BlockTempo, уже в первый день приём заявок временно закрывался, издание предполагает, что его будут периодически открывать снова.

Официального анонса акции Anthropic не публиковала.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍47🥰41🎉21🔥15❤11🥱6👏5😁5🦄4💯1👾1
✔️ ВКонтакте научила Ленту отличать интерес к контенту от намерения купить

Инженеры AI VK построили отдельный контур товарных рекомендаций внутри Ленты ВКонтакте. Обычный рекомендер оптимизируется под релевантный показ, за которым обычно следует лайк, комментарий и другие реакции, но интерес к посту ещё не означает готовность купить товар.

Поэтому для товарных публикаций сделали отдельную систему со своими кандидатами, логированием и моделью ранжирования. Она оценивает вероятность того, что конкретный товарный пост приведёт пользователя к заказу.

На старте возник классический cold start: мало показов → мало переходов и заказов → мало данных → модель не на чем обучать.

Команда подняла логирование товарного домена с 2% до 100%, увеличив обучающую выборку в 15 раз. А пока заказов было недостаточно, использовала более частые proxy-сигналы – например, раскрытие текста поста, которое коррелировало с дальнейшим переходом к партнёру.

Для поиска кандидатов система использует два типа сигналов: товарное поведение и обычные контентные интересы. Например, если человек взаимодействует с постом про книги или рецептами, система может найти близкие по смыслу товарные публикации – книги, посуду или другие связанные товары. После этого ранкер решает, стоит ли показывать конкретный товар конкретному пользователю.

Само ранжирование мультитаргетное: максимальный вес получает заказ, затем переход к партнёру и только потом более лёгкие действия вроде лайков и времени просмотра. То есть система оптимизируется не под CTR как таковой, а под всю воронку до покупки.

За пять месяцев:
🟢сквозная конверсия из показа в созданный заказ выросла на 53%;
🟢число созданных заказов – в 43,2 раза;
🟢переходы к партнёру – в 55,3 раза;
🟢CTR перехода к партнёру – на 95,6%.

Инфраструктурно всё работает на Discovery-платформе VK: она позволила настраивать отдельное логирование, быстрее запускать эксперименты и тестировать гипотезы без разработки отдельных сервисов под каждый новый сценарий.

Подробно про архитектуру, cold start, proxy-таргеты и ранжирование – в статье на Хабре.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣66🔥29👨‍💻27❤25😭19👍11👏8💅5🥰3😁3🤬2
🌟 Cloudflare выпустила открытые модели решений Clef

Обе модели, Clef и Clef-flash, вышли с открытыми весами и сразу появились в облачной платформе компании Workers AI.

Такие модели не пишут текст, а возвращают вероятности вариантов на типизированные вопросы, по которым агент или программа выбирает следующее действие.


Clef построена на Qwen3.8-27B, Clef-flash – на Qwen3.5-9B. Обе принимают текст, JSON, изображения и видео, держат контекст 64 тысячи токенов и полностью совместимы с System One API, формат, который TypeSafe AI представила вместе с моделью Jev.

Главный соперник Clef – как раз Jev, которая работает только с текстом и закрыта.

Модели дообучали с функцией потерь Брайера, чтобы их вероятности совпадали с реальной частотой правильных ответов.

🟡Тесты

По замерам на 43 тестах медианная задержка Clef составила 209 мс, Clef-flash – 39 мс, Jev – 524 мс.

В классификации банковских запросов BANKING77 Clef набрала 94,2 балла макро-F1 против 79,7 у Jev, в поиске инструментов ToolRet – 69,2 против 65,3 по nDCG@10.

Внутри Cloudflare Clef уже классифицирует домены для разведки угроз, разбирает тикеты поддержки и отличает полезных краулеров от вредных.

В Workers AI миллион входных токенов стоит 24 цента для Clef и 9 центов для Clef-flash.

Для сравнения, Jev у TypeSafe AI тот же миллион входных токенов стоит 4 цента.


Дообучать Clef под свои задачи клиенты пока могут только вместе с инженерами Cloudflare, самостоятельный сервис обещан позже.


📌Лицензирование: Apache 2.0


🟡Блогпост
🟡Документация
🟡Веса Clef
🟡Веса Clef Flash
🟡Демо
🟡Лидерборд


@ai_machinelearning_big_data

#AI #ML #LLM #Decision #Clef #CloudFlare
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🎉111❤35👍34🤩19👏16🔥14😁9💯8🤔5⚡1
Media is too big
VIEW IN TELEGRAM
✔️ OpenAI заблокировала атаку дистилляции скрытых CoT своих моделей

Компания пресекла кампанию по состязательной дистилляции, направленную на извлечение скрытых цепочек рассуждений. Ключевой кластер активности компания связала с Moonshot AI. В атаке участвовало 4 тысячи учетных записей, всего было сделано 16 тысяч запросов.

Шифрование злоумышленники не вскрывали, в сохранённые диалоги не проникали – операторы копировали зашифрованные рассуждения из одного диалога и просили модель в другом расшифровать и переписать их.

OpenAI закрыла этот путь, добавила проверки потоковой выдачи, заблокировала аккаунты и передала наблюдения в Frontier Model Forum.

Moonshot AI пока обвинения не комментировала.
openai.com

✔️ DeepMind представила систему маркировки сгенерированных белков и геномов

Новая технология SynthID Bio встраивает водяные знаки в сгенерированные белки и геномы. Метка закладывается в структуру и считывается даже после физического синтеза молекулы в лаборатории.

В зависимости от формата данных алгоритм вносит корректировки в аминокислотные последовательности или меняет координаты атомов в 3D-структурах AlphaFold 3. Заявлено, что точность и функциональность молекул при этом не снижаются.

Разработка решает проблему отравления данных и обхода фильтров безопасности. Генерации не похожи на известные патогены и легко проходят автоматический скрининг фабрик по синтезу ДНК, а неразмеченные структуры попадают в публичные базы.

Лабораторные тесты показали, что маркированные белковые связки для ряда белков сохраняют целевую аффинность, а эксперименты с геномной моделью Evo 2 подтвердили жизнеспособность созданных бактериофагов с водяными знаками.
deepmind.google

✔️ HeyGen представил собственную модель генерации видео

Сервис цифровых аватаров анонсировал HeyGen Video - универсальную модель на базе архитектуры MiniMax H3 и и дообученную самим HeyGen.

Инструмент создает полноценные кинематографичные сцены и работает в режимах Text-to-Video с одновременным синтезом синхронного звука, эмбиента и эффектов, Image-to-Video для анимации статичных кадров, а также Reference-to-Video, позволяющий задавать композицию и динамику движения с помощью референсного ролика.

Генерация секунды видео в разрешении 768p обойдется в 3 цента по стандартному тарифу и в честь релиза до конца октября действует скидка 50%.

Модель уже доступна через API HeyGen, а также на OpenRouter, Runware и ComfyUI.
heygen.com

✔️ arXiv ограничил загрузку двумя статьями в месяц

С 1 октября репозиторий статей ограничил авторов двумя препринтами в месяц.

Причиной стал наплыв сгенерированных текстов. За сентябрь платформа получила 40 363 работы, а за два года объем входящих публикаций удвоился, что привело к перегрузке модераторов и задержкам при публикации исследований.

Модераторы фиксируют рост числа бессодержательных черновиков, полных LLM-генераций и искусственного дробления одного исследования на серию мелких статей.

Ограничение распространяется на все дисциплины и учитывает отклоненные материалы, блокируя возможность повторной отправки спама.

Сервис называет меру временной, пока внедряются новые фильтры и обновления регламентов модерации.
arxiv.org

✔️ Runway анонсировал модель действий для роботов, обученную на видео

Praxis-1 - первая модель действий в физическом мире американского стартапа прикладного ИИ. Базовую политику управления обучают на массиве видео от третьего лица вместо сбора телеоператорских демонстраций.

По словам Runway, симуляция алгоритмов робота внутри генеративной модели предсказывает физические тесты на оборудовании с корреляцией 0,95, превосходя традиционные методы 3D-реконструкции.

Praxis-1 работает на манипуляторах, мобильных колесных платформах и гуманоидных шасси независимо от аппаратной конфигурации. На этапе тестирования модель уже развернута на устройствах Noble Machines, Standard Bots и Ultra.

В ближайшие месяцы Runway планирует выпустить Praxis-1 в открытый доступ.
runway.com

@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍78❤20🤔15😁5🔥4💯4👏3🎉1