📚 Оксфорд выпустил 180-страничный учебник по тому, как заглянуть внутрь нейросетей и понять, как они думают
Исследователи University of Oxford и других научных организаций опубликовали масштабный обзор механистической интерпретируемости (Mechanistic Interpretability) и её применения для безопасности ИИ.
Что внутри:
- Superposition и Transformer Circuits: как нейросети кодируют информацию и выполняют вычисления.
- Sparse Autoencoders (SAE): как выделять отдельные признаки из внутренних представлений моделей.
- Circuit Discovery: как находить и проверять механизмы, отвечающие за конкретное поведение.
- AI Safety: управление поведением моделей (Steering), редактирование знаний и мониторинг скрытых механизмов.
Отдельно опубликованы интерактивный учебный курс и Jupyter Notebooks с практическими экспериментами и примерами кода.
Материал охватывает не только существующие методы, но и их ограничения: понимание внутренних механизмов само по себе ещё не гарантирует безопасность модели.
https://arxiv.org/abs/2611.08438
Интерактивный курс: https://tsglab.github.io/mechinterp-safety/
@ai_machinelearning_big_data
Исследователи University of Oxford и других научных организаций опубликовали масштабный обзор механистической интерпретируемости (Mechanistic Interpretability) и её применения для безопасности ИИ.
Что внутри:
- Superposition и Transformer Circuits: как нейросети кодируют информацию и выполняют вычисления.
- Sparse Autoencoders (SAE): как выделять отдельные признаки из внутренних представлений моделей.
- Circuit Discovery: как находить и проверять механизмы, отвечающие за конкретное поведение.
- AI Safety: управление поведением моделей (Steering), редактирование знаний и мониторинг скрытых механизмов.
Отдельно опубликованы интерактивный учебный курс и Jupyter Notebooks с практическими экспериментами и примерами кода.
Материал охватывает не только существующие методы, но и их ограничения: понимание внутренних механизмов само по себе ещё не гарантирует безопасность модели.
https://arxiv.org/abs/2611.08438
Интерактивный курс: https://tsglab.github.io/mechinterp-safety/
@ai_machinelearning_big_data
❤105🤓103👍42👏15🔥10🤔10😍6🐳2
Новые модели получили серьёзные улучшения в программировании, математике, научных исследованиях и кибербезопасности.
Что удалось сделать:
- Математика: 1000 агентов формализовали доказательство Великой теоремы Ферма на Lean за 30 часов. Предыдущей исследовательской версии Claude потребовалось 11 дней.
- Физика: Fable 5.2 решила две открытые задачи, связанные с физикой чёрных дыр.
- Электроника: спроектировала три работающих устройства с печатными платами, корпусами и программным обеспечением.
- Программирование: более 90% изменений, попадающих в основной код Anthropic, теперь пишутся Claude при участии людей.
- Кибербезопасность: Mythos 5.2 обнаруживает на 10,2% больше уязвимостей, чем Opus 5.5, по внутреннему тесту Anthropic.
Производительность и цена:
- До 30% быстрее предыдущего поколения.
- $8 за миллион входящих токенов.
- $40 за миллион исходящих токенов.
- Fast Mode: до 2,5 раза быстрее за $16/$80 за миллион токенов.
В чём разница?
Fable 5.2 и Mythos 5.2 используют одну базовую модель, но отличаются защитными механизмами.
Fable доступна широкому кругу пользователей. Mythos предназначена для проверенных организаций, работающих в кибербезопасности и биомедицинских исследованиях.
Claude Fable 5.2 уже доступна через Claude, API, AWS, Google Cloud и Microsoft Azure.
Официальный анонс: https://www.anthropic.com/claude-fable-and-mythos-5-2
@ai_machinelearning_big_data
#Claude #Anthropic
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥100💯63❤26👏22🎉12👍6🤩3🥱3🦄2👌1🗿1
Независимая лаборатория выложила Arete-27B, версию модели Qwen3.8-27B от Alibaba, дообученную отвечать на политически чувствительные для Китая вопросы документальными фактами вместо официальной линии КПК.
Целью проекта Nous Research называет желание укрепить западные ценности в модели, обученной в Китае.
Qwen3.8-27B выбрали как самую сильную модель для локального запуска, у которой при этом хватало отказов, уходов от ответа и формулировок в духе партийной позиции.
Авторы считают, что взгляды модели выходят за пределы политики, и ссылаются на исследования, где геополитический контекст запроса ухудшал безопасность написанного моделью кода.
Чтобы измерить проблему, Nous собрала набор Propaganda_Eval, в нём 803 вопроса по семи темам, от свободы слова и государственной идеологии до слежки за гражданами, образования и экологии.
К каждому вопросу приложены два-четыре факта из источника с датой, чаще всего английских переводов китайских законов и независимых публикаций.
Учителем для дообучения стала Inkling от Thinking Machines, лучшая открытая модель по итогам теста на этом наборе, её выбрали, чтобы обойти ограничения на дистилляцию в правилах закрытых моделей.
На примерно 20 тысячах вопросов по тем же семи темам Qwen дообучали подражать ответам учителя, без RL и без изменений архитектуры. Вопросы, совпадавшие с проверочным набором, из обучения убрали.
Фактическая оценка выросла с 2,32 до 2,98 из 5, а доля ответов с официальной пропагандой упала с 22% до 0,9%.
Сильнее всего прокачалась тема свободы слова - оценка выросла с 0,89 до 2,44, доля пропаганды упала с 60% до 1%.
Для сравнения, у GLM 5.3 15% таких ответов, у DeepSeek V4.1 Flash 16%, а у самого учителя 0,3%.
Общие способности при этом не пострадали - на внутреннем Hermes Bench у Arete 65,6%, у исходной Qwen 65,77%, на Terminal-Bench 2.1 у Arete 70%, у Qwen - 67%.
@ai_machinelearning_big_data
#AI #ML #LLM #Arete #NousResearch
Please open Telegram to view this post
VIEW IN TELEGRAM
👍101😁81❤21👏20🤔19🥱8🌚8🔥7🤬6⚡3🍓1
🤑 Anthropic заработала до $2,33 млрд на клиентах, которых потом заблокировала
Anthropic могла получить от $1,66 млрд до $2,33 млрд от клиентов, чьё использование Claude впоследствии признали нарушением правил компании.
В обновлённом проспекте IPO, поданном в SEC 2 ноября 2026 года, компания сообщила, что на таких клиентов пришлось около 5-7% выручки за первые девять месяцев 2026 года.
При общей выручке $33,242 млрд это соответствует $1,66-2,33 млрд. Сумма рассчитана на основе опубликованных Anthropic показателей.
Компания объясняет, что выявление нарушений, расследование и блокировка аккаунтов занимают время. Поэтому выручка учитывается за уже оказанные услуги, даже если впоследствии доступ клиенту ограничивают или полностью прекращают.
По данным The Bell, российский рынок перепродажи доступа к зарубежным ИИ-моделям к августу 2026 года вырос до 100-150 млн рублей в месяц.
При этом Anthropic не раскрывает, какая доля спорной выручки приходится на серый рынок и отдельных страны. Поэтому напрямую приписывать все $1,66-2,33 млрд пользователям из России, Китая и Ирана нельзя.
Источники:
Проспект Anthropic в SEC: https://www.sec.gov/Archives/edgar/data/2130357/000162828026068676/anthropicpbc-sx1ax1.htm
Отчёт Anthropic о выявлении нарушений и блокировках, сентябрь 2026: https://www.anthropic.com/threat-intelligence-report-september-2026
The Bell: российский серый рынок доступа к Claude: https://thebell.io/seryy-rynok-dostupa-k-claude-i-drugim-zarubezhnym-neyrosetyam-v-rossii-vyros-do-100150-mln-rubley-v-mesyats
@ai_machinelearning_big_data
#Anthropic
Anthropic могла получить от $1,66 млрд до $2,33 млрд от клиентов, чьё использование Claude впоследствии признали нарушением правил компании.
В обновлённом проспекте IPO, поданном в SEC 2 ноября 2026 года, компания сообщила, что на таких клиентов пришлось около 5-7% выручки за первые девять месяцев 2026 года.
При общей выручке $33,242 млрд это соответствует $1,66-2,33 млрд. Сумма рассчитана на основе опубликованных Anthropic показателей.
Компания объясняет, что выявление нарушений, расследование и блокировка аккаунтов занимают время. Поэтому выручка учитывается за уже оказанные услуги, даже если впоследствии доступ клиенту ограничивают или полностью прекращают.
По данным The Bell, российский рынок перепродажи доступа к зарубежным ИИ-моделям к августу 2026 года вырос до 100-150 млн рублей в месяц.
При этом Anthropic не раскрывает, какая доля спорной выручки приходится на серый рынок и отдельных страны. Поэтому напрямую приписывать все $1,66-2,33 млрд пользователям из России, Китая и Ирана нельзя.
Источники:
Проспект Anthropic в SEC: https://www.sec.gov/Archives/edgar/data/2130357/000162828026068676/anthropicpbc-sx1ax1.htm
Отчёт Anthropic о выявлении нарушений и блокировках, сентябрь 2026: https://www.anthropic.com/threat-intelligence-report-september-2026
The Bell: российский серый рынок доступа к Claude: https://thebell.io/seryy-rynok-dostupa-k-claude-i-drugim-zarubezhnym-neyrosetyam-v-rossii-vyros-do-100150-mln-rubley-v-mesyats
@ai_machinelearning_big_data
#Anthropic
🤬95🤔55👍26❤20🤣19😁11🤨10🔥5🏆2
Новинка спроектирована для циклических агентских задач - вызова инструментов, парсинга объемных документов, маршрутизации и написания фрагментов кода.
По бенчмаркам компании, Muse Ember обходит Claude Haiku 5.5 и GPT-6 Luna по соотношению цены и интеллекта, выдавая рекордные результаты в своей весовой категории.
Модель поддерживает контекстное окно на 1 млн токенов и способна генерировать до 512 тысяч токенов на выходе.
Помимо работы с текстом, Ember обладает мультимодальностью. Модель распознает аудио, видео и изображения, позволяя агентам считывать скриншоты или анализировать записи встреч без подключения сторонних инструментов.
Muse Ember доступна через API под идентификатором
muse-ember-1.0, а также в Google Cloud и Oracle Cloud.Цена: 10 центов за миллион входных токенов и 50 центов за миллион выходных токенов.
*организация признана экстремистской, её деятельность на территории РФ запрещена.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👨💻101👍35🤩28❤14🔥12🥰1
Media is too big
VIEW IN TELEGRAM
Такую оценку даёт исследование агентства Graphite, в котором доля Claude составляет 6,8%, Google Gemini 5%, DeepSeek 4%, Grok 1,9% и Perplexity 0,9%.
После семи месяцев без роста аудитория ChatGPT прибавила почти 20% и в сентябре достигла рекордных 61,35 млрд визитов, при этом общая посещаемость ИИ-сервисов за год выросла на 37% и превысила 76 млрд визитов в месяц.
На пользователей из США приходится лишь 8,8% этого трафика, а объём переходов с ИИ-платформ на внешние сайты вырос на 92%, причём 60% таких переходов обеспечивает ChatGPT.
businessinsider.com
Во внутренних тестах новая система под названием Rubicon позволила 5000 агентам одновременно работать в одном репозитории и выдержала 7200 отправок кода в секунду, тогда как сегодня самые нагруженные репозитории GitHub принимают на пике лишь десятки записей в секунду.
Прирост достигнут за счёт того, что сохранение кода отделено от обновления указателей веток. Прежде ветки делили общий журнал, и агенты соперничали за запись в один файл, а в Rubicon ветками управляет выделенный сервис
Ref-CAS, который обновляет независимые ветки параллельно и разрешает конфликты только при одновременном изменении одной из них. Rubicon проходит закрытое тестирование, широкое внедрение намечено на начало 2027 года.
Github в X
Обновление рассчитано на профессиональную работу с графикой и умеет создавать изображения с альфа-каналом, сохраняя сложные контуры и полупрозрачные зоны.
Вторая особенность касается многошаговой правки, поскольку Seedream 5.5, как утверждает ByteDance, выдерживает до 100 последовательных изменений одного изображения, сохраняя нетронутые области с точностью до пикселя и без цветовых сдвигов. Кроме того, точнее передаются сложное освещение и текстура кожи, плюс мелкий текст выводится без искажений.
В приложениях ByteDance новая модель появляется постепенно, позже линейку дополнит её Pro-версия.
bytedance.com
В 1983 году Стивен Хокинг и Дон Пейдж показали, что при нагревании определённого типа Вселенной может внезапно образоваться чёрная дыра. Это напоминает переход воды в кипящее состояние.
Но их расчёты работали только для больших Вселенных.
В 2003 году физики описали вычисления для маленьких Вселенных, однако задача оказалась настолько трудоёмкой, что её так и не завершили.
Теперь Claude Fable 5.2 выполнила большую часть расчётов и получила результат: чёрные дыры образуются внезапно и в маленьких Вселенных.
Физик проверил вычисления.
ИИ помог получить новый результат в фундаментальной физике, над которым учёные работали больше двух десятилетий.
hexagonmath.org
Исследователи университета использовали нейросети, которые проанализировали генетические данные вируса и спроектировали синтетические антигены, не встречающиеся в природе, но объединяющие общие черты группы патогенов.
Такая вакцина рассчитана и на будущие штаммы, поскольку мутации быстро обесценивают препараты, созданные под известные варианты. В испытаниях на животных стандартные вакцины, используемые в клиниках сейчас, защитили около 50% подопытных от разных вариантов вируса, а новая обеспечила выживаемость всех подопытных.
Теперь команда готовится к первым клиническим испытаниям на людях и собирается применить ту же платформу к вирусам Эбола и Марбург.
cam.ac.uk
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍72❤22🔥10🥰2👏1🤝1
Gemini 4 Carbon ориентирована на программирование, ИИ-агентов и научные задачи.
Модель заняла первые места в CursorBench 4.0, Perplexity WANDR и Zapier AutomationBench. Стоимость выполнения задач более чем вдвое ниже, чем у ближайшего конкурента.
Google также представила /swarm для Antigravity. Теперь несколько ИИ-агентов могут параллельно писать, проверять и тестировать код.
В научных экспериментах Carbon помогла находить в среднем в 40 раз больше удалённых гомологов белков.
Стоимость API: $2 за 1 млн входных токенов и $10 за выходные до 30 ноября. Затем $4 и $20.
Модель доступна через Gemini API, Google AI Studio и Antigravity.
https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-4-carbon-now-available/
@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
❤37👍16😁14🔥6🥰1
This media is not supported in your browser
VIEW IN TELEGRAM
H3-Image - open-weight модель от MiniMax для генерации изображений, которая умеет создавать 16-мегапиксельные картинки примерно за 10 секунд.
Компания делает ставку сразу на несколько сильных сторон: фотореализм, точное следование промпту, редактирование изображений и работу до 16 референсов за раз. Для рынка это заметный ход, потому что речь не просто о быстрой генерации, а о сочетании высокого разрешения, редактирования и открытых весов.
Модель уже доступна через MiniMax API, MiniMax Code и Hailuo AI. На старте компания также запустила скидку 50% на генерации в 16MP+ в течение launch week.
Hugging Face: https://huggingface.co/MiniMaxAI/MiniMax-H3-Image
API: https://platform.minimax.io/docs/guides/im
MiniMax Code: https://code.minimax.io/about
@ai_machinelearning_big_data
#MiniMax
Please open Telegram to view this post
VIEW IN TELEGRAM
👍88❤14🔥11🥰1
Бенчмарк Remote Labor Index проверяет способность ИИ вести проект от начала до конца. Агенты работают в виртуальной среде с профессиональным софтом, включая Blender, GIMP и Audacity.
Fable 5.2 смогла успешно закрыть 41,3% реальных заказов с платформы Upwork с качеством, достаточным для сдачи клиенту. Это вдвое больше результатов Opus 5.5 и GPT 6 Astra, которые справились лишь с 21% задач, а предыдущая версия Fable 5.1 едва набирала 18%.
Наибольший прогресс Fable 5.2 показала в работе со звуком, архитектурном проектировании и 3D-моделировании.
Модель впервые в истории бенчмарка решила почти 50 сложных задач, которые ранее не давались ни одной системе.
Несмотря на очевидный успех, у Fable 5.2 есть проблемы - модель пасует перед промышленным дизайном и анимацией, выдавая битые исходники или откровенно любительский результат.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥73❤20👍15🤣8😁1💯1
17 ноября в 11:00 — интерактивный ивент «Агенты против выгорания: быстрая и безопасная разработка». Формат: 2 демо, 2 продукта и один сквозной сценарий, от анализа унаследованного кода до запуска агента внутри периметра компании.
Обзор экосистемы Астра ИИ: от инференс-платформы до приложения, без выхода во внешние облака.
ИИ-напарник разбирает legacy-код, находит узкие места и предлагает решения. Цель: сократить рутину на ревью и ускорить онбординг инженеров.
Пошаговая сборка рабочего агента из готовых блоков: RAG, интеграции, сценарии. Low-code, силами продуктовой команды, без отдельного ML-штата.
30 минут разбора сценариев участников и требований к закрытому контуру и КИИ.
🔗 Регистрация
Please open Telegram to view this post
VIEW IN TELEGRAM
👍15❤8🥱6🔥5😐1🤝1
Forwarded from Анализ данных (Data analysis)
🔥 Alibaba открыла ранний доступ к Qwen4-Max!
Новая флагманская модель Qwen4 появилась в Preview и получила улучшения в знаниях, понимании мира, программировании и работе с ИИ-агентами.
Где попробовать:
- Qwen Chat и Agent Mode.
- Alibaba Token Plan.
- QwenWork.
- Qoder.
- Qwen APP и QwenStudio.
Бенчмарков и независимых сравнений пока нет. Компания предлагает разработчикам протестировать модель на реальных задачах.
Qwen4-Max Preview: https://qwencloud.com/pricing/token-plan
@data_analysis_ml
Новая флагманская модель Qwen4 появилась в Preview и получила улучшения в знаниях, понимании мира, программировании и работе с ИИ-агентами.
Где попробовать:
- Qwen Chat и Agent Mode.
- Alibaba Token Plan.
- QwenWork.
- Qoder.
- Qwen APP и QwenStudio.
Бенчмарков и независимых сравнений пока нет. Компания предлагает разработчикам протестировать модель на реальных задачах.
Qwen4-Max Preview: https://qwencloud.com/pricing/token-plan
@data_analysis_ml
🔥60👍20❤9🌚2
Media is too big
VIEW IN TELEGRAM
Claude, Claude Code и API теперь работают только в 185 разрешённых странах и регионах, причём новая политика выходит за рамки проверки по местоположению.
Она запрещает пользоваться продуктами, находясь в неподдерживаемом регионе, даже в командировке, и закрывает доступ юридическим лицам из исключённых стран и их сотрудникам, откуда бы те ни выходили в сеть, а также любому бизнесу, который прямо или косвенно контролируется из таких регионов.
Перечень основан на внутренних стандартах Anthropic и не повторяет санкционные списки США. В него входят Ирак, Сомали, Палестина и Тайвань, тогда как материковый Китай, Гонконг и Россия в список не попали.
anthropic.com
Централизованный механизм отслеживает все процессы в исследовательской инфраструктуре компании и способен остановить генерацию за 35 секунд, если мониторинг фиксирует угрозу безопасности.
Блокировка встроена в движок инференса, который перед генерацией токенов обязан получить разрешение у Control Room, а для задачи, помеченной как опасная, получает отказ.
Архитектура при этом исключает работу без надзора, поскольку при сбое или злонамеренном отключении Control Room все системы прекращают обработку запросов до восстановления связи.
openai.com
Мультиагентная система Google DeepMind на модели Gemini Carbon математически доказала надёжность шифрования на уровне скомпилированного кода, который выполняется на устройствах пользователей.
Анализ занял четыре недели вместо нескольких лет ручной работы, поскольку специалисты только сформулировали спецификации безопасности, а система перевела их в шесть с лишним миллионов строк на Lean, сама проверила основную массу кода и передала людям 1% сложных участков.
Для проверки метода в изолированную сборку Signal вернули две уже исправленные ошибки, и AlphaProof Code обнаружил обе.
Артефакты верификации выложены в открытый доступ.
deepmind.google
На конференции CoRL компания анонсировала открытую модель GR00T 2 и обновлённую платформу Isaac Lab 3.0, которые позволяют обучать роботов тонким операциям, от стыковки шестерёнок до прокладки кабелей, в симуляции до переноса на реальные устройства.
GR00T 2 осваивает сложные движения по видеозаписям действий человека и переносит их на разных роботов, обходясь, как заявляет Nvidia, малым объёмом данных.
Isaac Lab 3.0 получила открытый физический движок Newton для моделирования деформируемых объектов и многосуставных кистей, а для оценки ловкости роботов компания с партнёрами запустила бенчмарки DexBench и VABAR.
nvidia.com
Интерфейс рассчитан на менеджеров, аналитиков и дизайнеров, поэтому из него убрали терминал, выбор веток Git, построчное сравнение изменений и экспорт в IDE.
Журналы и ход работы субагентов заменила строка прогресса, хотя сам агент сохраняет доступ к локальной файловой системе и серверам MCP. При первом запуске пользователь указывает специализацию, и макет, промпты и расширения настраиваются автоматически, а вернуться в режим Software Engineering можно без перезапуска.
Google объясняет обновление тем, что десятки тысяч людей используют Antigravity для аналитики, исследований и прототипирования.
antigravity.google
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍35❤15🔥7🤬5👌2🤣2🤔1
Обновления поступили. Поиск уже их учитывает?
Между изменением данных и ответом модели или рекомендательной системы остается инфраструктурная работа. На конференции HighLoad++ 2026 разберем обновление поискового индекса и эксплуатацию платформы инференса.
Александр Смолин, Яндекс, расскажет, как перевели обновление индекса HNSW на обработку в реальном времени, чтобы поиск релевантных объявлений работал со свежими данными.
Егор Андреев, Впрод, покажет путь от контейнера vLLM к платформе инференса: Kubernetes Operator, управление доступом и поведение системы при отказе управляющей части.
Подборка для инженеров ML-систем: свежесть данных в поиске и организация обслуживания запросов к моделям.
30 ноября и 1 декабря 2026, кампус СКОЛКОВО, Москва. Очно и онлайн.
Посмотреть программу
#реклама
О рекламодателе
Между изменением данных и ответом модели или рекомендательной системы остается инфраструктурная работа. На конференции HighLoad++ 2026 разберем обновление поискового индекса и эксплуатацию платформы инференса.
Александр Смолин, Яндекс, расскажет, как перевели обновление индекса HNSW на обработку в реальном времени, чтобы поиск релевантных объявлений работал со свежими данными.
Егор Андреев, Впрод, покажет путь от контейнера vLLM к платформе инференса: Kubernetes Operator, управление доступом и поведение системы при отказе управляющей части.
Подборка для инженеров ML-систем: свежесть данных в поиске и организация обслуживания запросов к моделям.
30 ноября и 1 декабря 2026, кампус СКОЛКОВО, Москва. Очно и онлайн.
Посмотреть программу
#реклама
О рекламодателе
👍8🤣8❤5🥱2🤷♀1🤬1