Планы Anthropic по проведению роуд-шоу и выходу на биржу в ноябре оказались под угрозой.
Потенциальные инвесторы считают оценку компании в 1,5 триллиона долларов завышенной и требуют дисконта.
Скепсис Уолл-стрит подогревается крупнейшим за год падением акций технологического сектора, которое последовало за промежуточными выборами в США, а также рекордными квартальными убытками самой компании из-за колоссальных затрат на инфраструктуру.
Сейчас рынок ждет раскрытия октябрьской выручки Anthropic, чтобы понять, удалось ли компании преодолеть замедление темпов роста.
Возможный перенос размещения рискует нанести удар по всей ИИ-экосистеме и широкому фондовому рынку, где доминируют технологические гиганты.
Давление на индустрию также усиливают недавние законодательные инициативы в ряде штатов, ограничивающие строительство новых дата-центров.
Несмотря на эти факторы, аналитики считают, что интерес инвесторов к ИИ не угаснет, а акции Anthropic после выхода на биржу обеспечат себе высокий розничный спрос.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔61👍51👀17❤12🗿9🤣8😁6🤨6🔥5✍1🥰1
Media is too big
VIEW IN TELEGRAM
Ricursive Intelligence выпустила в открытое превью модель агентного программирования на 65 млрд параметров, ориентированную на скорость ответов.
Компания основана Анной Голди и Азалией Мирхосейни, бывшими исследователи Google DeepMind, где они вели проект AlphaChip - системы, которая сама подбирала компоновку блоков на кристаллах Google TPU.
Ricursive Intelligence делает платформу для проектирования чипов, и Ripple-65B Preview - вариант той модели, что работает внутри этой платформы.
Внутри плотный трансформер без смеси экспертов, 80 слоёв при размерности 5120.
К этому добавлены избыточное число голов внимания, повышенная доля слоёв со скользящим окном, ограничение активаций в полносвязных блоках, gated attention и глобальный отказ от позиционного кодирования.
Предобучение прошло на 12 трлн токенов, контекст заявлен до 1 млн токенов.
В претрейне сильно подняли долю кода, данные для постобучения не покупали, их собрали своими конвейерами синтетики с фильтрацией по качеству и метриками покрытия.
В RL-фазе применили усечённую выборку по значимости, центрирование оценок и линейный штраф за длину.
Архитектуру подбирали лестницей от Olmo 3, отбрасывая варианты, которые не давали прироста уже на 4 млрд параметров.
Суммарно на этом масштабе вычислительная эффективность на коде выросла до 16 раз по перекрёстной энтропии на наборе
dolma_stack.На Terminal-Bench 2.1 модель выбила 80,5 против 80,1 у Reflection Beam на 501 млрд параметров, 76,4 у Muse Spark на 816 млрд и 63,8 у Inkling от Thinking Machines на 975 млрд.
На SWE-bench Pro v2.0 Hard - 79,1 против 76,5 у Reflection Beam, зато на SWE-bench Verified Ripple отстаёт - 76,5 против 81,6, а на GPQA Diamond 85,2 против 90,6.
Разработку компания оценила 32 млн долларов и называет это десятой частью того, во что обошлась прежняя лучшая модель с открытыми весами на агентном программировании.
В эту стоимость вошли подбор архитектуры, тесты, отладка, генерация синтетики, разработку рецепта посттрейна и сами финальные запуски обучения.
Модель подняли Together AI, GMI Cloud и Fireworks по стоимости в 20 центов за млн входных и 60 центов за млн выходных токенов.
@ai_machinelearning_big_data
#AI #ML #LLM #RipplePreview #RicursiveIntelligence
Please open Telegram to view this post
VIEW IN TELEGRAM
👏54🤩41❤13🔥13👍7🤓6🤔2🥰1😁1💘1
This media is not supported in your browser
VIEW IN TELEGRAM
Китайскую шпионку подозревают в романе с главой NVIDIA. Дженсен Хуанг публично признал измену жене 🤯
В центре истории две фамилии: Дженсен Хуанг, основатель NVIDIA, и Элис Хуанг, китайская бизнесвумен, не состоящая с ним в родстве.
По данным американской разведки, Элис могла быть завербована Министерством государственной безопасности Китая. Её подозревают в сборе информации о Дженсене и попытках повлиять на его позицию по экспорту ИИ-чипов в Китай.
По сообщениям СМИ, между Дженсеном и Элис якобы был роман. При этом Дженсен женат на Лори Хуанг.
8 ноября глава NVIDIA разослал сотрудникам личное письмо, в котором прямо признался в измене. Он извинился перед женой, детьми и коллегами, признал свою ответственность и попросил дать семье покой.
- написал Хуанг.
В письме Дженсен подтвердил, что совет директоров NVIDIA начал независимое расследование из-за сообщений об угрозах национальной безопасности США. Хуанг пообещал полностью сотрудничать с проверкой и заявил, что намерен защищать компанию и интересы Америки.
Компания Элис, Megaspeed, закупала ускорители NVIDIA на миллиарды долларов. Американские власти подозревают, что через связанные структуры чипы могли переправляться в Китай в обход экспортных ограничений.
Но есть и контраргументы:
- Хуанг и Элис появлялись вместе на публичных мероприятиях ещё с 2024 года. Их контакты не были тайными.
- Признание Хуанга в измене не означает, что он подтвердил роман именно с Элис. Её имя в письме не упоминается.
- NVIDIA заявляла, что проверяла Megaspeed и не обнаружила доказательств перенаправления чипов в Китай.
- МВД Сингапура опровергло, что расследовало Элис Хуанг по подозрению в шпионаже.
- Reuters не смогло независимо подтвердить обвинения американской разведки.
Пока есть вопросы к цепочкам поставок чипов, но доказанного факта шпионажа нет.
Акции Nvidia улетели вниз примерно на 7% после новостей об измене.
@ai_machinelearning_big_data
#NVIDIA
В центре истории две фамилии: Дженсен Хуанг, основатель NVIDIA, и Элис Хуанг, китайская бизнесвумен, не состоящая с ним в родстве.
По данным американской разведки, Элис могла быть завербована Министерством государственной безопасности Китая. Её подозревают в сборе информации о Дженсене и попытках повлиять на его позицию по экспорту ИИ-чипов в Китай.
По сообщениям СМИ, между Дженсеном и Элис якобы был роман. При этом Дженсен женат на Лори Хуанг.
8 ноября глава NVIDIA разослал сотрудникам личное письмо, в котором прямо признался в измене. Он извинился перед женой, детьми и коллегами, признал свою ответственность и попросил дать семье покой.
«Я подвёл свою семью. Моим близким заслуженно нужны были честность и верность. У меня нет оправданий»,
- написал Хуанг.
В письме Дженсен подтвердил, что совет директоров NVIDIA начал независимое расследование из-за сообщений об угрозах национальной безопасности США. Хуанг пообещал полностью сотрудничать с проверкой и заявил, что намерен защищать компанию и интересы Америки.
Компания Элис, Megaspeed, закупала ускорители NVIDIA на миллиарды долларов. Американские власти подозревают, что через связанные структуры чипы могли переправляться в Китай в обход экспортных ограничений.
Но есть и контраргументы:
- Хуанг и Элис появлялись вместе на публичных мероприятиях ещё с 2024 года. Их контакты не были тайными.
- Признание Хуанга в измене не означает, что он подтвердил роман именно с Элис. Её имя в письме не упоминается.
- NVIDIA заявляла, что проверяла Megaspeed и не обнаружила доказательств перенаправления чипов в Китай.
- МВД Сингапура опровергло, что расследовало Элис Хуанг по подозрению в шпионаже.
- Reuters не смогло независимо подтвердить обвинения американской разведки.
Пока есть вопросы к цепочкам поставок чипов, но доказанного факта шпионажа нет.
Акции Nvidia улетели вниз примерно на 7% после новостей об измене.
@ai_machinelearning_big_data
#NVIDIA
😁107🤔77❤18😢18🤬15🔥10😐8🤨7👍5✍1❤🔥1
Команда Frontier Red Team опубликовала открытый прототип FlashProve, доказуемого вывода на zkSNARK.
Claude участвовал в разработке - он подобрал способы применить свежие методы из криптографической литературы и написал спецификацию протокола.
Эту технику знают по криптовалютам, где она подтверждает правильность транзакции, не раскрывая её содержимого.
Здесь её используют когда пользователь платит по API за конкретную модель и не может быть полностью уверен, что отвечала именно она.
Например, маршрутизатор способен подставить модель подешевле, а злоумышленник - вмешаться в поток токенов.
Поставщик один раз публикует отпечаток весов, который фиксирует их набор, не раскрывая сами веса, и дальше на запросы выдаёт файл с доказательством, что эти самые веса дали такие токены.
Проверяющему нужны отпечаток, запрос и ответ, веса не нужны, заново запускать модель тоже не надо.
Опыт проводили на открытых четырёхбитных весах Llama 4 Maverick объёмом 232 ГБ.
Подготовительная фаза на одном H100 и 24 ядрах CPU заняла около 39 минут, выпущенного отпечатка хватает примерно на 16 млн запросов.
Дальше та же H100 выдаёт доказательства со скоростью около 110 токенов в секунду, одно весит примерно 19 МБ на запрос с окном в 1024 токена.
Проверка обходится без GPU - 17 секунд на 24 потоках процессора, 21 секунда на одном, плюс скачать отпечаток на 6,5 МБ.
Профит по сравнению с существующими открытыми системами получился заметный - VerInf на той же модели выдавал около 0,02 токена в секунду при доказательстве на 93,6 ГБ.
На пакете из 24 запросов доказательства съедают примерно в 72 раза больше времени GPU, чем обычный вывод той же модели на vLLM, а на самой высокой из проверенных нагрузок - до 94 раз.
Одно доказательство подтверждает один выходной токен, окно контекста ограничено 1024 токенами, и до полных контекстов топовых моделей технологию ещё предстоит попилить.
Гарантия относится к целочисленной версии и к режиму greedy decoding, когда модель каждый раз берёт самый вероятный следующий токен, так что ответы с плавающей точкой или с семплированием могут расходиться.
Сами веса доказательство скрывает, а устройство модели нет - проверяющему видно, что перед ним смесь экспертов, и как она устроена.
Кроме кода, в репозитории FlashProve выложено всё, чтобы разобраться в концепте: вводные руководства с разбором устройства системы, инструкция по самостоятельной проверке доказательства, отдельные тексты о том, что именно доказывается и как прячутся веса, спецификация протокола и формата, словарь терминов, замеры и списки известных ограничений и ошибок.
В примерах лежат принятое доказательство, доказательство полного размера и отклонённые, с разбором причин.
@ai_machinelearning_big_data
#AI #ML #LLM #FlashProve #Anthropic
Please open Telegram to view this post
VIEW IN TELEGRAM
1🤔37👍35👏15❤8🔥8🎉4💯1💘1
AI Analytics Week от Школы анализа данных Яндекса: встроить ИИ в аналитику
С 23 по 27 ноября ШАД проведёт бесплатный онлайн-интенсив для аналитиков, ML-инженеров и специалистов по Data Science. На реальных кейсах Яндекса покажут весь путь — от бизнес-гипотезы до агентной системы, которая связывает отдельные решения в единый пайплайн.
Что в программе:
— Очистка данных с LLM и RAG-пайплайны
— LLM в экспериментах: расчёт выборки, стратификация, синтетический контроль
— Архитектура агентных систем: цикл ReAct, Tool Calling, доступ к данным через MCP
— Как сохранить контроль над результатами
Все неделю будут видеозанятия на YouTube и VK с возможностью задать вопросы. Для участия понадобятся знания SQL, Python, базовая статистика и основы ML.
Глубже познакомится с проектом и оставить заявку — по ссылке. Набор идет до 22 ноября включительно.
С 23 по 27 ноября ШАД проведёт бесплатный онлайн-интенсив для аналитиков, ML-инженеров и специалистов по Data Science. На реальных кейсах Яндекса покажут весь путь — от бизнес-гипотезы до агентной системы, которая связывает отдельные решения в единый пайплайн.
Что в программе:
— Очистка данных с LLM и RAG-пайплайны
— LLM в экспериментах: расчёт выборки, стратификация, синтетический контроль
— Архитектура агентных систем: цикл ReAct, Tool Calling, доступ к данным через MCP
— Как сохранить контроль над результатами
Все неделю будут видеозанятия на YouTube и VK с возможностью задать вопросы. Для участия понадобятся знания SQL, Python, базовая статистика и основы ML.
Глубже познакомится с проектом и оставить заявку — по ссылке. Набор идет до 22 ноября включительно.
1👨💻41👍14👏13🤣6❤5🤔4⚡3🥰1
This media is not supported in your browser
VIEW IN TELEGRAM
🛰 99,999% мировых вычислений могут переехать в космос. Ларри Пейдж уже назвал эту цифру 🤯
Сооснователь Google, по словам инвестора Патрика О'Шонесси, считает, что практически все вычислительные мощности человечества в будущем окажутся на орбите.
О'Шонесси рассказал об этом в подкасте Invest Like the Best. По его словам, кто-то спросил Пейджа, какая доля вычислений будет выполняться в космосе. Ответ: five nines, то есть 99,999%.
В США насчитывается около 500 законодательных инициатив, направленных на ограничение строительства дата-центров. Проблемы с разрешениями, электричеством и экологическими требованиями могут заставить операторов искать площадки за пределами Земли.
Космические дата-центры потенциально получат доступ к солнечной энергии и смогут работать вне ограничений, связанных с землёй, водоснабжением и местной инфраструктурой.
Илон Маск тоже поддержал прогноз Пейджа, назвав его одним из точных предсказаний основателя Google.
@ai_machinelearning_big_data
Сооснователь Google, по словам инвестора Патрика О'Шонесси, считает, что практически все вычислительные мощности человечества в будущем окажутся на орбите.
О'Шонесси рассказал об этом в подкасте Invest Like the Best. По его словам, кто-то спросил Пейджа, какая доля вычислений будет выполняться в космосе. Ответ: five nines, то есть 99,999%.
В США насчитывается около 500 законодательных инициатив, направленных на ограничение строительства дата-центров. Проблемы с разрешениями, электричеством и экологическими требованиями могут заставить операторов искать площадки за пределами Земли.
Космические дата-центры потенциально получат доступ к солнечной энергии и смогут работать вне ограничений, связанных с землёй, водоснабжением и местной инфраструктурой.
Илон Маск тоже поддержал прогноз Пейджа, назвав его одним из точных предсказаний основателя Google.
@ai_machinelearning_big_data
👍85🤩51🤣47❤13🤓10👏7🔥6😁5🌭2🦄1
Media is too big
VIEW IN TELEGRAM
Google расширила линейку TPU восьмого поколения до четырёх систем.
TPU 8i Max рассчитан на огромные контекстные окна и сложные агентные задачи:
- Два объединённых TPU 8i.
- В 2 раза больше вычислительной мощности.
- В 2 раза больше SRAM и пропускной способности HBM.
TPU 8tx предназначен для конфиденциальных ИИ-вычислений:
- Аппаратная защита данных во время обработки.
- Защищённый инференс и дообучение моделей.
- Работа с чувствительными данными.
Другие обновления:
- Agent Compute Engine переносит состояние простаивающих агентных сессий, освобождая ускорители.
- TPU Sync снижает задержку передачи KV-cache более чем на 90% по данным Google.
- XLA Serving Engine получил открытый C++-движок для обслуживания моделей на TPU, GPU и CPU.
Ещё одна интересная деталь: Google использует Gemini для разработки собственных чипов. По заявлению компании, ИИ помогает создавать схемы расположения компонентов (chip layouts) за часы вместо недель. Для этого используются вычислительные мощности TPU и сервисы на базе Gemini.
Также Google представила GKE Dynamic Slicing: запуск заданий ускоряется до 5 раз, восстановление после сбоев - до 4,5 раза.
https://blog.google/innovation-and-ai/infrastructure-and-cloud/global-network/tpu-8i-max-and-8tx/
@ai_machinelearning_big_data
#Google #tpu
Please open Telegram to view this post
VIEW IN TELEGRAM
👍80🤩16❤15🔥10👏8🎉5🆒1
✔️Новость о математических рукописях OpenAI продолжает обсуждаться в математическом сообществе.
Тут, например, подробно разобрали реакцию Теренса Тао, одного из самых влиятельных учёных современности. В лекции Math 2.0 он предложил смотреть не только на финальные ответы моделей, но и на то, как меняется сам процесс математической работы.
По мнению Тао узким местом всё ещё остаётся проверка: что именно доказано, какие предпосылки использованы, где результат формализован, а где требует человеческой интерпретации.
Команда канала «Зачем мне эта математика?» перевела доклад Тао и выделила главные тезисы выступления. Кроме того, раннее они уже писали про первые новости по этой теме: когда первые решения задач великого Эрдёша только начали выходить.
Рекомендуем изучить историю вопроса — очень вдумчивый разбор!
#news #ai #ml
Тут, например, подробно разобрали реакцию Теренса Тао, одного из самых влиятельных учёных современности. В лекции Math 2.0 он предложил смотреть не только на финальные ответы моделей, но и на то, как меняется сам процесс математической работы.
По мнению Тао узким местом всё ещё остаётся проверка: что именно доказано, какие предпосылки использованы, где результат формализован, а где требует человеческой интерпретации.
Команда канала «Зачем мне эта математика?» перевела доклад Тао и выделила главные тезисы выступления. Кроме того, раннее они уже писали про первые новости по этой теме: когда первые решения задач великого Эрдёша только начали выходить.
Рекомендуем изучить историю вопроса — очень вдумчивый разбор!
#news #ai #ml
🤔69👍29❤9🤓9🤬2⚡1🔥1🥰1
Forwarded from Анализ данных (Data analysis)
This media is not supported in your browser
VIEW IN TELEGRAM
Модель на 800 млн параметров обошла Qwen 9B и Gemma 4 в генерации Linux-команд
На Hugging Face появился
Что умеет:
Пишешь обычным языком: «Найди все большие файлы в текущей директории».
Модель возвращает одну Bash-команду в структурированном JSON с кратким объяснением.
Она также умеет отказываться от неподходящих запросов (`refuse`) и сообщать о неоднозначных (`unsure`).
Результаты на тесте из 471 задачи:
- dale-0.8B: 79,4%
- Qwen3.5-9B: 62,8%
- Gemma 4 E4B: 62,8%
- Qwen3.5-4B: 54,6%
- Qwen3.5-0.8B: 14,9%
По заявленным автором результатам, небольшая специализированная модель обошла значительно более крупные универсальные модели.
Технические характеристики:
- 0,8 млрд параметров.
- GGUF, квантование Q4_K_M.
- Размер файла: около 529 МБ.
- Запуск на CPU через llama.cpp.
- Медианная задержка: 1,72 секунды на ноутбуке 2020 года.
- Лицензия Apache 2.0.
Модель лежит в основе CLI-инструмента
Модель: https://huggingface.co/manuelgscom/dale-0.8b-GGUF
GitHub: https://github.com/manuelgscom/dale
@data_analysis_ml
На Hugging Face появился
dale-0.8b-GGUF - специализированная модель, которая превращает обычные текстовые запросы в команды Bash для Linux.Что умеет:
Пишешь обычным языком: «Найди все большие файлы в текущей директории».
Модель возвращает одну Bash-команду в структурированном JSON с кратким объяснением.
Она также умеет отказываться от неподходящих запросов (`refuse`) и сообщать о неоднозначных (`unsure`).
Результаты на тесте из 471 задачи:
- dale-0.8B: 79,4%
- Qwen3.5-9B: 62,8%
- Gemma 4 E4B: 62,8%
- Qwen3.5-4B: 54,6%
- Qwen3.5-0.8B: 14,9%
По заявленным автором результатам, небольшая специализированная модель обошла значительно более крупные универсальные модели.
Технические характеристики:
- 0,8 млрд параметров.
- GGUF, квантование Q4_K_M.
- Размер файла: около 529 МБ.
- Запуск на CPU через llama.cpp.
- Медианная задержка: 1,72 секунды на ноутбуке 2020 года.
- Лицензия Apache 2.0.
Модель лежит в основе CLI-инструмента
dale. Он может предлагать команды, запрашивать подтверждение перед выполнением и классифицировать опасные операции.Модель: https://huggingface.co/manuelgscom/dale-0.8b-GGUF
GitHub: https://github.com/manuelgscom/dale
@data_analysis_ml
👍174👏33⚡24🤓22❤17👨💻15🔥7
📚 Оксфорд выпустил 180-страничный учебник по тому, как заглянуть внутрь нейросетей и понять, как они думают
Исследователи University of Oxford и других научных организаций опубликовали масштабный обзор механистической интерпретируемости (Mechanistic Interpretability) и её применения для безопасности ИИ.
Что внутри:
- Superposition и Transformer Circuits: как нейросети кодируют информацию и выполняют вычисления.
- Sparse Autoencoders (SAE): как выделять отдельные признаки из внутренних представлений моделей.
- Circuit Discovery: как находить и проверять механизмы, отвечающие за конкретное поведение.
- AI Safety: управление поведением моделей (Steering), редактирование знаний и мониторинг скрытых механизмов.
Отдельно опубликованы интерактивный учебный курс и Jupyter Notebooks с практическими экспериментами и примерами кода.
Материал охватывает не только существующие методы, но и их ограничения: понимание внутренних механизмов само по себе ещё не гарантирует безопасность модели.
https://arxiv.org/abs/2611.08438
Интерактивный курс: https://tsglab.github.io/mechinterp-safety/
@ai_machinelearning_big_data
Исследователи University of Oxford и других научных организаций опубликовали масштабный обзор механистической интерпретируемости (Mechanistic Interpretability) и её применения для безопасности ИИ.
Что внутри:
- Superposition и Transformer Circuits: как нейросети кодируют информацию и выполняют вычисления.
- Sparse Autoencoders (SAE): как выделять отдельные признаки из внутренних представлений моделей.
- Circuit Discovery: как находить и проверять механизмы, отвечающие за конкретное поведение.
- AI Safety: управление поведением моделей (Steering), редактирование знаний и мониторинг скрытых механизмов.
Отдельно опубликованы интерактивный учебный курс и Jupyter Notebooks с практическими экспериментами и примерами кода.
Материал охватывает не только существующие методы, но и их ограничения: понимание внутренних механизмов само по себе ещё не гарантирует безопасность модели.
https://arxiv.org/abs/2611.08438
Интерактивный курс: https://tsglab.github.io/mechinterp-safety/
@ai_machinelearning_big_data
❤105🤓103👍42👏15🔥10🤔10😍6🐳2
Новые модели получили серьёзные улучшения в программировании, математике, научных исследованиях и кибербезопасности.
Что удалось сделать:
- Математика: 1000 агентов формализовали доказательство Великой теоремы Ферма на Lean за 30 часов. Предыдущей исследовательской версии Claude потребовалось 11 дней.
- Физика: Fable 5.2 решила две открытые задачи, связанные с физикой чёрных дыр.
- Электроника: спроектировала три работающих устройства с печатными платами, корпусами и программным обеспечением.
- Программирование: более 90% изменений, попадающих в основной код Anthropic, теперь пишутся Claude при участии людей.
- Кибербезопасность: Mythos 5.2 обнаруживает на 10,2% больше уязвимостей, чем Opus 5.5, по внутреннему тесту Anthropic.
Производительность и цена:
- До 30% быстрее предыдущего поколения.
- $8 за миллион входящих токенов.
- $40 за миллион исходящих токенов.
- Fast Mode: до 2,5 раза быстрее за $16/$80 за миллион токенов.
В чём разница?
Fable 5.2 и Mythos 5.2 используют одну базовую модель, но отличаются защитными механизмами.
Fable доступна широкому кругу пользователей. Mythos предназначена для проверенных организаций, работающих в кибербезопасности и биомедицинских исследованиях.
Claude Fable 5.2 уже доступна через Claude, API, AWS, Google Cloud и Microsoft Azure.
Официальный анонс: https://www.anthropic.com/claude-fable-and-mythos-5-2
@ai_machinelearning_big_data
#Claude #Anthropic
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥100💯63❤26👏22🎉12👍6🤩3🥱3🦄2👌1🗿1
Независимая лаборатория выложила Arete-27B, версию модели Qwen3.8-27B от Alibaba, дообученную отвечать на политически чувствительные для Китая вопросы документальными фактами вместо официальной линии КПК.
Целью проекта Nous Research называет желание укрепить западные ценности в модели, обученной в Китае.
Qwen3.8-27B выбрали как самую сильную модель для локального запуска, у которой при этом хватало отказов, уходов от ответа и формулировок в духе партийной позиции.
Авторы считают, что взгляды модели выходят за пределы политики, и ссылаются на исследования, где геополитический контекст запроса ухудшал безопасность написанного моделью кода.
Чтобы измерить проблему, Nous собрала набор Propaganda_Eval, в нём 803 вопроса по семи темам, от свободы слова и государственной идеологии до слежки за гражданами, образования и экологии.
К каждому вопросу приложены два-четыре факта из источника с датой, чаще всего английских переводов китайских законов и независимых публикаций.
Учителем для дообучения стала Inkling от Thinking Machines, лучшая открытая модель по итогам теста на этом наборе, её выбрали, чтобы обойти ограничения на дистилляцию в правилах закрытых моделей.
На примерно 20 тысячах вопросов по тем же семи темам Qwen дообучали подражать ответам учителя, без RL и без изменений архитектуры. Вопросы, совпадавшие с проверочным набором, из обучения убрали.
Фактическая оценка выросла с 2,32 до 2,98 из 5, а доля ответов с официальной пропагандой упала с 22% до 0,9%.
Сильнее всего прокачалась тема свободы слова - оценка выросла с 0,89 до 2,44, доля пропаганды упала с 60% до 1%.
Для сравнения, у GLM 5.3 15% таких ответов, у DeepSeek V4.1 Flash 16%, а у самого учителя 0,3%.
Общие способности при этом не пострадали - на внутреннем Hermes Bench у Arete 65,6%, у исходной Qwen 65,77%, на Terminal-Bench 2.1 у Arete 70%, у Qwen - 67%.
@ai_machinelearning_big_data
#AI #ML #LLM #Arete #NousResearch
Please open Telegram to view this post
VIEW IN TELEGRAM
👍101😁81❤21👏20🤔19🥱8🌚8🔥7🤬6⚡3🍓1