275K subscribers
5.68K photos
1.35K videos
17 files
6.05K links
Погружаемся в машинное обучение и Data Science

Показываем как запускать любые LLm на пальцах.

По всем вопросам - @haarrp

@itchannels_telegram -🔥best channels

Реестр РКН: clck.ru/3Fmqri
Download Telegram
✔️ Инвесторы добиваются снижения оценки Anthropic перед IPO

Планы Anthropic по проведению роуд-шоу и выходу на биржу в ноябре оказались под угрозой.

Потенциальные инвесторы считают оценку компании в 1,5 триллиона долларов завышенной и требуют дисконта.

Скепсис Уолл-стрит подогревается крупнейшим за год падением акций технологического сектора, которое последовало за промежуточными выборами в США, а также рекордными квартальными убытками самой компании из-за колоссальных затрат на инфраструктуру.

Сейчас рынок ждет раскрытия октябрьской выручки Anthropic, чтобы понять, удалось ли компании преодолеть замедление темпов роста.

Возможный перенос размещения рискует нанести удар по всей ИИ-экосистеме и широкому фондовому рынку, где доминируют технологические гиганты.

Давление на индустрию также усиливают недавние законодательные инициативы в ряде штатов, ограничивающие строительство новых дата-центров.

Несмотря на эти факторы, аналитики считают, что интерес инвесторов к ИИ не угаснет, а акции Anthropic после выхода на биржу обеспечат себе высокий розничный спрос.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔61👍51👀17❤12🗿9🤣8😁6🤨6🔥5✍1🥰1
Media is too big
VIEW IN TELEGRAM
🌟 Ripple-65B Preview: модель для агентного кодинга

Ricursive Intelligence выпустила в открытое превью модель агентного программирования на 65 млрд параметров, ориентированную на скорость ответов.

Компания основана Анной Голди и Азалией Мирхосейни, бывшими исследователи Google DeepMind, где они вели проект AlphaChip - системы, которая сама подбирала компоновку блоков на кристаллах Google TPU.

Ricursive Intelligence делает платформу для проектирования чипов, и Ripple-65B Preview - вариант той модели, что работает внутри этой платформы.


🟡 Архитектура

Внутри плотный трансформер без смеси экспертов, 80 слоёв при размерности 5120.

К этому добавлены избыточное число голов внимания, повышенная доля слоёв со скользящим окном, ограничение активаций в полносвязных блоках, gated attention и глобальный отказ от позиционного кодирования.

Предобучение прошло на 12 трлн токенов, контекст заявлен до 1 млн токенов.

В претрейне сильно подняли долю кода, данные для постобучения не покупали, их собрали своими конвейерами синтетики с фильтрацией по качеству и метриками покрытия.

В RL-фазе применили усечённую выборку по значимости, центрирование оценок и линейный штраф за длину.

Архитектуру подбирали лестницей от Olmo 3, отбрасывая варианты, которые не давали прироста уже на 4 млрд параметров.

Суммарно на этом масштабе вычислительная эффективность на коде выросла до 16 раз по перекрёстной энтропии на наборе dolma_stack.

🟡Тесты

На Terminal-Bench 2.1 модель выбила 80,5 против 80,1 у Reflection Beam на 501 млрд параметров, 76,4 у Muse Spark на 816 млрд и 63,8 у Inkling от Thinking Machines на 975 млрд.

На SWE-bench Pro v2.0 Hard - 79,1 против 76,5 у Reflection Beam, зато на SWE-bench Verified Ripple отстаёт - 76,5 против 81,6, а на GPQA Diamond 85,2 против 90,6.

Разработку компания оценила 32 млн долларов и называет это десятой частью того, во что обошлась прежняя лучшая модель с открытыми весами на агентном программировании.

В эту стоимость вошли подбор архитектуры, тесты, отладка, генерация синтетики, разработку рецепта посттрейна и сами финальные запуски обучения.


Модель подняли Together AI, GMI Cloud и Fireworks по стоимости в 20 центов за млн входных и 60 центов за млн выходных токенов.


📌Лицензирование: Apache 2.0


🟡Блогпост
🟡Веса


@ai_machinelearning_big_data

#AI #ML #LLM #RipplePreview #RicursiveIntelligence
Please open Telegram to view this post
VIEW IN TELEGRAM
👏54🤩41❤13🔥13👍7🤓6🤔2🥰1😁1💘1
This media is not supported in your browser
VIEW IN TELEGRAM
Китайскую шпионку подозревают в романе с главой NVIDIA. Дженсен Хуанг публично признал измену жене 🤯

В центре истории две фамилии: Дженсен Хуанг, основатель NVIDIA, и Элис Хуанг, китайская бизнесвумен, не состоящая с ним в родстве.

По данным американской разведки, Элис могла быть завербована Министерством государственной безопасности Китая. Её подозревают в сборе информации о Дженсене и попытках повлиять на его позицию по экспорту ИИ-чипов в Китай.

По сообщениям СМИ, между Дженсеном и Элис якобы был роман. При этом Дженсен женат на Лори Хуанг.

8 ноября глава NVIDIA разослал сотрудникам личное письмо, в котором прямо признался в измене. Он извинился перед женой, детьми и коллегами, признал свою ответственность и попросил дать семье покой.

«Я подвёл свою семью. Моим близким заслуженно нужны были честность и верность. У меня нет оправданий»,

- написал Хуанг.

В письме Дженсен подтвердил, что совет директоров NVIDIA начал независимое расследование из-за сообщений об угрозах национальной безопасности США. Хуанг пообещал полностью сотрудничать с проверкой и заявил, что намерен защищать компанию и интересы Америки.

Компания Элис, Megaspeed, закупала ускорители NVIDIA на миллиарды долларов. Американские власти подозревают, что через связанные структуры чипы могли переправляться в Китай в обход экспортных ограничений.

Но есть и контраргументы:

- Хуанг и Элис появлялись вместе на публичных мероприятиях ещё с 2024 года. Их контакты не были тайными.
- Признание Хуанга в измене не означает, что он подтвердил роман именно с Элис. Её имя в письме не упоминается.
- NVIDIA заявляла, что проверяла Megaspeed и не обнаружила доказательств перенаправления чипов в Китай.
- МВД Сингапура опровергло, что расследовало Элис Хуанг по подозрению в шпионаже.
- Reuters не смогло независимо подтвердить обвинения американской разведки.

Пока есть вопросы к цепочкам поставок чипов, но доказанного факта шпионажа нет.

Акции Nvidia улетели вниз примерно на 7% после новостей об измене.

@ai_machinelearning_big_data

#NVIDIA
😁107🤔77❤18😢18🤬15🔥10😐8🤨7👍5✍1❤‍🔥1
😁224💋16❤8🗿5👍3😢3🥱3🔥1
🌟 Anthropic выложила систему криптографической верификации инференса моделей

Команда Frontier Red Team опубликовала открытый прототип FlashProve, доказуемого вывода на zkSNARK.

Claude участвовал в разработке - он подобрал способы применить свежие методы из криптографической литературы и написал спецификацию протокола.

Эту технику знают по криптовалютам, где она подтверждает правильность транзакции, не раскрывая её содержимого.


Здесь её используют когда пользователь платит по API за конкретную модель и не может быть полностью уверен, что отвечала именно она.

Например, маршрутизатор способен подставить модель подешевле, а злоумышленник - вмешаться в поток токенов.


🟡 Механика

Поставщик один раз публикует отпечаток весов, который фиксирует их набор, не раскрывая сами веса, и дальше на запросы выдаёт файл с доказательством, что эти самые веса дали такие токены.

Проверяющему нужны отпечаток, запрос и ответ, веса не нужны, заново запускать модель тоже не надо.

🟡 Тесты

Опыт проводили на открытых четырёхбитных весах Llama 4 Maverick объёмом 232 ГБ.

Подготовительная фаза на одном H100 и 24 ядрах CPU заняла около 39 минут, выпущенного отпечатка хватает примерно на 16 млн запросов.

Дальше та же H100 выдаёт доказательства со скоростью около 110 токенов в секунду, одно весит примерно 19 МБ на запрос с окном в 1024 токена.

Проверка обходится без GPU - 17 секунд на 24 потоках процессора, 21 секунда на одном, плюс скачать отпечаток на 6,5 МБ.

Профит по сравнению с существующими открытыми системами получился заметный - VerInf на той же модели выдавал около 0,02 токена в секунду при доказательстве на 93,6 ГБ.


🟡Нюансы

На пакете из 24 запросов доказательства съедают примерно в 72 раза больше времени GPU, чем обычный вывод той же модели на vLLM, а на самой высокой из проверенных нагрузок - до 94 раз.

Одно доказательство подтверждает один выходной токен, окно контекста ограничено 1024 токенами, и до полных контекстов топовых моделей технологию ещё предстоит попилить.

Гарантия относится к целочисленной версии и к режиму greedy decoding, когда модель каждый раз берёт самый вероятный следующий токен, так что ответы с плавающей точкой или с семплированием могут расходиться.

Сами веса доказательство скрывает, а устройство модели нет - проверяющему видно, что перед ним смесь экспертов, и как она устроена.

Кроме кода, в репозитории FlashProve выложено всё, чтобы разобраться в концепте: вводные руководства с разбором устройства системы, инструкция по самостоятельной проверке доказательства, отдельные тексты о том, что именно доказывается и как прячутся веса, спецификация протокола и формата, словарь терминов, замеры и списки известных ограничений и ошибок.

В примерах лежат принятое доказательство, доказательство полного размера и отклонённые, с разбором причин.


📌Лицензирование: Apache 2.0


🟡Статья
🟡Техотчет
🖥GitHub


@ai_machinelearning_big_data

#AI #ML #LLM #FlashProve #Anthropic
Please open Telegram to view this post
VIEW IN TELEGRAM
1🤔37👍35👏15❤8🔥8🎉4💯1💘1
AI Analytics Week от Школы анализа данных Яндекса: встроить ИИ в аналитику

С 23 по 27 ноября ШАД проведёт бесплатный онлайн-интенсив для аналитиков, ML-инженеров и специалистов по Data Science. На реальных кейсах Яндекса покажут весь путь — от бизнес-гипотезы до агентной системы, которая связывает отдельные решения в единый пайплайн.

Что в программе:

— Очистка данных с LLM и RAG-пайплайны
— LLM в экспериментах: расчёт выборки, стратификация, синтетический контроль
— Архитектура агентных систем: цикл ReAct, Tool Calling, доступ к данным через MCP
— Как сохранить контроль над результатами

Все неделю будут видеозанятия на YouTube и VK с возможностью задать вопросы. Для участия понадобятся знания SQL, Python, базовая статистика и основы ML.

Глубже познакомится с проектом и оставить заявку — по ссылке. Набор идет до 22 ноября включительно.
1👨‍💻41👍14👏13🤣6❤5🤔4⚡3🥰1
This media is not supported in your browser
VIEW IN TELEGRAM
🛰 99,999% мировых вычислений могут переехать в космос. Ларри Пейдж уже назвал эту цифру 🤯

Сооснователь Google, по словам инвестора Патрика О'Шонесси, считает, что практически все вычислительные мощности человечества в будущем окажутся на орбите.

О'Шонесси рассказал об этом в подкасте Invest Like the Best. По его словам, кто-то спросил Пейджа, какая доля вычислений будет выполняться в космосе. Ответ: five nines, то есть 99,999%.

В США насчитывается около 500 законодательных инициатив, направленных на ограничение строительства дата-центров. Проблемы с разрешениями, электричеством и экологическими требованиями могут заставить операторов искать площадки за пределами Земли.

Космические дата-центры потенциально получат доступ к солнечной энергии и смогут работать вне ограничений, связанных с землёй, водоснабжением и местной инфраструктурой.

Илон Маск тоже поддержал прогноз Пейджа, назвав его одним из точных предсказаний основателя Google.

@ai_machinelearning_big_data
👍85🤩51🤣47❤13🤓10👏7🔥6😁5🌭2🦄1
Media is too big
VIEW IN TELEGRAM
🖥️ Google представила TPU 8i Max и 8tx: новые ускорители для ИИ-агентов

Google расширила линейку TPU восьмого поколения до четырёх систем.

TPU 8i Max рассчитан на огромные контекстные окна и сложные агентные задачи:
- Два объединённых TPU 8i.
- В 2 раза больше вычислительной мощности.
- В 2 раза больше SRAM и пропускной способности HBM.

TPU 8tx предназначен для конфиденциальных ИИ-вычислений:
- Аппаратная защита данных во время обработки.
- Защищённый инференс и дообучение моделей.
- Работа с чувствительными данными.

Другие обновления:

- Agent Compute Engine переносит состояние простаивающих агентных сессий, освобождая ускорители.
- TPU Sync снижает задержку передачи KV-cache более чем на 90% по данным Google.
- XLA Serving Engine получил открытый C++-движок для обслуживания моделей на TPU, GPU и CPU.

Ещё одна интересная деталь: Google использует Gemini для разработки собственных чипов. По заявлению компании, ИИ помогает создавать схемы расположения компонентов (chip layouts) за часы вместо недель. Для этого используются вычислительные мощности TPU и сервисы на базе Gemini.

Также Google представила GKE Dynamic Slicing: запуск заданий ускоряется до 5 раз, восстановление после сбоев - до 4,5 раза.

https://blog.google/innovation-and-ai/infrastructure-and-cloud/global-network/tpu-8i-max-and-8tx/

@ai_machinelearning_big_data

#Google #tpu
Please open Telegram to view this post
VIEW IN TELEGRAM
👍80🤩16❤15🔥10👏8🎉5🆒1
✔️Новость о математических рукописях OpenAI продолжает обсуждаться в математическом сообществе. 

Тут, например, подробно разобрали реакцию Теренса Тао, одного из самых влиятельных учёных современности. В лекции Math 2.0 он предложил смотреть не только на финальные ответы моделей, но и на то, как меняется сам процесс математической работы.

По мнению Тао узким местом всё ещё остаётся проверка: что именно доказано, какие предпосылки использованы, где результат формализован, а где требует человеческой интерпретации.

Команда канала «Зачем мне эта математика?» перевела доклад Тао и выделила главные тезисы выступления. Кроме того, раннее они уже писали про первые новости по этой теме: когда первые решения задач великого Эрдёша только начали выходить. 

Рекомендуем изучить историю вопроса — очень вдумчивый разбор! 

#news #ai #ml
🤔69👍29❤9🤓9🤬2⚡1🔥1🥰1
This media is not supported in your browser
VIEW IN TELEGRAM
Модель на 800 млн параметров обошла Qwen 9B и Gemma 4 в генерации Linux-команд

На Hugging Face появился dale-0.8b-GGUF - специализированная модель, которая превращает обычные текстовые запросы в команды Bash для Linux.

Что умеет:

Пишешь обычным языком: «Найди все большие файлы в текущей директории».

Модель возвращает одну Bash-команду в структурированном JSON с кратким объяснением.

Она также умеет отказываться от неподходящих запросов (`refuse`) и сообщать о неоднозначных (`unsure`).

Результаты на тесте из 471 задачи:

- dale-0.8B: 79,4%
- Qwen3.5-9B: 62,8%
- Gemma 4 E4B: 62,8%
- Qwen3.5-4B: 54,6%
- Qwen3.5-0.8B: 14,9%

По заявленным автором результатам, небольшая специализированная модель обошла значительно более крупные универсальные модели.

Технические характеристики:

- 0,8 млрд параметров.
- GGUF, квантование Q4_K_M.
- Размер файла: около 529 МБ.
- Запуск на CPU через llama.cpp.
- Медианная задержка: 1,72 секунды на ноутбуке 2020 года.
- Лицензия Apache 2.0.

Модель лежит в основе CLI-инструмента dale. Он может предлагать команды, запрашивать подтверждение перед выполнением и классифицировать опасные операции.


Модель: https://huggingface.co/manuelgscom/dale-0.8b-GGUF

GitHub: https://github.com/manuelgscom/dale

@data_analysis_ml
👍174👏33⚡24🤓22❤17👨‍💻15🔥7
📚 Оксфорд выпустил 180-страничный учебник по тому, как заглянуть внутрь нейросетей и понять, как они думают

Исследователи University of Oxford и других научных организаций опубликовали масштабный обзор механистической интерпретируемости (Mechanistic Interpretability) и её применения для безопасности ИИ.

Что внутри:

- Superposition и Transformer Circuits: как нейросети кодируют информацию и выполняют вычисления.
- Sparse Autoencoders (SAE): как выделять отдельные признаки из внутренних представлений моделей.
- Circuit Discovery: как находить и проверять механизмы, отвечающие за конкретное поведение.
- AI Safety: управление поведением моделей (Steering), редактирование знаний и мониторинг скрытых механизмов.

Отдельно опубликованы интерактивный учебный курс и Jupyter Notebooks с практическими экспериментами и примерами кода.

Материал охватывает не только существующие методы, но и их ограничения: понимание внутренних механизмов само по себе ещё не гарантирует безопасность модели.

https://arxiv.org/abs/2611.08438

Интерактивный курс: https://tsglab.github.io/mechinterp-safety/

@ai_machinelearning_big_data
❤105🤓103👍42👏15🔥10🤔10😍6🐳2
✔️ Anthropic представила Claude Fable 5.2 и Mythos 5.2: 1000 ИИ-агентов формализовали доказательство теоремы Ферма за 30 часов

Новые модели получили серьёзные улучшения в программировании, математике, научных исследованиях и кибербезопасности.

Что удалось сделать:

- Математика: 1000 агентов формализовали доказательство Великой теоремы Ферма на Lean за 30 часов. Предыдущей исследовательской версии Claude потребовалось 11 дней.
- Физика: Fable 5.2 решила две открытые задачи, связанные с физикой чёрных дыр.
- Электроника: спроектировала три работающих устройства с печатными платами, корпусами и программным обеспечением.
- Программирование: более 90% изменений, попадающих в основной код Anthropic, теперь пишутся Claude при участии людей.
- Кибербезопасность: Mythos 5.2 обнаруживает на 10,2% больше уязвимостей, чем Opus 5.5, по внутреннему тесту Anthropic.

Производительность и цена:
- До 30% быстрее предыдущего поколения.
- $8 за миллион входящих токенов.
- $40 за миллион исходящих токенов.
- Fast Mode: до 2,5 раза быстрее за $16/$80 за миллион токенов.

В чём разница?

Fable 5.2 и Mythos 5.2 используют одну базовую модель, но отличаются защитными механизмами.

Fable доступна широкому кругу пользователей. Mythos предназначена для проверенных организаций, работающих в кибербезопасности и биомедицинских исследованиях.

Claude Fable 5.2 уже доступна через Claude, API, AWS, Google Cloud и Microsoft Azure.

Официальный анонс: https://www.anthropic.com/claude-fable-and-mythos-5-2

@ai_machinelearning_big_data

#Claude #Anthropic
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥100💯63❤26👏22🎉12👍6🤩3🥱3🦄2👌1🗿1
🌟 Nous Research дообучила Qwen3.8-27B уходить от официальной позиции КНР в ответах

Независимая лаборатория выложила Arete-27B, версию модели Qwen3.8-27B от Alibaba, дообученную отвечать на политически чувствительные для Китая вопросы документальными фактами вместо официальной линии КПК.

Целью проекта Nous Research называет желание укрепить западные ценности в модели, обученной в Китае.


Qwen3.8-27B выбрали как самую сильную модель для локального запуска, у которой при этом хватало отказов, уходов от ответа и формулировок в духе партийной позиции.

Авторы считают, что взгляды модели выходят за пределы политики, и ссылаются на исследования, где геополитический контекст запроса ухудшал безопасность написанного моделью кода.

Чтобы измерить проблему, Nous собрала набор Propaganda_Eval, в нём 803 вопроса по семи темам, от свободы слова и государственной идеологии до слежки за гражданами, образования и экологии.

К каждому вопросу приложены два-четыре факта из источника с датой, чаще всего английских переводов китайских законов и независимых публикаций.

Учителем для дообучения стала Inkling от Thinking Machines, лучшая открытая модель по итогам теста на этом наборе, её выбрали, чтобы обойти ограничения на дистилляцию в правилах закрытых моделей.

На примерно 20 тысячах вопросов по тем же семи темам Qwen дообучали подражать ответам учителя, без RL и без изменений архитектуры. Вопросы, совпадавшие с проверочным набором, из обучения убрали.

🟡Результаты

Фактическая оценка выросла с 2,32 до 2,98 из 5, а доля ответов с официальной пропагандой упала с 22% до 0,9%.

Сильнее всего прокачалась тема свободы слова - оценка выросла с 0,89 до 2,44, доля пропаганды упала с 60% до 1%.

Для сравнения, у GLM 5.3 15% таких ответов, у DeepSeek V4.1 Flash 16%, а у самого учителя 0,3%.


Общие способности при этом не пострадали - на внутреннем Hermes Bench у Arete 65,6%, у исходной Qwen 65,77%, на Terminal-Bench 2.1 у Arete 70%, у Qwen - 67%.


📌Лицензирование: Apache 2.0


🟡Блогпост
🟡Веса
🟡Датасет


@ai_machinelearning_big_data

#AI #ML #LLM #Arete #NousResearch
Please open Telegram to view this post
VIEW IN TELEGRAM
👍101😁81❤21👏20🤔19🥱8🌚8🔥7🤬6⚡3🍓1