✔️ Инвесторы добиваются снижения оценки Anthropic перед IPO

Планы Anthropic по проведению роуд-шоу и выходу на биржу в ноябре оказались под угрозой.

Потенциальные инвесторы считают оценку компании в 1,5 триллиона долларов завышенной и требуют дисконта.

Скепсис Уолл-стрит подогревается крупнейшим за год падением акций технологического сектора, которое последовало за промежуточными выборами в США, а также рекордными квартальными убытками самой компании из-за колоссальных затрат на инфраструктуру.

Сейчас рынок ждет раскрытия октябрьской выручки Anthropic, чтобы понять, удалось ли компании преодолеть замедление темпов роста.

Возможный перенос размещения рискует нанести удар по всей ИИ-экосистеме и широкому фондовому рынку, где доминируют технологические гиганты.

Давление на индустрию также усиливают недавние законодательные инициативы в ряде штатов, ограничивающие строительство новых дата-центров.

Несмотря на эти факторы, аналитики считают, что интерес инвесторов к ИИ не угаснет, а акции Anthropic после выхода на биржу обеспечат себе высокий розничный спрос.


@ai_machinelearning_big_data

#news #ai #ml

🌟 Ripple-65B Preview: модель для агентного кодинга

Ricursive Intelligence выпустила в открытое превью модель агентного программирования на 65 млрд параметров, ориентированную на скорость ответов.

Компания основана Анной Голди и Азалией Мирхосейни, бывшими исследователи Google DeepMind, где они вели проект AlphaChip - системы, которая сама подбирала компоновку блоков на кристаллах Google TPU.

Ricursive Intelligence делает платформу для проектирования чипов, и Ripple-65B Preview - вариант той модели, что работает внутри этой платформы.

🟡 Архитектура

Внутри плотный трансформер без смеси экспертов, 80 слоёв при размерности 5120.

К этому добавлены избыточное число голов внимания, повышенная доля слоёв со скользящим окном, ограничение активаций в полносвязных блоках, gated attention и глобальный отказ от позиционного кодирования.

Предобучение прошло на 12 трлн токенов, контекст заявлен до 1 млн токенов.

В претрейне сильно подняли долю кода, данные для постобучения не покупали, их собрали своими конвейерами синтетики с фильтрацией по качеству и метриками покрытия.

В RL-фазе применили усечённую выборку по значимости, центрирование оценок и линейный штраф за длину.

Архитектуру подбирали лестницей от Olmo 3, отбрасывая варианты, которые не давали прироста уже на 4 млрд параметров.

Суммарно на этом масштабе вычислительная эффективность на коде выросла до 16 раз по перекрёстной энтропии на наборе dolma_stack.

🟡Тесты

На Terminal-Bench 2.1 модель выбила 80,5 против 80,1 у Reflection Beam на 501 млрд параметров, 76,4 у Muse Spark на 816 млрд и 63,8 у Inkling от Thinking Machines на 975 млрд.

На SWE-bench Pro v2.0 Hard - 79,1 против 76,5 у Reflection Beam, зато на SWE-bench Verified Ripple отстаёт - 76,5 против 81,6, а на GPQA Diamond 85,2 против 90,6.

Разработку компания оценила 32 млн долларов и называет это десятой частью того, во что обошлась прежняя лучшая модель с открытыми весами на агентном программировании.

В эту стоимость вошли подбор архитектуры, тесты, отладка, генерация синтетики, разработку рецепта посттрейна и сами финальные запуски обучения.

Модель подняли Together AI, GMI Cloud и Fireworks по стоимости в 20 центов за млн входных и 60 центов за млн выходных токенов.


📌Лицензирование: Apache 2.0


🟡Блогпост
🟡Веса


@ai_machinelearning_big_data

#AI #ML #LLM #RipplePreview #RicursiveIntelligence

🌟 Anthropic выложила систему криптографической верификации инференса моделей

Команда Frontier Red Team опубликовала открытый прототип FlashProve, доказуемого вывода на zkSNARK.

Claude участвовал в разработке - он подобрал способы применить свежие методы из криптографической литературы и написал спецификацию протокола.

Эту технику знают по криптовалютам, где она подтверждает правильность транзакции, не раскрывая её содержимого.

Здесь её используют когда пользователь платит по API за конкретную модель и не может быть полностью уверен, что отвечала именно она.

Например, маршрутизатор способен подставить модель подешевле, а злоумышленник - вмешаться в поток токенов.

🟡 Механика

Поставщик один раз публикует отпечаток весов, который фиксирует их набор, не раскрывая сами веса, и дальше на запросы выдаёт файл с доказательством, что эти самые веса дали такие токены.

Проверяющему нужны отпечаток, запрос и ответ, веса не нужны, заново запускать модель тоже не надо.

🟡 Тесты

Опыт проводили на открытых четырёхбитных весах Llama 4 Maverick объёмом 232 ГБ.

Подготовительная фаза на одном H100 и 24 ядрах CPU заняла около 39 минут, выпущенного отпечатка хватает примерно на 16 млн запросов.

Дальше та же H100 выдаёт доказательства со скоростью около 110 токенов в секунду, одно весит примерно 19 МБ на запрос с окном в 1024 токена.

Проверка обходится без GPU - 17 секунд на 24 потоках процессора, 21 секунда на одном, плюс скачать отпечаток на 6,5 МБ.

Профит по сравнению с существующими открытыми системами получился заметный - VerInf на той же модели выдавал около 0,02 токена в секунду при доказательстве на 93,6 ГБ.

🟡Нюансы

На пакете из 24 запросов доказательства съедают примерно в 72 раза больше времени GPU, чем обычный вывод той же модели на vLLM, а на самой высокой из проверенных нагрузок - до 94 раз.

Одно доказательство подтверждает один выходной токен, окно контекста ограничено 1024 токенами, и до полных контекстов топовых моделей технологию ещё предстоит попилить.

Гарантия относится к целочисленной версии и к режиму greedy decoding, когда модель каждый раз берёт самый вероятный следующий токен, так что ответы с плавающей точкой или с семплированием могут расходиться.

Сами веса доказательство скрывает, а устройство модели нет - проверяющему видно, что перед ним смесь экспертов, и как она устроена.

Кроме кода, в репозитории FlashProve выложено всё, чтобы разобраться в концепте: вводные руководства с разбором устройства системы, инструкция по самостоятельной проверке доказательства, отдельные тексты о том, что именно доказывается и как прячутся веса, спецификация протокола и формата, словарь терминов, замеры и списки известных ограничений и ошибок.

В примерах лежат принятое доказательство, доказательство полного размера и отклонённые, с разбором причин.


📌Лицензирование: Apache 2.0


🟡Статья
🟡Техотчет
🖥GitHub


@ai_machinelearning_big_data

#AI #ML #LLM #FlashProve #Anthropic

🖥️ Google представила TPU 8i Max и 8tx: новые ускорители для ИИ-агентов

Google расширила линейку TPU восьмого поколения до четырёх систем.

TPU 8i Max рассчитан на огромные контекстные окна и сложные агентные задачи:
- Два объединённых TPU 8i.
- В 2 раза больше вычислительной мощности.
- В 2 раза больше SRAM и пропускной способности HBM.

TPU 8tx предназначен для конфиденциальных ИИ-вычислений:
- Аппаратная защита данных во время обработки.
- Защищённый инференс и дообучение моделей.
- Работа с чувствительными данными.

Другие обновления:

- Agent Compute Engine переносит состояние простаивающих агентных сессий, освобождая ускорители.
- TPU Sync снижает задержку передачи KV-cache более чем на 90% по данным Google.
- XLA Serving Engine получил открытый C++-движок для обслуживания моделей на TPU, GPU и CPU.

Ещё одна интересная деталь: Google использует Gemini для разработки собственных чипов. По заявлению компании, ИИ помогает создавать схемы расположения компонентов (chip layouts) за часы вместо недель. Для этого используются вычислительные мощности TPU и сервисы на базе Gemini.

Также Google представила GKE Dynamic Slicing: запуск заданий ускоряется до 5 раз, восстановление после сбоев - до 4,5 раза.

https://blog.google/innovation-and-ai/infrastructure-and-cloud/global-network/tpu-8i-max-and-8tx/

@ai_machinelearning_big_data

#Google #tpu