💻 Huawei заопенсорсит аналог NVIDIA CUDA 

Huawei делает хитрый (и ожидаемый) ход в гонке ИИ-ускорителей и до конца года откроет исходный код своей ключевой платформы — CANN (Compute Architecture for Neural Networks).

▪️ CANN — это Huawei-аналог проприетарной платформы NVIDIA CUDA, которая де-факто стандарт для разработки, обучения и инференса ИИ-моделей на GPU. Открытие CANN — новая попытка пошатнуть монополию CUDA

▪️ CANN оптимизирован под линейку ИИ-ускорителей Huawei Ascend 

▪️ На фоне санкций США, ограничивающих доступ Китая к топовым чипам NVIDIA, Huawei создает полностью собственный стек технологий — от чипов до софта. В теории это может усилить позиции Huawei против NVIDIA и других игроков (AMD, Intel, китайские производители)

▪️ Успех зависит от того, удастся ли привлечь разработчиков, упростив портирование приложений на свои чипы, и стимулировать создание моделей и софта именно под Ascend. Компания согласовала правила участия и механизмы прозрачного управления совместно с Университетом Цзиньхуа, Пекинским университетом, стартапами StepFun и Infinigence.

📚📚📚Создание открытой экосистемы вокруг Ascend — ключ к коммерческому успеху чипов Huawei. С другой стороны, ни ROCm от AMD, ни OneAPI от Intel, которые тоже в open source, никак на расстановку сил не повлияли, хотя с т.з. чипов у них более зрелая экосистема. Хуанг с командой обхаживал разработчиков библиотек и фреймворков для нейросетей ещё тогда, когда ML воспринимался скорее унылым, а в моде были iOS-разработчики.

@anti_agi

🤖 AID от @anti_agi

Итак, сегодня OpenAI, по всей видимости, представит долгожданную GPT-5, спустя более двух лет после феерического дебюта GPT-4 в апреле 2023 года. Люди, тестировавшие модель говорят, что она хороша в программировании, математике и науке, но прогресс от GPT-4 не столь впечатляющий, как был между третьей и четвертой версией. Ждем анонса в 20:00 по Москве.

Тем временем OpenAI заключила соглашение с американским правительством о том, что его агентства будут пользоваться ChatGPT за символический доллар в год. Партнёрство заключено на следующий день после того, как GSA добавило OpenAI, Google и Anthropic в список одобренных поставщиков ИИ для госорганов.

ℹ️Что ж, это не взятка, нет. Скоро полицейские смогут бесплатно обедать в столовой OpenAI…

А пока OpenAI облизывает чиновников, Google работает над тем, чтобы привязать к себе будущее поколение. Компания обязалась в течение трех лет выделить $1 млрд на предоставление обучения и AI-инструментов американским вузам и некоммерческим организациям. Сейчас в инициативе участвует более 100 университетов. Они смогут получить как денежное финансирование, так и кредиты на облачные вычисления для обучения студентов и исследований в области ИИ. Эта сумма включает бесплатное предоставление студентам доступа к продвинутой версии чат-бота Gemini. Google также обсуждает аналогичные планы в других странах (но не в России, конечно).

Кроме того, Google запустил в Gemini новый инструмент под названием Guided Learning, который работает как ИИ-репетитор, помогая пользователям глубже понять материал, а не просто получать ответы. С помощью Guided Learning Gemini будет пошагово разбирать задачи и адаптировать объяснения к пользователю. Функция использует изображения, диаграммы, видео и интерактивные тесты, чтобы помочь пользователям развивать и проверять свои знания, а не просто давать им ответы. Google заявляет, что эта функция поможет пользователям раскрыть «почему» и «как», лежащие в основе изучаемых концепций. Отметим, что запуск состоялся спустя неделю после того, как OpenAI выпустила похожий режим Study Mode для ChatGPT.

Google также опроверг результаты многочисленных исследований, которые показывают, что использование ИИ-обзоров снижает трафик на сайты-источники этих обзоров. Он заявил, что общий объём переходов с поиска на веб-сайты остаётся «относительно стабильным» из года в год, а среднее качество кликов немного выросло. Исследователей Google обвинил в «некорректной методологии», но данных не представил.

▪️Токсичная сова выманивает деньги у желающих изучать языки с помощью ИИ: компания Duolingo повысила прогноз годовой выручки. Ее квартальные результаты превзошли прогнозы аналитиков, акции выросли на 20%. Сервис работает по модели freemium, предлагая базовые функции изучения языков бесплатно, а платным подписчикам предоставляя премиум-возможности, включая видеозвонки с ИИ-собеседником. Компания ожидает, что выручка к 2025 году составит около $1,01 млрд.

🤖 AID от @anti_agi

Итак, GPT-5 доступна всем пользователям ChatGPT, в том числе бесплатным. Альтман уверяет что экспертный уровень модели соответствует кандидату наук (PhD), а самая впечатляющая способность модели – писать компьютерный код. Но пока что презентация GPT-5, кажется, затмила собой саму модель. Про кривые графики мы уже говорили, но люди также «радуются» таким «прорывным» изменениям, как цветные чаты, сравнениям новой модели со своими же старыми (Маск уже поиздевался, что новая модель OpenAI хуже последней модели Grok), и прочим странностям, напоминающим презентации Apple. Вот они, плоды дружбы Альтмана с Джони Айвом!

ℹ️Отзывы о самой модели пока не впечатляющие. И это прискорбно: похоже экспонента роста все сильнее загибается книзу и напоминает уже традиционный график логарифмической функции. А это значит оценку стартапов, таких как OpenAI, надо бы пересматривать… И это как раз в тот момент, когда отрасль набрала инвестиционный ход и планирует вложить безумные $400 млрд в датацентры в этом году. Кажется, кризис доткомов AI-датацентров все ближе.

Так что, может и хорошо, что проект Stargate стоимостью $500 млрд задерживается. По словам финдиректора Softbank Йошимицу Гото, это происходит из-за более длительных, чем ожидалось, переговоров с другими сторонами и принятий решений о выборе площадок. По его словам, Softbank уже определил площадки в США и на некоторых из них уже идет стройка, но деталей не раскрыл. Но сам Softbank при этом отчитался позитивно: квартальная чистая прибыль составила $2,87 млрд благодаря росту стоимости инвестиций в крупные компании из портфеля Vision Fund.

Как иллюстрация бума AI-датацентров: Meta (запрещена в России и только у нас за экстремизм) привлекла американского облигационного гиганта PIMCO и управляющую альтернативными активами Blue Owl Capital, для финансирования строительства своего AI-датацентра в Луизиане на $29 млрд. PIMCO займет около $26 млрд, видимо, в виде облигаций, а Blue Owl внесет $3 млрд в акционерный капитал.

И еще одна новость в копилку того, о чем я сказал выше: Deutsche Telekom сотрудничает с Nvidia и канадским фондом прямых инвестиций Brookfield в попытке построить одну из «гигафабрик» искусственного интеллекта в немецкой земле Северный Рейн-Вестфалия.

💻 Рост выручки TSMC в июле составил 26%, за месяц компания заработала $10,8 млрд. Аналитики ожидают в среднем 25%-ного роста в третьем квартале. Но это все ожидаемое, интересна другая новость, связанная с TSMC. На Тайване расследуют возможную кражу технологии производства микросхем у TSMC, и среди шести арестованных – сотрудник подразделения компании Tokyo Electron в Тайбэе. Японская компания - один из крупнейших в мире поставщиков инструментов для производства микросхем, конкурент голландской ASML. Tokyo Electron заявила, что в связи с этим делом уволила своего сотрудника и сотрудничает со следствием.

▪️Tesla распускает команду, стоящую за ее суперкомпьютером Dojo. Видимо, компания больше не будет пытаться разработать собственные чипы для автономного вождения. Расформирование последовало за уходом около 20 сотрудников в новую собственный AI-стартап DensityAI, который собирается привлечь в ближайшее время сотни миллионов долларов. Он будет создавать чипы, железо и софт для ИИ, который будет использоваться в робототехнике, AI-агентах и автомобильных приложениях.

Между тем Маск сообщил рекламодателям, что соцсеть X планирует внедрить рекламу в ответы Grok: «Если пользователь пытается решить проблему [обращаясь к Grok], то реклама конкретного решения будет идеальным решением в этот момент». Кажется, ответы Grok станут еще более кринжовыми. Зато может быть соцсети удастся сохранить рекламодателей, после ухода CEO Линды Яккарино.

Кстати, у разработчика Grok, компании xAI тоже потери: свой пост покинул глава юридической службы Роберт Кил, проработав на нем чуть больше года. Он решил посвятить себя детям, хотя год назад, принимая предложение Маска, даже и не помышлял об этом – он перешел в xAI, оставив только-только созданную им юридическую фирму. Ну, что ж, дети – это святое!

Хочешь продавать — плати 🐷

В обмен на разрешение продавать свои ИИ-ускорители в Китай, Nvidia и AMD согласились перечислять 15% выручки от продаж в пользу правительства США. 

💻 Суть договорённости проста: компании получили возможность продолжать продажи ускорителей для искусственного интеллекта в Китае, но только при условии передачи части выручки в США в рамках нового механизма экспортного лицензирования. Речь идёт прежде всего о GPU для центров обработки данных: H20 у Nvidia и MI308 у AMD.

🐷 Для компаний Китай остаётся важнейшим рынком — по  экспертным оценкам, он приносит Nvidia значительную долю выручки (от $17 до $23 млрд) и составляет ощутимый процент доходов AMD ($800 млн только от GPU). Поэтому компромисс с регуляторами даст возможность не потерять доходы.

❓ Правда есть и вопросы. Как минимум, возникает риск создания прецедента: другие страны или сектора могут столкнуться с похожими условиями в будущем.

🔤🔤С другой стороны, мы можем только порадоваться. Из Китая ускорители неизбежно будут перетекать и на наш рынок, который с т.з. компьюта уступает, к сожалению, не только Штатам и Китаю. 

@anti_agi

In love with the machine

Неудачный релиз GPT-5 в очередной раз подтвердил: люди ценят в чат-ботах именно человечность, а не эффективность по метрикам. В рамках апдейта OpenAI удалила из ChatGPT старые модели — и спровоцировала скандал.

Оказалось, что пользователи уже привыкли к мягкому и поддерживающему тону моделей четвёртого поколения. ChatGPT выступал для них как коуч, а то и единственный друг: всегда был на связи и находил нужные слова.

GPT-5 же оказалась банально не ламповой: стала отвечать суше, да и как будто потеряла ту самую частичку дружелюбности. Волна недовольства оказалась настолько сильной, что Сэм Альтман уже пообещал рассмотреть возможность вернуть доступ к GPT-4o для подписчиков Plus.

📚📚📚Исследования подтверждают: LLM уже понимают наши эмоции лучше людей. А вовлекающие алгоритмы буквально подпитывают как наше эго, так и наши страхи. В последней GPT-5 манеру общения подсушили, что понравилось немногим.

@anti_agi

🤖 AID от @anti_agi

Что ж, давайте сегодня про чипы опять 💻

Трамп взвешивает возможность разрешить Nvidia продавать в Китай не только H20, созданный на предыдущей архитектуре Hopper, но и новые чипы на Blackwell:

«У Дженсена также есть новый чип Blackwell. Это несколько улучшенный (в негативном смысле) Blackwell. Другими словами, его мощность снижена на 30–50%. Думаю, он снова придёт ко мне на встречу по этому вопросу»

Напомню, что после запрета экспорта H20, Nvidia разработала новый кастрированный чип B30 для Китая, на основе Blackwell. Речь явно идет именно об этом чипе. Впрочем, для него разрешений Трампа не требовалось бы, ведь он изначально дизайнился так, чтобы удовлетворять новым ограничениям. В частности, в нем планировалось использовать память GDDR7 вместо высокопропускной HBM.

Разгадка, возможно в том, что Китай, уже продавивший Трампа в переговорах по торговой сделке на отмену запрета экспорта H20, хочет достичь большего. Следующее его требование – снятие ограничений на доступ Китая к HBM-памяти. Для Трампа, чей синоним – эго, важно сделать вид, а на суть – плевать. Поэтому он вполне может, чтобы сохранить лицо, не снимая ограничения формально, 🔮 разрешить Хуангу встроить в B30 высокопроизводительную память.

Вот только Китай вряд ли удовлетворится этим. Государственные медиа там уже разгоняют нарратив, что H20 небезопасны для Китая из-за возможных бэкдоров. Почувствовав слабину Трампа, Китай будет давить по всем направлениям.

Но факт остается фактом – память с высокой пропускной способностью стала важнейшим фактором в AI-гонке. Лидер рынка HBM-памяти, корейская SK Hynix, ожидает, что этот рынок будет в ближайшие пять лет расти на 30% в год. А другой участник этого рынка, компания Micron, из-за роста спроса на высокопропускную память повысил прогноз квартальной выручки с $10,7 до $11,2 млрд, а валовой маржи – с 42% до 44,5%. В условиях нехватки памяти Micron повысил цены на свою продукцию.

▪️Впрочем, не чипами едиными жива Nvidia. В понедельник она представила Cosmos Reason — ИИ-модель языка машинного зрения с 7 млрд параметров для приложений физического ИИ и роботов. Она позволяет роботам и ИИ-агентам «рассуждать» благодаря своей памяти и пониманию физических законов, что позволяет ей «служить моделью планирования для определения дальнейших действий физического агента». Nvidia также представила модели для создания наборов данных синтетического текста, изображений и видео для обучения роботов и ИИ-агентов: Cosmos Transfer-2 и дистиллированную версию Cosmos Transfers, оптимизированную для скорости. А также новые библиотеки нейронной реконструкции, которые позволяют разработчикам, используя данные с датчиков, моделировать реальный мир в 3D. Эта возможность будет интегрирована и в опенсорсный симулятор CARLA, популярную платформу для разработчиков.

▪️Ни дня без новых заявлений Илона Маска с синдромом Аспергера. Самый богатый человек мира обвинил зеркало в искривлении рожи Apple в подтасовке рейтингов App Store:

«Apple делает так, что ни одна ИИ-компания, кроме OpenAI, не может занять первое место в App Store, что является явным нарушением антимонопольного законодательства. xAI немедленно подаст в суд».

ChatGPT является самым скачиваемым бесплатным приложением для iPhone в США, опережая Grok, который находится на пятом месте.

DeepSeek R2 в августе❓

Карманный ресурс Huawei пишет, что R2 могут представить уже 15–30 августа,а работать новая версия DeepSeek будет на кластере Huawei Ascend.

💻 По «сливам», R2 использует кластер на основе Ascend 910B с загрузкой около 82% и даёт 512 PFLOPS (FP16) — по эффективности близко к кластерам на базе NVIDIA A100 (позапрошлое поколение).

✔️ Технические слухи : гибридная MoE-архитектура, ~1.2 трлн параметров (активных ~78B), и существенное снижение стоимости инференса по сравнению с западными аналогами — но всё это пока непроверённые данные из утечек. Как и то, что модель тренировали преимущественно на «домашнем» железе.

В июне Reuters писал, что релиз R2 откладывался — CEO недоволен результатами, а дефицит некоторых серверных чипов усложнял запуск. Так что сроки могут меняться.

🔤🔤Если подтвердится — серьёзный шаг для китайской экосистемы (меньше зависимость от NVIDIA). Но пока — это смесь реальных достижений и маркетинговых утечек в неизвестной пропорции.

@anti_agi

Трансформеры, которые «думают»

Пока все обсуждают новые фейлы ChatGPT и новые фичи Claude, в менее хайповом мире, который подарил нам GPT1-GPT3, не останавливаются поиски апгрейда или замены для базовой архитектуры Трансформеров.

Зачем❓

У классических трансформеров есть серьезные минусы. Основной — чем больше текст, звук или изображение и умнее модель, тем больше для нее нужно компьюта, (что очевидно). Но рост у трансформеров выражен квадратичной сложностью (O(n2)).

И вот, кажется, наметился интересный апгрейд. Исследователи из Университета Амстердама, Amazon GenAI, Иллинойского, Стэнфордского и Гарвардского университетов представили новую архитектуру — Energy-Based Transformers (EBT).

Что это такое? Если упростить, EBT — это трансформер, которого научили быть не просто генератором, а верификатором. Вместо того чтобы сразу выдавать ответ, модель присваивает «энергию» для каждой пары «входные данные — возможный ответ». Они оценивают для каждого возможного варианта «энергию» – чем она ниже, тем лучше пара подходит к задаче. Это похоже на то, как если бы модель "искала" наиболее комфортное, естественное состояние данных среди множества возможных вариантов.

Процесс генерации превращается в оптимизацию — поиск ответа с минимальной энергией. Модель итеративно, шаг за шагом, улучшает свой результат, пока не найдёт наилучший вариант. Что это даёт на практике? Результаты заставляют как минимум присмотреться:

▪️ Масштабируются лучше: EBT скейлятся эффективнее, чем современный «Transformer++» на 35% по данным, параметрам и вычислительным ресурсам.
▪️ «Думают» лучше: Во время работы (inference) EBT показывают на 29% больший прирост качества на языковых задачах благодаря своему итеративному подходу.
▪️ Универсальны: Архитектура работает и с дискретными данными (текст), и с непрерывными (изображения). Например, в задаче удаления шума с картинок EBT обошли Diffusion Transformers, сделав меньше проходов.
▪️ Лучше обобщают: При тех же или даже худших результатах претрена EBT дают лучшие результаты на большинстве downstream-задач.

Вывод: EBT — потенциально новый стандарт для создания моделей, которые не только лучше учатся, но и способны на более глубокое, итеративное «мышление».

Ссылка на исследование для самых любопытных: https://arxiv.org/abs/2507.02092

@anti_agi

Предложение от которого откажутся 😏

Perplexity сделал неожиданное предложение: стартап хочет купить браузер Google Chrome за $34,5 млрд кэшом. 🐷🐷🐷

Звучит неожиданно даже не потому, что у компании есть свой Comet-браузер, а потому, что ИИ-поисковик сам оценивается примерно в $18 млрд, а привлек около $1,5 млрд инвестиций.

Такое предложение поступило в тот момент, когда суд рассматривает возможность обязать Google продать Chrome в рамках мер по ослаблению монополии компании на поисковом рынке. Perplexity подтверждает, что в случае успеха сделки планирует инвестировать 3 миллиарда долларов в открытый исходный код Chromium за следующие два года и сохранить Google в качестве поисковой системы по умолчанию для пользователей Chrome.

Интересно, что ранее генеральный директор DuckDuckGo оценивал стоимость Chrome более чем в 50 миллиардов долларов.

Напомним, что Perplexity недавно запустил собственный браузер Comet, стремясь развивать свой бизнес в сфере ИИ-поиска независимо от браузеров, контролируемых конкурентами.

🔤🔤Google пока не прокомментировал это предложение. И не станет, скорее всего. Потому что Chrome — больше, чем просто браузер или популярный вэб-движок, как и сам Google давно уже больше простого поисковика.

@anti_agi

🤖 AID от @anti_agi

Anthropic теперь, как и OpenAI, предлагает госструктурам свои модели по доллару. Но если Альтман предложил это только правительству, то есть исполнительной власти, то Амодеи – «всем трём», то есть ведомствам, законодателям и судебным структурам. Ждем, когда AI компании начнут приплачивать за то, чтобы чиновники пользовались именно их продуктами.

К слову, модели Anthropic как раз увеличили контекстное окно. Для клиентов API Anthropic модель Claude Sonnet 4 оно теперь составляет 1 млн токенов. Это означает, что ИИ может обрабатывать запросы длиной до 750 000 слов, больше чем во «Властелине колец». Раньше лимит был 200 000 токенов, а у GPT-5 от OpenAI он составляет 400 000 токенов.

Что до самой GPT-5, то пользователям явно не зашло, когда у них нет выбора и модель сама выбирает будет она отвечать быстро или думать долго. Или не удалось им сделать нормальный маршрутизатор. В общем, GPT-5 — это не та унифицированная модель ИИ, на которую надеялась OpenAI. Теперь в настройках GPT-5 в панели выбора модели появится выбор: «Авто», «Быстро» или «Мышление». Кроме того, платные пользователи снова получат доступ к GPT-4o, GPT-4.1 и o3.

▪️CoreWeave отчитался второй раз с момента мартовского IPO. Выручка оказалась выше ожиданий аналитиков: $1,21 млрд, тогда как консенсус-прогноз был $1,08 млрд. Зато операционные расходы во II квартале подскочили до $1,19 млрд с $317,7 млн годом ранее. Компания зафиксировала чистый убыток $290,5 млн (аналитики ждали $190,6 млн). В итоге акции компании упали на 10%.

ℹ️Напомню, что облачный AI-провайдер CoreWeave, начинавший как сеть датацентров для майнинга, сейчас управляет 33 AI-датацентрами в США и Европе и предлагает доступ к самым современным чипам Nvidia (которая к тому же является одним из основных ее акционеров).

🔤🔤А у меня на сегодня значимые новости закончились. Если вам мало – можете бонусом посмотреть как робопес на улицах мексиканского Монтеррея разговаривает с людьми о правах животных, чтобы привлечь внимание к проблеме жестокого обращения с животными:

«Привет, я Уолдог, и я здесь, чтобы дать голос тем, у кого его нет, — животным, живущим на улице»

Всем приятного киберпанка!