🦀 NVIDIA официально идёт в native GPU programming на Rust
Теперь CUDA Rust позволяет писать GPU kernels прямо на Rust и компилировать их в PTX - без необходимости держать kernel-код на C++ или другом языке.
NVIDIA развивает сразу два подхода:
SIMT через `cuda-oxide`
- привычная CUDA-модель: один thread → одна операция
- полный контроль над потоками и памятью
- custom
- memory safety проверяется на этапе компиляции
Tile через `cutile-rs`
- работа не с отдельными потоками, а с блоками данных
- компилятор сам решает, как разложить вычисления по GPU
- stable Rust 1.89+
- CUDA 13.3
- уже используется в Hugging Face Grout и
Ownership и типы позволяют ловить часть GPU race conditions и aliasing-ошибок ещё до запуска kernel.
NVIDIA прямо пишет, что в 2026 году начинает всерьёз развивать CUDA Rust и планирует наращивать поддержку в 2027+.
Пока оба проекта ранние и не production-ready, но направление очень показательное:
https://developer.nvidia.com/blog/introducing-cuda-rust-two-tracks-for-writing-gpu-kernels/
Теперь CUDA Rust позволяет писать GPU kernels прямо на Rust и компилировать их в PTX - без необходимости держать kernel-код на C++ или другом языке.
NVIDIA развивает сразу два подхода:
SIMT через `cuda-oxide`
- привычная CUDA-модель: один thread → одна операция
- полный контроль над потоками и памятью
- custom
rustc backend → MIR → LLVM → PTX- memory safety проверяется на этапе компиляции
Tile через `cutile-rs`
- работа не с отдельными потоками, а с блоками данных
- компилятор сам решает, как разложить вычисления по GPU
- stable Rust 1.89+
- CUDA 13.3
- уже используется в Hugging Face Grout и
mistral.rs Ownership и типы позволяют ловить часть GPU race conditions и aliasing-ошибок ещё до запуска kernel.
NVIDIA прямо пишет, что в 2026 году начинает всерьёз развивать CUDA Rust и планирует наращивать поддержку в 2027+.
Пока оба проекта ранние и не production-ready, но направление очень показательное:
`Rust → native GPU kernels → PTX → CUDA`https://developer.nvidia.com/blog/introducing-cuda-rust-two-tracks-for-writing-gpu-kernels/
🔥13❤4👍4🤨1
🔥 Z.ai раскрыла, как GLM-5.3 участвовала в оптимизации собственной inference-инфраструктуры.
Для GLM-5.3-Flash компания развернула serving stack на крупном кластере китайских AI-ускорителей и использовала Infra Agent на базе GLM-5.3 для работы с kernels, bottleneck’ами, операторами и настройкой inference engine.
Стек построен поверх SGLang и использует Encode-Prefill–Decode disaggregation, quantization и аппаратно-зависимые оптимизации.
По данным Z.ai, после серии таких оптимизаций end-to-end производительность выросла примерно в 3 раза относительно исходного baseline на том же железе.
https://z.ai/blog/glm-built-its-inference-infrastructure
Для GLM-5.3-Flash компания развернула serving stack на крупном кластере китайских AI-ускорителей и использовала Infra Agent на базе GLM-5.3 для работы с kernels, bottleneck’ами, операторами и настройкой inference engine.
Стек построен поверх SGLang и использует Encode-Prefill–Decode disaggregation, quantization и аппаратно-зависимые оптимизации.
По данным Z.ai, после серии таких оптимизаций end-to-end производительность выросла примерно в 3 раза относительно исходного baseline на том же железе.
https://z.ai/blog/glm-built-its-inference-infrastructure
❤8👍7🔥2
🦀 GitHub переписал runtime GitHub Copilot на Rust — с помощью самого Copilot
Изначально runtime был написан на TypeScript, работал поверх Node.js и V8.
Теперь это:
- более 800 000 строк production-кода на Rust
- крупная миграция работающей системы, а не экспериментальный прототип
- Copilot использовался прямо в процессе переноса и рефакторинга
Интересный момент: инструмент для генерации кода помог переписать собственную инфраструктуру на язык, ориентированный на производительность, контроль памяти и предсказуемость runtime.
Хороший пример того, куда движется разработка: AI всё чаще используется не только для написания отдельных функций, а для миграции больших production-систем между технологическими стеками.
https://github.blog/ai-and-ml/generative-ai/migrating-the-github-copilot-runtime-to-rust-using-copilot/
Изначально runtime был написан на TypeScript, работал поверх Node.js и V8.
Теперь это:
- более 800 000 строк production-кода на Rust
- крупная миграция работающей системы, а не экспериментальный прототип
- Copilot использовался прямо в процессе переноса и рефакторинга
Интересный момент: инструмент для генерации кода помог переписать собственную инфраструктуру на язык, ориентированный на производительность, контроль памяти и предсказуемость runtime.
Хороший пример того, куда движется разработка: AI всё чаще используется не только для написания отдельных функций, а для миграции больших production-систем между технологическими стеками.
https://github.blog/ai-and-ml/generative-ai/migrating-the-github-copilot-runtime-to-rust-using-copilot/
❤14👍6😁3🕊1
🔐 GPT-6 Astra предложила расшифровку немецкой радиограммы 1918 года
Автор эксперимента под ником prinz сообщил, что модель прочитала сообщение из 170 символов, которое, насколько ему известно, ранее оставалось нерасшифрованным.
В исходном вирусном посте перепутали детали: радиограмма датирована 27 ноября 1918 года и использует ADFGVX. Упоминания Enigma и 1941 года ошибочны.
По описанию автора, Astra:
* использовала ключ TRUPPENVERSCHIEBUNG, сохранившийся в исторических материалах;
* восстановила перестановку символов и получила немецкий текст;
* сопоставила содержание с журналами британского флота.
Сообщение рассказывало о прибытии английского крейсера в Севастополь и следующей за ним союзной эскадры. Детали совпали с историческими записями о событиях 24 и 26 ноября.
Ключ уже был в архиве, а отдельные символы расшифровки остаются неоднозначными. Независимого подтверждения, что это первое правильное решение, пока нет.
https://www.prinzai.com/p/gpt-6-astra-solves-a-wwi-german-radio
Автор эксперимента под ником prinz сообщил, что модель прочитала сообщение из 170 символов, которое, насколько ему известно, ранее оставалось нерасшифрованным.
В исходном вирусном посте перепутали детали: радиограмма датирована 27 ноября 1918 года и использует ADFGVX. Упоминания Enigma и 1941 года ошибочны.
По описанию автора, Astra:
* использовала ключ TRUPPENVERSCHIEBUNG, сохранившийся в исторических материалах;
* восстановила перестановку символов и получила немецкий текст;
* сопоставила содержание с журналами британского флота.
Сообщение рассказывало о прибытии английского крейсера в Севастополь и следующей за ним союзной эскадры. Детали совпали с историческими записями о событиях 24 и 26 ноября.
Ключ уже был в архиве, а отдельные символы расшифровки остаются неоднозначными. Независимого подтверждения, что это первое правильное решение, пока нет.
https://www.prinzai.com/p/gpt-6-astra-solves-a-wwi-german-radio
👍17❤3🥱3
💰 Инвесторы допускают оценку Anthropic в $4 трлн после IPO, но дешёвые модели усиливают давление на бизнес.
По данным FT, в июле выручка компании в годовом пересчёте достигла $65 млрд. Ранние инвесторы ожидают более $120 млрд к концу года - речь о темпе выручки, а не сумме за год.
Клиентам всё проще менять поставщиков и распределять задачи между моделями. Ramp заявила, что такой подход сократил её расходы на ИИ на 40%.
Удержание пользователей пока лучше у Anthropic: по данным OpenRouter, через год остаются 22,5% против 13,2% у OpenAI. Эти показатели относятся к аудитории платформы.
По данным FT, в июле выручка компании в годовом пересчёте достигла $65 млрд. Ранние инвесторы ожидают более $120 млрд к концу года - речь о темпе выручки, а не сумме за год.
Клиентам всё проще менять поставщиков и распределять задачи между моделями. Ramp заявила, что такой подход сократил её расходы на ИИ на 40%.
Удержание пользователей пока лучше у Anthropic: по данным OpenRouter, через год остаются 22,5% против 13,2% у OpenAI. Эти показатели относятся к аудитории платформы.
👍11🔥4❤3😁2
🔥 Hemmingway-1 - открытая модель, которая пытается писать как человек
Модель построена на базе Qwen3.8-27B и настроена для повседневных текстов: сообщений, писем, ответов и историй — без шаблонных вступлений, лишних вариантов и характерного «ИИ-стиля».
Главное:
— 27 млрд параметров
— контекст до 262 тысяч токенов
— открытые веса и лицензия Apache 2.0
— запуск через Transformers, vLLM или SGLang
— в первую очередь оптимизирована для английского языка
Создатели утверждают, что на их собственных тестах модель обошла ряд значительно более крупных систем. Но результаты пока не независимые, поэтому Hemmingway-1 интереснее всего проверить самостоятельно.
Модель на Hugging Face: https://huggingface.co/Altworld/Hemmingway-1
Модель построена на базе Qwen3.8-27B и настроена для повседневных текстов: сообщений, писем, ответов и историй — без шаблонных вступлений, лишних вариантов и характерного «ИИ-стиля».
Главное:
— 27 млрд параметров
— контекст до 262 тысяч токенов
— открытые веса и лицензия Apache 2.0
— запуск через Transformers, vLLM или SGLang
— в первую очередь оптимизирована для английского языка
Создатели утверждают, что на их собственных тестах модель обошла ряд значительно более крупных систем. Но результаты пока не независимые, поэтому Hemmingway-1 интереснее всего проверить самостоятельно.
Модель на Hugging Face: https://huggingface.co/Altworld/Hemmingway-1
👍9🔥8❤4
SoftBank привлекает более $11 млрд ради новой инвестиции в OpenAI 🚨
SoftBank запустила размещение облигаций на $10 млрд и ещё €1 млрд перед очередным платежом OpenAI, запланированным на 1 октября.
Долларовые облигации выпустят со сроками погашения 3,5, 5,5 и 7,5 года, европейские - на 4 и 6 лет. Размещение должно заменить ранее привлечённую кредитную линию на $10 млрд.
Ожидаемые даты:
- 24 сентября — определение цены;
- 29 сентября — расчёты по сделке;
- 1 октября — платёж OpenAI.
Организаторами выступают Citigroup и JPMorgan. Если размещение завершится в заявленном объёме, оно станет крупнейшим выпуском облигаций нефинансовой компании в Азиатско-Тихоокеанском регионе.
🔗 https://www.reuters.com/business/media-telecom/softbank-group-launches-over-10-billion-bonds-openai-investment-term-sheet-shows-2026-09-21/
SoftBank запустила размещение облигаций на $10 млрд и ещё €1 млрд перед очередным платежом OpenAI, запланированным на 1 октября.
Долларовые облигации выпустят со сроками погашения 3,5, 5,5 и 7,5 года, европейские - на 4 и 6 лет. Размещение должно заменить ранее привлечённую кредитную линию на $10 млрд.
Ожидаемые даты:
- 24 сентября — определение цены;
- 29 сентября — расчёты по сделке;
- 1 октября — платёж OpenAI.
Организаторами выступают Citigroup и JPMorgan. Если размещение завершится в заявленном объёме, оно станет крупнейшим выпуском облигаций нефинансовой компании в Азиатско-Тихоокеанском регионе.
🔗 https://www.reuters.com/business/media-telecom/softbank-group-launches-over-10-billion-bonds-openai-investment-term-sheet-shows-2026-09-21/
🙈4👍2🤔2
Теренс Тао:
Примерно через 10 дней OpenAI:
• создала независимую консультативную группу из математиков
• заявила, что новая модель решила более 100 давно открытых задач
• отдельно уточнила, что группа не будет советовать компании, как замедлять внутренний прогресс в математике
То есть математиков пригласили помогать с проверкой, публикацией и научными стандартами. Но не с темпом исследований.
Советоваться о последствиях будут. Замедляться не собираются. 😬
Заявление о 100 задачах пока принадлежит самой OpenAI. Независимая проверка результатов ещё впереди.
https://openai.com/index/advisory-group-on-mathematics-and-ai/
«ИИ катком проходит по всей математике. Нам нужно замедлиться. Темп безумный».
Примерно через 10 дней OpenAI:
• создала независимую консультативную группу из математиков
• заявила, что новая модель решила более 100 давно открытых задач
• отдельно уточнила, что группа не будет советовать компании, как замедлять внутренний прогресс в математике
То есть математиков пригласили помогать с проверкой, публикацией и научными стандартами. Но не с темпом исследований.
Советоваться о последствиях будут. Замедляться не собираются. 😬
Заявление о 100 задачах пока принадлежит самой OpenAI. Независимая проверка результатов ещё впереди.
https://openai.com/index/advisory-group-on-mathematics-and-ai/
👍11🔥5🤔3❤1
🚀 Claude Opus 5.5 — новый флагман Anthropic
Anthropic обновила свою самую мощную модель. Основной упор — код, агентные задачи, работа с инструментами и длинные сложные сценарии.
Что заявляет компания:
- более сильное агентное программирование
- лучше работает с большими кодовыми базами
- быстрее выполняет длинные многошаговые задачи
- улучшен computer use
- выше устойчивость к prompt injection
- ответы стали более короткими и естественными
По данным Anthropic, на типичных задачах Opus 5.5 примерно на 40% дешевле Opus 5, а генерация — более чем на 30% быстрее.
Из показательных примеров: модель использовали для миграции 680 000 строк кода менее чем за день, а в одном из внутренних тестов она переписала HAProxy с C на Rust за 9,5 часа.
API: $4 за 1M входных токенов и $20 за 1M выходных.
https://www.anthropic.com/claude-opus-5-5
Anthropic обновила свою самую мощную модель. Основной упор — код, агентные задачи, работа с инструментами и длинные сложные сценарии.
Что заявляет компания:
- более сильное агентное программирование
- лучше работает с большими кодовыми базами
- быстрее выполняет длинные многошаговые задачи
- улучшен computer use
- выше устойчивость к prompt injection
- ответы стали более короткими и естественными
По данным Anthropic, на типичных задачах Opus 5.5 примерно на 40% дешевле Opus 5, а генерация — более чем на 30% быстрее.
Из показательных примеров: модель использовали для миграции 680 000 строк кода менее чем за день, а в одном из внутренних тестов она переписала HAProxy с C на Rust за 9,5 часа.
API: $4 за 1M входных токенов и $20 за 1M выходных.
https://www.anthropic.com/claude-opus-5-5
👍11🔥4❤2
Forwarded from Machinelearning
Samsung опубликовали Samsone - семейство из трёх небольших аудиоязыковых моделей для работы на мобильных устройствах: Samsone-99M, Samsone-134M и Samsone-356M.
Проект будет участвовать в конференции Interspeech 2026, которая пройдет с 27 сентября по 1 октября в Сиднее.
Модели принимают один или несколько аудиофрагментов вместе с текстовым запросом и отвечают текстом: описывают звук, отвечают на вопросы о записи, сравнивают клипы между собой.
Заявлено понимание речи, музыки и звуки окружения. Отвечают модели только по-английски и строчными буквами - ради экономии параметров оставили в обучающих текстах только строчные символы ASCII и вычистили из словаря редкие токены.
Авторы предупреждают, что после дообучения на аудиовопросах модели теряют общие языковые навыки, так что это точечный инструмент, а не полноценный собеседник.
Аудиоэнкодер Whisper-Tiny на 9 млн параметров, нелинейный проектор в пространство текстовых эмбеддингов и языковая модель SmolLM2 от Hugging Face на 135 или 360 млн параметров.
Каждый клип усредняется до 50 аудиотокенов, а разделитель SEP отделяет клипы друг от друга и от текста, поэтому аудио можно вставлять в любое место запроса.
На MMAU (10 тысяч вопросов о звуках, музыке и речи) Samsone-134M набирает 61,33% против 53,34% у прежнего лидера среди малых моделей Mellow на 167 млн параметров.
Это выше Qwen2-Audio-Instruct на 8,4 млрд параметров (57,4%) и на уровне Audio Flamingo 2 на 3 млрд (61,06%).
На речевой части результаты хуже. В более сложном MMAU-Pro расзница с Mellow составляет 10 пп (37,57% против 27,5%), здесь впереди Qwen2-Audio (45,41%) и GPT-4o Audio (52,5%).
На Galaxy S25 Ultra без аппаратных оптимизаций Samsone-99M генерирует 125 токенов в секунду, Samsone-134M - 87, Samsone-356M - 39.
Обработка аудио перед генерацией занимает от 0,7 до 1,1 секунды.
Веса для PyTorch, код обучения и экспорта, а также Android-приложение под Android 12 и новее выложены в репозитории проекта.
🟡Веса
@ai_machinelearning_big_data
#AI #ML #SALM #Samsone #Samsung
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🤝3👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Сразу три новых флагмана в гонке ИИ
За несколько недель рынок получил GPT-6 Astra, Grok 4.7 и Claude Opus 5.5.
• Grok 4.7 получил более крупную базовую модель, лучше работает с многочасовыми задачами и проверяет собственные результаты. Цена: $2 за вход и $6 за выход.
• Claude Opus 5.5 ориентирован на программирование и автономных агентов. По данным Anthropic, он на 30% быстрее Opus 5 и обходится на 40% дешевле в типичных задачах.
• GPT-6 Astra стал новым флагманом OpenAI для сложной профессиональной работы, исследований и использования инструментов.
Гонка теперь идет не только за интеллект, но и за скорость, автономность и стоимость выполнения реальных задач.
https://x.ai/news/grok-4-7
https://www.anthropic.com/claude-opus-5-5
https://openai.com/index/gpt-6-astra/
За несколько недель рынок получил GPT-6 Astra, Grok 4.7 и Claude Opus 5.5.
• Grok 4.7 получил более крупную базовую модель, лучше работает с многочасовыми задачами и проверяет собственные результаты. Цена: $2 за вход и $6 за выход.
• Claude Opus 5.5 ориентирован на программирование и автономных агентов. По данным Anthropic, он на 30% быстрее Opus 5 и обходится на 40% дешевле в типичных задачах.
• GPT-6 Astra стал новым флагманом OpenAI для сложной профессиональной работы, исследований и использования инструментов.
Гонка теперь идет не только за интеллект, но и за скорость, автономность и стоимость выполнения реальных задач.
https://x.ai/news/grok-4-7
https://www.anthropic.com/claude-opus-5-5
https://openai.com/index/gpt-6-astra/
😁15❤3🔥3👍2
⚡️ Агенты научились улучшать собственную обвязку
RRSI оптимизирует не веса модели, а всю систему вокруг неё: промпты, инструменты, память, управление контекстом и логику выполнения задач.
Обычное самоулучшение быстро подгоняется под тесты. RRSI ограничивает число изменений, отсекает хаки под конкретный бенчмарк и удаляет дорогие или бесполезные компоненты.
Результат на 8 бенчмарках:
• до +14,1 пункта на обучающих задачах
• до +4,7 пункта на новых задачах
• на 30% меньше токенов
Практический RSI без переобучения самой модели.
https://huggingface.co/papers/2609.24972
https://github.com/google-research/rrsi
RRSI оптимизирует не веса модели, а всю систему вокруг неё: промпты, инструменты, память, управление контекстом и логику выполнения задач.
Обычное самоулучшение быстро подгоняется под тесты. RRSI ограничивает число изменений, отсекает хаки под конкретный бенчмарк и удаляет дорогие или бесполезные компоненты.
Результат на 8 бенчмарках:
• до +14,1 пункта на обучающих задачах
• до +4,7 пункта на новых задачах
• на 30% меньше токенов
Практический RSI без переобучения самой модели.
https://huggingface.co/papers/2609.24972
https://github.com/google-research/rrsi
🔥9👍5❤2
🎉 Маленькая LLM может тратить больше времени на загрузку, чем на ответ.
Google изучила запуск квантованных моделей от 270 млн до 3,8 млрд параметров на Cloud Run с CPU. При «холодном старте» 55–70% задержки приходилось на загрузку модели: прежде чем генерировать токены, нужно перенести её веса в память.
Нашёлся и менее очевидный эффект Cloud Run: переход с 4 на 8 ГиБ памяти в тестируемой конфигурации давал вдвое больше vCPU и почти вдвое сокращал время инференса после загрузки модели.
Практический вывод для редких запросов к небольшой LLM: оптимизировать стоит весь путь до ответа — загрузку весов, конфигурацию инстанса и только потом генерацию.
https://research.google/pubs/cold-start-latency-of-quantized-small-language-models-on-serverless-cpu-infrastructure/
Google изучила запуск квантованных моделей от 270 млн до 3,8 млрд параметров на Cloud Run с CPU. При «холодном старте» 55–70% задержки приходилось на загрузку модели: прежде чем генерировать токены, нужно перенести её веса в память.
Нашёлся и менее очевидный эффект Cloud Run: переход с 4 на 8 ГиБ памяти в тестируемой конфигурации давал вдвое больше vCPU и почти вдвое сокращал время инференса после загрузки модели.
Практический вывод для редких запросов к небольшой LLM: оптимизировать стоит весь путь до ответа — загрузку весов, конфигурацию инстанса и только потом генерацию.
https://research.google/pubs/cold-start-latency-of-quantized-small-language-models-on-serverless-cpu-infrastructure/
👍5❤4🆒1
⚡️ inclusionAI открыла две модели для генерации и редактирования дизайна
Ming-Image-0.1-Design создаёт интерфейсы, дашборды, инфографику и постеры с разрешением до 2048×2048. Модель хорошо работает с текстом и умеет сразу генерировать изображения с прозрачным RGBA-фоном.
Ming-Image-0.1-Design-Layer решает обратную задачу: разбирает готовую картинку на отдельные редактируемые RGBA-слои, сохраняя исходные пропорции.
Обе модели имеют 6 млрд параметров и опубликованы под лицензией MIT. Design лидирует среди моделей с открытыми весами в рейтинге UI/UX от Artificial Analysis, а Layer показала лучший результат во всех 12 тестах Crello.
https://modelscope.ai/models/inclusionAI/Ming-Image-0.1-Design
https://modelscope.ai/models/inclusionAI/Ming-Image-0.1-Design-Layer
Ming-Image-0.1-Design создаёт интерфейсы, дашборды, инфографику и постеры с разрешением до 2048×2048. Модель хорошо работает с текстом и умеет сразу генерировать изображения с прозрачным RGBA-фоном.
Ming-Image-0.1-Design-Layer решает обратную задачу: разбирает готовую картинку на отдельные редактируемые RGBA-слои, сохраняя исходные пропорции.
Обе модели имеют 6 млрд параметров и опубликованы под лицензией MIT. Design лидирует среди моделей с открытыми весами в рейтинге UI/UX от Artificial Analysis, а Layer показала лучший результат во всех 12 тестах Crello.
https://modelscope.ai/models/inclusionAI/Ming-Image-0.1-Design
https://modelscope.ai/models/inclusionAI/Ming-Image-0.1-Design-Layer
❤3👍3