Machine learning Interview
30.6K subscribers
1.94K photos
173 videos
13 files
1.35K links
ИИ, Rust, вайбкодинг, Data Science, Deep Learning и делюсь тем, что интересно и полезно!

Вопросы - @workakkk

РКН: clck.ru/3FmwRz
Download Telegram
🐳 Инженер DeepSeek объяснил, почему ускоряет развитие ИИ, который может превзойти его самого.

Согласно пересказу его эссе, Шэнъюй Лю работает над основным ядром механизма внимания DeepSeek V4.1. Ещё год назад ИИ помогал ему искать документацию и ошибки. Теперь самостоятельно разбирает CUDA, PTX и SASS, использует инструменты профилирования и подбирает оптимизации.

По личной оценке Лю, через 6–12 месяцев ИИ может сравняться с ним или обойти его. Это прогноз самого инженера.

Его беспокоит потеря любимой части профессии. Раньше он мог провести полдня, тщательно ускоряя код и пытаясь побить собственный рекорд. Теперь работа постепенно превращается в управление агентом, который делает это за него.

Почему тогда продолжать?

Лю опасается мира, где самые сильные модели принадлежат нескольким компаниям, а доступ к ним определяет возможности остальных. Получается замкнутый круг: для заработка нужен передовой ИИ, а для доступа к передовому ИИ уже нужны деньги.

Он описывает два крайних сценария: общедоступный ИИ как дешёвая инфраструктура — или мир Cyberpunk 2077 с концентрацией технологий и власти.

Открытые модели для него — способ приблизить первый сценарий. Лю не рассчитывает, что OpenAI и Anthropic добровольно откроют свои передовые разработки. По его словам, именно поэтому он остаётся в DeepSeek, даже понимая, как быстро меняется ценность его собственных навыков.
👍52❤24👏11💯5🤨1
🔥 Qwen3.8-27B Uncensored (Cyber/Agentic) теперь доступен в GGUF с калибровкой под реальные агентные задачи

Это не обычная квантизация на случайном английском тексте. Importance Matrix собрана на реальном agentic-coding трафике: tool calls, пути к файлам, shell-команды, JSON, commit hashes и смешанный Chinese/English.

Главное:

- 27B модель в GGUF
- IQ4_XS весит около 15 GiB
- контекст до 262K в протестированной конфигурации
- de-refusal / uncensored версия
- сохранены vision и MTP
- Apache 2.0
- заточена под coding, agents и cybersecurity-сценарии

Авторы отдельно тестировали сохранение точных путей, UUID и commit hashes — критично для агентов, где одна ошибка в символе ломает команду. IQ4_XS при этом оказался всего примерно на 0,42% хуже Q5_K_M по paired perplexity, но заметно компактнее.

Сам GGUF занимает ~15 ГБ, но реальное потребление VRAM зависит от context size, KV cache и offload - полный 262K контекст потребует существенно больше памяти.

https://huggingface.co/cyjin-yl/Qwen3.8-27B-Uncensored-Cyber-agentic-imatrix-GGUF
❤11👍7🥰1🥱1
🦀 NVIDIA официально идёт в native GPU programming на Rust

Теперь CUDA Rust позволяет писать GPU kernels прямо на Rust и компилировать их в PTX - без необходимости держать kernel-код на C++ или другом языке.

NVIDIA развивает сразу два подхода:

SIMT через `cuda-oxide`
- привычная CUDA-модель: один thread → одна операция
- полный контроль над потоками и памятью
- custom rustc backend → MIR → LLVM → PTX
- memory safety проверяется на этапе компиляции

Tile через `cutile-rs`
- работа не с отдельными потоками, а с блоками данных
- компилятор сам решает, как разложить вычисления по GPU
- stable Rust 1.89+
- CUDA 13.3
- уже используется в Hugging Face Grout и mistral.rs


Ownership и типы позволяют ловить часть GPU race conditions и aliasing-ошибок ещё до запуска kernel.

NVIDIA прямо пишет, что в 2026 году начинает всерьёз развивать CUDA Rust и планирует наращивать поддержку в 2027+.

Пока оба проекта ранние и не production-ready, но направление очень показательное:

`Rust → native GPU kernels → PTX → CUDA`

https://developer.nvidia.com/blog/introducing-cuda-rust-two-tracks-for-writing-gpu-kernels/
🔥13❤4👍4🤨1
🔥 Z.ai раскрыла, как GLM-5.3 участвовала в оптимизации собственной inference-инфраструктуры.

Для GLM-5.3-Flash компания развернула serving stack на крупном кластере китайских AI-ускорителей и использовала Infra Agent на базе GLM-5.3 для работы с kernels, bottleneck’ами, операторами и настройкой inference engine.

Стек построен поверх SGLang и использует Encode-Prefill–Decode disaggregation, quantization и аппаратно-зависимые оптимизации.

По данным Z.ai, после серии таких оптимизаций end-to-end производительность выросла примерно в 3 раза относительно исходного baseline на том же железе.

https://z.ai/blog/glm-built-its-inference-infrastructure
❤8👍7🔥2
🦀 GitHub переписал runtime GitHub Copilot на Rust — с помощью самого Copilot

Изначально runtime был написан на TypeScript, работал поверх Node.js и V8.

Теперь это:

- более 800 000 строк production-кода на Rust
- крупная миграция работающей системы, а не экспериментальный прототип
- Copilot использовался прямо в процессе переноса и рефакторинга

Интересный момент: инструмент для генерации кода помог переписать собственную инфраструктуру на язык, ориентированный на производительность, контроль памяти и предсказуемость runtime.

Хороший пример того, куда движется разработка: AI всё чаще используется не только для написания отдельных функций, а для миграции больших production-систем между технологическими стеками.

https://github.blog/ai-and-ml/generative-ai/migrating-the-github-copilot-runtime-to-rust-using-copilot/
❤14👍6😁3🕊1
🔐 GPT-6 Astra предложила расшифровку немецкой радиограммы 1918 года

Автор эксперимента под ником prinz сообщил, что модель прочитала сообщение из 170 символов, которое, насколько ему известно, ранее оставалось нерасшифрованным.

В исходном вирусном посте перепутали детали: радиограмма датирована 27 ноября 1918 года и использует ADFGVX. Упоминания Enigma и 1941 года ошибочны.

По описанию автора, Astra:

* использовала ключ TRUPPENVERSCHIEBUNG, сохранившийся в исторических материалах;
* восстановила перестановку символов и получила немецкий текст;
* сопоставила содержание с журналами британского флота.

Сообщение рассказывало о прибытии английского крейсера в Севастополь и следующей за ним союзной эскадры. Детали совпали с историческими записями о событиях 24 и 26 ноября.

Ключ уже был в архиве, а отдельные символы расшифровки остаются неоднозначными. Независимого подтверждения, что это первое правильное решение, пока нет.

https://www.prinzai.com/p/gpt-6-astra-solves-a-wwi-german-radio
👍17❤3🥱3
😁40👏8🐳3😴3👍2
💰 Инвесторы допускают оценку Anthropic в $4 трлн после IPO, но дешёвые модели усиливают давление на бизнес.

По данным FT, в июле выручка компании в годовом пересчёте достигла $65 млрд. Ранние инвесторы ожидают более $120 млрд к концу года - речь о темпе выручки, а не сумме за год.

Клиентам всё проще менять поставщиков и распределять задачи между моделями. Ramp заявила, что такой подход сократил её расходы на ИИ на 40%.

Удержание пользователей пока лучше у Anthropic: по данным OpenRouter, через год остаются 22,5% против 13,2% у OpenAI. Эти показатели относятся к аудитории платформы.
👍11🔥4❤3😁2
🔥 Hemmingway-1 - открытая модель, которая пытается писать как человек

Модель построена на базе Qwen3.8-27B и настроена для повседневных текстов: сообщений, писем, ответов и историй — без шаблонных вступлений, лишних вариантов и характерного «ИИ-стиля».

Главное:

— 27 млрд параметров
— контекст до 262 тысяч токенов
— открытые веса и лицензия Apache 2.0
— запуск через Transformers, vLLM или SGLang
— в первую очередь оптимизирована для английского языка

Создатели утверждают, что на их собственных тестах модель обошла ряд значительно более крупных систем. Но результаты пока не независимые, поэтому Hemmingway-1 интереснее всего проверить самостоятельно.

Модель на Hugging Face: https://huggingface.co/Altworld/Hemmingway-1
👍9🔥8❤4
SoftBank привлекает более $11 млрд ради новой инвестиции в OpenAI 🚨

SoftBank запустила размещение облигаций на $10 млрд и ещё €1 млрд перед очередным платежом OpenAI, запланированным на 1 октября.

Долларовые облигации выпустят со сроками погашения 3,5, 5,5 и 7,5 года, европейские - на 4 и 6 лет. Размещение должно заменить ранее привлечённую кредитную линию на $10 млрд.

Ожидаемые даты:

- 24 сентября — определение цены;
- 29 сентября — расчёты по сделке;
- 1 октября — платёж OpenAI.

Организаторами выступают Citigroup и JPMorgan. Если размещение завершится в заявленном объёме, оно станет крупнейшим выпуском облигаций нефинансовой компании в Азиатско-Тихоокеанском регионе.

🔗 https://www.reuters.com/business/media-telecom/softbank-group-launches-over-10-billion-bonds-openai-investment-term-sheet-shows-2026-09-21/
🙈4👍2🤔2
Теренс Тао:
«ИИ катком проходит по всей математике. Нам нужно замедлиться. Темп безумный».

Примерно через 10 дней OpenAI:

• создала независимую консультативную группу из математиков
• заявила, что новая модель решила более 100 давно открытых задач
• отдельно уточнила, что группа не будет советовать компании, как замедлять внутренний прогресс в математике

То есть математиков пригласили помогать с проверкой, публикацией и научными стандартами. Но не с темпом исследований.

Советоваться о последствиях будут. Замедляться не собираются. 😬

Заявление о 100 задачах пока принадлежит самой OpenAI. Независимая проверка результатов ещё впереди.

https://openai.com/index/advisory-group-on-mathematics-and-ai/
👍11🔥5🤔3❤1
🚀 Claude Opus 5.5 — новый флагман Anthropic

Anthropic обновила свою самую мощную модель. Основной упор — код, агентные задачи, работа с инструментами и длинные сложные сценарии.

Что заявляет компания:

- более сильное агентное программирование
- лучше работает с большими кодовыми базами
- быстрее выполняет длинные многошаговые задачи
- улучшен computer use
- выше устойчивость к prompt injection
- ответы стали более короткими и естественными

По данным Anthropic, на типичных задачах Opus 5.5 примерно на 40% дешевле Opus 5, а генерация — более чем на 30% быстрее.

Из показательных примеров: модель использовали для миграции 680 000 строк кода менее чем за день, а в одном из внутренних тестов она переписала HAProxy с C на Rust за 9,5 часа.

API:
$4 за 1M входных токенов и $20 за 1M выходных.

https://www.anthropic.com/claude-opus-5-5
👍11🔥4❤2
Forwarded from Machinelearning
🌟 Samsone: открытые аудиоязыковые модели для смартфонов

Samsung опубликовали Samsone - семейство из трёх небольших аудиоязыковых моделей для работы на мобильных устройствах: Samsone-99M, Samsone-134M и Samsone-356M.

Проект будет участвовать в конференции Interspeech 2026, которая пройдет с 27 сентября по 1 октября в Сиднее.


Модели принимают один или несколько аудиофрагментов вместе с текстовым запросом и отвечают текстом: описывают звук, отвечают на вопросы о записи, сравнивают клипы между собой.

Заявлено понимание речи, музыки и звуки окружения. Отвечают модели только по-английски и строчными буквами - ради экономии параметров оставили в обучающих текстах только строчные символы ASCII и вычистили из словаря редкие токены.

Авторы предупреждают, что после дообучения на аудиовопросах модели теряют общие языковые навыки, так что это точечный инструмент, а не полноценный собеседник.

🟡Архитектура

Аудиоэнкодер Whisper-Tiny на 9 млн параметров, нелинейный проектор в пространство текстовых эмбеддингов и языковая модель SmolLM2 от Hugging Face на 135 или 360 млн параметров.

Каждый клип усредняется до 50 аудиотокенов, а разделитель SEP отделяет клипы друг от друга и от текста, поэтому аудио можно вставлять в любое место запроса.

🟡Тесты

На MMAU (10 тысяч вопросов о звуках, музыке и речи) Samsone-134M набирает 61,33% против 53,34% у прежнего лидера среди малых моделей Mellow на 167 млн параметров.

Это выше Qwen2-Audio-Instruct на 8,4 млрд параметров (57,4%) и на уровне Audio Flamingo 2 на 3 млрд (61,06%).


На речевой части результаты хуже. В более сложном MMAU-Pro расзница с Mellow составляет 10 пп (37,57% против 27,5%), здесь впереди Qwen2-Audio (45,41%) и GPT-4o Audio (52,5%).

На Galaxy S25 Ultra без аппаратных оптимизаций Samsone-99M генерирует 125 токенов в секунду, Samsone-134M - 87, Samsone-356M - 39.

Обработка аудио перед генерацией занимает от 0,7 до 1,1 секунды.

Веса для PyTorch, код обучения и экспорта, а также Android-приложение под Android 12 и новее выложены в репозитории проекта.


🟡Веса
🟡Arxiv
🖥GitHub


@ai_machinelearning_big_data

#AI #ML #SALM #Samsone #Samsung
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🤝3👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Сразу три новых флагмана в гонке ИИ

За несколько недель рынок получил GPT-6 Astra, Grok 4.7 и Claude Opus 5.5.

• Grok 4.7 получил более крупную базовую модель, лучше работает с многочасовыми задачами и проверяет собственные результаты. Цена: $2 за вход и $6 за выход.

• Claude Opus 5.5 ориентирован на программирование и автономных агентов. По данным Anthropic, он на 30% быстрее Opus 5 и обходится на 40% дешевле в типичных задачах.

• GPT-6 Astra стал новым флагманом OpenAI для сложной профессиональной работы, исследований и использования инструментов.

Гонка теперь идет не только за интеллект, но и за скорость, автономность и стоимость выполнения реальных задач.

https://x.ai/news/grok-4-7

https://www.anthropic.com/claude-opus-5-5

https://openai.com/index/gpt-6-astra/
😁15❤3🔥3👍2
⚡️ Агенты научились улучшать собственную обвязку

RRSI оптимизирует не веса модели, а всю систему вокруг неё: промпты, инструменты, память, управление контекстом и логику выполнения задач.

Обычное самоулучшение быстро подгоняется под тесты. RRSI ограничивает число изменений, отсекает хаки под конкретный бенчмарк и удаляет дорогие или бесполезные компоненты.

Результат на 8 бенчмарках:

• до +14,1 пункта на обучающих задачах
• до +4,7 пункта на новых задачах
• на 30% меньше токенов

Практический RSI без переобучения самой модели.

https://huggingface.co/papers/2609.24972

https://github.com/google-research/rrsi
🔥9👍5❤2