Title: SIA: Self Improving AI with Harness & Weight Updates

В этой работе показали, что ИИ лучше улучшает сам себя, когда меняет не только обвязку вокруг агента, но и обновляет модель.

Проблема в том, что прогресс ИИ до сих пор сильно зависит от людей: они вручную правят промпты, инструменты, код, данные для обучения и веса модели.

Авторы предлагают SIA - цикл, где один ИИ наблюдает за работой task-agent, а затем улучшает либо его внешнюю настройку, либо саму модель.

Внешняя настройка -это промпты, инструменты, правила повторных попыток, парсинг ответа и прочая обвязка. Обновление весов - это изменение поведения модели на основе обратной связи по задаче.

Работает это так: агент пробует много ответов или программ, верификатор оценивает результат, а эти оценки превращаются в обучающий сигнал.

После этого система обновляет небольшой набор дополнительных весов LoRA. Это меняет поведение модели без полного переобучения.

Базовая модель почти не трогается, но LoRA-адаптер постепенно учится: такие ответы давали высокий reward, а такие проваливались.

Авторы проверили подход на трёх разных задачах: классификация обвинений в китайском праве, ускорение GPU kernel-кода и denoising single-cell RNA.

Комбинированная версия обошла вариант, где улучшали только обвязку: 70.1% на LawBench, более быстрый GPU-код, чем у предыдущего лучшего решения, и 0.289 на задаче denoising.

Интересный вывод: хорошая обвязка помогает агенту действовать лучше, но обновление весов помогает ему выучить паттерны задачи, которые одними промптами и инструментами не находятся.

arxiv. org/abs/2605.27276

OpenRouter запустил Fusion - систему, где на один запрос отвечает не одна модель, а сразу несколько

Суть в том, что Fusion отправляет ваш промпт параллельно в разные модели. Каждая модель пытается решить задачу по-своему, при необходимости использует web search и bash-инструменты, а затем отдельный judge сравнивает ответы. После этого synthesizer собирает финальный вариант.

Получается не просто «выбор лучшей модели», а полноценная серверная схема коллективного мышления:

* несколько моделей работают одновременно;
* инструменты помогают проверять факты и считать;
* judge отбрасывает слабые ответы;
* synthesizer собирает итоговый результат в один связный ответ.

OpenRouter утверждает, что Fusion уже обходит frontier-модели на DRACO, deep research benchmark от Perplexity.

https://openrouter.ai/fusion

@machinelearning_ru

Исследователи Amazon с помощью серии промптов добились от модели Anthropic Fable информации о небольшом числе уязвимостей безопасности.

Amazon передала результаты американским чиновникам. Это помогло запустить экспортные ограничения, из-за которых Anthropic пришлось отключить Fable 5 и Mythos 5 для всех клиентов.

Главный спор сейчас в том, что именно показало исследование: серьёзный jailbreak, который раскрыл кибервозможности уровня Mythos, или обычную помощь по кибербезопасности, уже доступную в других продвинутых моделях.

Anthropic не согласна с трактовкой правительства. Эксперты по кибербезопасности, изучившие отчёт, тоже сомневаются, стоит ли вообще считать этот случай jailbreak’ом.

Рост продуктивности от ИИ не линейный. Он ускоряется по мере глубины использования.

Сотрудники, которые активно используют продвинутые возможности ChatGPT вроде GPT-5 Thinking, Deep Research и Image Generation, а также работают с разными моделями и инструментами, сообщают о гораздо большей экономии времени.

В новом исследовании OpenAI показано: группа, которая экономит больше 10 часов в неделю, использует примерно в 8 раз больше AI-кредитов, чем сотрудники, которые сообщают о нулевой экономии времени.

То есть история не в том, что «дали всем чат-бота и получили небольшой равномерный прирост».

Чем глубже люди встраивают мощные AI-функции в свой рабочий процесс, тем сильнее накапливается экономия времени. Активные пользователи превращают ИИ не в случайного помощника, а в полноценного рабочего ассистента.

Из отчёта OpenAI “The state of enterprise AI”.

openai.com/index/the-state-of-enterprise-ai-2025-report/

Исследователи из Stanford, University of California и Nanjing University представили SEFD - переработанную версию EDGAR filings для обучения LLM на финансовых документах.

Главная проблема старого подхода в том, что SEC-отчёты часто превращались в плоский текст. Модель видела слова и цифры, но теряла структуру: вложенные таблицы, объединённые заголовки, отступы, знаки, иерархию строк и связь между показателями.

SEFD решает это через layout-faithful MultiMarkdown. Он сохраняет логику документа и финансовых таблиц, но убирает лишний HTML-шум, который раздувает токены и мешает обучению.

Публичный снапшот содержит 152 млрд токенов. Полный архив, по оценке авторов, может дать около 550 млрд токенов длинных финансовых документов. При этом пересечение с Common Crawl-корпусами меньше 0,1%, то есть это почти незаезженный источник данных для финансовых LLM.

Модели получают структуру отчётности. Для финансового анализа это критично, потому что в таких документах значение часто лежит не в отдельной цифре, а в том, где она стоит, к какому заголовку относится и как связана с соседними строками.

arxiv.org/abs/2606.18192v1

GLM-5.2 теперь можно запускать локально.

2-битная версия сохраняет около 82% точности после сжатия модели с 1,51 ТБ до 238 ГБ, то есть размер уменьшили на 84%.

Запуск возможен на Mac с 256 ГБ памяти или на системах с достаточным объёмом RAM/VRAM.

GLM-5.2 называют самой сильной открытой моделью на данный момент.

Гайд: https://unsloth.ai/docs/models/glm-5.2
GGUF: https://huggingface.co/unsloth/GLM-5.2-GGUF

AI VK проведет митап по рекомендательным системам

1 июля в Москве пройдет RecSys Meetup от AI VK - встреча для ML-инженеров, исследователей и специалистов, которые работают с рекомендательными системами.

Команда AI VK расскажет, как развиваются Discovery-технологии в продуктах VK с многомиллионной аудиторией: от трансформерных моделей до LLM-агентов, графового RAG и генеративных рекомендаций.

С докладами выступят Андрей Зимовнов, Александр Дьяконов, Евгений Астафуров и Михаил Трапезников. После основной программы будет возможность пообщаться со спикерами в неформальной обстановке.

Место: ДК «Кристалл», Москва
Дата: 1 июля

Регистрация доступна по ссылке

Video Pre-Training (VPT) использует неразмеченные видео геймплея Minecraft, чтобы обучать AI-агентов играть через имитацию человеческих действий.

Что внутри:

* предобученные модели в конфигурациях 1x, 2x и 3x width
* модели behavioral cloning, обученные на видео с демонстрациями игроков
* RL-модели, дообученные на задачу получения алмазной кирки
* отдельные fine-tuned варианты для foundation, постройки дома и early game сценариев

Идея простая: агент сначала смотрит, как играют люди, учится повторять поведение, а потом дообучается под конкретные цели в Minecraft.

https://github.com/openai/Video-Pre-Training

Займи слот ИТ-Пикником от Т-Банка

8 августа — время отложить ноутбуки и встретиться офлайн на ИТ-Пикнике от Т-Банка в музее-заповеднике «Коломенское». Вот сколько всего запланировано:

— научпоп-лекции;
— мастер-классы;
— дискуссии об ИИ и больших языковых моделях;
— доклады о кибербезопасности;
— примеры, как данные из логов становятся решениями;
— много музыки.

Бери с собой друзей, супругов и детей — каждый найдет себе что-то по душе.

Зарегистрироваться и узнать больше можно здесь

NVIDIA выкатили кое-что большое для AI-агентов.

Компания открыла каталог из 110+ проверенных agent skills. Это переносимые наборы инструкций, которые учат AI-агентов правильно использовать библиотеки CUDA-X и платформенные инструменты.

Что внутри:

• cuOpt
• NeMo
• Dynamo
• RAG
• DeepStream
• medical AI
• physical AI
• и другие направления

Каждый skill подписан OMS-подписью. Её можно проверить через trust anchor NVIDIA.

Работает из коробки с Claude Code, Codex, Cursor и Kiro.

Установка одной командой:

npx skills add nvidia/skills

Это уже не просто набор инструментов, а governance возможностей для AI-агентов.

Проверенные, подписанные и аудируемые инструкции, которым агент может доверять.

https://github.com/nvidia/skills

Codex начал отправлять SSD пользователей на пенсию раньше времени 😬

Пользователи заметили баг: агент может записывать до 640 ТБ данных в год на накопитель.

Причина банальная, но болезненная: логгер слишком подробно сохраняет действия агента и постепенно превращает диск в расходник.

Для сравнения: обычный SSD на 1 ТБ часто рассчитан примерно на 600 ТБ записи за весь срок службы.

А один пользователь уже поймал 37 ТБ записи всего за 21 день работы Codex.

Фикса пока нет.


https://www.notebookcheck.net/OpenAI-Codex-has-a-bug-that-could-kill-your-SSD-in-under-a-year.1326191.0.html

LLM уже находят реальные memory safety баги в Rust-коде.

И, что неожиданно, это работает очень хорошо.

Сергей Давыдов, руководитель Rust Secure Code Working Group, использовал GPT-5.5 и Claude Opus для аудита unsafe-блоков в популярных Rust-крейтах.

В итоге нашлись десятки реальных багов:

• use-after-free

• чтение за пределами буфера

• data races

• неправильные реализации Send / Sync

Все находки проверялись через miri, чтобы убрать ложные срабатывания.

Почему в Rust это работает лучше, чем в C?

• unsafe явно помечен и изолирован, поэтому LLM сразу понимает, где искать

• miri может точно подтвердить, настоящий баг или нет

• не нужно отслеживать data flow по всей кодовой базе, как часто бывает в C

Получается, дизайн Rust случайно сделал его почти идеальным языком для LLM-аудита безопасности.

Стоит прочитать всем, кто думает про AI в security tooling.

https://gist.github.com/Shnatsel/eb0a4be79a0657e4eb67c4f085f991bc

https://shnatsel.medium.com/the-unreasonable-effectiveness-of-llms-for-auditing-rust-code-d4df8bf0afd3

#Rust #RustLang #MemorySafety #Security #LLM

Как запустить своего Джарвиса за 5 минут: локальный AI-ассистент OpenJarvis

Идея простая: вместо очередного облачного чат-бота вы собираете персонального AI-помощника, который работает ближе к вашему устройству, файлам и задачам.

https://github.com/open-jarvis/OpenJarvis