Google показали, как AlphaEvolve ускоряет математические исследования

У многих ученых отношение к ИИ все еще скептическое. Считается, что результатам моделек на серьезный исследованиях нельзя доверять + они плохо интерпретируемы.

Google в своей новой статье предлагают способ, как угодить всем. Они показывают детерминированный алгоритм, с помощью которого ИИ может гарантировано ускорять и улучшать исследования.

Четкая проверка и определенный пайплайн тут как бы соединяется с черным ящиком – и получается магия.

Вот, предположим, у нас есть какой-то набросок доказательства, который надо улучшить. Система DeepMind не будет перерабатывать его целиком. Она найдет в нем место, которое можно качественно улучшить, и будет работать только с ним.

«Качественно» улучшить – значит так, что улучшения можно мониторить одной конкретной метрикой. При этом связь этого кусочка с остальным решением остается неизменной, это четко определено.

Получается, ИИ действует только локально и подконтрольно улучшает те фрагменты, которые может. Если это получается, то доказательно в целом улучшится. Метод называется lifting.

Конечно, это применимо не ко всем задачам. Но ко многим – да. Например, в ходе экспериментов система работала со всякими комбинаторными доказательствами, и вот что вышло:

– В задаче MAX-4-CUT из теории графов AlphaEvolve сократила существующий предел аппроксимации с 0.9883 до 0.987. Кажется, что это немного, но на самом деле в этой области ученые бьются за каждую сотую долю.

– На аналогичной проблеме MAX-2-CUT система отыскала edge case огромного рамануянова графа, который благодаря своим свойствам может внести вклад сразу в несколько доказательств важный теорем.

Пока это мелочи. Но представьте, если что-то подобное приземлит к себе каждая лаборатория в мире.

Статья

Tinker: стартап Миры Мурати Thinking Machines выпустил свой первый продукт

И это, между прочим, не модель, а даже кое-что поинтереснее: API для файнтюнинга.

Идея проста. Вы пишете код для файнтюнинга, а само обучение проводят уже Thinking Machines на своих серверах. Они занимаются всем, что связано с железом: распределение ресурсов, восстановление сбоев и тд.

Поддерживаются самые разные модели: от небольших до очень крупных, включая MoE.

В API доступны основные низкоуровневые примитивы (вроде forward_backward, optim_step или sample), из которых можно быстро собрать наиболее распространенные пайплайны дообучения.

Для тех, кто хочет запустить что-то посложнее, Thinking Machines дополнительно выпустили Tinker Cookbook. Это открытая либа с уже готовыми реализациями многих более специальных алгоритмов поверх API. Там можно найти, например, RLHF, Multi-Agent, Tool Use, Math Reasoning и тд.

Пишут, кстати, что Tinker уже попробовали несколько хороших лабораторий. Например, в Принстоне с ним обучили модель для доказательства теорем, а в Беркли с его помощью тестировали кастомный RL-метод для агентов.

К сожалению, продукт еще в приватной бете для разработчиков и рисерчеров. Но можно записаться в вейтлист (есть вероятность, что примут быстро).

Блогпост

Делитесь своим системным промптом в комментариях 🤩

Ричард Саттон говорит, что LLM – это все еще не Bitter Lesson. Разбираемся, что это значит.

Начнем с маленькой исторической справки. В марте 2019 года Ричард Саттон (очень известный ученый, отец RL и лауреат премии Тьюринга этого года) написал эссе под названием The Bitter Lesson, то есть Горький Урок. Суть: основные прорывы в ИИ достигаются не путём встраивания знаний специалиста в модели, а с помощью масштабирования вычислений и общих методов (само)обучения.

Эссе сразу же стало фактически культовым, и Bitter Lesson превратился в полноценный профессиональный ML-термин. Каждую архитектуру обсуждали на предмет того, является ли она Bitter Lesson или нет, то есть сможет ли работать на долгосроке или провалится.

А теперь к сути поста. Совсем недавно Саттон был на интервью у Дваркеша Пателя. Вы его точно знаете, у него много ИИ-знаменитостей побывало. И на этом интервью Ричард вдруг заявил, что LLM – это все еще не Bitter Lesson.

"Вдруг" – потому что всегда считалось иначе. Ведь LLM – это вроде бы как раз про масштабирование компьюта и обобщение знаний. Но оказалось, что сам создатель Горького Урока думает по-другому.

Позиция Саттона в том, что LLM все еще обучаются и дообучаются только на непосредственно созданных человеком данных, а они могут (а) быть предвзятыми и (б) просто-напросто кончится. У человека или животного, в свою очередь, нет никакого предобучения или файнт-тюнинга, мы учимся в процессе взаимодействия в реальном времени. Так что LLM – это скорее тупиковая ветвь, которая, несмотря на свою мощь, нуждается в существенном переосмыслении для достижения настоящего ИИ.

Монолог ученого вызвал просто какое-то рекордное количество споров. От себя скажем, что его видение понятно и не лишено логики, но есть нюансы. В частности, в противовес еще кратко хочется пересказать мнение Андрея Карпаты по этому поводу (ссылка на твит).

"У Саттона своеобразное видение ИИ. Он, как классик, выступает скорее за концепцию child machine, которую описывал Тьюринг. Это система, способная обучаться на основе опыта, динамически взаимодействуя с миром. Как люди или животные.

С другой стороны, нельзя утверждать, что животные учатся чему-то с нуля. В них эволюционно заложены знания о жизни. Детеныш зебры может бегать уже через несколько минут. Такую задачу нельзя решить с нуля. Мозг животных при рождении – это не чистый лист. В LLM предобучение – это наша попытка алгоритмически воссоздать эволюцию.

Не факт, что вообще существует алгоритм, который идеально бы удовлетворял Bitter Lesson. Это скорее платонический идеал, к которому стоит стремиться, а не единственное верное решение. Тем не менее, современным моделям однозначно не хватает каких-то механизмов, вдохновленных животным миром. В этом смысле речь Саттона – это real talk для исследователей. Мы должны больше думать о новых парадигмах и идеях, а не концентрироваться только на LLM".

В общем, это интервью точно войдет в историю. Посмотреть полностью можно тут. Ну и, конечно, ждем ваше мнение в комменты.

Пятницу мы начнем с мемов

Google Research выпустили text2image агента PASTA для итерационной генерации картинок

PASTA взаимодействует с пользователем поэтапно, каждый раз уточняя предпочтения и дорабатывая картинки (см демо наверху). Тут идея в том, чтобы избавить юзера от утомительной корректировки промптов и генерации методом проб и ошибок, особенно в случае, когда идею вообще сложно выразить словами.

И да, это именно агент, а не модель. PASTA – Preference Adaptive and Sequential Text-to-image Agent. И обучали его не на парах «промпт-картинка», а на целых сессиях пользователей, где видно, как модифицировались промпты и какие картинки юзер в итоге выбирал. Датасет этих сессий, кстати, выложили в опенсорс.

Чтобы немного расширить обучение, на этих данных также обучают симулятор пользователя. Это две модели, одна из которых оценивает, насколько человеку понравится предложенная картинка, а другая определяет, какую из нескольких он бы выбрал. Благодаря этим двум моделям нагенерировали еще 30к сессий, на которых затем учили основного агента.

Обучали с помощью RL. Конкретно – имплицитный Q-learning, IQL. Цель агента – максимизировать удовлетворённость пользователя за все итерации (не только за один шаг, это важно).

Попробовать, к сожалению, пока нельзя: проект исследовательский. Зато можно пользоваться датасетом.

Блогпост | Статья

О, легендарный Эндрю Ын кажется проведет открытый бесплатный курс по Deep Learning в Стэнфорде

Все лекции можно будет смотреть на YouTube. Первая вышла вчера, вот ссылка. Эндрю уже довольно давно ничего такого не вел, так что это настоящий подарок.

Все презентации и материалы будут выкладывать здесь. В программе обещают довольно подробную теорию по нейросетям, от самых основ DL до LLM, RL, агентов, RAG и мультимодальных моделей. Практические материалы также должны быть доступны, включая (вроде как) домашки.

Вот и нашлось занятие на выходные

Физики из Гарварда построили первую в мире квантовую машину, способную работать без перезапуска более двух часов подряд

Это в сотни раз дольше прежнего рекорда, составлявшего около 13 секунд.

Одна из главных проблем в квантовых компьютерах – это так называемый «атомный уход». Во время работы машины атомы, выступающие в роли кубитов, могут постепенно теряться. Это вызвано флуктуациями температуры, ошибками в лазерных или магнитных полях, или столкновениями с остаточными газами.

А потеря квантов = потеря информации. Так что вычисления приходится постоянно перезапускать, перезагружая систему. На таком компьютере, как вы понимаете, далеко не уедешь.

В Гарварде группа ученых под руководством Михаила Лукина (он, кстати, родился в Москве и учился в МФТИ) нашла способ частично решить эту проблему. Они используют так называемые «оптические конвейеры» (optical lattice conveyor belt) и «оптические пинцеты» (optical tweezers), которые позволяют прямо во время работы автоматически заменять потерянные кубиты новыми, не прерывая вычислительный процесс.

Квантовая информация при этом сохраняется за счёт того, что новые атомы синхронизируются с состоянием уже имеющихся. Это не дает данным рассыпаться. Конвейер генерирует примерно 300 000 атомов в секунду, при этом в самой системе одновременно удерживаются около 3000 кубитов. Как только один теряется – его сразу заменяют новым.

Ни много ни мало – прорыв. К слову, по оценке авторов работы, квантовые машины с практически неограниченным временем непрерывной работы могут появиться в течение ближайших 2-3 лет.

Статья в Nature

К слову, сегодня ждем еще один продукт от OpenAI

У них проходит DevDay 2025 в Сан-Франциско. По слухам, должны показать конструктор агентов Agent Builder. Это будет zero/low code продукт типа n8n или Zapier: платформа для простой реализации и оркестрации всяких автоматизаций и агентных рабочих процессов.

У OpenAI уже когда-то выходила библиотека Swarm с тем же функционалом, так что zero code адаптация – логичный следующий шаг.

Для несложных автоматизаций должно быть хорошо. Особенно, если добавят всяких интересных интеграций, MCP и прочего.

Стрим можно будет посмотреть в 20:00 по Мск (ссылку добавим к этому посту, как только появится)

UPD: ссылка -> https://www.youtube.com/live/hS1YqcewH0c

У Anthropic новый CTO

Им стал бывший технический директор Stripe Рахул Патил. Он пришёл на место сооснователя Сэма МакКлэниша, который теперь займётся архитектурой и обучением крупных моделей в роли главного архитектора.

Патил будет отвечать за инфраструктуру, вычисления и инференс — ключевые направления для компании, особенно на фоне растущей нагрузки на Claude и гонки с OpenAI и Meta* за вычислительные мощности.

https://techcrunch.com/2025/10/02/anthropic-hires-new-cto-with-focus-on-ai-infrastructure/