Еще про новый Claude Sonnet 4.5: Anthropic пишут, что модель способна работать автономно до 30 часов подряд

Цитата из The Verge:

Модель потратила 30 часов, чтобы написать приложение, похожее на Slack или Teams. По данным Anthropic, в итоге она выдала около 11 000 строк кода и перестала работать только после того, как выполнила задачу полностью.

Больше деталей никаких нет, так что можно только верить на слово. К слову, в мае они сообщали, что Opus 4 работал автономно 7 часов. Прошло всего 5 месяцев. Если все действительно честно, то это просто невероятная скорость развития.

Wired пишет, что OpenAI тоже собираются делать свой ИИ-ТикТок

Идея та же, что и у только что вышедшего приложения от Meta*: соцсеть с короткими сгенерированными видео.

Самое интересное, что под капотом будет Sora 2 (давно пора).

Nvidia опенсорснули свой физический движок Newton Physics Engine для робототехники

Помните милейшего робо-малыша Blue, которого Дженсен Хуанг показывал в марте на GTC? Вот он как раз был обучен на этой платформе. Она, кстати, разработана совместно с Google DeepMind и Disney Research.

Вместе с симуляционкой Nvidia также выложили модельку GR00T N1.6. Это фундаментальная модель для ризонинга и планирования. Плюс, в нее интегрировали уже ставшую популярной Cosmos Reason: она отрабатывает как deep-thinking мозг и позволяет роботу справляться с нечеткими инструкциями и обобщать знания для новых задач.

GR00T + Newton – по сути, готовая связка для обучения робота любого масштаба. Так что у робототехников, наверное, сегодня праздник.

Блогпост

С хайпа Ghibli генераций прошло пол года, и вот этот мем снова актуален

💎Приглашаем вас на 3 бесплатных урока курса: «Reinforcement Learning»

💠Урок №1: «Обучение с подкреплением — гибкий подход для сложных задач. Создаем собственные окружения»

⏰9.10 в 20:00 мск

📍На уроке:
1. Введение в обучение с подкреплением
2. Обзор существующих сред: Gymnasium, FinRL. Переход к созданию собственного RL-окружения на Python
3. На практике напишем свою среду на gym.Env и подключим к ней обучающегося агента

💠Урок №2: «Q-Learning — базовый алгоритм обучения с подкреплением»

⏰15.10 в 20:00 мск

📍На уроке:
1. Что такое Q-learning и почему она важна для обучения агента
2. Как агент принимает решения и обучается с помощью таблицы Q-значений
3. Создадим среду на python и обучим агента самостоятельно

💠Урок №3: «Фреймворки для обучения с подкреплением — обзор, настройка и применение»

⏰23.10 в 20:00 мск

📍На уроке:
1. Обзор популярных RL-фреймворков: Stable-Baselines3, FinRL, CleanRL и другие
2. Настройка и запуск эксперимента с использованием одного из фреймворков: Stable-Baselines3 или CleanRL
3. Интеграция с пользовательскими и стандартными окружениями: OpenAI Gym, Gymnasium

🎁 Участникам уроков доступна скидка 5% на курс по промо-коду: RL_10 до 10.11.2025г.

Записывайтесь ➡️ OTUS.RU

Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576

Breaking. Альтмана поймали за воровством видеокарт. Теперь ему грозит от 5 до 7 лет без инвестиций.

P.S. Видео ни в коем случае не фейк и не сгенерировано новой Sora 2

Бывший инженер Google открыл ИИ-стартап, в котором хочет изменить подход к обучению агентов

(Каких-то 5-6 лет назад так начиналась каждая вторая тех.новость, ха-ха. История повторяется, только теперь к «бывший инженер Google» добавляется еще «бывший инженер OpenAI»).

Ну так вот. Бывший инженер Google И бывший вице-президент по пост-обучению в OpenAI Вильям Федус действительно открыл очень занятный ИИ-стартап, который уже завирусился в X.

Главная цель компании – создать полноценного ИИ-ученого. Но не такого, каких сейчас релизит каждая вторая лаба, а самообучающегося и способного на долгие исследования.

Идея в том, чтобы обучить полномасштабного ученого, данных из интернета недостаточно. Знания должны возникать сами, и для этого ИИ-ученому нужна ИИ-лаборатория.

В последние годы лучшие передовые модели ИИ почти полностью исчерпали Интернет. Исследователи стремятся эффективнее использовать эти данные, но, как знает любой учёный: хотя перечитывание учебника может дать новые идеи, в конечном итоге необходимо проверить гипотезу на практике, чтобы убедиться в её работоспособности.

С другой стороны, если дать моделям возможность проверять свои идеи в настоящей физической среде, то (1) результаты их работы станут прозрачнее; (2) свежих данных параллельно можно наплодить сколько захочешь.

Сейчас первая цель Periodic Labs (так называется стартап) – открытие сверхпроводников, работающих при более высоких температурах, чем современные материалы. Достаточно амбициозно, потому что открытие такого материала может буквально изменить технику и, следовательно, весь мир.

https://x.com/liamfedus/status/1973055380193431965?s=46&t=pKf_FxsPGBd_YMIWTA8xgg

В xAI разрабатывают аналог Википедии – Grokipedia

Илон Маск завявил, что платформа будет «значительным улучшением» Википедии, которая по мнению многих сейчас развивается политически предвзято.

Честно говоря, это просто необходимый шаг на пути xAI к познанию Вселенной.

Чем больше смотрю на то, что происходит в бигтехе, тем сильнее убеждаюсь: эпоха «просто разработчиков» закончилась.

Сейчас на вес золота не те, кто пишет код руками, а те, кто умеет управлять ИИ и выстраивать процессы вокруг него. Ручная работа уходит, автоматизация заходит так глубоко, что меняются роли команд и сами подходы к разработке.

И вот как раз об этом будет AI Boost 2025 — первая в России конференция про реальное ускорение разработки с помощью искусственного интеллекта. Здесь не будет магии и инфоцыганства — только честный разговор и конкретные кейсы.

🔥 Среди тем:

🔹 Практики внедрения ИИ в команду разработчиков без конфликтов и сопротивления (Surf)
🔹 Переход от AI-ассистентов к полноценным AI-агентам для ускорения процессов (T-Tech)
🔹 Экономия времени на QA с помощью shift-left подхода и автогенерации тестов (Surf)
🔹 Кейс внедрения нейросетей в проекты с нуля (Банк «Левобережный»)
🔹 AI vs IQ: кто выживет на рынке труда, где уже правят нейросети (НИУ ВШЭ)
А ещё два круглых стола:

🤺 «Внедрение ИИ vs Безопасность» — эксперты из Ozon, Сбера, Positive Technologies и Surf обсудят, как ускорять разработку без дыр в безопасности и как проекты будут контролироваться государством.

⚡️ «ИИ в продакшн» — спикеры из Яндекса, Магнит OMNI и других поделятся, станет ли спагетти-код стандартом быстрее, чем модели научатся писать чисто и стоит ли перестраивать SDLC ради внедрения AI.

После докладов обещают фуршет и нетворкинг, а еще — интерактивный стенд с ИИ-предсказателем, который покажет разработчикам их будущее, и возможность получить личную консультацию с CTO Surf по внедрению AI-процессов в своей компании.

🗓 Когда: 3 октября 2025 года, 12:00
📍 Где: Москва, ДК «Рассвет»
🎟 Регистрация

Google показали, как AlphaEvolve ускоряет математические исследования

У многих ученых отношение к ИИ все еще скептическое. Считается, что результатам моделек на серьезный исследованиях нельзя доверять + они плохо интерпретируемы.

Google в своей новой статье предлагают способ, как угодить всем. Они показывают детерминированный алгоритм, с помощью которого ИИ может гарантировано ускорять и улучшать исследования.

Четкая проверка и определенный пайплайн тут как бы соединяется с черным ящиком – и получается магия.

Вот, предположим, у нас есть какой-то набросок доказательства, который надо улучшить. Система DeepMind не будет перерабатывать его целиком. Она найдет в нем место, которое можно качественно улучшить, и будет работать только с ним.

«Качественно» улучшить – значит так, что улучшения можно мониторить одной конкретной метрикой. При этом связь этого кусочка с остальным решением остается неизменной, это четко определено.

Получается, ИИ действует только локально и подконтрольно улучшает те фрагменты, которые может. Если это получается, то доказательно в целом улучшится. Метод называется lifting.

Конечно, это применимо не ко всем задачам. Но ко многим – да. Например, в ходе экспериментов система работала со всякими комбинаторными доказательствами, и вот что вышло:

– В задаче MAX-4-CUT из теории графов AlphaEvolve сократила существующий предел аппроксимации с 0.9883 до 0.987. Кажется, что это немного, но на самом деле в этой области ученые бьются за каждую сотую долю.

– На аналогичной проблеме MAX-2-CUT система отыскала edge case огромного рамануянова графа, который благодаря своим свойствам может внести вклад сразу в несколько доказательств важный теорем.

Пока это мелочи. Но представьте, если что-то подобное приземлит к себе каждая лаборатория в мире.

Статья

Tinker: стартап Миры Мурати Thinking Machines выпустил свой первый продукт

И это, между прочим, не модель, а даже кое-что поинтереснее: API для файнтюнинга.

Идея проста. Вы пишете код для файнтюнинга, а само обучение проводят уже Thinking Machines на своих серверах. Они занимаются всем, что связано с железом: распределение ресурсов, восстановление сбоев и тд.

Поддерживаются самые разные модели: от небольших до очень крупных, включая MoE.

В API доступны основные низкоуровневые примитивы (вроде forward_backward, optim_step или sample), из которых можно быстро собрать наиболее распространенные пайплайны дообучения.

Для тех, кто хочет запустить что-то посложнее, Thinking Machines дополнительно выпустили Tinker Cookbook. Это открытая либа с уже готовыми реализациями многих более специальных алгоритмов поверх API. Там можно найти, например, RLHF, Multi-Agent, Tool Use, Math Reasoning и тд.

Пишут, кстати, что Tinker уже попробовали несколько хороших лабораторий. Например, в Принстоне с ним обучили модель для доказательства теорем, а в Беркли с его помощью тестировали кастомный RL-метод для агентов.

К сожалению, продукт еще в приватной бете для разработчиков и рисерчеров. Но можно записаться в вейтлист (есть вероятность, что примут быстро).

Блогпост

Делитесь своим системным промптом в комментариях 🤩

Ричард Саттон говорит, что LLM – это все еще не Bitter Lesson. Разбираемся, что это значит.

Начнем с маленькой исторической справки. В марте 2019 года Ричард Саттон (очень известный ученый, отец RL и лауреат премии Тьюринга этого года) написал эссе под названием The Bitter Lesson, то есть Горький Урок. Суть: основные прорывы в ИИ достигаются не путём встраивания знаний специалиста в модели, а с помощью масштабирования вычислений и общих методов (само)обучения.

Эссе сразу же стало фактически культовым, и Bitter Lesson превратился в полноценный профессиональный ML-термин. Каждую архитектуру обсуждали на предмет того, является ли она Bitter Lesson или нет, то есть сможет ли работать на долгосроке или провалится.

А теперь к сути поста. Совсем недавно Саттон был на интервью у Дваркеша Пателя. Вы его точно знаете, у него много ИИ-знаменитостей побывало. И на этом интервью Ричард вдруг заявил, что LLM – это все еще не Bitter Lesson.

"Вдруг" – потому что всегда считалось иначе. Ведь LLM – это вроде бы как раз про масштабирование компьюта и обобщение знаний. Но оказалось, что сам создатель Горького Урока думает по-другому.

Позиция Саттона в том, что LLM все еще обучаются и дообучаются только на непосредственно созданных человеком данных, а они могут (а) быть предвзятыми и (б) просто-напросто кончится. У человека или животного, в свою очередь, нет никакого предобучения или файнт-тюнинга, мы учимся в процессе взаимодействия в реальном времени. Так что LLM – это скорее тупиковая ветвь, которая, несмотря на свою мощь, нуждается в существенном переосмыслении для достижения настоящего ИИ.

Монолог ученого вызвал просто какое-то рекордное количество споров. От себя скажем, что его видение понятно и не лишено логики, но есть нюансы. В частности, в противовес еще кратко хочется пересказать мнение Андрея Карпаты по этому поводу (ссылка на твит).

"У Саттона своеобразное видение ИИ. Он, как классик, выступает скорее за концепцию child machine, которую описывал Тьюринг. Это система, способная обучаться на основе опыта, динамически взаимодействуя с миром. Как люди или животные.

С другой стороны, нельзя утверждать, что животные учатся чему-то с нуля. В них эволюционно заложены знания о жизни. Детеныш зебры может бегать уже через несколько минут. Такую задачу нельзя решить с нуля. Мозг животных при рождении – это не чистый лист. В LLM предобучение – это наша попытка алгоритмически воссоздать эволюцию.

Не факт, что вообще существует алгоритм, который идеально бы удовлетворял Bitter Lesson. Это скорее платонический идеал, к которому стоит стремиться, а не единственное верное решение. Тем не менее, современным моделям однозначно не хватает каких-то механизмов, вдохновленных животным миром. В этом смысле речь Саттона – это real talk для исследователей. Мы должны больше думать о новых парадигмах и идеях, а не концентрироваться только на LLM".

В общем, это интервью точно войдет в историю. Посмотреть полностью можно тут. Ну и, конечно, ждем ваше мнение в комменты.

Пятницу мы начнем с мемов

Google Research выпустили text2image агента PASTA для итерационной генерации картинок

PASTA взаимодействует с пользователем поэтапно, каждый раз уточняя предпочтения и дорабатывая картинки (см демо наверху). Тут идея в том, чтобы избавить юзера от утомительной корректировки промптов и генерации методом проб и ошибок, особенно в случае, когда идею вообще сложно выразить словами.

И да, это именно агент, а не модель. PASTA – Preference Adaptive and Sequential Text-to-image Agent. И обучали его не на парах «промпт-картинка», а на целых сессиях пользователей, где видно, как модифицировались промпты и какие картинки юзер в итоге выбирал. Датасет этих сессий, кстати, выложили в опенсорс.

Чтобы немного расширить обучение, на этих данных также обучают симулятор пользователя. Это две модели, одна из которых оценивает, насколько человеку понравится предложенная картинка, а другая определяет, какую из нескольких он бы выбрал. Благодаря этим двум моделям нагенерировали еще 30к сессий, на которых затем учили основного агента.

Обучали с помощью RL. Конкретно – имплицитный Q-learning, IQL. Цель агента – максимизировать удовлетворённость пользователя за все итерации (не только за один шаг, это важно).

Попробовать, к сожалению, пока нельзя: проект исследовательский. Зато можно пользоваться датасетом.

Блогпост | Статья

О, легендарный Эндрю Ын кажется проведет открытый бесплатный курс по Deep Learning в Стэнфорде

Все лекции можно будет смотреть на YouTube. Первая вышла вчера, вот ссылка. Эндрю уже довольно давно ничего такого не вел, так что это настоящий подарок.

Все презентации и материалы будут выкладывать здесь. В программе обещают довольно подробную теорию по нейросетям, от самых основ DL до LLM, RL, агентов, RAG и мультимодальных моделей. Практические материалы также должны быть доступны, включая (вроде как) домашки.

Вот и нашлось занятие на выходные

Физики из Гарварда построили первую в мире квантовую машину, способную работать без перезапуска более двух часов подряд

Это в сотни раз дольше прежнего рекорда, составлявшего около 13 секунд.

Одна из главных проблем в квантовых компьютерах – это так называемый «атомный уход». Во время работы машины атомы, выступающие в роли кубитов, могут постепенно теряться. Это вызвано флуктуациями температуры, ошибками в лазерных или магнитных полях, или столкновениями с остаточными газами.

А потеря квантов = потеря информации. Так что вычисления приходится постоянно перезапускать, перезагружая систему. На таком компьютере, как вы понимаете, далеко не уедешь.

В Гарварде группа ученых под руководством Михаила Лукина (он, кстати, родился в Москве и учился в МФТИ) нашла способ частично решить эту проблему. Они используют так называемые «оптические конвейеры» (optical lattice conveyor belt) и «оптические пинцеты» (optical tweezers), которые позволяют прямо во время работы автоматически заменять потерянные кубиты новыми, не прерывая вычислительный процесс.

Квантовая информация при этом сохраняется за счёт того, что новые атомы синхронизируются с состоянием уже имеющихся. Это не дает данным рассыпаться. Конвейер генерирует примерно 300 000 атомов в секунду, при этом в самой системе одновременно удерживаются около 3000 кубитов. Как только один теряется – его сразу заменяют новым.

Ни много ни мало – прорыв. К слову, по оценке авторов работы, квантовые машины с практически неограниченным временем непрерывной работы могут появиться в течение ближайших 2-3 лет.

Статья в Nature