Midas Project опубликовали 50 страниц независимого расследования внутрянки OpenAI

Это первый настолько масштабный и доскональный анализ публичной информации о компании. Тут тебе и про реструктуризацию, и про очередное вранье Альтмана, и про дыры в безопасности. В общем, TL;DR:

➖ Помните рисерчера, у которого OpenAI забрали два миллиона долларов акциями, когда тот при увольнении отказался подписывать пожизненное NDA? Мы о нем вот тут рассказывали. Так вот Альтман публично заявлял, что он не знал об этом, а теперь оказывается, что на соответствующих документах стояла его подпись, а тот рисерчер – не первый и не последний, кто попал в такую ситуацию.

➖ Хотя компания и отказалась от перехода в полный профит, а будет Public Benefit Corporation, это все равно что шило на мыло. Оказалось, что главными целями стартапа было избавиться от потолка прибыли для инвесторов (чтобы те давали больше денег) и от контроля некоммерческого совета, и в PBC они это получат. Некоммерческий совет останется, но уже будет чисто символическим: никакого влияния на решения. Просто чтобы общественность не бурлила.

➖ OpenAI ускоряет выход продуктов, игнорируя собственные процедуры тестирования безопасности. Конечные чекпоинты моделей могут не проверяться вообще, часто тестируются только промежуточные версии. И то, если раньше это занимало месяцы, то теперь сроки сжаты до дней, причем почти все тесты автоматизированы. В общем, считай, без тестирования вообще.

А еще всплыла интересная цитата Суцкевера. Оказывается, когда он в 2023 году голосовал за увольнение Альтмана, он прямо сказал, что «Сэм – абсолютно точно не тот человек, который должен держать палец на кнопке AGI».

Вот такие дела. Расследование полностью –> www.openaifiles.org/

В опенсорсе появился первый тренажер для ИИ-алгоритмов в рекламных аукционах

Последний вклад в эту область был 12 лет назад, тогда вышел открытый датасет iPinYou. С ним многие работали, но он уже устарел.

Сегодня, наконец, нашлась достойная замена – BAT. Это даже не просто датасет, а целая платформа-песочница. А самое интересное, что выпустил ее не кто иной, как российский Авито на конференции ACMWC25 в Австралии 🦘

Рекламные аукционы – это то, на чем строится работа почти всей контекстной рекламы в интернете. Алгоритмы РА выбирают, какое объявление показать пользователю в каждый момент времени так, чтобы максимизировать клики и доход платформы, не просадив при этом метрики рексис.

В Авито на ИИ-аукционах работает вся система монетизации, когда продавец платит за продвижение объявления (подробнее). Так что у ребят опыта много, и они решили поделиться своими наработками с сообществом.

Суть платформы BAT (Benchmark for Auto-bidding Task) в том, что теперь абсолютно любая компания может проверить свои алгоритмы на реальных анонимизированных данных без необходимости строить свою сложную инфру. Алгоритм должен рассчитать ставку, затем весь процесс аукциона пройдет в тестовой среде, и разработчик получит результат. Данных, кстати, в BAT в 1000 раз больше, чем в iPinYou.

Это очень существенная демократизация рынка. По оценке рисерчеров, в среднем при помощи BAT рекламные платформы могут увеличить свой доход на 10-20% при том же объеме рекламы. Рекомендации, соответственно, будут точнее, а рекламодатели будут получать до 20% больше кликов.

Уже доступно на GitHub

Новая лекция от Андрея Карпаты: «Разработка в эпоху ИИ»

На этой неделе в Сан-Франциско прошло крупное мероприятие AI Startup School от очень известного венчурного фонда Y Combinator.

На нем со своей свежей лекцией выступил легендарный Андрей Карпаты. Запись уже можно найти здесь. Внутри:

➖Куда движется software разработка, и к чему мы придем через пару лет

➖Как выглядит вайб-кодинг здорового человека сегодня и что такое partial autonomy apps

➖Как будут работать операционные системы на основе LLM

➖В чем основные проблемы современных LLM и почему они на самом деле возникают

➖Чему обязательно нужно учиться современному программисту

В общем, советуем посмотреть. Лекции Карпаты, как всегда, на высоте

Школа Высшей Математики проведет самый емкий курс по файн-тюнингу LLM

Умение тюнить модели под конкретные задачи становится ключевым навыком уже не только для ML-щиков, но и для рядовых разработчиков, предпринимателей и в целом любителей LLM.

Если хотите освоить файн-тюнинг быстро и четко, ШВМ – проверенный вариант. У них преподают профессора МГУ и целыми командами обучаются сотрудники Сбера, ВК, Т-Банка, МТС, X5 и тд.

На курсе «LLM под ваши задачи» расскажут про тюнинг от А до Я. В программе: база по LLM, гайд по сбору данных и генерации синтетики, все про SFT и правильный эвал. Все – доступным точным языком.

Главная ценность: очень много практики. С курса вы выйдете человеком, который за 1-2 дня сможет создавать MVP на базе LLM под любой специфический запрос.

Курс стартует уже 30 июня, но пока еще есть возможность записаться на сайте. Для наших подписчиков действует скидка 20% по промокоду DS20 🙌

Ирония дня: автор работы про влияние ИИ на мозг человека специально вставила в свою статью бэкдоры, которые мешают ИИ суммаризировать текст

На днях на просторах интернета пользователи начали активно обсуждать статью от MIT, в которой исследователи сканировали мозг человека на предмет влияния ИИ.

Кратко про само исследование: взяли студентов, разделили на 3 группы и попросили написать несколько эссе. Одни пользовались ChatGPT, другие гуглом, третьи – ничем.

Результаты получились довольно предсказуемые: те, кто пользовались ChatGPT, задействовали меньше нейронных связей, с трудом могли пересказать свое письмо, а к последним эссе совсем «выключали» мозг и скатывались в копипаст.

Напротив, те, кто пользовались Google или писали полностью самостоятельно, демонстрировали высокую активность мозга и удовлетворенность от своей работы.

При этом сами авторы никаких глобальных выводов из этого не делают: они сами пишут, что выборка была небольшой, эксперименты еще надо продолжать, а статьей они просто хотели обратить внимание на проблему того, что в школах и университетах студенты все чаще пользуются ИИ для вот такого топорного списывания, и мозг (что естественно) начинает лениться. При этом, цитата: «В определенных сценариях ИИ наоборот может ускорять обучение и развивать способности человека».

В общем, работа как работа, но по интернету она разлетелась под видом «ИИ убивает мозг» – в том числе потому, что многие в саму статью даже не заглядывали, а суммаризировали ее с ИИ. Автор это предвидела и специально вставила в текст несколько бэкдоров, которые заставляли модели игнорировать некоторые важные части. Вот в саммари и получалось что-то типа «ChatGPT угробит ваши нейронные связи», а пользователи все это транслировали в соцсети.

Вот такая история. Мораль придумайте сами 🏃‍♀️

Возможность: бесплатное обучение по программе «Исследования и предпринимательство в искусственном интеллекте»

МТС и НИУ ВШЭ открыли набор на второй поток магистратуры. Документы можно подавать с 20 июня: будет 30 оплачиваемых мест от МТС Web Services. Очное обучение пройдет в московском кампусе ВШЭ.

Будут знакомить с актуальными задачами в ИТ и учить применять передовые технологии, такие как языковые модели, генеративные нейросети, видеоаналитика и распознавание речи.

А лучшие студенты уже во время учебы могут попасть на работу в МТС Web Services или пройти стажировку за границей 🤓

Вы не поверите, но там вышла еще одна (третья!) статья на тему скандальной работы Apple про недостатки ризонинг моделей

Теперь главный автор – Gemini 2.5 Pro. Зацените название:

The Illusion
of The Illusion
of The Illusion
of Thinking

Быстрый TL;DR по всем трем статьям:

1️⃣ В оригинальной статье Apple «The Illusion of Thinking» авторы (пока что люди) рассказывали о том, что рассуждения плохо масштабируются, для сложных задач не помогают, а для легких работают хуже не-ризонеров. Наш полный разбор здесь.

2️⃣ После выхода статьи Apple ее массово захейтили и рассудили, что Apple такими рисерчами просто прикрывает свои неудачи в ИИ.

В итоге спустя несколько дней вышла статья «The Illusion of The Illusion of Thinking» под авторством модели Claude Opus. Opus нашел в статье Apple ряд якобы ошибок и сделал жестокий вывод, что результатам верить нельзя. Наш полный разбор здесь.

3️⃣ И вот сегодня выходит еще одна статья «The Illusion of The Illusion of The Illusion of Thinking» уже под авторством другой нейросети – Gemini 2.5 Pro. Это обобщение обеих позиций.

Gemini говорит: да, некоторые эксперименты Apple действительно были спорными, и многое из того, что описывал Claude – правда. Тем не менее, даже если исправить эти ошибки, ризонинг все равно начинает работать хуже по мере итеративного усложнения одной и той же задачи. Так что слабость в поддержании длинных цепочек рассуждений действительно есть, просто не настолько критичная, как писали Apple.

Короче, на этот раз, надеемся, модели и люди разобрались между собой окончательно. А то так можно и в рекурсию уйти 🏖