Midas Project опубликовали 50 страниц независимого расследования внутрянки OpenAI

Это первый настолько масштабный и доскональный анализ публичной информации о компании. Тут тебе и про реструктуризацию, и про очередное вранье Альтмана, и про дыры в безопасности. В общем, TL;DR:

➖ Помните рисерчера, у которого OpenAI забрали два миллиона долларов акциями, когда тот при увольнении отказался подписывать пожизненное NDA? Мы о нем вот тут рассказывали. Так вот Альтман публично заявлял, что он не знал об этом, а теперь оказывается, что на соответствующих документах стояла его подпись, а тот рисерчер – не первый и не последний, кто попал в такую ситуацию.

➖ Хотя компания и отказалась от перехода в полный профит, а будет Public Benefit Corporation, это все равно что шило на мыло. Оказалось, что главными целями стартапа было избавиться от потолка прибыли для инвесторов (чтобы те давали больше денег) и от контроля некоммерческого совета, и в PBC они это получат. Некоммерческий совет останется, но уже будет чисто символическим: никакого влияния на решения. Просто чтобы общественность не бурлила.

➖ OpenAI ускоряет выход продуктов, игнорируя собственные процедуры тестирования безопасности. Конечные чекпоинты моделей могут не проверяться вообще, часто тестируются только промежуточные версии. И то, если раньше это занимало месяцы, то теперь сроки сжаты до дней, причем почти все тесты автоматизированы. В общем, считай, без тестирования вообще.

А еще всплыла интересная цитата Суцкевера. Оказывается, когда он в 2023 году голосовал за увольнение Альтмана, он прямо сказал, что «Сэм – абсолютно точно не тот человек, который должен держать палец на кнопке AGI».

Вот такие дела. Расследование полностью –> www.openaifiles.org/

В опенсорсе появился первый тренажер для ИИ-алгоритмов в рекламных аукционах

Последний вклад в эту область был 12 лет назад, тогда вышел открытый датасет iPinYou. С ним многие работали, но он уже устарел.

Сегодня, наконец, нашлась достойная замена – BAT. Это даже не просто датасет, а целая платформа-песочница. А самое интересное, что выпустил ее не кто иной, как российский Авито на конференции ACMWC25 в Австралии 🦘

Рекламные аукционы – это то, на чем строится работа почти всей контекстной рекламы в интернете. Алгоритмы РА выбирают, какое объявление показать пользователю в каждый момент времени так, чтобы максимизировать клики и доход платформы, не просадив при этом метрики рексис.

В Авито на ИИ-аукционах работает вся система монетизации, когда продавец платит за продвижение объявления (подробнее). Так что у ребят опыта много, и они решили поделиться своими наработками с сообществом.

Суть платформы BAT (Benchmark for Auto-bidding Task) в том, что теперь абсолютно любая компания может проверить свои алгоритмы на реальных анонимизированных данных без необходимости строить свою сложную инфру. Алгоритм должен рассчитать ставку, затем весь процесс аукциона пройдет в тестовой среде, и разработчик получит результат. Данных, кстати, в BAT в 1000 раз больше, чем в iPinYou.

Это очень существенная демократизация рынка. По оценке рисерчеров, в среднем при помощи BAT рекламные платформы могут увеличить свой доход на 10-20% при том же объеме рекламы. Рекомендации, соответственно, будут точнее, а рекламодатели будут получать до 20% больше кликов.

Уже доступно на GitHub

Новая лекция от Андрея Карпаты: «Разработка в эпоху ИИ»

На этой неделе в Сан-Франциско прошло крупное мероприятие AI Startup School от очень известного венчурного фонда Y Combinator.

На нем со своей свежей лекцией выступил легендарный Андрей Карпаты. Запись уже можно найти здесь. Внутри:

➖Куда движется software разработка, и к чему мы придем через пару лет

➖Как выглядит вайб-кодинг здорового человека сегодня и что такое partial autonomy apps

➖Как будут работать операционные системы на основе LLM

➖В чем основные проблемы современных LLM и почему они на самом деле возникают

➖Чему обязательно нужно учиться современному программисту

В общем, советуем посмотреть. Лекции Карпаты, как всегда, на высоте

Школа Высшей Математики проведет самый емкий курс по файн-тюнингу LLM

Умение тюнить модели под конкретные задачи становится ключевым навыком уже не только для ML-щиков, но и для рядовых разработчиков, предпринимателей и в целом любителей LLM.

Если хотите освоить файн-тюнинг быстро и четко, ШВМ – проверенный вариант. У них преподают профессора МГУ и целыми командами обучаются сотрудники Сбера, ВК, Т-Банка, МТС, X5 и тд.

На курсе «LLM под ваши задачи» расскажут про тюнинг от А до Я. В программе: база по LLM, гайд по сбору данных и генерации синтетики, все про SFT и правильный эвал. Все – доступным точным языком.

Главная ценность: очень много практики. С курса вы выйдете человеком, который за 1-2 дня сможет создавать MVP на базе LLM под любой специфический запрос.

Курс стартует уже 30 июня, но пока еще есть возможность записаться на сайте. Для наших подписчиков действует скидка 20% по промокоду DS20 🙌

Ирония дня: автор работы про влияние ИИ на мозг человека специально вставила в свою статью бэкдоры, которые мешают ИИ суммаризировать текст

На днях на просторах интернета пользователи начали активно обсуждать статью от MIT, в которой исследователи сканировали мозг человека на предмет влияния ИИ.

Кратко про само исследование: взяли студентов, разделили на 3 группы и попросили написать несколько эссе. Одни пользовались ChatGPT, другие гуглом, третьи – ничем.

Результаты получились довольно предсказуемые: те, кто пользовались ChatGPT, задействовали меньше нейронных связей, с трудом могли пересказать свое письмо, а к последним эссе совсем «выключали» мозг и скатывались в копипаст.

Напротив, те, кто пользовались Google или писали полностью самостоятельно, демонстрировали высокую активность мозга и удовлетворенность от своей работы.

При этом сами авторы никаких глобальных выводов из этого не делают: они сами пишут, что выборка была небольшой, эксперименты еще надо продолжать, а статьей они просто хотели обратить внимание на проблему того, что в школах и университетах студенты все чаще пользуются ИИ для вот такого топорного списывания, и мозг (что естественно) начинает лениться. При этом, цитата: «В определенных сценариях ИИ наоборот может ускорять обучение и развивать способности человека».

В общем, работа как работа, но по интернету она разлетелась под видом «ИИ убивает мозг» – в том числе потому, что многие в саму статью даже не заглядывали, а суммаризировали ее с ИИ. Автор это предвидела и специально вставила в текст несколько бэкдоров, которые заставляли модели игнорировать некоторые важные части. Вот в саммари и получалось что-то типа «ChatGPT угробит ваши нейронные связи», а пользователи все это транслировали в соцсети.

Вот такая история. Мораль придумайте сами 🏃‍♀️