Новая лекция от Андрея Карпаты: «Разработка в эпоху ИИ»

На этой неделе в Сан-Франциско прошло крупное мероприятие AI Startup School от очень известного венчурного фонда Y Combinator.

На нем со своей свежей лекцией выступил легендарный Андрей Карпаты. Запись уже можно найти здесь. Внутри:

➖Куда движется software разработка, и к чему мы придем через пару лет

➖Как выглядит вайб-кодинг здорового человека сегодня и что такое partial autonomy apps

➖Как будут работать операционные системы на основе LLM

➖В чем основные проблемы современных LLM и почему они на самом деле возникают

➖Чему обязательно нужно учиться современному программисту

В общем, советуем посмотреть. Лекции Карпаты, как всегда, на высоте

Школа Высшей Математики проведет самый емкий курс по файн-тюнингу LLM

Умение тюнить модели под конкретные задачи становится ключевым навыком уже не только для ML-щиков, но и для рядовых разработчиков, предпринимателей и в целом любителей LLM.

Если хотите освоить файн-тюнинг быстро и четко, ШВМ – проверенный вариант. У них преподают профессора МГУ и целыми командами обучаются сотрудники Сбера, ВК, Т-Банка, МТС, X5 и тд.

На курсе «LLM под ваши задачи» расскажут про тюнинг от А до Я. В программе: база по LLM, гайд по сбору данных и генерации синтетики, все про SFT и правильный эвал. Все – доступным точным языком.

Главная ценность: очень много практики. С курса вы выйдете человеком, который за 1-2 дня сможет создавать MVP на базе LLM под любой специфический запрос.

Курс стартует уже 30 июня, но пока еще есть возможность записаться на сайте. Для наших подписчиков действует скидка 20% по промокоду DS20 🙌

Ирония дня: автор работы про влияние ИИ на мозг человека специально вставила в свою статью бэкдоры, которые мешают ИИ суммаризировать текст

На днях на просторах интернета пользователи начали активно обсуждать статью от MIT, в которой исследователи сканировали мозг человека на предмет влияния ИИ.

Кратко про само исследование: взяли студентов, разделили на 3 группы и попросили написать несколько эссе. Одни пользовались ChatGPT, другие гуглом, третьи – ничем.

Результаты получились довольно предсказуемые: те, кто пользовались ChatGPT, задействовали меньше нейронных связей, с трудом могли пересказать свое письмо, а к последним эссе совсем «выключали» мозг и скатывались в копипаст.

Напротив, те, кто пользовались Google или писали полностью самостоятельно, демонстрировали высокую активность мозга и удовлетворенность от своей работы.

При этом сами авторы никаких глобальных выводов из этого не делают: они сами пишут, что выборка была небольшой, эксперименты еще надо продолжать, а статьей они просто хотели обратить внимание на проблему того, что в школах и университетах студенты все чаще пользуются ИИ для вот такого топорного списывания, и мозг (что естественно) начинает лениться. При этом, цитата: «В определенных сценариях ИИ наоборот может ускорять обучение и развивать способности человека».

В общем, работа как работа, но по интернету она разлетелась под видом «ИИ убивает мозг» – в том числе потому, что многие в саму статью даже не заглядывали, а суммаризировали ее с ИИ. Автор это предвидела и специально вставила в текст несколько бэкдоров, которые заставляли модели игнорировать некоторые важные части. Вот в саммари и получалось что-то типа «ChatGPT угробит ваши нейронные связи», а пользователи все это транслировали в соцсети.

Вот такая история. Мораль придумайте сами 🏃‍♀️

Возможность: бесплатное обучение по программе «Исследования и предпринимательство в искусственном интеллекте»

МТС и НИУ ВШЭ открыли набор на второй поток магистратуры. Документы можно подавать с 20 июня: будет 30 оплачиваемых мест от МТС Web Services. Очное обучение пройдет в московском кампусе ВШЭ.

Будут знакомить с актуальными задачами в ИТ и учить применять передовые технологии, такие как языковые модели, генеративные нейросети, видеоаналитика и распознавание речи.

А лучшие студенты уже во время учебы могут попасть на работу в МТС Web Services или пройти стажировку за границей 🤓

Вы не поверите, но там вышла еще одна (третья!) статья на тему скандальной работы Apple про недостатки ризонинг моделей

Теперь главный автор – Gemini 2.5 Pro. Зацените название:

The Illusion
of The Illusion
of The Illusion
of Thinking

Быстрый TL;DR по всем трем статьям:

1️⃣ В оригинальной статье Apple «The Illusion of Thinking» авторы (пока что люди) рассказывали о том, что рассуждения плохо масштабируются, для сложных задач не помогают, а для легких работают хуже не-ризонеров. Наш полный разбор здесь.

2️⃣ После выхода статьи Apple ее массово захейтили и рассудили, что Apple такими рисерчами просто прикрывает свои неудачи в ИИ.

В итоге спустя несколько дней вышла статья «The Illusion of The Illusion of Thinking» под авторством модели Claude Opus. Opus нашел в статье Apple ряд якобы ошибок и сделал жестокий вывод, что результатам верить нельзя. Наш полный разбор здесь.

3️⃣ И вот сегодня выходит еще одна статья «The Illusion of The Illusion of The Illusion of Thinking» уже под авторством другой нейросети – Gemini 2.5 Pro. Это обобщение обеих позиций.

Gemini говорит: да, некоторые эксперименты Apple действительно были спорными, и многое из того, что описывал Claude – правда. Тем не менее, даже если исправить эти ошибки, ризонинг все равно начинает работать хуже по мере итеративного усложнения одной и той же задачи. Так что слабость в поддержании длинных цепочек рассуждений действительно есть, просто не настолько критичная, как писали Apple.

Короче, на этот раз, надеемся, модели и люди разобрались между собой окончательно. А то так можно и в рекурсию уйти 🏖