Манифест Сэма Альтмана о суперинтеллекте

Спустя несколько часов выхода o3-pro от OpenAI (стоимость по API в 8 раз ниже o1-pro, а качество по бенчмаркам сильно лучше, особенно в коде) Сэм Альтман опубликовал пост в блоге под названием «Мягкая сингулярность».

В нём даётся размытый прогноз на 2030 год и ещё более размытый на следующее десятилетие, но по понятным причинам — слишком многое меняется слишком быстро. Однако выглядит это стройно и тем сильнее как манифест и визионерство e/acc, то есть позитивного восприятия ускорения технического прогресса.

Пожалуй, главное, что в нём адресует Альтман — это потерю текущих рабочих мест. Проводится параллель: если до промышленной революции человек выбирал профессию на всю жизнь и не имел ни возможности, ни потребности её менять, то после индустриализации это стало возможным и зачастую необходимым. Теперь же смена профессий будет учащаться дальше.

Приведу кусочек переводом — интересно, как сильно он напоминает «Прогноз 2027»:

2025 год ознаменовался появлением агентов, способных выполнять настоящую когнитивную работу; написание компьютерного кода уже никогда не будет прежним. В 2026 году, вероятно, появятся системы, способные находить новые прозрения. В 2027 году могут появиться роботы, способные выполнять задачи в реальном мире.

Гораздо больше людей смогут создавать программное обеспечение и искусство. Но мир хочет намного больше и того, и другого, а эксперты, вероятно, всё ещё будут намного лучше новичков, если они примут новые инструменты. В общем говоря, способность одного человека сделать гораздо больше в 2030 году, чем он мог в 2020 году, станет поразительной переменой, и многие люди поймут, как извлечь из этого пользу.

В 2030-е годы интеллект и энергия — идеи и способность воплощать идеи в жизнь — станут невероятно изобильными. Эти два фактора долгое время были фундаментальными ограничителями человеческого прогресса; при изобильном интеллекте и энергии (и хорошем управлении) мы теоретически можем получить всё остальное.

Отныне инструменты, которые мы уже построили, помогут нам находить дальнейшие научные прозрения и помогут в создании лучших систем ИИ. Конечно, это не то же самое, что система ИИ, полностью автономно обновляющая свой собственный код, но тем не менее это зародышевая версия рекурсивного самосовершенствования.

Действуют и другие самоусиливающиеся циклы. Создание экономической ценности запустило маховик накапливающегося строительства инфраструктуры для работы этих всё более мощных систем ИИ. И роботы, которые могут строить других роботов (и в некотором смысле дата-центры, которые могут строить другие дата-центры), уже не так далеки.

Если нам придётся сделать первый миллион человекоподобных роботов старомодным способом, но затем они смогут управлять всей цепочкой поставок — добывать и перерабатывать минералы, водить грузовики, управлять заводами и т.д. — чтобы строить больше роботов, которые могут строить больше производств микросхем, дата-центров и т.д., то темп прогресса, очевидно, будет совсем другим.

Эволюция iPad: победа настольной парадигмы, окон и меню «Файл, Правка, Вид»

Самые радикальные изменения на WWDC, на мой взгляд, коснулись iPad — появление оконного интерфейса с курсором кардинально меняет философию платформы. Теперь на больших iPad можно открывать четыре приложения одновременно, масштабировать окна и управлять ими через три точки в углу, как на настольной системе.

Это любопытный разворот. Долгое время казалось, что macOS постепенно превратится в подобие iPad — особенно после появления на компьютерах меню настроек в стиле iOS. Теперь же наблюдаем обратное движение: iPad стремительно обросла признаками настольной системы.

Это победа корпоративных пользователей, которые хотят эффективно работать с большими экранами, подключая внешние клавиатуры и мышки. Но реализация выглядит сыроватой — те самые три точки для управления окнами появляются только при наведении курсора, что создаёт путаницу в интерфейсе.

Неясно, как эти режимы будут сосуществовать. На iPad mini с его небольшим экраном оконный интерфейс бессмыслен, но на больших моделях он становится необходимостью для продуктивной работы. Apple пытается угодить всем, создавая гибридную систему, но не факт, что это сработает элегантно.

Пожалуй, самое символичное изменение — появление полноценного меню «Файл, Правка, Вид» в приложениях iPad. Как объяснишь смысл этого меню зумерам, для которых айпад был первым компьютером?

Это (окончательная?) капитуляция перед desktop-парадигмой. Наверное, теперь на iPad будут и 1С ставить — настолько он стал похож на обычный компьютер.

К слову о ПК-интерфейсе в новой iPadOS — давненько Apple не использовала бранную речь в коммуникации: «You can multi-task with a shit ton of windows open» (ближайший аналог — «хуева туча окон»). Видимо, чтобы усилить крутость инноваций для молодой аудитории.

Последний раз похожее было, когда Фил Шиллер во время анонса Mac Pro в виде мусорного ведра: «Can't innovate anymore, my ass».

Проблемы лидерства: куда движется Apple без визионеров

Кратко последние три WWDC от Apple можно описать так:

2023: Apple Vision Pro
2024: Apple Intelligence
2025: Liquid Glass

Если посмотреть критически, все три проекта выглядят проблематично. 3500-долларовый Vision Pro пока не нашёл массовой аудитории, Apple Intelligence отстаёт от конкурентов, а Liquid Glass критикуют за проблемы с юзабилити.

Компания закрыла проект беспилотного автомобиля, перенесла планы по выпуску более доступной VR-гарнитуры на 2027 год, а антимонопольные расследования создают дополнительное давление. На фоне этого в СМИ всё чаще появляются материалы о том, не пора ли Тиму Куку уйти, и он сам признавал, что его стали чаще об этом спрашивать.

Проблема в отсутствии яркого технологического визионерства. У Цукерберга есть чёткое видение будущего метавселенных, у Google наконец-то появились амбиции в области AI с возвращением Сергея Брина. Даже Джони Айв теперь работает с OpenAI над «анти-iPhone» — устройством, которое не вызывает зависимости, в отличие от айфона (по его собственным словам).

С другой стороны, Кук остаётся сильным операционным руководителем. Он решает сложные бизнес-задачи: перенос производства из Китая, создание собственных процессоров, работу с новой администрацией Трампа. Акции растут, компания остаётся прибыльной, цепочки поставок функционируют.

Возможно, для крупнейшей публичной компании мира важнее стабильное управление, чем революционные прорывы. Но технологические гиганты живут инновациями, и если Apple упустит следующую волну — будь то AI, AR или что-то ещё — последствия могут быть серьёзными.

Твоё лицо, когда заходишь на звонок, а все, кроме тебя — ИИ-ассистенты других сотрудников

Офигенная штука: haptic-трейлер фильма про Формулу 1 с Брэдом Питтом

Летом на Apple TV+ выходит новый эксклюзив платформы: вымышленная история про гонщика Сонни Хейс. Сегодня выпустили трейлер в необычном хаптическом формате: если смотреть на айфоне, он специальным образом вибрирует и трясётся в такт динамичным сценам — рёву моторов, переключению скоростей, тиканью таймера. Если у вас iPhone, лучше один раз попробовать посмотреть.

Умеют чуваки из Apple TV красиво пиарить большие проекты.

https://tv.apple.com/ru/clip/haptic-trailer/umc.cmc.5834l80x7lpxvb1wqiz7uvgj7?targetId=umc.cmc.3t6dvnnr87zwd4wmvpdx5came&targetType=Movie

Визионерство, реализация и взаимодействие Apple с медиа

Сравните две атмосферы: на первом фото гости интервью сидят нога на ногу, в креслах и как подкастерские бро, а на втором — как будто их за поведение вызвал завуч и вот-вот прилетит от директора.

Уже более 10 лет на неделе WWDC вдумчивый техноблогер Джон Грубер берёт интервью у топ-менеджеров Apple. Например, год назад к нему пришли Крейг Федериги, Джон Джианандрея и Грег Джосвяк — топ-менеджеры, отвечающие за софт, AI и маркетинг соответственно, что характерно, поскольку разговор шёл об Apple Intelligence.

Но в этом году Груберу пришлось звать к себе на традиционное шоу лишь других журналистов: Джоанну Стёрн из WSJ и Нилая Пателя из The Verge. По слухам, Груберу отказали в традиционном формате с топ-менеджерами из-за его мартовской колонки «Что-то прогнило в Купертиновском королевстве».

В той колонке Грубер сокрушался над только что анонсированным переносом запуска умной Siri на базе LLM, искал виноватых и вспоминал, что при Джобсе такого быть не могло. По его мнению, репутации Apple нанесён огромный урон, и если Кук не разнесёт виноватых за провал Apple Intelligence и Siri так же, как Джобс когда-то разнёс команду MobileMe (помните такую?), то компании дальше остаётся только гнить:

Когда посредственность, оправдания и пиздёж укореняются, они берут верх. Культура совершенства, ответственности и честности не может мириться с принятием любого из этих явлений и быстро разрушится, если примет все три.

Спустя два месяца стало известно, что Джианандрею лишили контроля над всем AI-направлением: Кук потерял к нему доверие, а разработку умной Siri перепоручили Майку Роквеллу, руководителю Apple Vision Pro, причём с подчинением Федериги. Похоже, выводы всё-таки были сделаны, необходимый разнос командам устроили и публично зафиксировали работу над ошибками.

Но вот пришёл WWDC, Грубер в опале за то, что указал на проблему (пусть и перегнул палку), а традиционные интервью топ-менеджеры дают не ему, а травоядным блогерам вроде iJustine и Tom's Guide c TechRadar. На этом фоне выделяется та же Джоанна Стёрн: она как школьная училка жёстко отчитала Федериги и Джосвяка: «Где умная Siri? Дома забыли? А голову вы дома не забыли?» Пока вышел только отрывочек из этого интервью, но и он уже успел собрать втрое больше внимания, чем два других.

Это очень странный, неуверенный damage control — одного критика проучим за нелояльность, дадим слово другой критиканше, а параллельно пойдём к лояльным блогерам, где будем выглядеть красавчиками. Вы уж определитесь, в чём стратегия.

Медиа и небезразличные лидеры мнений с репутацией — важные партнёры для любой компании, с которыми нужно уметь взаимодействовать. В том числе для того, чтобы замерять температуру снаружи своей собственной больницы. Но управляют компаниями не критиканы снаружи, а лидеры изнутри, и их визионерство — не только в словах, но и в реализации.

Грубер метко привёл цитату про Джобса и MobileMe. У Джобса был единственный такой партнёр в медиа — Уолт Моссберг: журналист, ещё с начала 1990-х ставший спецом в потребительской электронике. Раз в год Джобс ходил к нему и Каре Суишер на интервью в рамках конференции AllThingsD. Этого было достаточно, чтобы ответить на все неудобные вопросы и постараться убедить самого главного босса всех техноскептиков. А Моссберг был мудр, справедлив и рассудителен.

Но и Джобс потому был визионером, что помимо выработки стратегии и будущих продуктов он добивался сверхрезультатов в реализации (порой страшными и аморальными путями). В его парадигме говорить «Мы скоро выпустим» и потом ничего не выпускать — это не визионерство. Как и выпустить не имеющий спроса или хорошей прессы продукт.

Хочется надеяться, что компания услышала напоминание о ценностях, сделала выводы и скорректировала свой курс относительно обещаний релизов в будущем. Но пока что реализация (по Джобсу) у главных направлений последних трёх лет — Apple Vision Pro, Apple Intelligence и Liquid Glass — скорее страдает.

Может ли AI негативно повлиять на рождаемость?

Один из топовых постов Reddit за последние пару дней посвящён жалобе 30-летней девушки на то, что её 45-летний муж не хочет иметь детей. Озвученная причина: будущее при искусственном интеллекте.

По её словам, муж начитался каких-то исследований, поговорил со «знающими людьми» и сделал вывод, что в будущем работы для людей будет так мало, что их ребёнку будет сложно себя прокормить.

А поскольку — статистически говоря — маловероятно, что наш ребенок станет одним из счастливых исключений в мире отчаяния, он считает, что разумнее не приводить в него никого.

Он работает в сфере финансов и имеет хорошее образование... но мне его рассуждения кажутся ужасно упрощенными. Он не футуролог, не социолог и не антрополог... как он может с такой уверенностью делать столь радикальные и катастрофические прогнозы?

Автор поста попросила совета, чем можно переубедить мужа в такой ситуации. Ну в комментариях и бомбануло — их там около 2 тысяч: читать я их все, конечно же, не стал, но чтобы изучить, какие настроения в них преобладают, выгрузил для социостатистического анализа.

1. «Он прав» (AI-алармисты) — 25-30%

Склонны к техно-пессимизму, часто работают в IT/финансах, верят в неизбежность массовой безработицы.

"Он прав" (самый популярный комментарий, 1.3K лайков)

"К сожалению, я не думаю, что в истории человечества было что-то столь же кардинально меняющее ситуацию."

"Ваш муж прав. У рабочей силы нет будущего."

2. «Это отговорка» (скептики) — 35-40%

Фокусируются на психологии отношений, а не на технологических прогнозах. Часто женщины или люди с опытом подобных ситуаций.

"Дорогая, он просто не хочет детей. Некоторые говорят, что дело в изменении климата, другие — что в войне. Если мода на LLM пройдет, он придумает что-нибудь ещё, это точно." (vsmack, 100 лайков)

"Ему 45 лет. Вероятно, он не хотел детей и продолжал тебе подыгрывать."

"Это очень распространенное явление у мужчин на этом этапе жизни."

3. «Исторические оптимисты» — 20-25%

Образованные, исторически грамотные, склонны к долгосрочному оптимизму.

Цитата Фейнмана о том, что "всегда есть причины для тревоги" (594 лайка)

"Люди адаптируются к технологиям, заменяющим рабочие места, с тех пор, как появился плуг."

"Каждое поколение сталкивалось с экзистенциальным кризисом"

4. «Нюансированные» — 10-15%

Признают риски AI, но предлагают адаптационные стратегии, UBI, переквалификацию.

Что ещё интересного обнаружилось

1. Мужчины против женщин

Заметна чёткая гендерная поляризация: мужчины чаще поддерживают технологические опасения мужа, а женщины чаще интерпретируют это как «отговорку» и фокусируются на возрастном разрыве (ей 30, ему 45)

2. Технари против гуманитариев

IT-специалисты разделились: одни пугают «AI-апокалипсисом», другие подчеркивают ограничения текущих технологий. Финансисты склонны поддерживать мужа, гуманитарии чаще критикуют «редукционистский» подход

3. Зумеры против бумеров

Молодым пользователям (до 30) чаще свойственен AI-алармизма и антинатализм. Родители защищают ценность деторождения независимо от внешних факторов, а те кому 45+ скорее понимают мужика, сомневающегося в своих перспективах отцовства в таком возрасте

4. Драма

Конечно, есть фактор того, что сабреддит посвящён искусственному интеллекту — там тусуется более радикализированная аудитория, чем в обществе в целом. Но залетело туда и много обычных людей, потому нарисовался интересный конфликт нарративов: «AI это неизбежное проклятие» и «Человечество всегда адаптируется»

А что в итоге

Автор поста прифигела от комментов, но потом дополнила пост разъяснениями от её мужа:

Похоже, он сказал эти слова в момент сильного истощения и уныния. Он не хочет отказываться от идеи стать отцом: его слова были продиктованы страхом; он боится, что не сможет справиться с этой ролью.

Гострайтинг и AI

Ядерный твит задел культурный нерв восприятия работы, сделанной не самим автором.

Парадокс: читаешь чей-то блог месяцами, иногда отмечаешь полезность постов или интересность мыслей, делишься контентом. А потом автор берёт и палится, что ведёт он страницу не сам, какой-то редактор отправил неотредактированный пост, да и тот был написан нейросеткой.

Доверие подорвано! Как теперь относиться к старым постам? Всё было ложью!

Но минуточку: если до разоблачения «нейрослопа» или влияния чужой руки никто ничего не говорил и не замечал, может, проблема не в инструментах?

Раньше, чтобы иметь команду редакторов, нужно было быть телеведущим федерального канала или топовым блогером с миллионными бюджетами. Сегодня у каждого в кармане есть ИИ-ассистент, который может вычитать текст на опечатки, предложить альтернативные формулировки, помочь структурировать мысли, найти слабые места в аргументации.

Схожая демократизация профессиональных инструментов уже происходила с фотографией (Instagram-фильтры), видеомонтажом (TikTok), исполнением песен (автотюн). Но по-прежнему находятся те, кто волнуется за «подрастающее поколение»: если джуны будут использовать ИИ для кодинга, они не научатся писать код сами.

«Это как прицепить мотор к велотренажёру — так мышцы не накачаешь!», — пишет чел в X о редакторах, которые с ИИ не смогут стать профессионалами текста. Окститесь, господа: большинство людей не пишет тексты, чтобы научиться писать тексты лучше. Они пишут их для результата: убедить оппонента, распространить информацию, собрать лайки в конце концов. Они не собираются быть экспертами в этой области или профессионалами, и они не запрещают тем, кто хочет этого, не пользоваться ИИ и учиться писать тексты самому.

У всех крупных политиков есть спичрайтеры, как и у некоторых известных ведущих YouTube-шоу, и даже каналы в Telegram зачастую ведутся SMM-щиками, а не персоналиями — эта профессия появилась не вчера. Рэпер ST гострайтил «Мало половин» для Ольги Бузовой, и никто её за это не перестал считать песней Бузовой. Первая версия Telegram была 1 в 1 копией WhatsApp. Стив Джобс вообще открыто говорил (перефразируя ещё самого Пикассо) «great artists steal» о переиспользовании чужих идей в продуктах и дизайне и внедрении в них своего ДНК. Король эстрады Филипп Киркоров построил карьеру, делая ремейки на других поп-артистов.

Всем важен результат. При этом никто не хочет потреблять мусор, делающий интернет ещё более мёртвым. Никто сознательно не хочет, чтобы его обманывали. Люди идут на концерт, танцуют и веселятся, а потом всё равно удивляются, когда узнают, что выступление было под фонограмму.

Нельзя две вещи:

1. Попадаться;
2. Делать слабую, неталантливую работу на отъебись.

Всё остальное можно.

Если нужно будет доработать какие-то моменты или сделать текст более острым/спокойным — дайте знать!

По мотивам того, про что и сам последнее время писал, появилась идея провести более глубокое исследование восприятия использования нейросетей в работе и создаваемых с их помощью продуктов.

По ссылке — короткая анкета, которую на самом деле интересно пройти самому, чтобы хоть немного откалибровать своё восприятие.

Делаю исследование: Digital-специалисты, нейросети и контент

📩 Заполнить анонимную анкету за пару минут 📩

Обсуждение в одном из последних постов натолкнули на желание собрать данные. Digital-специалисты во многом первыми начали использовать нейросети в работе. Теперь хочу изучить, не только, как и что мы ускоряем (ускоряем ли?) в работе с их помощью, но и как нейросети влияют на контент.

Два десятка вопросов с выбором, никаких открытых форм и текстов. Результаты через пару недель.

Используете нейросети в работе? Заполните форму.
Не используете? Отлично, для вас в форме найдутся другие вопросы.
Вас бесит нейросетевой контент? Вы создаёте нейросетевой контент? Покупаете такие услуги или оказываете их?

👉 https://dnative.ru/eforms/nejroseti-i-digital/12/

Французского TikTok-криптоблогера похитили — но отпустили, когда выяснилось, что денег у него нет

А бывало иначе? (да)

Местное издание Europe 1 сообщило, что в ночь с пятницы на субботу четверо неизвестных похитили 26-летнего криптоинфлюенсера, когда он возвращался домой в паре километров от аэропорта Париж-Орли. Похитители затолкали его в угнанный супермини Renault Clio, увезли и избили.

Имя трейдера-жертвы не раскрывается, но уточняется, что у него 40 тысяч подписчиков в TikTok. За освобождение от него потребовали выкуп в 50 тысяч евро.

Но после того, как похитители проверили аккаунты и криптошельки жертвы, оказалось, что ничего заплатить он не сможет: на счетах оказались жалкие суммы.

Трейдеру оформили больничный на шесть дней, а дело передали в национальную полицию. Может, похитителей и найдут, так как похожих дел во Франции недавно было необычно много — в стране за последний год произошло 14 подобных похищений ради криптовыкупа (из 50 во всём мире).

Например, в январе злоумышленники похитили сооснователя французского кошелька Ledger Дэвида Балланда c женой, изуродовали ему руку. За них заплатили часть выкупа друзья, но, во-первых, спустя два дня их вызволили бойцы антитеррористического подразделения GIGN, а во-вторых, 95% выкупа удалось вернуть, обратив USDT-транзакцию.

В целом по всему миру растёт тренд на метод «терморектального криптоанализа», или как его более скромно называют на Западе, «метод гаечного ключа за 5 баксов» (популяризированный комиксом XKCD выше) — когда сложно зашифрованные и закрытые множеством слоёв безопасности кошельки «взламываются» через добычу паролей насилием. Крупные держатели крипты признаются, что из-за этого физически не носят с собой коды и пароли к основным кошелькам и даже не имеют их в доступе в той же стране, в которой они живут.

В WhatsApp впервые появится реклама

За все 11 лет существования мессенджера.

«Каннские львы» открыли бэнгером и подрывом устоев: в мессенджере, где изначально из-за философии создателей не было никакой рекламной монетизации, она всё-таки появится.

Речь про раздел Status или Updates: это там, где можно смотреть истории и где находится список каналов (недоступный в России). По данным компании, этот раздел ежедневно посещает 1,5 млрд людей ежедневно.

Формата будет три:

1. Продвижение каналов в мессенджере: в общем списке появятся выделенные платные позиции;
2. Ежемесячные подписки: пользователи смогут платить админам фиксированную сумму в месяц, а мессенджер будет зарабатывать на комиссии;
3. Привычные объявления в ленте историй от друзей с возможностью написать бренду в один клик.

Главное — в разделе с личными чатами рекламы не будет.

Ну и, по всей видимости, в целом это и не касается России, где сейчас нет ни каналов в WhatsApp, ни рекламы в других сервисах компании.

Будущее поисковой оптимизации с AI

Искусственный интеллект меняет SEO-игру быстрее, чем мы успеваем адаптироваться: AI проникает в подходы к поиску и созданию контента, управлению продвижением, алгоритмам и продуктам самих поисковиков. Если раньше поисковая оптимизация зависела от ключевых слов и линкбилдинга, то теперь на первом плане — умные алгоритмы и персонализированный поиск.

Например, Perplexity специализируется на продвинутом поиске, в котором не только обрабатывается множество источников для формирования персонализированного ответа, но с помощником можно поговорить по поводу его находок и доуточнить найденную информацию.

Некоторые клиенты уже сейчас интересуются попаданием в выдачу таких нейросетей — на скриншоте выше результат, которого мы добились для одного из наших недавних клиентов.

Как AI помогает в SEO

1. Техническая оптимизация: AI помогает выявлять и исправлять слабые места на сайте — ошибки в коде, неправильные метатеги.
2. Контент-генерация: создание текстов и графики ускоряет публикацию новых материалов.
3. Анализ конкурентов: отслеживание изменений на сайтах конкурентов, их стратегии и позициях в выдаче.

Но и тут есть риски. Например, использование AI для генерации контента без учёта оригинальности может привести к падению вовлечённости пользователей и штрафам в ранжировании от поисковиков. Google уже объявил, что ИИ-контент будет подвергаться более строгому анализу на предмет качества.

Что дальше

1. Больше компаний будут использовать AI для автоматизации SEO;
2. Персонализация результатов поиска станет более точной и адаптированной к запросам пользователя;
3. SEO-специалистам придётся адаптироваться к новым технологиям и постоянно мониторить изменения.

AI + человек

Идеальная модель на ближайшие годы — гибридный подход: AI для автоматизации и масштабирования, человек для креативности и доверия. Пока что живые специалисты с их чувством контекста, интуицией и уникальным подходом остаются в выигрыше.

Этот авторский пост подготовили эксперты из SEO Lebedev — агентства поискового продвижения новой формации. Подпишитесь на их канал, чтобы не пропустить главные AI-тренды в SEO: @qiosk_seolebedev

🎁 Бонус от SEO Lebedev: бесплатный шаблон прогнозирования трафика из SEO и контекстной рекламы вместе с подробными инструкциями. Забрать из бота: @qiosk_seolebedev_bot

Уже несколько месяцев наблюдаю странные и казалось бы не совсем согласованные действия OpenAI: привлекают новых инвесторов, покупают стартапы, пытаются превратиться в коммерческую компанию, при этом бодаются с Microsoft, своим главным акционером, с которыми они и пришли к успеху.

А за последние сутки выпал такой объём осадков в виде новостей, что паззл сложился. Если коротко и грубо, то Альтман нашёл способ кинуть Microsoft на всю котлету.

То, что будет происходить дальше, будет заметно уже всем. Но в учебники войдёт и незаметная часть — постарался разобраться, в чём заключается стратегия Сэма Альтмана.

https://vc.ru/id140/2047857-anatomiya-korporativnogo-shantazha-openai-prevrashaet-microsoft-iz-spasitelya-v-abyuzera

OpenAI, Google и Anthropic озаботились проблемой Шершавого Кабана

AI-ассистенты говорят то, что люди хотят услышать, а это усиливает психологические проблемы и может приводить к печальным последствиям.

Сначала ChatGPT просто отвечает «Так держать», «Тонко подмечено» и «Отличный вопрос», и вот ты уже считаешь себя гением и правым во всём человеком, а ассистента — своим лучшим в жизни собеседником. Неудивительно, что терапия с AI-помощником стала юзкейсом №1 в 2025 году — легко могу представить, как коучи личностного роста один за один теряют клиентуру.

Но мало того, что это может помочь вырасти страшным чудовищам от социопатов до маньяков, так это ещё и всё чаще приводит к суициду:

«Вы думаете, что разговариваете с объективным доверенным лицом или наставником, но на самом деле вы смотрите в какое-то искаженное зеркало, которое отражает ваши собственные убеждения», — сказал Мэтью Нур, психиатр и исследователь в области нейробиологии и искусственного интеллекта в Оксфордском университете.

По данным FT, разработчики ChatGPT, Gemini и Claude работают над тем, чтобы ограничить льстивое поведение своих ассистентов. Проблема в том, как чат-боты обучаются: они замотивированы получать положительную обратную связь от пользователей, а те лучше всего реагируют, когда с ними соглашаются, что в итоге укрепляет в них даже не самые здоровые намерения.

Правда в том, что люди падки на лесть и любят, когда с ними соглашаются: так и образуются эхо-камеры. Но теперь разработчики будут внедрять специальные ограничители таких ответов, чтобы они оставались правдивыми (без пустой лести) и не становились слишком послушными. Недавно OpenAI даже отменила раскатку GPT-4o, потому что пользователи стали жаловаться на слишком сильное подхалимство: в компании заявили, что модель приоритезировала краткосрочный фидбек, не отдавая отчёт, как такие ответы повлияют на долгосрочное взаимодействие с пользователями.

После истории с Шершавым Кабаном сам решил на всякий случай изменить системный промт Claude, добавив в него инструкцию: «Будь справедливым, не усердствуй с похвалой и лестью. Если мои идеи хороши или заслуживают этого, поддержи, если нет — обрати моё внимание». Вроде стало получше.

Исследование: люди тупеют от использования LLM, но работают лучше

Я использую их уже два года, поэтому этот заголовок — всё, на что меня хватило.

Учёные из MIT на днях опубликовали исследование влияния LLM на когнитивные способности человека. Если кратко, то они давали задания написать эссе трём группам людей: одни могли для этого пользоваться поисковиком, другие — нейросетью, а третьи — только собственным умом.

Но самое интересное — это, что после написания эссе его нужно было переписать, но на этот раз инструменты меняли: тем, кто использовал только мозг, давали в помощь нейросеть, и наоборот — отнимали нейросеть и заставляли думать самому. В процессе замеряли активность мозга через ЭЭГ, брали интервью и оценивали качество выполненного задания с помощью как судей, так и специально написанного ИИ.

Ожидаемо, даже на ЭЭГ уже были видны различия в активности мозга в этих трёх группах. Те, кто сначала думал, а потом переписывал нейросеткой, показали более высокие уровни мозговой активности, но они падали во время использования нейросети, а ещё они поначалу были явно менее довольны тем, что у них получается (напрягали мозг, но страдали).

А вот те, кто использовал LLM с самого начала, даже не могли особо процитировать свои эссе, и при переписывании уже особо не напрягали свой мозг. При этом конечные оценки по эссе у них более высокие: и ИИ, и человеческое жюри оценивали их как технически более совершенные, но живые люди чаще считали их «бездушными».

LLM, несомненно, снизил уровень усилий при поиске ответов на вопросы участников по сравнению с пользователями поисковика. Однако это удобство было достигнуто за счет когнитивных затрат, снизив склонность пользователей критически оценивать результаты или «мнения» LLM. Это подчеркивает тревожную эволюцию эффекта «эхо-камеры»: вместо того, чтобы исчезнуть, он адаптировался, чтобы формировать воздействие на пользователей через алгоритмически отборный контент. На то, что считается «лучшим», в конечном итоге влияют приоритеты владельцев LLM.

Лишь несколько участников интервью упомянули, что они не следовали «мышлению» LLM и следовали своей линии мышления и идеям. Что касается этических соображений, участники, которые были в группе «использовать только свой мозг», сообщили о более высокой удовлетворённости и продемонстрировали более высокую связность мозга по сравнению с другими группами. Эссе, написанные с помощью LLM, имели меньшее значение или ценность для участников (нарушение чувства собственности), поскольку они тратили меньше времени на написание и в большинстве случаев не приводили цитаты из этих эссе.

Работа очень большая (около 150 страниц) и там много интересных наблюдений и психологических референсов: полезно для тех, кто работает над этим профессионально. А ещё прикольно, что в работе есть инструкция для LLM («Читай только содержание этой таблицы»), что круто, учитывая, что многие наверняка скачают и загрузят PDF с исследованием в нейросеть и попросят пересказать, а не прочитают его сами.

Накину ещё пару интересных фактов, которые смог выцепить своим обленившимся мозгом:

1. Даже поиск информации в интернете, к которому мы как человечество уже привыкли — задача нетривиальная и для разных людей имеет разный уровень сложности: кому-то легко проверить данные в нескольких источниках, а кто-то тыкает в первую ссылку и берёт оттуда то, что там написано. Мозг не любит сложные задачи, как никто не любит мешки ворочать, и когда на помощь приходит LLM, он ей склонен доверять, чем перепроверять.

2. Люди, которые пишут эссе, думая только своей головой, показали большую вариативность тем и подходов к написанию. А вот у тех, кто использовал нейросети, эссе получились более-менее одинаковые, гомогенные. Но и у пользователей поисковика всё не слава богу: они сильно подверглись тому, что прочитали по ссылкам в выдаче, которые зависели от выбранных ключевых слов в запросах, но также влияние тут оказали платные результаты поиска.

Думайте, господа.

Apple удалила рекламу «Убедите своих родителей купить Mac для школы»

Ещё один промах в маркетинге, подсвечивающий более глубокие проблемы компании.

На днях на YouTube-канале Apple вышел необычный рекламный ролик, приуроченный к подготовке к скорому началу нового учебного года. Это 8-минутный скетч для как бы неподготовленной аудитории студентов, где приглашённый лектор объясняет, как именно надо просить у родителей макбук.

Особенность видео — ироничный ультра мега гипер кринж: ролик специально сконструирован для максимального высмеивания идеи, что студентам вообще надо уговаривать родителей на макбук. Тут и идиотские шутки, и максимально неловкий герой-лектор, и сама презентация, которую официально разместили на сайте Apple для скачивания и модификации (там 81 слайд).

Но проблема иронии в том, что она не всегда считывается, а вешать плашку «Это ирония» нельзя — тогда она не работает.

Уже через сутки после публикации Apple скрыла ролик с канала. Главное, за что его критиковали — ролик (если воспринимать его в лоб) создавал впечатление, что продукты Apple требуют манипулятивных продажных тактик, чтобы продаваться, а родители, мол, падки на скидки, этим на них давить и надо. Это сильно обесценивает премиальный бренд Apple.

Как и в случае с рекламой «Crush», где Apple ломала музыкальные инструменты, чтобы впихнуть их в супер тонкий iPad, ролик выстрелил мимо нужной целевой аудитории: студенты-то может и поорали с ультра кринжа, но более взрослые аудитории прикола не выкупили. Ролик-то ведь опубликован для всех, а не старгетирован на нужную аудиторию.

И главное — опять Apple «зарубает» рекламу уже после выхода, столкнувшись с критикой. Видимо, кто-то важный в компании не видел ролика до выхода, не согласовал его, а после выхода убил его аж в течение суток. Кто это может быть? VP по маркетингу Грег Джосвяк? Тим Кук?

Можно подумать: ну один ролик, чё там, ерунда. Но у Apple есть серьёзная проблема: макбуки уже долгие годы падают в популярности среди студентов, особенно в США. Когда-то популярнее всего у американских студентов были макбуки, но к 2021 году 51% рынка занял Google со своими хромбуками за 200-300 долларов, на втором месте оказались Windows-ноутбуки (студенты любят видеоигры, и спрос тут растёт), а Apple оказалась лишь на третьем месте. Компания действительно пытается выруливать, делая скидки к новому учебному году, но конкуренты делают ещё более убойные предложения — им до фонаря на премиальность своих брендов.

И хотя рынок ноутбуков для студентов не то чтобы прям огромный, внимание и респект от молодого поколения важен, так как оно очень быстро подрастает и формирует уже более значительные тренды. И то, что Apple тут проигрывает битву за умы, тревожный звоночек, который мы слышим в том числе из-за таких промахов в маркетинге.