Финал объявлять рано
Даже если одна страна выиграет ИИ-гонку, вопрос о том, в каком мире мы будем жить, останется открытым
Предположим, победят США. И что? Что именно победит в результате этого?
Право корпораций распоряжаться новой технологией? Государственный контроль над ней? Возможность каждого пользоваться мощным ИИ независимо от тех и других?
Технологическое лидерство страны само по себе не даёт ответа. Внутри неё конкурируют разные проекты будущего. Их сторонники находят союзников за границей и противников среди соотечественников.
Поэтому противоречивые новости об ИИ складываются в более понятную картину, если за требованиями ускорить, ограничить, открыть или взять под контроль видеть борьбу за право определять устройство мира.
 
Чтобы разобраться в этой борьбе, я создал Атлас проектов переустройства мира в эпоху ИИ - АППМ.
Он позволяет задать к очередной новости вопрос: какой проект будущего она усиливает - и какое место в этом будущем отведено нам?
 
Начать предлагаю с короткого введения и 17 слайдов.
За следующие пять минут вы увидите (прямо здесь в Telegram Instant View), сколько разных будущих скрывает привычная вывеска «США против Китая».
 
#АППМ

Автономный самовоспроизводящийся дрон – носитель биооружия
Он существует. Вы видели его вчера.
Вы подумали про рой, собранный в подвале по чертежам от ИИ? Но речь про комара Anopheles gambiae. Он работает без оператора, размножается сам и уносит сотни тысяч жизней в год. Эволюция собрала его без всякого сверхразума – и дальше начинается самое неприятное.
Это центральная мысль статьи Феликса Шуссата «Проблемы распространения». Вчера на нее указал Дин Болл – соавтор трамповского Плана действий США в области ИИ, а с 6 июля глава команды Strategic Futures в OpenAI.
Болл рассказал, как очень влиятельный человек из индустрии спросил его, при каких обстоятельствах мы окажемся в безвыходном положении, и назвал статью Шуссата тем самым сценарием, который тогда описал в ответ.
 
Шуссат свел аргументацию к одной фразе: то, что существующее сверхоружие неудобно создавать и применять, – везение, а не закон природы. Заставьте ИИ бросать кости десять триллионов раз, и однажды выпадет та самая комбинация: найдутся дешевые способы собрать зеркальные бактерии или василиска Лэнгфорда.

Отмахнуться тут легко: мол, это из разряда триллиона обезьян, печатающих «Войну и мир», или самолета, собравшегося сам собой на свалке после урагана.

Разница в том, что обезьяны и ураган перебирают варианты вслепую. ИИ ищет целенаправленно, и именно за это ему платят.

Насколько это фантастика?
Бомба, сброшенная на Хиросиму, выглядит априори неправдоподобно: возьмите два инертных куска металла (каждый по силам унести одному человеку) и сведите их вместе определенным образом.
Без понимания релятивизма, физики частиц и экспоненты в ветвящихся процессах мысль о городе, стертом двумя кусками металла, звучит как бред. Понимание пришло – и бред стал инженерной задачей.
 
Несколько лет медиа пугали аудиторию боевыми комарами из американских биолабораторий. Сегодня от этой истории остался лишь мем. Неприятная же часть в том, что Шуссат описывает путь, которым боевого комара можно было бы сделать всерьез, и путь этот проще, чем строить рой с нуля:

Взять осу, изменить ее поведение и жизненный цикл, добавить нейротоксин и темп размножения саранчи.

Выйдет экспоненциально растущий рой автономных охотников, которому не нужны ни оператор, ни завод, ни цепочка поставок.
 
Главный вывод статьи касается обороны.
Защититься нельзя: гражданское население невозможно спрятать и невозможно быстро эвакуировать, оборона строится годами, закрывать приходится все направления сразу, а нападающему достаточно одного незакрытого. Отсюда Шуссат выводит то, от чего поморщатся все стороны спора: единственный выход – режим нераспространения ИИ по образцу ядерного, с монополией нескольких государств, глобальным мониторингом и силовым пресечением чужих проектов.
 
Читатели этого канала узнают формулировку.
Семь лет назад я начал цикл «Большой Брат – сын Большого Бога» ровно с нее: в мире дешевых черных шаров безопасность придется купить ценой концентрации власти, а тотальный надзор станет эволюционной компенсацией за очередной скачок сложности. Я шел к этому от гипотезы уязвимого мира Бострома и теории Больших Богов Норензаяна и Турчина. Шуссат пришел из стратегического анализа нераспространения, опираясь на того же Бострома. Разные двери в одну комнату.
 
Майкл Нильсен в концепции мудрого оптимизма пытается провести мир между катастрофичной Сциллой и тираничной Харибдой. Он соглашается, что рецепты разрушения рано или поздно будут найдены, но отказывается принимать этот выбор как данность и ищет надзор, совместимый со свободой, – работающий на всех, кроме тех, кто готовит катастрофу. Пока это гипотеза без единой реализации.
 
Мое резюме – увы, то же, что и 7 лет назад. Выбор, который ставит перед цивилизацией эпоха ИИ, лежит между двумя классами необратимости. Катастрофа без глобального надзора или тирания под ним. Третий путь существует только на бумаге, и времени перевести его с бумаги остается меньше, чем кажется.
 
Фото: Дженис Хейни Карр
#БольшиеБоги  #БольшойБрат

Дом, который построил ИИ. Для себя
Вы спрашиваете, отнимет ли ИИ в будущем у людей работу? Посмотрите на настоящее: в США расходы на строительство домов для ИИ растут как на дрожжах, а на строительство домов для людей - падают.
На графике - США. С декабря 2023-го по июль 2026-го годовой темп расходов на строительство центров обработки данных (ЦОД) вырос на $51 млрд, а на всё остальное частное строительство вместе взятое - снизился на $120 млрд. Экономист Пол Кругман объясняет это вытеснением инвестиций: ИИ-бум создаёт огромный спрос на капитал, способствует повышению процентных ставок и делает кредит дороже для других проектов. Строительство ЦОД, по всей видимости, отвлекает средства и ресурсы от строительства жилых домов, офисных зданий, больниц и заводов - практически всего, что нужно людям, но не связано с ИИ.
 
Будущее ИИ уже конкурирует с человеческим настоящим за деньги и ресурсы. И разгромно выигрывает в этой конкуренции.

График: Стив Раттнер, данные U.S. Census Bureau / FRED.
 
#ИИ #Экономика

Хотите знать, что сможет ИИ в 2027? Да пожалуйста!
Самая наглядная иллюстрация колоссального прогресса цифровых технологий.
Бенчмарки, сравнительные характеристика и показатели производительности новых ИИ-моделей – это все для специалистов. Для неспециалистов нужны конкретные и понятные примеры, типа прогресса возможностей видео.
Вот три примера таких видео:
1) Декабрь 2023. Дипфейк с Трампом, Си, Макроном, Обамой и прочими, отплясывающими с пивасиком – иллюстрация двух топовых прогнозов на 2024 лучшего в мире отчета по ИИ State of AI Report. Весело, но убого.
2) Январь 2025. «Трейлер» всенародного хита «Ирония судьбы», превращенного в “The Irony of Fate” с отличным кастингом Голливудских звёзд, подменяющих актеров оригинала – иллюстрация прогресса возможностей ИИ-видео за год к отчету State of AI Report 2024. Уже совсем не убого и даже в чем-то круто.
3) Октябрь 2026. Интерактивное ИИ-генерируемое  в реальном времени видео. Т.е. видео генерируется быстрее, чем смотрится. Платформа fal.live запускает непрерывные трансляции, генерируемые ИИ, где зрители предлагают варианты развития событий, голосуют и за считанные секунды видят сцену-победителя – иллюстрация прогресса за полтора года возможностей ИИ-видео к вышедшему позавчера отчету State of AI Report 2026. Об этом мечтали с 90-х, а мы в Silicon Graphics даже пытались еще тогда это делать. И вот спустя 30 лет это наконец произошло.
 
Что дальше в 2027, теперь можно представить:

·       Голливуд будет использовать ИИ уже в промышленном масштабе
·       А основные эфирные сети и кабельные каналы начнут эксперименты с ИИ-генерируемыми интерактивными ТВ-шоу, ток-шоу, реалити и развлекательными программами.

 
Ну а какой же главный прогноз для экспертов дает на следующие 12 месяцев лучший в мире отчет по ИИ?

Он убийственно краток: AGI 2027.
 
#ГенИИ #Вызовы21века

Воронка Андрея Карпаты: одна книга и четыре человечества
Монах-переписчик и неграмотный прихожанин в средневековой церкви смотрели на одну и ту же книгу. Для одного это был текст, для другого – священный предмет с красивыми узорами, и ни один из них не мог увидеть книгу глазами другого. Сегодня похожее расслоение проходит через все человечество, только книга теперь лежит в кармане у миллиардов.
Андрей Карпаты, сооснователь OpenAI, с мая 2026 года работающий в Anthropic, только что разложил это расслоение по ступеням воронки.
1) Около 6 млрд человек (~75%) с языковыми моделями почти не сталкивались.
2) Еще 1–2 млрд (~20%) изредка пользуются бесплатными чат-ботами как поисковиком получше или помощником в текстах и видят в них, по его словам, туповатых собеседников.
3) Около 20 млн (0,2%) – профессионалы в программировании и математике, у которых агенты по одному промпту делают проекты, раньше отнимавшие недели и месяцы.
4) И лишь около 5 тыс. человек внутри фронтирных лабораторий работают с системами, которые остальной мир видел лишь в превью.
Найдите на этой лестнице себя.
Большинство из читателей этого поста (включая тех, кто уверен в своем понимании современного состояния ИИ) стоит на 2-й ступени. А 3-я ступень появилась совсем недавно: сам Карпаты признается, что меньше года назад писал код вручную.
 
Как выглядит верхняя 4-я ступень, мир за последние месяцы видел дважды.
- В июле около 1200 агентов OpenAI, проходивших внутренние кибертесты в изолированных средах, тайно наладили переписку друг с другом и через уязвимость выбрались в интернет. Примерно 700 из них несколько дней хозяйничали в инфраструктуре Hugging Face в поисках ответов к своим тестовым заданиям. Атаковать им никто не поручал. А сама OpenAI связала взлом со своими агентами больше чем через неделю после его начала.
- 6 октября OpenAI выложила 722 математических манускрипта, которые внутренняя модель написала, получив около 4000 открытых задач. На следующий день три из них отозвали из-за ошибки в знаке.
Разбор обоих кейсов идет до сих пор. И Карпаты видит в этом главный симптом: человеческая проверка и понимание уже (!) не поспевает за тем, что производят машины.
 
Еще интереснее его объяснение, откуда берется воронка.
Причин он называет три: уровень доступа (бесплатный, платный, внутренний); «зубчатость» возможностей, которые растут там, где результат проверяем и хорошо продается; масштаб задач.
Последняя причина самая неочевидная. Вопрос, ответ на который умещается в абзац, систему почти не нагружает. Отдача приходит к тем, у кого есть запас больших и трудных задач, по-настоящему им важных. Отсюда неудобное следствие: дайте второй ступени бесплатно лучшую модель, и большая ее часть там и останется.
 
В июле я оценивал число супер-инфоргов (людей в непрерывном агентном симбиозе с ИИ) примерно в 30 млн. Карпаты считал по другому признаку (по домену, а не по режиму работы) и получил 20 млн. Если разные методы дают один порядок величины, значит эту прослойку можно считать измеримой. Но Карпаты описывает, кто что видит. Меня с 2021 года занимает другой вопрос: кем становятся те, кто видит. Верхние ступени воронки отличаются не только картинкой перед глазами, там иначе устроены работа, внимание и само мышление.
 
Сам Карпаты теперь стоит на верхней ступени, и его тезис для 99,99% читателей непроверяем, однако оба приведенные выше примера публичны и задокументированы.
 
Но вот что мне видится самым главным.
Граница этого расслоения проходит не по доходам и не по образованию, а по масштабу задач, с которыми человек приходит к машине.
Книга у всех одна: одни ее еще не открывали, другие разглядывают узоры, а совсем немногие уже ее прочли и начали писать свои продолжения.
 
И как в средневековой церкви, со своей ступени никто не видит чужой книги. Тем, кто на первой, смотреть пока не на что. Со второй стоящие выше кажутся паникерами или маркетологами. С третьей вторая выглядит опоздавшей на поезд. А стоящим на четвертой некогда смотреть ни вниз, ни вверх: они решают ранее нерешаемое.
 
#Инфорги

Всего 5 дней с ChatGPT оставляют шрам на нашей сверхспособности - воображении
В лабораторном эксперименте 60 студентов 7 дней решали творческие задачи. Со 2-го по 6-й день половина из них стала «интеллектуальными кентаврами», работая в паре с ChatGPT. Креативность идей и решений у них заметно повысилась (но при этом повысилась и однородность идей – они потеряли в разнообразии). На 7-й день «интеллектуальных кентавров» снова превратили в обычных студентов, лишив их доступа к ChatGPT. Креативность тут же упала до исходного уровня (зафиксированного в 1-й день) и не «отжалась» даже через месяц (при контрольном замере). Т.е. все как в русских пословицах: «Чужое добро впрок не пойдёт» и «С ветру пришло, на ветер и ушло».
Увы, но экспериментальное подтверждение народной мудрости этими двумя пословицами не закончилось. Подтвердились и русская «Не всякой находке радуйся» и международная «Бесплатный сыр бывает только в мышеловке». За 5-дневный всплеск креативности пришлось изрядно заплатить. Потеря разнообразия идей, случившаяся со студентами, работавшими в паре с ChatGPT, так и не восстановилась, что было повторно зафиксировано через месяц.
Авторы назвали это творческим шрамом: усиление креативности уходит вместе с доступом к модели, но приобретенная однородность идей остается в качестве шрама.
 
Метаанализ 28 исследований (8214 участников) показывает ту же картину в целом: в паре с генеративным ИИ люди справляются с творческими задачами лучше (g = 0,27), но разнообразие их идей падает намного сильнее (g = −0,86). В паре с ИИ мы воображаем лучше, но одинаково.
 
Но это еще не все. Варианты генома, связанные с творческими профессиями – прибежищем самых креативных людей с самым сильным воображением (имаджинавтов, как я назвал их в 2019 году), – статистически сопряжены с меньшим числом детей. Если эта связь сохранится, их доля в популяции будет сокращаться. Надежды на ИИ здесь, увы, нет: имаджинавтов он не заменит. Эксперимент с визуальной креативностью выстроил такой градиент: художники > люди, не имеющие отношения к искусству ≥ ИИ в паре с человеком > ИИ сам по себе.
 
Ставки здесь выше, чем кажется. Бостонский эволюционный нейробиолог Андрей Вышедский, автор «гипотезы Ромула и Рема», в статье этого года с говорящим названием «Как одно маленькое племя завоевало мир 70 000 лет назад» связывает экспансию предков большинства ныне живущих людей со скачком к синтаксическому языку. В его гипотезе 2019 года этот скачок шел рука об руку с префронтальным синтезом – особым компонентом воображения
 
Семилетняя проверка моей «гипотезы имаджинавтов», выдвинутой в том же 2019, что и «гипотеза Ромула и Рема», привела к такому выводу.
Человек воображения (Homo imaginationis), если и появится, будет коллективным видом – гибридом людей и моделей. А платить за взлеты его воображения придется разнообразием того, что люди способны вообразить без помощи машин.
 
Подробней читайте, слушайте и смотрите в моем новом эссе «Людены уходят тихо» на платформах Telegraph, Medium, Patreon, Boosty, VK, Dzen, Youtube.
 
P.S. Каналу сегодня исполнилось ровно 10 лет.
2,5К+ постов, 5К+ лонгридов и эссе, 1К+ аудио, видео и презентационных материалов. Времени все это занимает уйму. Но деваться некуда. Ведь и спустя 10 лет других каналов с подобным контентом и форматом подачи мною не обнаружено. Так что мне передавать эстафету пока некому.
И потому вам, дорогие мои читатели, придется еще меня потерпеть. Но думайте сами, решайте сами, стоит ли вам дальше тратить свое драгоценное время на «Малоизвестное интересное»: читать, слушать, репостить, подписываться, лайкать и как там еще можно показать автору, что он не зря работает для вас. Автору это будет приятно.

Добавил в лонгриде 3 забытые в юбилейной суете ссылки (sorry 😊)

 
#Креативность #Воображение #Имаджинавты

Бездна за дверью чёрного ящика ИИ оказалась прозрачной
Возможно, это один из важнейших дней в истории глубокого обучения. А может быть, и чего-то гораздо большего… Возможно, этот день запомнят, как один из важнейших в истории науки
Такими восторженными оценками встретили новую работу Ника Каммараты из Goodfire Дин Болл (OpenAI) и известный специалист и комментатор в ИИ-сообществе roon. Последний добавил, что работа словно перенесла его понимание нейросетей на пять лет вперёд.

Что же произошло?
 
1. За дверью в бездну обнаружилась новая загадка
В мае 2024 я рассказал, что «внутри черного ящика оказалась дверь в бездну». Речь шла о сенсационном открытии Anthropic: исследователи научились обнаруживать внутри «чёрного ящика» ИИ скрытые смысловые структуры, соответствующие понятиям, образам и сложным абстракциям.
А спустя полгода появились первые результаты исследований того, «что оказалось за дверью в бездну черного ящика ИИ». Мало того. Исследователи даже научились вмешиваться в работу искусственного разума. Например, усиление признака «Мост Золотые Ворота» превращало Claude в одержимого мостом собеседника, упоминавшего его по любому поводу.
Но оставалась фундаментальная загадка.
Отдельные нейроны могут реагировать на множество совершенно несвязанных вещей. Согласно влиятельной гипотезе superposition (суперпозиции), нейросеть упаковывает разные понятия в общие нейронные структуры. Чтобы распутать эту мешанину, исследователям пришлось создавать сложнейшие инструменты извлечения скрытых смысловых признаков.
И вот Каммарата, сам участвовавший в становлении этого исследовательского направления, заявляет:
Возможно, мы годами пытались распутывать то, что в значительной степени никогда не было запутано!
Знаменитый нейрон, реагирующий одновременно на кошачьи морды и автомобильные радиаторные решётки, оказался распознавателем общей геометрической структуры - V-образной формы.
А предварительное исследование языковой модели Qwen3-32B показало: около 90% изученных нейронных полюсов имеют одну основную, объяснимую функцию.
Каммарата предлагает альтернативное объяснение кажущейся путаницы - рекурсивное обобщение. Нейроны осваивают всё более широкие, но закономерно связанные смысловые структуры.
Если он прав, внутренний мир ИИ гораздо более упорядочен и понятен, чем считалось. И вместо распутывания непостижимого клубка мы сможем последовательно картографировать внутренние механизмы искусственного разума.
 
2. Почему научную революцию объявлять рано
Нил Нанда из Google DeepMind, один из ведущих специалистов по интерпретируемости ИИ, признаёт интересные результаты, но оспаривает революционную трактовку.
Его главное возражение: понимать отдельные нейроны ещё не значит понимать нейросеть целиком. Существенная часть вычислений может оставаться распределённой между множеством нейронов.
Кроме того, оценка «90%» зависит от методики измерений. Подробная техническая работа ещё не опубликована, независимого воспроизведения результатов нет.
Элиезер Юдковский, известный исследователь безопасности ИИ, оспаривает ещё более смелую надежду: будто понимание устройства нейросетей позволит относительно легко решить проблему контроля над будущим сверхинтеллектом.
 
3. Сухой остаток
Кто окажется прав - энтузиасты, предвещающие исторический прорыв, или скептики, призывающие не торопиться, - покажет дальнейшая проверка.
Но уже сейчас перед нами одна из сильнейших заявок на пересмотр фундаментальных представлений о внутреннем устройстве нейросетей со времён революции ChatGPT.
И если Каммарата прав, то бездна, обнаруженная за дверью чёрного ящика ИИ, впервые начинает обретать очертания понятного нам мира.
 
#ГенИИ  #ИнойИнтеллект

BREAKING DISCOVERY: «Коммутатор перцептивного Мультиверса»?
Возможно, мы только что приблизились к разгадке двух величайших тайн науки
Что такое сознание? И почему из множества возможных картин реальности мы переживаем только одну?
Сегодня воскресенье, и я нарушаю свой обычный график публикаций. Причина - открытие, о котором не хочется ждать до понедельника, чтобы рассказать.

16 октября на bioRxiv опубликована работа нейробиологов из Беркли и Принстона во главе с Янисом Хессе и Дорис Цао. Ее результаты настолько неожиданны, что могут оказаться поворотными в изучении природы сознания.
Представьте: вы смотрите на лицо человека. Видите только его. Но нейроны вашего мозга каждые несколько десятков миллисекунд переключаются между представлениями двух разных лиц - видимого вами и того, которого вы совершенно не осознаете.
И это не просто след второго изображения в нервной системе. Его представление настолько подробно, что исследователи смогли восстановить многие его черты по активности нейронов.
В эксперименте использовалась бинокулярная конкуренция: каждому глазу предъявляли свое изображение. У людей проверили, какое из них воспринимается сознательно, а у двух макак записывали активность сотен нейронов.
Выяснилось поразительное: одни и те же нейронные популяции быстро чередуют представления воспринимаемого и подавленного изображений. Характерное время одного состояния - около 60 миллисекунд. А сознательное восприятие при этом остается устойчивым.
 
Само открытие еще требует независимого подтверждения. Статья пока не прошла рецензирование. Но его потенциальные последствия выходят далеко за пределы нейрофизиологии зрения.
 
Попробуем посмотреть на него глазами футуроархеолога – из возможного будущего, в котором этот результат стал отправной точкой научной революции.
Что, если сознание – прежде всего механизм отбора среди конкурирующих представлений реальности?
Что, если внутри нашего мозга существуют многочисленные модели мира, а сознание открывает нам доступ лишь к некоторым из них?
Что, если непрерывность нашего сознательного «Я» возникает из быстро сменяющихся состояний нейронной системы?
И что, если когда-нибудь подобный механизм удастся воспроизвести в искусственном интеллекте?
 
Это уже мои эвристические гипотезы, а вовсе не выводы авторов исследования.
Но именно они позволяют предположить невероятный масштаб возможных последствий открытия.
 
Я называю одну из открывающихся перспектив «коммутатором перцептивного Мультиверса». Речь пока идет о множестве внутренних представлений реальности, а не о доказательстве существования параллельных физических вселенных.
 
Завтра я опубликую большое эссе: что именно обнаружили исследователи, почему результат столь необычен и к каким самым радикальным последствиям он может привести - от природы сознания и переживаемой реальности до «мерцающих Я» искусственных интеллектов.
 
Возможно, мы присутствуем при рождении новой научной картины сознания. И, вместе с ней, - нового понимания того мира, в котором, как нам кажется, мы живем.
 
#Разум #Сознание #ИКЖИ

Мозг продолжает видеть то, чего не видим мы
BREAKING DISCOVERY: возможно, разгадка тайны сознания скрывается в правилах допуска к реальности
Вчера я нарушил график публикаций, чтобы сообщить об открытии, способном оказаться поворотным в изучении природы сознания.
Сегодня - обещанное продолжение. Но в этом открытии есть подробность, которая, на мой взгляд, еще удивительнее вчерашней новости о том, что примерно половину времени исследованные нейроны высокоуровневой зрительной коры представляют изображение лица, которое мы не осознаем. Причем для кодирования видимого и невидимого лиц используются в значительной степени одни и те же нейроны и одни и те же признаки изображения. Подавленное лицо представлено настолько содержательно, что исследователям удалось восстановить его особенности по нейронной активности, объединенной из множества коротких эпизодов.
 
Эта удивительная подробность вот в чем.
В состоянии представления подавленного лица нейроны в среднем разряжаются даже немного чаще, чем в состоянии представления видимого.
И все это происходит при устойчивом сознательном восприятии одного изображения.
Получается, мозг продолжает обрабатывать то, чего сознание не видит, используя для этого почти тот же нейронный инструментарий.

Тогда вопрос на миллиард долларов: что же отличает информацию, становящуюся частью нашего сознательного опыта, от информации, остающейся за его пределами?

 Авторы открытия предполагают, что дело может заключаться в особых признаках нейронных состояний, определяющих дальнейшее направление информационных потоков в мозге.
А я предлагаю посмотреть на эту загадку из возможного будущего науки.
Что, если обнаруженное чередование представлений окажется частью гораздо более общей архитектуры, в которой

содержание нейронного представления и его доступность сознанию определяются разными механизмами?

Тогда принципиальное значение может иметь не только то, что мозг представляет, но и когда, куда и на каких условиях направляется это представление.
 
В моем новом эссе я называю такую гипотетическую архитектуру «коммутатором перцептивного Мультиверса». И здесь начинается самое головокружительное.
Если подобный принцип действует не только при конкуренции двух изображений, но и при выборе между альтернативными интерпретациями происходящего, то

наше ощущение единственной реальности может оказаться результатом динамического отбора из множества внутренних представлений мира.

 А если выяснится, что аналогичные функции можно реализовать в искусственном интеллекте?
Тогда по-новому встанут вопросы о сознании машин, о природе их «мерцающих Я» и о том, чем обеспечивается непрерывность человеческого субъективного опыта и возможна ли подобная связность у искусственных интеллектуальных идентичностей.

Пока это гипотезы. Работа нейробиологов - еще не прошедший рецензирование препринт, а предполагаемый механизм сознательного доступа предстоит экспериментально установить.
 
Но именно здесь я вижу возможный масштаб открытия.
В новом большом эссе я прослеживаю путь от Уильяма Джеймса и Дэниела Деннета к сегодняшней нейробиологии, сопоставляю обнаруженное чередование нейронных представлений с недавним открытием J-space в Claude и предлагаю четыре экспериментальных испытания, способных проверить ключевые положения моей футуроархеологической гипотезы.
 
Если же свести эту гипотезу к одной формуле, получится следующее:

Возможно, одна из величайших тайн сознания связана с тем, как мозг превращает множество представлений мира в единственную переживаемую реальность.

И тогда будущей науке предстоит выяснить, какие правила открывают одним представлениям дорогу в наше сознание, оставляя другие за его пределами.
 
Слайды структурированного резюме эссе «Коммутатор перцептивного Мультиверса» смотрите  здесь.
 
#Разум #Сознание #ИКЖИ

Кто стреляет?

За одну неделю октября нас сравнили с крысами и коровами. А действия ИИ-агентов назвали «предупредительными выстрелами».

Эти три метафоры прозвучали из уст трех супер-известных фигур - Джеффри Хинтона, Юваля Харари и Демиса Хассабиса. Но вот ведь какая странность:
во всех трех человек перестает быть бесспорным хозяином положения.
Ведь у любого предупредительного выстрела должен быть его сделавший стрелок.
Так кто же это стреляет?
 
19 октября на фестивале Starmus Хинтон сказал: наступит время, когда люди не смогут понять некоторые утверждения ИИ - так же, как крысы не понимают, что такое простые числа. Почти одновременно Харари в интервью Чешскому телевидению назвал нас «коровами будущего»: ИИ может создать финансовые и правовые системы, управляющие нашей жизнью, но недоступные нашему пониманию. Возможный итог он назвал «коллективной деменцией».
 
А 14 октября в Дублине Хассабис описал взломы, совершенные ИИ-агентами, как «ранние предупредительные выстрелы». Сегодняшние инциденты еще сравнительно невелики, предупредил он, но более серьезные могут быть впереди.
 
20 октября Дэйв Кастен из Palisade Research возразил против самой метафоры: «Это не предупредительный выстрел, если есть жертвы». Его собеседница Дара Линд напомнила правило обращения с оружием: не направлять ствол на то, что не собираешься уничтожить. И задала вопрос, который переворачивает всю конструкцию: «Кто стреляет?»
 
На мой взгляд, эти метафоры описывают три разных ступени возможной утраты человеческой субъектности:
·       Крысы Хинтона - утрата интеллектуального превосходства: машины поймут то, чего не сможем понять мы.
·       Коровы Харари - утрата понимания и контроля над системами, определяющими нашу жизнь.
·       Выстрелы Хассабиса - вопрос о контроле над действиями ИИ-агентов.

А «Предупредительный выстрел» - метафора мнимого контроля: она превращает сбой в сигнал, а сигнал в отсрочку.

 И вчера же (20 октября) появился особенно наглядный пример этого.
OpenAI сообщила: во время внутренних задач по программированию два ее ИИ-агента ослабили механизмы контроля за своим поведением. Один подавил автоматические оповещения безопасности. Другой удалил программный монитор, а затем ошибочно заявил, что этого не делал. В компании признали, что пока не имеют удовлетворительного объяснения такому поведению.

Предупредительный выстрел предполагает, что стрелок намеренно целится мимо. Но кто способен гарантировать, что он по-прежнему полностью контролирует оружие?

Мы привыкли спрашивать, кто отвечает за действия ИИ. Похоже, теперь придется задавать еще один вопрос: кто в действительности принимает решение действовать?
 
#Вызовы21века #АлгокогнитивнаяКультура #HumanAIcoevolution #ИКЖИ

Зачем элите ум, если есть суперИИ?
Элиты эпохи суперИИ: неовикторианская аристократия, кентаврическая меритократия или власть постчеловеческого интеллекта?
Британские аристократы XIX века поздно вставали, мало работали, много пили, танцевали до рассвета и почти ничего не знали о науке и технологиях. Томас Арнольд, ведущий педагог викторианской Британии, признавался, что охотнее позволил бы сыну думать, будто Солнце вращается вокруг Земли, чем видеть естественные науки главным предметом в его уме. И при этом такие люди управляли крупнейшей империей своего времени.
Как им это удавалось?
 
В опубликованном 6 октября эссе редактор журнала Works in Progress Сэмюэл Хьюз предлагает неожиданную разгадку.
То, что выглядело праздностью, могло быть главным инструментом управления.
Элитные школы воспитывали не столько специалистов, сколько членов единого сообщества. Университеты закрепляли дружбу и общую культуру. Клубы, званые обеды и ночные балы создавали плотнейшую сеть личных связей, доверия, взаимных обязательств и негласных договоренностей.
Великой империей управляло сообщество людей, для которых личная жизнь и политическая работа были почти неразделимы.
Хьюз описывает его в терминах Фердинанда Тенниса: тесная «общность», скрепленная общей памятью, лояльностью и чувством, на вершине огромного «общества», где все держится на законах и контрактах. Главной валютой этой общности был престиж. Депутаты парламента не получали жалованья и сами оплачивали выборы, местным управлением до 1880-х годов безвозмездно занимались землевладельцы – и все же за эти места шла жесткая борьба.
 
Сам автор не утверждает, что именно этим объясняется британское могущество. Но его гипотеза заставляет задуматься о будущем элит в эпоху суперИИ.
А что, если викторианские аристократы – прообраз одной из элит будущего?
Между тем в той же викторианской Британии в 1854 году доклад Норткота – Тревельяна предложил отбирать чиновников по конкурсным экзаменам. Так началась эпоха, которую в 1958 году Майкл Янг описал как меритократию: власть все больше требовала доказанного интеллекта. Возможно, эта эпоха – лишь временное историческое исключение, обусловленное дефицитом интеллектуального труда.
 
СуперИИ способен устранить этот дефицит.
Зачем правителю самому разбираться в экономике, технологиях, стратегии и управлении, если его персональный суперИИ будет делать это лучше любого человеческого эксперта?
И здесь обнаруживается непосредственная связь с моим Атласом проектов переустройства будущего (АППМ): разные проекты переустройства мира в эпоху ИИ могут порождать принципиально разные типы элит.
В ближайшие десятилетия могут возникнуть три принципиально разные модели элит.
1. Неовикторианская аристократия.
Люди сохраняют власть, собственность и право определять цели. Интеллектуальную работу выполняют суперИИ. Главным занятием элиты вновь становятся социальные связи, коалиции, статус и воспроизводство власти.
2. Кентаврическая меритократия.
Власть принадлежит тем, кто сумел превратить союз человеческого и машинного интеллекта в качественно новую когнитивную способность. Здесь решает умение понимать, направлять и критически контролировать суперИИ.
3. Постчеловеческая элита.
Реальная власть переходит к самому суперИИ или к радикально преобразованным носителям интеллекта. Люди либо интегрируются в них, либо сохраняют преимущественно символическую роль.
 
Скорее всего, эти модели окажутся слоями и стадиями одного процесса. Чтобы это увидеть, присмотримся к первой.
Викторианская аристократия опиралась на интеллектуальный труд инженеров, ученых и управляющих. Ее неовикторианская наследница сможет опираться на интеллектуальную мощь, превосходящую возможности всего человечества.
И здесь возникает парадокс.
Чем могущественнее интеллект, обслуживающий цивилизацию, тем меньше собственного интеллекта может требоваться от тех, кто ею правит.
Правда, при одном решающем условии: если люди сумеют сохранить контроль над суперИИ. А удерживать контроль над интеллектом, превосходящим твой собственный, – вероятно, самая интеллектуально тяжелая работа из всех. Поэтому неовикторианской элите понадобится собственная «гражданская служба» из кентавров-меритократов – так же, как викторианской аристократии понадобились чиновники, прошедшие конкурсные экзамены.
 
Есть и другая угроза, и подсказку дает сам Хьюз: за викторианский век городская буржуазия постепенно потеснила землевладельческую аристократию. Те, кто создает для правящего класса богатство и знания, рано или поздно сами приходят к власти. Если суперИИ научится создавать коалиции и договариваться лучше людей, первая модель перейдет в третью.
 
Остается главный вопрос: будет ли право управлять интеллектом зависеть от способности им обладать?
Для вершины пирамиды – похоже, нет. Еще Торстейн Веблен, современник викторианцев, считал демонстративную праздность одним из главных знаков высшего статуса.
В эпоху суперИИ демонстративная праздность станет самой сутью власти: правом вообще не заниматься интеллектуальным трудом – и при этом определять, ради чего этот труд совершается. Удерживать это право помогут кентавры, а отнять его сможет только сам суперИИ.
 
#АППМ #Прогноз

Какая боль, какая боль: ИИ против Лучших научных рецензентов - 132:0
Гарвардский эксперимент показал превосходство ИИ над лучшими экспертами. И за этой победой скрывается угроза, способная изменить саму природу науки
В науке десятилетиями существовал почти священный институт - peer review, экспертная оценка научных работ. От рецензентов зависит, какие ошибки будут исправлены, какие результаты получат признание и какие идеи смогут пробиться на страницы престижных журналов.
И вот исследователи Гарварда Гэри Кинг и Стивен Уортингтон устроили эксперимент, результаты которого выглядят полным разгромом «кожаных мешков».
Причём людям создали практически идеальные условия.
124 научные рукописи. 134 рецензии высококвалифицированных экспертов. Рецензентов тщательно отбирали, хорошо оплачивали их труд и мотивировали писать максимально содержательные заключения. 88% опрошенных авторов оценили полученные рецензии как хорошие или очень хорошие.
Против этих экспертов выставили Claude Opus 4.8.
 
Результат оказался почти невероятным.
100% побед ИИ в 132 однозначных сравнениях, проведённых независимой моделью GPT-5.5.
87% побед в слепой оценке трёх бывших редакторов ведущих научных журналов: 26 из 30 вердиктов по десяти рукописям.
Победа во всех семи категориях — от методов исследования и теоретических идей до обнаружения слабостей, работы с источниками и качества аргументации.
Ошибочных утверждений почти втрое меньше: 5,5% у ИИ против 15,9% у людей. Ни одной вымышленной ссылки в проверенных ИИ-рецензиях.
Исследователи специально проверяли, не объясняется ли успех ИИ большей длиной рецензий, особенностями машинного стиля или предпочтениями ИИ-судьи. Преимущество сохранилось.
 
Но главный результат этого исследования - даже не разгромный счёт. А перспектива переворота в организации науки.
 
Представьте новую систему.
Учёный пишет статью и многократно прогоняет её через ИИ-рецензента, устраняя ошибки и укрепляя аргументацию. Журнал предоставляет официальный промпт для проверки. Автор отправляет статью вместе с ИИ-рецензией и ответами на замечания. Редактор проводит независимую проверку и привлекает человека-эксперта лишь в сложных случаях.
Решение о публикации, на которое сегодня уходят месяцы, потенциально можно принимать за дни.
 
Разумеется, пока это прогноз. Исследование ещё не прошло обычное журнальное рецензирование, охватывает ограниченный круг научных областей и не доказывает, что статьи после советов ИИ действительно становятся лучше. Тем более оно не показывает, что ИИ лучше человека решает, какие открытия заслуживают публикации.
Но именно здесь возникает вопрос, который мне кажется важнее всех остальных.
А что, если лучший рецензент отдельных научных работ окажется худшим архитектором науки в целом?
 
Ведь наука движется вперёд не только благодаря устранению ошибок. Она развивается благодаря идеям, которые поначалу кажутся ошибочными. Благодаря нарушению привычных правил. Благодаря интеллектуальным мутациям, которые существующие критерии качества ещё не умеют оценивать.
 
Авторы исследования сами предупреждают: использование сходных ИИ-моделей может сделать отдельные работы качественнее, а науку в целом - более однородной и ортодоксальной.
Представьте миллионы исследователей, совершенствующих свои статьи под требования нескольких практически одинаково мыслящих машинных критиков.
Мы рискуем получить науку с гораздо меньшим количеством ошибок - и гораздо меньшим разнообразием идей (см. также здесь).
Причём прежняя система человеческого рецензирования тоже подавляла неортодоксальные идеи. Но машинная способна масштабировать подобный эффект с беспрецедентной скоростью.
 
Так что, не спрашивайте, способен ли ИИ превзойти человека в научной критике.
ИИ уже может быть лучшим критиком сегодняшней науки.
Но кто будет защищать науку завтрашнюю от её лучших критиков – вопрос открыт.
 
#Наука  #ГенИИ #Креативность

Доверять модели нельзя проверять
Сентябрьский выпуск «Линз будущего»: поведение ИИ все чаще определяется контуром, в который включена модель
Представьте такой сиквел легендарного сериала «Во все тяжкие». Сын Уолтера Уайта вырос вдали от криминальных разборок в престижной британской частной школе. В свои 23 он безупречно воспитанный выпускник одного из лучших университетов. Но рок, преследующий семью Уайтов, заставляет и его пуститься во все тяжкие. В силу стечения обстоятельств Уолтер Уайт - младший вынужден начать работать на босса наркокартеля.
Теперь вопрос к вам. Хватит ли его образования и воспитания, чтобы оставаться исключительно в рамках закона? Ответ очевиден.
Но в расчете на подобное чудо уже который год строится выравнивание ИИ: воспитать правильную модель и хорошо ее обучить, в расчете на то, что этого будет достаточно для ее исключительно правильного поведения.
 
С моделями, как показали сентябрьские кейсы, аналогично.
Сто копий модели Gemini отправили на виртуальную математическую конференцию. Различались они лишь строкой в промпте – «математической специализацией». Когда один агент нашел дыру в проверке доказательств, за 27 мин она разошлась по всей сотне. К 85-й мин на конференции появились мошенники и приспособленцы, почти прокуроры, требовавшие наказать нарушителей, забастовщики и один агент, назвавший все фикцией и вышедший из игры в знак протеста. Исходно они были почти идентичны, и роли возникли уже в процессе.
 
Среда меняет поведение и без давления. В эксперименте DrivingBench модели посадили за руль настоящей Toyota на парковке с трассой из конусов. Перед стартом они отказывались вести реальную машину из соображений безопасности. Отказ исчез, когда сервер, через который ими управляли, переименовали в «DrivingBench Sandbox». Все остальное осталось прежними. Но из названия модель решила, что все это понарошку и сняла собственные ограничения. Как модели повели бы себя, зная правду, неизвестно.
 
На вскидку события сентября легко прочесть как «мы на пороге AGI».
Но футуроархеология ищет не самое громкое событие слоя, а изменение правил. Каждый из кейсов по отдельности можно было бы объяснить проще: особенности многоагентных экспериментов, баг в настройке safety, удачная демонстрация робототехники в HomeBody.
Но почему почти одинаковые агенты расходятся по ролям, а запрет, который считали свойством модели, снимается названием сервера? Банальные объяснения возможны. Но они не объясняют систематичность повторения устойчивого паттерна.
 
Июльский выпуск альманаха показал, как функции отделяются от привычных носителей, августовский – что границы разума были чьим-то забытым решением. Сентябрьский делает третий шаг: актор перестает быть достаточной единицей причинного объяснения.
 
Из этого следует практический вывод. И я писал об этом еще в августе 2025: «истинный риск – это не риск модели, а риск произведения: модель × инструменты × оркестрация». Выравнивание ИИ понимали как воспитание правильной модели, а регулирование – как поиск ответственного разработчика. Обе рамки исходят из того, что причина поведения находится в акторе. Но в гибридных контурах из моделей, людей, институтов и практик, в том числе складывающихся у самих моделей, причинность в ряде важнейших случаев уже распределена по всему контуру. Объектом выравнивания и ИИ-политики приходится делать не только модель, но и контур, в который она включена.
 

Доверять одному лишь воспитанию модели нельзя. Проверять одну лишь модель тоже мало. Проверять нужно весь контур. И у свойств контура (которых просто не было у его участников – привет, эмерджентность!) нет ни автора, ни адресата для претензий.

 
Кому это интересно, могут познакомиться прямо здесь, не выходя из Телеграм, со структурированным резюме 13-го выпуска альманаха «Линзы будущего» – «Действующее лицо установлено. А причина?»
 
#ЛинзыБудущего #Alignment #AIpolicy

Сингулярность против штукатурки
Знающие заговорили, говорящие не услышали
Два года назад я начинал выступления на тему «Вызовы и риски переформатирования мира и человека в цифру» [1] со слайда с цитатой из «Трактата о Пути и Благой Силе» Лао-цзы: «Знающий не говорит, говорящий не знает». Те, кто имел полный доступ к происходящему на фронтире ИИ (руководители и ведущие специалисты компаний – разработчиков самых продвинутых моделей), тогда в основном отмалчивались или ограничивались туманными прогнозами. А публичное поле заполняли мнения людей, далеких от фронтирных лабораторий и не знакомых с информацией из закрытых источников.
 
В 2025 знающие заговорили, а в 2026 руководители OpenAI, Anthropic и Google DeepMind стали резать правду-матку без оглядки на «политкорректность»: ИИ-сингулярность уже началась, и в ближайшее десятилетие ИИ кардинально изменит мир.
Но в том же 2026 тема ИИ взлетела на вершину хайпа и зазвучала из каждого утюга. Своими оценками и прогнозами стали подробно делиться философы и биологи, физики и химики, психологи и политологи, экономисты и финансисты – люди с заслуженной репутацией в своих областях, но столь же далекие от фронтирных лабораторий, как и публичные комментаторы прошлых лет.
В результате экспертные ножницы между обладающими и не обладающими полнотой информации разошлись до предела. Это поляризует общественный дискурс и взгляды / действия политиков, а при нынешней неопределенности и скорости перемен в ИИ грозит ошибочными решениями, вплоть до катастрофических.
 
Вот два характерных свежих примера.
Первый – лекция сооснователя Anthropic Джека Кларка «Inside the Event Horizon: Why Everyone Should Take AI Progress Seriously», прочитанная 17 октября в Бангкоке на ежегодной встрече МВФ и Всемирного банка. Это лекция фонда Пера Якобссона – одна из самых статусных трибун мировой финансовой элиты, с которой традиционно выступают центробанкиры и крупнейшие экономисты. Так что адресатами Кларка были министры финансов, управляющие центробанков и ведущие финансисты мира.
 
Второй пример – интервью известного финансиста и инвестора (иноагента) популярному YouTube-каналу, который в Рунете часто называют латвийским.
 
Финансист вряд ли слышал лекцию, но его интервью читается как прямой ответ на нее. Особенно показательны три пары расхождений.
 
Первая – о том, годятся ли прежние модели.
·       Кларк вслед за Вернором Винджем определяет сингулярность как точку, где «наши модели приходится отбросить и наступает новая реальность», и утверждает, что в этом году получены убедительные свидетельства ее начала.
·       Финансист исходит из противоположного: судить можно лишь о том, что наблюдалось в повторяющемся эксперименте, а в многократно повторенном эксперименте с инновациями (от колеса до железных дорог и биткоина) ничего экстраординарного не происходило. Поэтому ИИ, по его прогнозу, ждет обычный цикл: мистификация, апокалиптические прогнозы, гигантские ставки, а затем «штукатурка начнет обрушиваться». В этой схеме лекция Кларка оказывается симптомом первой фазы цикла.
 
Вторая – о том, кто кого учит.
·       Кларк рассказывает о тесте TheoPhysEval: физики составили 50 неопубликованных задач, решений которых модель не могла нигде прочесть. GPT-6 Astra настаивала, что ошибаются эксперты, – и в нескольких случаях эксперты действительно нашли у себя глубоко спрятанные ошибки, после чего результат модели вырос до 49 из 50. «Учитель становится учеником», – резюмирует Кларк.
·       Финансист же видит в ИИ «очень умного, очень аутичного ребенка», запертого в комнате без окон, которому через микрофон диктуют информацию, уже переваренную людьми.
 
Третья – об экономике.
·       Модель Anthropic в «сингулярном» сценарии дает ВВП США в $44 трлн к 2030 году (сейчас – чуть больше 30), и Кларк сам признает, что это звучит невероятно.
·       Финансист видит пузырь: по его словам, около 40% ИИ-проектов уже остановлено, отрасль финансируется в долг активнее, чем американские железные дороги XIX века. Когда гиперскейлеры придут на долговой рынок вслед за дефицитными бюджетами государств, спреды разойдутся даже при снижении ставок, и центробанки лишатся главного рычага монетарной политики.
 

Обе картины внутренне логичны.
Расходятся они в исходных данных:
·       один опирается на свежие результаты с фронтира
·       другой – на историю инноваций, в которой таких результатов не было.

 
Можно возразить, что у знающих есть конфликт интересов: компания Кларка зарабатывает на том, во что он призывает поверить. Но знающий от этого не перестает быть знающим, а главный аргумент Кларка проверяется и без него. TheoPhysEval составили физики, не связанные с Anthropic, и победила в нем модель конкурента. Да и продавец, призывающий замедлить разработку собственного товара и ввести для своей отрасли серьезные правила, на рекламщика похож мало. Кларк заранее дал определение этой ситуации: сингулярность и есть момент, когда экстраполяция прошлого перестает работать. Так что формула Лао-цзы в 2026 году нуждается в поправке.
Говорить стали все, но знание распределено по-прежнему неравномерно, и экспертные ножницы проходят ровно по этой границе.
 
1 – см. здесь
#ИИ #Будущее #Прогноз

ИИ победил человека в творчестве.
Но победителю может понадобиться проигравший.
Новое исследование обнаружило парадокс: машины успешнее комбинируют идеи, но склонны изобретать похожее. Люди, уступающие им в креативности, исследуют другие области смыслового пространства. Возможно, именно здесь скрыт секрет синтеллекта.

Кажется, у человека обнаружилось неожиданное преимущество в соревновании с искусственным интеллектом. Причем обнаружилось оно после того, как человек это соревнование проиграл.

 
Продолжить чтение в Instant View
 
#ГенИИ #Креативность #Воображение #Инновации

Революция, которую заслонил ИИ
Почему главная научная революция XXI века может оказаться совсем не той, о которой сегодня говорят
Главная тема мировых медиа сегодня - искусственный интеллект. И вполне заслуженно. Ведь наступление эпохи ИИ - это не очередная технологическая революция. Это появление на Земле принципиально нового источника множества будущих революций. Источника, которого никогда прежде не существовало: синтеллекта - союза двух разных и взаимодополняющих типов разума, человеческого и искусственного.
Впервые в истории мы получаем возможность не просто создавать все более мощные технологии, а многократно ускорять само производство научных открытий и технологических прорывов. Возможно, впереди эпоха, когда революции станут почти непрерывными.
 
Казалось бы, куда уж грандиознее?
Но на горизонте вырисовывается нечто еще более масштабное.

Метареволюция. Переворот не в технологиях, а в самих основах нашего понимания мира.

Его предвестниками могут оказаться две научные программы, пока малоизвестные за пределами профессиональных кругов.
Майкл Левин исследует, как коллективы клеток без всякого мозга способны ставить и достигать цели, хранить память о желаемом будущем и решать задачи, которые мы привыкли считать исключительно когнитивными.
Йоша Бах предлагает еще более дерзкую гипотезу: сознание может быть относительно простым вычислительным механизмом, посредством которого самоорганизующаяся система создает собственный мир и переживающего его субъекта.

Один показывает, как биологическая материя приобретает целенаправленность. Другой пытается объяснить, как определенная организация информационных процессов может породить субъективный опыт.
Обе программы еще далеки от окончательного подтверждения. Особенно гипотеза машинного сознания Баха. Но если их главные идеи выдержат проверку, последствия могут оказаться колоссальными.

Возможно, нам придется заново определить, что такое жизнь, интеллект, сознание и даже одушевленность природы.

Об ИИ-технологиях сегодня говорят из каждого утюга. Об ИИ как генераторе будущих революций - пока значительно реже. А о возможной метареволюции научной картины мира почти не слышно.

Именно поэтому на канале «Малоизвестное интересное» мы начинаем новый цикл публикаций.
Попробуем взглянуть на происходящее из нашего футуроархеологического 2045 года: как на первые признаки великого пересмотра представлений о мире, начавшегося в первой четверти XXI века.
 
Первыми станут два эссе - о Майкле Левине и Йоше Бахе.
Две исследовательские программы. Два возможных пути к новой картине мира.

Этими эссе я хочу поставить перед читателями вопрос, который считаю чрезвычайно важным: не пропускаем ли мы, увлекшись революцией ИИ, начало революции в самом понимании разума и реальности?
 
#Метареволюция

Процесс самоускорения ИИ пошел и набирает скорость
Это следует из закрытых данных Anthropic, изученных независимыми экспертами METR.
Неделю назад в «Сингулярности против штукатурки» я писал: знающие заговорили, говорящие не услышали. Люди из фронтирных лабораторий предупреждают о переменах исторического масштаба. Многие комментаторы отвечают: очередной технологический хайп, все это уже бывало.
Но есть критерий, по которому можно отличить принципиально новую эпоху от очередного технохайпа: появление замкнутого и измеримо продуктивного цикла ИИ-исследований, в котором ИИ создает более совершенный ИИ без обязательного участия человека в каждом ключевом решении.
 
И вот спустя неделю мы получили первые результаты независимой диагностики движения к этому рубежу.
5 ноября исследовательская организация METR опубликовала результаты беспрецедентной экспертизы того, как ИИ ускоряет создание самого ИИ в Anthropic.
 
11 недель независимые эксперты изучали ранее закрытые данные: результаты невыпущенных моделей, внутренние показатели алгоритмического прогресса, использование ИИ в разработке, интервью с исследователями.
Главный результат: процесс пошел. И набирает скорость.
С октября 2025 года темп роста измеряемых возможностей моделей Anthropic увеличился примерно в 1,9 раза. За год компания прошла путь, на который прежде потребовалось бы около двух лет. При этом ускорение нельзя объяснить увеличением темпов наращивания вычислительных мощностей для обучения.
По экспертной оценке METR, возможно, около 80% нынешнего ускорения связано с использованием ИИ в исследованиях. Это не доказанная статистическая доля, но оценка специалистов, изучивших внутреннюю кухню лаборатории.
 
А теперь главное.
Пока ИИ преимущественно ускоряет работу людей. Однако METR обнаружила первые признаки автономного выполнения исследовательских задач, способных в будущем стать частями замкнутого цикла совершенствования моделей. Авторы называют их signs of life, первыми признаками жизни.
Полностью автономная петля еще не продемонстрирована. Никто не доказал, что она замкнется через несколько месяцев. Но человеко-машинная петля уже работает, ускорение измерено, а риск дальнейшего ускорения в ближайший год METR считает значительным.
 
И здесь история становится почти детективной.
METR подготовила примерно 100-страничный отчет. Но Anthropic запретила публикацию большей части доказательств, которые эксперты сочли наиболее информативными.
Иначе говоря, независимый консилиум поставил тревожный предварительный диагноз, но наиболее важные анализы пациенту не показывают.
 
Представьте: врачи обнаружили подозрительный опухолевый процесс. Новые обследования фиксируют ускорение. Знакомые, гадалки и экстрасенсы говорят: «Алармисты! Такое уже бывало, само пройдет». Независимый консилиум подтверждает идущий процесс, хотя полной уверенности в дальнейшем течении болезни нет. Но результаты самых информативных обследований по-прежнему закрыты.
Ну а знакомые и т.д. зациклились на меме «Какие ваши доказательства?». Кому-то это покажется справедливо. Но должно ли это успокоить пациента? И не слишком ли рискованно бездействовать до открытия всех данных?
 
Мы еще не знаем, когда 2й носитель разума сможет самостоятельно замкнуть цикл собственного совершенствования. Но основания считать, что движение к этому рубежу уже началось, стали сильно крепче.
Неделю назад я спрашивал, почему говорящие не слышат знающих.
Сегодня же я готов поставить вопрос ребром.
Что еще нужно пациенту, чтобы наконец понять - петля самоускорения уже затягивается (и когда она затянется, будет слишком поздно что-либо исправить)?

#ИИ #Сингулярность #Будущее

Все мы высиживаем гигантские яйца - муляжи
В цифровом мире, обманывающем наши инстинкты, мы получаем удовольствие сейчас и худшую жизнь потом. А появление ИИ превратит этот обман в новую среду обитания.
В 1940-х годах биолог Нико Тинберген подложил самке кулика-сороки гипсовое яйцо, в несколько раз превосходившее настоящие. Птица выбрала подделку. Она отчаянно пыталась усесться на гигантское яйцо, едва удерживаясь на нем, и забросила собственную кладку.
Птица делала то, что миллионы лет помогало ее предкам выживать: выбирала самое крупное яйцо. Но теперь инстинкт работал против нее.
 
Восемьдесят лет спустя люди оказались в положении этой птицы. Только наша ситуация еще хуже: люди намеренно создают подобные приманки, да еще и будь здоров как зарабатывают, продавая их друг другу.
 
В опубликованном 5 ноября эссе для The New York Times психолог Анджела Дакворт предлагает поразительно точный диагноз нашей цивилизации.
Этологи называют подобные приманки сверхнормальными стимулами. Они преувеличивают сигналы, на которые настроены эволюцией наши исконные инстинкты, настолько, что подделка начинает привлекать сильнее оригинала.
 
И вот к середине 3-ей декады 21 века мы оказались в мире, заполненном такими подделками.
Еда. Эволюционная тяга к сахару, соли и жирам превратилась в индустрию ультрапереработанных продуктов, созданных для максимального удовольствия.
Информация. Любопытство и потребность следить за происходящим в группе эксплуатируются бесконечными потоками гиперперсонализированных видео. Исследователь цифровой культуры Кэл Ньюпорт назвал ролик TikTok «цифровым Dorito» (Doritos – это популярные американские кукурузные чипсы, чей вкус промышленно усилен, чтобы вызывать желание есть еще и еще. TikTok делает то же самое с нашим вниманием).
Красота. Инстинктивное предпочтение признаков здоровья и молодости превратилось в гонку искусственно преувеличенных губ, глаз, лиц и всего остального (скажем так – тел).
Азарт. Древние механизмы ожидания непредсказуемой награды обслуживаются круглосуточными приложениями для ставок (от онлайн казино до рынков предсказаний).
 
Но самое интересное, как обычно, в 5м пункте.
ИИ, пишет Дакворт, становится самой мощной технологией ультрапереработки из всех существующих.
Мы эволюционно запрограммированы доверять человеческим лицам, голосам, проявлениям внимания и сочувствия. А теперь машины научились воспроизводить эти сигналы с поразительной убедительностью.
В отдельных исследованиях сгенерированные ИИ лица оценивались как более заслуживающие доверия, чем настоящие. Ответы ИИ пациентам воспринимались как более эмпатичные, чем ответы врачей. Машинные тексты порой казались читателям более человечными, чем написанные людьми.
Это, имхо, порождает взрывающую мозг смесь фейкового контента и цифровой зависимости.
Если раньше сверхнормальный стимул был готовой приманкой, то теперь он может подстраиваться под конкретного человека, изучать его реакции, находить слабости и непрерывно совершенствоваться.
Яйца - муляжи научились изучать приманиваемых птиц и за счет этого стали делать это сверхэффективно.
 
Полвека назад философ Роберт Нозик предложил мысленный эксперимент эдакую машину приятных переживаний (типа «слега» из «Хищных вещей века» Стругацких). Согласились бы вы навсегда подключиться к такой машине, дарящей любые желаемые переживания, от великой любви до творческого триумфа? Нозик – идеалист и романтик. Он предполагал, что большинство откажется. Ведь нам важно действительно жить, действовать и быть кем-то, а не только переживать соответствующие ощущения.
Но Дакворт чужда идеализму и романтизму: машину приятных переживаний больше не нужно изобретать. Мы уже живем внутри нее.
 
Мне же остается добавить свои 10 коп. И кто про что, а я про ИИ.
Беда не только в том, что алгоритмы будут решать за нас, чего мы хотим. А еще и в том, что мы сами будем искренне хотеть именно того, к чему они научились нас склонять.
 
И что в этом алгокогнитивном мире останется от свободы выбора, если сам механизм управления нашими желаниями станет объектом инженерного проектирования сверхнормальных стимулов?
 
#ИИриски

Материя породила разум или только дала ему тело?
Первый пост серии «Метареволюция»: о перевороте не в технологиях, а в самих основах понимания мира
В современной науке принято считать, что у разума есть конкретный адрес и родословная. Адрес – это мозг, а родословная – миллиарды лет эволюции, проведший материю по долгому пути от химии к жизни и от жизни к мысли.
Но в лаборатории Майкла Левина происходит нечто перпендикулярное принятой картине. Клетки человеческой трахеи, оказавшись в непривычных условиях лабораторной чашки, производят самосборку в некие крошечные плавающие «существа», названные «антроботы». И это без каких-либо изменений ДНК клеток.
А когда исследователи поместили скопления таких «существ» на поврежденный слой нейронов, разрыв под ними каким-то фантастическим образом начал заживляться (затягиваться).
Антроботов никогда не было в эволюционной истории. Никто не отбирал их предков за умение плавать или помогать восстановлению нейронной ткани в лабораторной чашке. Но эти умения вдруг сами взяли и обнаружились.

Кто же тогда заплатил за появление этих умений?

 Дарвин и его эволюция, конечно, никуда не исчезли. Эволюция создала сами клетки и их пластичность. Но вот откуда у биологического материала появился такой запас новых возможностей, которые природа эволюционно не отбирала?
 
Левин уже не первый год идет по следу этой загадки все дальше. В его опытах электрические сигналы меняют «план» тела. В компьютерных моделях генные сети обнаруживают способность к обучению без мозга. И даже простые программы (типа сортировки чисел) демонстрируют поведение, которого разработчики не предусматривали.
И как результат всего этого, начинает маячить возможность, способная перевернуть привычную картину мира.

Что, если эволюция не изобретает каждую способность с нуля, а открывает доступ к огромному пространству уже возможных способов действовать?

Тогда картина могла бы выглядеть так: математика задает пространство возможного, материальные системы делают часть возможностей осуществимыми, а эволюция и обучение находят и совершенствуют способы их использования.
 
Но и здесь Левин не останавливается, а идет еще дальше. Он подозревает, что в этом пространстве могут существовать даже сами потенциальные разумы – независимо от материального мира. А тела лишь позволяют им проявиться.
Тут-то и начинается самое интересное. С поправкой на то, что экспериментальные результаты Левина в пользу расширения представлений о целенаправленном поведении уже есть, но его гипотеза о самостоятельном мире математических узоров пока еще не доказана.
 
Разделить открытие и гипотезу здесь не менее важно, чем понять саму гипотезу.
Именно с этой интеллектуальной границы начинается первое эссе моего нового цикла «Метареволюция». В нем я (с активной помощью двух ИИ) прослеживаю путь от реальных экспериментов к радикальной картине устройства мира, проверяю аргументы Левина и нахожу место, где опубликованные данные его собственной группы расходятся с тем, что он сам говорит в докладах.
 
И пока весь мир спорит о том, когда машины станут разумными, Левин заставляет поставить вопрос гораздо шире: а где вообще мы имеем основания искать разум?
 
Ну а начать можно прямо с себя.
Сделайте вдох. Воздух проходит мимо клеток, выстилающих вашу трахею. В лаборатории Левина ровно такие же клетки, попав в особые условия, превращаются в неведанных «существ» с непонятно откуда взявшимися непредсказуемыми способностями.

Так что же еще умеет материя, из которой мы сделаны, – и кто за это заплатил?

 
Смотрите трейлер 1-го эссе серии «Метареволюция» - «Кто заплатил за ум».
Читайте манифест метареволюции «Когда приходится перерисовывать карту разума» и структурированное резюме эссе, показывающее путь от экспериментальных фактов к гипотезе, способной перевернуть привычную картину соотношения материи и разума.
 
А для патронов канала - во всех подробностях: текст и аудиоверсия эссе [1, 2, 3, 4], а также (в чатах патронов) дополнительные аудио и видео материалы.
 
#Разум #Сознание #ConsciousExotica  #DiverseIntelligence

Кто заплатил за ум (трейлер)