— Что определяет судьбу разумных существ во Вселенной?
— Насколько уникально появление человеческого разума?
— Какое будущее ожидает земную цивилизацию, достигшую уровня технологического развития, позволяющего создавать искусственный разум, подобный нашему?

Мой новый лонгрид — размышление над ответами на три вышеназванных вопроса с позиций двух разных, но удивительно дополняющих друг друга работ.
• Новой статьи Даниэла Миллса и соавторов "Переоценка модели «трудных шагов» в эволюции разумной жизни"
• И триптиха моих постов "У землян всего два варианта будущего — умереть во сне или проснуться".

Ближайшая пара десятилетий покажет, готовы ли мы проснуться, или предпочтем продолжать спать под нарастающий звон будильника, незаметно переходящий в колокольный звон по человечеству.

И в таком случае, сценариев будущего человечества будет не два, а три:

1. Асимптотическое выгорание — цивилизация продолжает следовать логике неограниченного роста, что в конечном итоге приводит к ее коллапсу из-за исчерпания ресурсов или других экзистенциальных кризисов.

2. Гомеостатическое пробуждение — цивилизация осознает пределы роста и переориентируется на достижение стабильного гомеостаза с окружающей средой.

3. Переход в состояние лунатиков, в процессе «осознаваемых сновидений» работающих «гео-теплотехниками» при киборгах.

Какой из этих сценариев материализуется, во многом зависит от нас.
Говоря словами проф. Эллисон Дж. Пью из её новой книги «Последняя человеческая работа»:

Будущее будет определяться не тем, что смогут делать машины, а тем, что мы, как общество, решим в себе сохранить.

Что, на мой взгляд, прекрасно рифмуется с вынесенными в эпиграф к этому лонгриду словами Рэя Бредбери:

„Я не пытаюсь предсказать будущее – я пытаюсь его предотвратить.“ 

Прочесть мой текст «Будильник для человечества. Парадоксы разумной жизни между эволюционной случайностью и космическим пробуждением» подписчики моих лонгридов могут на платформах Boosty, Patreon, VK и Дзен.

#Вызовы21века #ПарадоксФерми #FutureOfCivilization

-- -- --
P.S. Вынужденно задерживаю публикацию 2й части триптиха «Проект Pi». Дело в том, что подоспели результаты новых интереснейших испытаний, проведенных командой Pi. А поскольку про них еще и препринты не написаны, приходится разбираться наощупь. Из-за этого торможу со 2й частью, т.к. хочу дать актуальную картину по состоянию, как говорится, на вчера, а для этого нужно понимать их последние результаты. Но на следующей неделе (ЕБЖ) планирую 2ю часть, наконец, опубликовать.

Эволюции будут нужны лишь суперпрофессионалы и гении.
Люди средних способностей уже проигрывают ИИ почти во всем.
Месяц назад я писал «Пора задуматься о перемене участи. Так ли уж ИИ будут нужны «кожаные мешки»?» Поводом было исследование, показавшее, что в 6 медицинских практиках «ИИ без врача» лучше врача-человека, работающего вместе с ИИ.
Что скрывать. Даже после начала революции ChatGPT сохранялась надежда, что медицина не шахматы, и всеведущая, но тупая машина врачей не превзойдет. Но оказалось, что еще как превзойдет.
А спустя месяц, вслед за интеллектуальным превосходством врачей, обрушилось интеллектуальное превосходство юмористов. Оказалось, что и шутить ИИ может получше людей.

Что LLM способны неплохо шутить, стало ясно уже после выхода ChatGPT 3.5. Но все же до чувства юмора людей этой модели было далеко.

Новейшее исследование модели GPT-4o поставило людей на заслуженное нами место – юмор рядового человека менее смешон и оригинален, чем юмор GPT-4o.

Проверяли со всей научной тщательностью и дотошностью на задаче генерации мемов - специфичной для конкретной культуры форме творческого самовыражения, основанной на юморе.

Мемы генерировали люди, GPT-4o и совместно люди + GPT-4o.
Каждый сгенерированный мем краудсорсеры оценивали по трем характеристикам: насколько он смешной, креативный и виральный.

Итог таков:
1. Мемы модели, в среднеи, оказались лучше мемов людей
2. При совместной работе (люди + GPT-4o) мемы генерились быстрее и с меньшими трудозатратами людей, но результат получался хуже, чем у GPT-4o.
3. Но все сказанное в пп 1 и 2 – это в среднем. Самые смешные мемы получались-таки у людей. Т.е. ИИ может повышать производительность и создавать контент, нравящийся широкой аудитории. Но для генерации контента высшего уровня нужны люди.

Главный итог исследования подтвердил закономерность.

✔️ ИИ сильнее людей средних способностей практически во всем: от рекламы до стихов и от диагностики до юмора;
✔️ Но суперпрофессионалы и гении практически во всем сильнее ИИ (кроме задач с фиксированными правилами: шахматы, Го …)

Отсюда напрашивается вопрос:
Зачем культурной коэволюции двух носителей высшего интеллекта (людей и ИИ) люди средних способностей?

Один вариант ответа – чтобы работать «гео-теплотехниками» при киборгах.
А еще варианты есть? Не понятно.

Ну и чтоб не заканчивать на пессимистической ноте, вот пример анекдота с элементом черного юмора про программиста на необитаемом острове, который был мгновенно придуман по моей просьбе моделью Claude 3.7 Sonnet.
По-моему, совсем неплохо 😊

Программист потерпел кораблекрушение и оказался на необитаемом острове. После месяца выживания он нашёл древнюю лампу с джинном.

Джинн говорит: "Дам тебе на этом острове все что попросишь, но твое желание должно быть сформулировано в виде компьютерного кода."

Программист пишет на песке: "while(true){island.resources = infinity;}"

Джинн щёлкнул пальцами, и программист мгновенно умер.

В логе ошибки было написано: "Обнаружен бесконечный цикл. Процесс аварийно остановлен."

#LLMvsHomo #FutureOfCivilization

GPT-7 будет «Гений по требованию»
А после GPT-8 уже никто по нас скучать на Земле не будет
В пользу этого говорит частичное прохождение моделью GPT-5 «Теста Гёделя».
Заголовок и подзаголовок скомпилированы из названий двух интереснейших докладов на только что завершившемся воркшопе экономистов в Пало-Альто:
• Genius on Demand: The Value of Transformative Artificial Intelligence
• We Won't Be Missed: Work and Growth in the Era of AGI
В отличие от разработчиков ИИ и нейроученых, экономисты не стали заморачиваться ни с терминологией (что есть: AGI, ASI, Сильный ИИ, ИИ человеческого уровня и т.д.), ни с оценками вероятности и сроков появления того, что стоит за этими терминами.

Логика экономистов – участников Economics of Transformative AI Workshop - Fall 2025, - была проста как редис.
• Допустим, «ЭТО» (какими терминами его ни называй, появилось
• Что произойдет тогда с рынком труда?

Ответ на этот вопрос исследователей Универа Торонто и NBER обобщен заголовком их исследования:
• В краткосрочной перспективе человеческие гении специализируются на вопросах, наиболее удаленных от существующих знаний, где их сравнительное преимущество перед ИИ максимально.
• В долгосрочной перспективе обычные работники могут быть полностью вытеснены, если эффективность ИИ приблизится к эффективности человеческого гения.

Ответ по результатам моделирования появления «ЭТОГО», проведенного Йельским универом и NBER также обобщен в подзаголовке:
• Всю экономически ценную когнитивную, физическую и социальную работу будет выполнять «ЭТО»
• Немногие избранные будут заняты в искусстве и спорте
• Для всех остальных вспомогательный труд (не влияющий на рост экономики) обеспечит стабильные рабочие места, но не увеличит их заработную плату

Как я уже сказал, вопрос о том, насколько вероятно появление «Гениев по требованию», экономисты не рассматривали (откуда им знать?)

Зато в исследовании Универа Хайфы и Cisco Foundation AI «Godel Test: Can Large Language Models Solve Easy Conjectures?» - этот вопрос ключевой.
1. Ведь никто уже не спорит с тем, что уровень моделей достиг (по определению известного математика Terence Tao) «уровня некомпетентного аспиранта»: способного решать рутинные (уже решенные людьми) логические научные задачи.
2. Однако, вопрос о принципиальной возможности достижения «уровня гения» нет смысла рассматривать без достижения моделями хотя бы «уровня компетентного аспиранта» (способного к самостоятельному творческому синтезу знаний)

И вот тут то новая работа дает ответ – частичное прохождение моделью GPT-5 специально разработанного нового «Теста Гёделя» (для оценки способности LLM решать простые, ранее нерешенные научные гипотезы) говорит о возможном достижении следующим поколением модели (напр. GPT-6) «уровня компетентного аспиранта».

И тогда GPT-7 может стать уже «Гением по требованию». Ну а после GPT-8, как в модели Паскуаля Рестрэпо, «по нас скучать уже не будут».

#AGI #Вызовы21Века #FutureOfCivilization