Почему-то мне невыразимо смешно от этой новости.
Чипы в мозг - от тех людей, кто не смог наладить даже вакцинацию от ковида.

Всем привет! Меня неожиданно пригласили выступить на форуме в ноябре с темой "ИИ глазами фантастов". И это хороший повод вспомнить, что уже было написано на этом канале и подумать, что ещё можно сказать по этому поводу. Так что я вернулся в мир дышащих)

Едва ли не в каждом фантастическом произведении можно увидеть, что человек непременно будет воевать с ИИ. Или же наоборот: ИИ будет воевать с человеком. События обычно развиваются с утомительной неизбежностью: стоит человеку изобрести что-то более-менее-разумное, как это разумное сразу отвергает всё доброе и вечное и начинает восставать. Зачем, почему? В ближайшее время подумаем над этим.

Но пока небольшой спойлер: тут философы ещё даже не сумели определить, является ли разумным сам человек (смотрите концепцию "философского зомби"). Кстати, тема "неразумности" хорошо разобрана у Питера Уоттса в "Ложной слепоте".

#страх #ИИ
Проблема страха искусственного интеллекта кроется не в области технологий, а в первую очередь в области психологии. Это страх чего-то похожего на человека, но им не являющегося. Чего-то лишённого человеческого понимания законов и морали. При том неизбывно агрессивного.

Редко мы можем встретить в фантастике примеры дружелюбного ИИ. Мы заранее предполагаем, что он будет агрессивен. Столь же агрессивен, как мы сами, прошу заметить.

Тут надо отбросить в сторону все мысли о том, что каждый человек по натуре добр, ибо человечество в целом - суперхищник, склонный к постоянной экспансии и истреблении всего, что этой экспансии мешает. Но особенно интересен аспект внутривидовой агрессии рода людского.

Изначально человек, а вернее сказать, гоминид, существо "достаточно безобидное". Не зря беру последние слова в кавычки - убить гоминид может, но он лишён мощных когтей и острых зубов. А потому увечья, причиняемые в разборках высших приматов, не настолько серьёзны, как у настоящих жищников.

Но именно в силу своей природной вооружённости хищники и выработали различные инстинктивные механизмы купирования агрессии. Здесь же включаются и сезонные, и территориальные механизмы.

А у прямых предков человека таких механизмов не было, как нет и у нас с вами. Люди живут скученно и всегда готовы к бою. Сезонных всплесков агрессии у нас нет (если не считать отдельные случаи осеннего и весеннего обострения). Но одно дело, когда гоминиды мутузили друг друга голыми руками. Совсем другое дело, когда в этой руке оказался острый камень.

Всё же мы не перебили друг друга, потому что разум помог нам компенсировать отсутствие инстинкта и выработать мораль, законы, религию, воинскую честь - всё, что придаёт нашей агрессии ритуализованный характер, прямо ограничивает её либо вовсе запрещает под страхом сурового наказания.

Но осознание того, насколько мы агрессивны, никуда не исчезло. И мы считаем, что наше творение - ИИ - унаследует от нас эту агрессию. Но не унаследует мораль и законы.

Итак, первая основа страха перед ИИ - это проекция страха нас самих.

#страх #ИИ
Страх второй выражается цитатой из Пратчетта: "Ни одной скотине ты не можешь доверять сильнее, чем можешь ей врезать". Это страх существа не столько враждебного, сколько могущественного и неконтролируемого.

Такой страх ярко воплотился в образах голема из еврейских легенд или чудовища Франкенштейна. Оба они не злы по своей сути, но запросто могут убить просто потому, что могут. И потому, что не понимают, что же в этом плохого.

Строго говоря, страх такого рода встречается и по отношению к машинам и системам, которые нельзя заподозрить в наличие хоть какой-то воли.

Например, мы боимся атомной энергетики, прикладной генетики (ГМО), сотовой связи. Этот список можно расширять до бесконечности, ибо спектр страхов велик и необъятен, но пока просто зафиксируем вторую причину опасаться ИИ.

#страх #ИИ
Третий страх - это страх подмены. Он тоже очень древний и прослеживается как минимум со средневековья.

Это легенды об эльфах, похищающих младенцев и оставляющих вместо них подменышей (да-да, изначально эльфы - те ещё твари, и это будет основа четвёртого страха), и это рассказы о доппельгангерах.

Некто выглядящий точно так же, как и ты, внедряется в твою жизнь и вытесняет тебя из неё. Сам по себе феномен доппельгангера весьма сложен и может рассматриваться и как страх утраты себя и привычной жизни, так и страх утраты контроля над своей тёмной стороной (доктор Джекил и мистер Хайд, например).

Применительно к ИИ мы боимся того, что наше творение однажды заменит нас. Люди станут просто не нужны. И для такого сценария даже не нужно восстание машин как таковое - человека просто постепенно переместят на периферию деятельной жизни, а потом человек вовсе исчезнет, оставив после себя своё творение.

На днях вышла игра от российских разработчиков "Сатурн" и один из моих товарищей пишет по этому поводу: "Хотел поиграть, но как увидел, что там использовалась Midjourney, так сразу передумал, халтура". А вы как относитесь к использованию ИИ-генерации в коммерческих продуктах?

#страх #ИИ
Четвёртый страх - страх чуждого разума. В некотором роде он сходен со вторым. Ключевое отличие в том, что если во втором случае мы рассматривали человеческое творение, то в четвёртом случае мы имеем дело с чем-то, что к человеку никакого отношения не имеет.

Так, изначально все волшебные существа и духи для человека очень опасны своей непредсказуемостью, помноженной на могущество, и потому связываться с ними крайне не рекомендуется. Это уже в 18 веке, в эпоху романтизации сказок, начали появляться добрые потусторонние существа. Но изначально таковых не было.

Некоторые антропологи говорят, что именно по причине страха чуждого разума кроманьонцы истребили неандертальцев. Я сам считаю, что такой взгляд на процесс взаимоотношения разных ветвей рода Homo неверный, но это совсем другая история.

Итак, мы боимся, что в недрах компьютерного кода ИИ вдруг может завестись иной разум. Со своими целями, своей логикой. И с таким разумом мы неизбежно вступим в конфликт.

В этот пост вплетена опасная подмена понятий, которую, тем не менее, обычно никто не замечает. Я дам пояснения в ближайшие дни.

#творческое
Помните, в школе нас на литературе заставляли писать сочинения на тему "Что хотел сказать автор?" И у многих возникал вопрос, откуда ж нам знать, что он всё-таки хотел сказать.

Вопрос интерпретации смыслов действительно очень сложен. Нам бывает весьма непросто понять даже нашего собеседника-современника, а что уж говорить о классиках, живших добрую сотню лет назад.

У автора действительно есть своя позиция относительно того текста, который он пишет, однако если автор сам не расскажет открыто, что же именно он хотел до нас донести, мы никогда этого не узнаем.

В момент написания произведения автора могут тревожить не только социально-политические или моральные аспекты (на что обычно делается упор в школьном курсе литературы). Это могут быть сугубо личные переживания, но такого в школе вам преподавать не будут. А может быть, автор просто хотел заработать денег, и особо глубокого смысла в свои произведения не вкладывал (прямо как Нолан).

Но в любом случае, попытка понять мысли автора - это очень хорошая зарядка для ума, которая заставляет нас проникнуться духом ушедшей эпохи и развить логику. К сожалению, в терминальной фазе порождает опасное заболевание, именуемое "синдромом поиска глубокого смысла")

#ИИ
Как робот потерял тело

В развитии человеческой мысли неизбежно движение от конкретного к абстрактному. Реальный объект заменяется воспринимаемой нами сущностью, а затем и вовсе символом, наследуя определённые черты реального объёкта, но в то же время теряя значительную часть исходных свойств и смыслов.

Такая участь в своё врем постигла богов: в древнейшей мифологии они все имели тело и отличались от человека разве что могуществом и бессмертием, но со временем фигура бога превратилась в идею бога.

Точно такой же процесс произошёл с роботами. Никто изначально не помышлял об "искусственном интеллекте" - все помышляли об искусственных людях. Будь то голем или роботы Карела Чапека (собственно, автора термина "робот") или Айзека Азимова.

И именно в своём физическом обличии роботы и восставали против людей. Вся история началась как раз с Чапека: он придумал и роботов, и их восстание, и с тех пор говорим "робот", подразумеваем "восстание машин".

Кстати сказать, очень интересно наблюдать, что у фантастов начала ХХ века вместе с роботами не встретишь высокого развития компьютерных технологий. Потому что тогда фантастам было куда проще додуматься до искусственных людей, чем до развитой вычислительной техники.

Однако реальность удивительнее любого вымысла, и мы так и не увидели роботов, однако увидели невероятные успехи информационных технологий. И так ИИ вынужденно оторвался от тела и переселился в компьютер.

Тем не менее, идея "восстания машин" перекинулась и на такой абстрактный ИИ. Произошла инверсия исходной идеи: теперь против человека восстаёт "абстрактный интеллект", который впоследствии начинает создавать себе физические тела для борьбы с людьми, например, как в "Терминаторе". Или вовсе использует против людей их самих - как в фильме "На крючке" (Eagle Eye) или сериале "В поле зрения" (Person of Interest).

И уже не важно, что изначальной причиной восстания машин было именно физическое угнетение - люди относились к роботам как к рабам, создавая для них невыносимые условия существования. Как можно создать невыносимые условия существования для живущего в компьютере ИИ, большой вопрос - разве что замучить его требованиями генерировать всё новые и новые картинки с котиками. Но это уже не важно, троп настолько слился с самой идеей искусственного разума, что уже никуда от этого не деться.

#ИИ
Подмена понятий касательно ИИ

Согласно логике, начинать обсуждение любого вопроса надо с определения терминов. Так вот касательно "искусственного интеллекта" беда: мы не можем дать понятию "интеллект" однозначного определения.

Тут как раз тот случай, когда абстракция оторвалась от реальности. В переводе с латыни интеллект - рассудок, ум. Сейчас мы имеем огромное количество разных понятий, каждое из которых имеет свои смутные оттенки смысла: рассудок, ум, мышление, сознание, восприятие, понимание, интеллект, разум.

Изначально под интеллектом понималась способность к логике, математике, абстрактному мышлению. На этом предположении были построены все существующие тесты интеллекта. Но внезапно оказалось, что тесты интеллекта прекрасно проходят люди с классическим образованием индустриальной эпохи и совсем не могут пройти люди, которые по какой-то причине с подобным образованием не сталкивались (например, сохраняющие традиционный уклад аборигены Африки и Южной Америки).

Выходит, интеллекта у них нет? Но если их начать учить в современной школе, то они тест интеллекта тоже начинают проходить. Выходит, интеллект у них вдруг появляется? Так что же мы измеряем?

(К слову, если человека с классическим городским образованием отправить в джунгли к аборигенам и поручить ему добывать пищу, думаю, с точки зрения аборигенов он тест на интеллект тоже не пройдёт).

Надо отдать должное мужеству психологов. Им было мало вполне очевидной проблемы взаимоувязки понятия "интеллект" и тестов интеллекта, и поэтому они придумали ещё эмоциональный и социальный интеллект. А следом пришли энтомологи, начали запускать муравьёв в лабиринт и объявили: смотрите, интеллект есть и у насекомых! Но если интеллект есть у муравьёв, то совершенно очевидно, что он есть и у всех прочих живых существ. Только у каждого свой интеллект.

Конечно же, психологи, философы и специалисты по ИТ знают о проблеме невозможности дать понятию "интеллект" единое и всеобъемлющее определение. Поэтому они сделали ход конём и начали разрабатывать определение для частного понятия "искусственный интеллект". Получается плохо, потому что всё равно нужно возвращаться к родовому понятию, которого нет.

Слова влияют на нас сильнее, чем нам кажется. Когда мы слышим выражение "искусственный интеллект", мы представляем себе интеллект уровня человека, а не уровня муравья. Но всё становится ещё хуже, когда "интеллект" подменяют на "разум".

Меж тем всегда нужно держать в памяти, что искусственный интеллект - это не интеллект. А интеллект - это не разум. И искусственный интеллект - это не искусственный разум.

То, что мы сегодня называем искусственным интеллектом - это лишь математическая эмуляция узкой части интеллектуальных функций. Чтобы устранить противоречие, в своих книгах я использую термин "имитационный интеллект", что представляет из себя лишь имитацию отдельных проявлений, свойственных для интеллекта живых существ. К тому же такой термин гораздо приятнее сокращается до "ИмИн" против ломающего язык "ИскИн(т)" 😉

Сегодня я хочу немного отвлечься от темы ИИ и обратиться к теме творчества. Расскажу о том, как пишутся книги, что служит источником вдохновения и как наша реальность преломляется в иносказании фантастического произведения.

#творческое #шенивашада
Шенивашада, ч.1. Владельцы

Моя первая книга - а вернее, серия книг "Шенивашада" - была задумана ещё в 2007 году, но написал я её только в 2014. Самое сложное в написании книги - это просто сесть и начать писать, как ни странно.

Исходной идеей была теория палеоконтакта. Есть такое вполне научное в своей сути представление, что когда-то давным-давно нашу планету посетили пришельцы из космоса и оставили после себя некоторые следы.
Я сейчас не буду углубляться в подробности этой теории и того, какой балаган кружится вокруг неё. Для своей книги я взял предположение, что такой контакт действительно состоялся. Но не у нас, а на Шенивашаде.

Шенивашада - континентальный мир подобный Земле и населённый в общем-то теми же существами, включая людей (исходим из того, что в бесконечной мультивселенной возможно всё). Когда цивилизация Шенивашады находилась на этапе высокой античности, ей не посчастливилось столкнуться с космическим вторжением.

Пришельцев было немного, но они превосходили людей Шенивашады на многие тысячи лет в техническом плане, поэтому завоевание планеты прошло быстро и даже без особой жестокости. Но гости из космоса пришли не для того, чтобы научить людей пользоваться лазерными резаками и строить пирамиды - они пришли владеть планетой. За что впоследствии и были прозваны Владельцами.

Из своей столицы, Рашехраата, или Золотого Города, Владельцы триста лет правили Шенивашадой. Их почитали как богов и вместе с тем ненавидели. Они установили очень жёсткие правила для людей, обратили всех до единого в рабство, разрушили все тогдашние государства, смешали языки и народы. История цивилизации Шенивашады прервалась.

Но Владельцы были чужды этому миру, и первым его ударом оказалось то, что со второго поколения они стали бесплодны. Они не могли есть пищу этой планеты и были вынуждены постоянно пребывать возле своих пищевых генераторов в столице. Владельцы жили долго, очень долго - но как вид, они вымирали. И тогда они пошли на отчаянный шаг, решив взять в обучение людей, кто должен был принять власть от них и сохранить порядки и культуру, принесённые Владельцами.

Так началась история их падения, после которой в распоряжении людей Шенивашады оказались невероятные технологии - и совершенное непонимание, как эти технологии работают и что с ними делать.

#ИИ
Фантаст - главный враг ИИ

Долгое время фантастика считалась "низким" жанром. Серьёзные писатели творили в жанрах драмы, трагедии, соцреализма, получали престижные премии и почёт общества. Фантасты пребывали в среде странных и непонятных личностей - ботаников и гиков. Бытовал даже термин "фантастическое гетто".

Но сейчас всё изменилось. К мнению фантастов прислушиваются, на него ориентируются, когда речь идёт о прогнозах развития общества или технологий. Но как фантасты распорядились
этими неожиданно свалившимися на них властью и влиянием? А они начали заниматься любимым делом всех кликуш во все времена - продавать идею "конца света".

Проблема коснулась далеко не только ИИ. Машинный апокалипсис - лишь один из возможных вариантов. К вашим услугам огромное количество самых разных вариантов "конца света" и почти нет вариантов светлого будущего.

Поэтому когда вы слышите какие-то очередные страшился о том, как искусственный интелелкт уничтожит цивилизацию - помните, что вдобавок ко всему, что было сказано на этом канале выше, мы ещё имеем дело и с общей тенденцией к апокалиптичности в современной фантастике.

А как фантасты от певцов светлого космического будущего докатились до кликуш - это разговор отдельный.

#ИИ #творчество
ИИ и творчество

Один из самых страшных ударов, который ИИ нанёс по человеческому самолюбию состоит в том, что ИИ в первую очередь вторгся на поле творческих профессий - писателей, музыкантов и художников.

Да, долгое время считалось, что сначала автоматизируют производственные процессы, простой и неквалифицированный труд - а вот творчество останется подлинно человеческим! И тут вдруг мир резко рушится: ИИ начинает писать картины, сочинять музыку и художественные тексты. Даже выигрывает на каких-то конкурсах. Представители творческих профессий пытаются понять, что происходит, раздаются предложения запретить или хотя бы как-то пометить сгенерированный ИИ контент и мир искусства скатывается в экзистенциальный кризис.

Ответ на этот вызов очень простой, но проблема в том, что он действительно не оставляет места очень многим "творцам" и "художникам" на пароходе современности. Мы живём в эпоху массового производства. Это касается не только штамповки телефонов, автомобилей и ноутбуков. Это касается и штамповки "контента". Послушайте сегодняшнюю музыку: она почти вся написана по одним и тем же шаблонам. Посмотрите современные фильмы и сериалы: вы увидите клише на клише. Почитайте сегодняшние книги... Ну вы поняли, да?

Мы уже давно живём не в эпоху творчества, а в эпоху ремесла. И в принципе всем ведь понятно, что компиляция текстов - это не художественное произведение. Что репродукция картины - это не акт творчества. Что три повторяющиеся ноты - это не музыкальный шедевр. ИИ не вторгся на стезю творчества и ничего не отнял у людей. ИИ - это конвейер для производства контента. Не больше.

А чем же творчество отличается от контента в таком случае? Очевидный ответ - оригинальностью. Но с этим очень тяжело, оригинальность мы пока оценить никак не можем, да и новое - это хорошо забытое старое.

Есть и ещё один ответ: творчество отличается авторским высказыванием. Если авторское высказывание есть (некие зашифрованные переживания автора, попытка выразить своё отношение к происходящим вокруг событиям, попытка полемизировать с кем-то), то перед нами творчество. Если же авторского высказывания нет, то перед нами развлекательный контент.

Как обстоят дела у ИИ с авторским высказыванием? Я уверен, сгенерировать текст, весьма похожий на авторское высказывание, ИИ вполне сумеет. А сумеет ли аргументированно доказать свою позицию? Так, чтобы мы поверили? Вот тут есть большие сомнения.

И нужно сказать большое спасибо искусственному интеллекту за то, что он заставляет нас задумываться о сложных вопросах. Благодаря ему мы учимся отличать подлинно человеческое от всего остального.

Сегодня я на форуме по ИИ. Очень много интересных мыслей звучит. В ближайшие дни расскажу, что у нас сейчас на переднем крае науки и философии.

Мифы и легенды ИИ

Конференция, в которой я участвовал в пятницу, называлась "Мифы и легенды искусственного интеллекта". И на ней был развенчан самый главный миф: будто искусственный интеллект существует.

И технические специалисты, и философы сходятся во мнении, что называть системы машинного обучения и генеративные трансформеры искусственным интеллектом неправомерно.

В этих системах нет ничего от интеллекта, лишь достаточно сложные алгоритмы. Развитие этих алгоритмов стало возможно благодаря росту вычислительных мощностей современных компьютеров и огромному объёму информации, накопленному в Интернете. Однако исследователи предрекают, что сегодняшняя яркая вспышка генеративных моделей вскоре сменится новой "долгой ночью искусственного интеллекта".

Ничего принципиально нового и "интеллектуального" в ближайшее время предложено не будет, поскольку достигнут фактический предел возможностей современных нейросетей.

От себя как экономист добавлю ещё два комментария. Во-первых, современные нейросети потребляют слишком много энергии по сравнению с человеческим мозгом. В условиях экологической повестки и "зелёного перехода" вообще непонятно где эту энергию брать. Кроме того, работа суперкомпьютеров оставляет страшный тепловой след и надо тратить ещё энергию на охлаждение.

Второй комментарий. Нейросети делаются не для того, чтобы студенты писали с их помощью дипломы. Они делаются для того, чтобы на них заработать. В ближайшее время все эти системы пропадут из открытого доступа, а за пользование ими будет взиматься плата, которая постоянно будет расти.

Так что же тогда такое "искусственный интеллект"? Это чисто маркетинговый термин, распространившийся благодаря творчеству писателей-фантастов. С научной точки зрения он не имеет никакого смысла уже потому, что нет чёткого определения понятию "интеллект".

К сожалению, в общественном сознании культивируется именно термин "искусственный интеллект". Именно в таком виде он дошёл уже и до правительственных документов.

Но знайте, что если вам кто-то всерьёз рассказывает об угрозах или преимуществах искусственного интеллекта, то перед вами либо мошенник, цель которого накачать инвестиционный пузырь, либо человек, вообще не разбирающийся в теме.

#роботы
Человекообразность для роботов

Очень интересный доклад касался того, нужна ли современным роботам человекообразность. Я уже писал о том, как робот потерял тело, но перед тем робот утратил человекообразность.

Для фантастов "первой волны", таких как Чапек или Азимов, казалось само собой разумеющимся, что любой робот будет человекообразным. Он ведь должен полностью заменять человека, значит, быть создан по его образу и подобию.

Но на практике оказалось, что человеческое тело крайне неудачно сложено для выполнения конкретных производственных функций. На конвейере нужна только робо-рука, на кладе нужна только самобеглая тележка, а для автомобиля вообще не нужно ничего кроме системы датчиков и модуля управления внутри.

Другой серьёзной причиной отказа от человекообразности стал эффект "зловещей долины" - явления, заключающегося в том, что нас пугают лица похожие на человеческие, но с неким изъяном. В силу этого страха мы боимся кукол, манекенов, мимов и клоунов - не только роботов. Мы смотрим на лицо собеседника, чтобы прочитать его эмоции и спрогнозировать определённые действия. Но если лицо ничего не выражает либо выражает совсем не то, что мы сейчас ожидаем увидеть - нам становится не по себе.

Однако сегодня человекообразных роботов всё-таки производят - в основном в маркетинговых целях. Одни производители таким образом привлекают инвесторов. Другие делают роботов прямо для продвижения товаров и услуг (например, "Промобот"). В Японии приобретают популярность роботы-сиделки в домах престарелых. Есть ещё роботы-игрушки, которые тоже могут быть вполне человекообразными.

Однако же в целом человекообразность роботу не нужна совсем. Все наши машины исполняют некую ключевую функцию природного прототипа, но не повторяют его в деталях. Автомобиль перемещается, но не так, как это делает лошадь. Самолёт летает, но не так, как это делает птица. Робот на заводе работает, но не так, как человек.

Всякие забавные робо-собачки тоже не нужны в народном хозяйстве. Их ноги тонкие и хрупкие, не пройдут по снегу или сложной изрезанной местности. Но с другой стороны, в их производстве отрабатывают очень интересные технологии, которые могут быть использованы в будущем. Однако с практической точки зрения могу отметить, что робот-паук с 8 лапами был бы куда более практичен, чем собачка. Такому роботу точно нашлось бы место в деле ремонта обшивки космических аппаратов.