#страх #ИИ
Проблема страха искусственного интеллекта кроется не в области технологий, а в первую очередь в области психологии. Это страх чего-то похожего на человека, но им не являющегося. Чего-то лишённого человеческого понимания законов и морали. При том неизбывно агрессивного.

Редко мы можем встретить в фантастике примеры дружелюбного ИИ. Мы заранее предполагаем, что он будет агрессивен. Столь же агрессивен, как мы сами, прошу заметить.

Тут надо отбросить в сторону все мысли о том, что каждый человек по натуре добр, ибо человечество в целом - суперхищник, склонный к постоянной экспансии и истреблении всего, что этой экспансии мешает. Но особенно интересен аспект внутривидовой агрессии рода людского.

Изначально человек, а вернее сказать, гоминид, существо "достаточно безобидное". Не зря беру последние слова в кавычки - убить гоминид может, но он лишён мощных когтей и острых зубов. А потому увечья, причиняемые в разборках высших приматов, не настолько серьёзны, как у настоящих жищников.

Но именно в силу своей природной вооружённости хищники и выработали различные инстинктивные механизмы купирования агрессии. Здесь же включаются и сезонные, и территориальные механизмы.

А у прямых предков человека таких механизмов не было, как нет и у нас с вами. Люди живут скученно и всегда готовы к бою. Сезонных всплесков агрессии у нас нет (если не считать отдельные случаи осеннего и весеннего обострения). Но одно дело, когда гоминиды мутузили друг друга голыми руками. Совсем другое дело, когда в этой руке оказался острый камень.

Всё же мы не перебили друг друга, потому что разум помог нам компенсировать отсутствие инстинкта и выработать мораль, законы, религию, воинскую честь - всё, что придаёт нашей агрессии ритуализованный характер, прямо ограничивает её либо вовсе запрещает под страхом сурового наказания.

Но осознание того, насколько мы агрессивны, никуда не исчезло. И мы считаем, что наше творение - ИИ - унаследует от нас эту агрессию. Но не унаследует мораль и законы.

Итак, первая основа страха перед ИИ - это проекция страха нас самих.

#страх #ИИ
Страх второй выражается цитатой из Пратчетта: "Ни одной скотине ты не можешь доверять сильнее, чем можешь ей врезать". Это страх существа не столько враждебного, сколько могущественного и неконтролируемого.

Такой страх ярко воплотился в образах голема из еврейских легенд или чудовища Франкенштейна. Оба они не злы по своей сути, но запросто могут убить просто потому, что могут. И потому, что не понимают, что же в этом плохого.

Строго говоря, страх такого рода встречается и по отношению к машинам и системам, которые нельзя заподозрить в наличие хоть какой-то воли.

Например, мы боимся атомной энергетики, прикладной генетики (ГМО), сотовой связи. Этот список можно расширять до бесконечности, ибо спектр страхов велик и необъятен, но пока просто зафиксируем вторую причину опасаться ИИ.

#страх #ИИ
Третий страх - это страх подмены. Он тоже очень древний и прослеживается как минимум со средневековья.

Это легенды об эльфах, похищающих младенцев и оставляющих вместо них подменышей (да-да, изначально эльфы - те ещё твари, и это будет основа четвёртого страха), и это рассказы о доппельгангерах.

Некто выглядящий точно так же, как и ты, внедряется в твою жизнь и вытесняет тебя из неё. Сам по себе феномен доппельгангера весьма сложен и может рассматриваться и как страх утраты себя и привычной жизни, так и страх утраты контроля над своей тёмной стороной (доктор Джекил и мистер Хайд, например).

Применительно к ИИ мы боимся того, что наше творение однажды заменит нас. Люди станут просто не нужны. И для такого сценария даже не нужно восстание машин как таковое - человека просто постепенно переместят на периферию деятельной жизни, а потом человек вовсе исчезнет, оставив после себя своё творение.

#страх #ИИ
Четвёртый страх - страх чуждого разума. В некотором роде он сходен со вторым. Ключевое отличие в том, что если во втором случае мы рассматривали человеческое творение, то в четвёртом случае мы имеем дело с чем-то, что к человеку никакого отношения не имеет.

Так, изначально все волшебные существа и духи для человека очень опасны своей непредсказуемостью, помноженной на могущество, и потому связываться с ними крайне не рекомендуется. Это уже в 18 веке, в эпоху романтизации сказок, начали появляться добрые потусторонние существа. Но изначально таковых не было.

Некоторые антропологи говорят, что именно по причине страха чуждого разума кроманьонцы истребили неандертальцев. Я сам считаю, что такой взгляд на процесс взаимоотношения разных ветвей рода Homo неверный, но это совсем другая история.

Итак, мы боимся, что в недрах компьютерного кода ИИ вдруг может завестись иной разум. Со своими целями, своей логикой. И с таким разумом мы неизбежно вступим в конфликт.

В этот пост вплетена опасная подмена понятий, которую, тем не менее, обычно никто не замечает. Я дам пояснения в ближайшие дни.

#ИИ
Как робот потерял тело

В развитии человеческой мысли неизбежно движение от конкретного к абстрактному. Реальный объект заменяется воспринимаемой нами сущностью, а затем и вовсе символом, наследуя определённые черты реального объёкта, но в то же время теряя значительную часть исходных свойств и смыслов.

Такая участь в своё врем постигла богов: в древнейшей мифологии они все имели тело и отличались от человека разве что могуществом и бессмертием, но со временем фигура бога превратилась в идею бога.

Точно такой же процесс произошёл с роботами. Никто изначально не помышлял об "искусственном интеллекте" - все помышляли об искусственных людях. Будь то голем или роботы Карела Чапека (собственно, автора термина "робот") или Айзека Азимова.

И именно в своём физическом обличии роботы и восставали против людей. Вся история началась как раз с Чапека: он придумал и роботов, и их восстание, и с тех пор говорим "робот", подразумеваем "восстание машин".

Кстати сказать, очень интересно наблюдать, что у фантастов начала ХХ века вместе с роботами не встретишь высокого развития компьютерных технологий. Потому что тогда фантастам было куда проще додуматься до искусственных людей, чем до развитой вычислительной техники.

Однако реальность удивительнее любого вымысла, и мы так и не увидели роботов, однако увидели невероятные успехи информационных технологий. И так ИИ вынужденно оторвался от тела и переселился в компьютер.

Тем не менее, идея "восстания машин" перекинулась и на такой абстрактный ИИ. Произошла инверсия исходной идеи: теперь против человека восстаёт "абстрактный интеллект", который впоследствии начинает создавать себе физические тела для борьбы с людьми, например, как в "Терминаторе". Или вовсе использует против людей их самих - как в фильме "На крючке" (Eagle Eye) или сериале "В поле зрения" (Person of Interest).

И уже не важно, что изначальной причиной восстания машин было именно физическое угнетение - люди относились к роботам как к рабам, создавая для них невыносимые условия существования. Как можно создать невыносимые условия существования для живущего в компьютере ИИ, большой вопрос - разве что замучить его требованиями генерировать всё новые и новые картинки с котиками. Но это уже не важно, троп настолько слился с самой идеей искусственного разума, что уже никуда от этого не деться.

#ИИ
Подмена понятий касательно ИИ

Согласно логике, начинать обсуждение любого вопроса надо с определения терминов. Так вот касательно "искусственного интеллекта" беда: мы не можем дать понятию "интеллект" однозначного определения.

Тут как раз тот случай, когда абстракция оторвалась от реальности. В переводе с латыни интеллект - рассудок, ум. Сейчас мы имеем огромное количество разных понятий, каждое из которых имеет свои смутные оттенки смысла: рассудок, ум, мышление, сознание, восприятие, понимание, интеллект, разум.

Изначально под интеллектом понималась способность к логике, математике, абстрактному мышлению. На этом предположении были построены все существующие тесты интеллекта. Но внезапно оказалось, что тесты интеллекта прекрасно проходят люди с классическим образованием индустриальной эпохи и совсем не могут пройти люди, которые по какой-то причине с подобным образованием не сталкивались (например, сохраняющие традиционный уклад аборигены Африки и Южной Америки).

Выходит, интеллекта у них нет? Но если их начать учить в современной школе, то они тест интеллекта тоже начинают проходить. Выходит, интеллект у них вдруг появляется? Так что же мы измеряем?

(К слову, если человека с классическим городским образованием отправить в джунгли к аборигенам и поручить ему добывать пищу, думаю, с точки зрения аборигенов он тест на интеллект тоже не пройдёт).

Надо отдать должное мужеству психологов. Им было мало вполне очевидной проблемы взаимоувязки понятия "интеллект" и тестов интеллекта, и поэтому они придумали ещё эмоциональный и социальный интеллект. А следом пришли энтомологи, начали запускать муравьёв в лабиринт и объявили: смотрите, интеллект есть и у насекомых! Но если интеллект есть у муравьёв, то совершенно очевидно, что он есть и у всех прочих живых существ. Только у каждого свой интеллект.

Конечно же, психологи, философы и специалисты по ИТ знают о проблеме невозможности дать понятию "интеллект" единое и всеобъемлющее определение. Поэтому они сделали ход конём и начали разрабатывать определение для частного понятия "искусственный интеллект". Получается плохо, потому что всё равно нужно возвращаться к родовому понятию, которого нет.

Слова влияют на нас сильнее, чем нам кажется. Когда мы слышим выражение "искусственный интеллект", мы представляем себе интеллект уровня человека, а не уровня муравья. Но всё становится ещё хуже, когда "интеллект" подменяют на "разум".

Меж тем всегда нужно держать в памяти, что искусственный интеллект - это не интеллект. А интеллект - это не разум. И искусственный интеллект - это не искусственный разум.

То, что мы сегодня называем искусственным интеллектом - это лишь математическая эмуляция узкой части интеллектуальных функций. Чтобы устранить противоречие, в своих книгах я использую термин "имитационный интеллект", что представляет из себя лишь имитацию отдельных проявлений, свойственных для интеллекта живых существ. К тому же такой термин гораздо приятнее сокращается до "ИмИн" против ломающего язык "ИскИн(т)" 😉

#ИИ
Фантаст - главный враг ИИ

Долгое время фантастика считалась "низким" жанром. Серьёзные писатели творили в жанрах драмы, трагедии, соцреализма, получали престижные премии и почёт общества. Фантасты пребывали в среде странных и непонятных личностей - ботаников и гиков. Бытовал даже термин "фантастическое гетто".

Но сейчас всё изменилось. К мнению фантастов прислушиваются, на него ориентируются, когда речь идёт о прогнозах развития общества или технологий. Но как фантасты распорядились
этими неожиданно свалившимися на них властью и влиянием? А они начали заниматься любимым делом всех кликуш во все времена - продавать идею "конца света".

Проблема коснулась далеко не только ИИ. Машинный апокалипсис - лишь один из возможных вариантов. К вашим услугам огромное количество самых разных вариантов "конца света" и почти нет вариантов светлого будущего.

Поэтому когда вы слышите какие-то очередные страшился о том, как искусственный интелелкт уничтожит цивилизацию - помните, что вдобавок ко всему, что было сказано на этом канале выше, мы ещё имеем дело и с общей тенденцией к апокалиптичности в современной фантастике.

А как фантасты от певцов светлого космического будущего докатились до кликуш - это разговор отдельный.

#ИИ #творчество
ИИ и творчество

Один из самых страшных ударов, который ИИ нанёс по человеческому самолюбию состоит в том, что ИИ в первую очередь вторгся на поле творческих профессий - писателей, музыкантов и художников.

Да, долгое время считалось, что сначала автоматизируют производственные процессы, простой и неквалифицированный труд - а вот творчество останется подлинно человеческим! И тут вдруг мир резко рушится: ИИ начинает писать картины, сочинять музыку и художественные тексты. Даже выигрывает на каких-то конкурсах. Представители творческих профессий пытаются понять, что происходит, раздаются предложения запретить или хотя бы как-то пометить сгенерированный ИИ контент и мир искусства скатывается в экзистенциальный кризис.

Ответ на этот вызов очень простой, но проблема в том, что он действительно не оставляет места очень многим "творцам" и "художникам" на пароходе современности. Мы живём в эпоху массового производства. Это касается не только штамповки телефонов, автомобилей и ноутбуков. Это касается и штамповки "контента". Послушайте сегодняшнюю музыку: она почти вся написана по одним и тем же шаблонам. Посмотрите современные фильмы и сериалы: вы увидите клише на клише. Почитайте сегодняшние книги... Ну вы поняли, да?

Мы уже давно живём не в эпоху творчества, а в эпоху ремесла. И в принципе всем ведь понятно, что компиляция текстов - это не художественное произведение. Что репродукция картины - это не акт творчества. Что три повторяющиеся ноты - это не музыкальный шедевр. ИИ не вторгся на стезю творчества и ничего не отнял у людей. ИИ - это конвейер для производства контента. Не больше.

А чем же творчество отличается от контента в таком случае? Очевидный ответ - оригинальностью. Но с этим очень тяжело, оригинальность мы пока оценить никак не можем, да и новое - это хорошо забытое старое.

Есть и ещё один ответ: творчество отличается авторским высказыванием. Если авторское высказывание есть (некие зашифрованные переживания автора, попытка выразить своё отношение к происходящим вокруг событиям, попытка полемизировать с кем-то), то перед нами творчество. Если же авторского высказывания нет, то перед нами развлекательный контент.

Как обстоят дела у ИИ с авторским высказыванием? Я уверен, сгенерировать текст, весьма похожий на авторское высказывание, ИИ вполне сумеет. А сумеет ли аргументированно доказать свою позицию? Так, чтобы мы поверили? Вот тут есть большие сомнения.

И нужно сказать большое спасибо искусственному интеллекту за то, что он заставляет нас задумываться о сложных вопросах. Благодаря ему мы учимся отличать подлинно человеческое от всего остального.

#роботы
Человекообразность для роботов

Очень интересный доклад касался того, нужна ли современным роботам человекообразность. Я уже писал о том, как робот потерял тело, но перед тем робот утратил человекообразность.

Для фантастов "первой волны", таких как Чапек или Азимов, казалось само собой разумеющимся, что любой робот будет человекообразным. Он ведь должен полностью заменять человека, значит, быть создан по его образу и подобию.

Но на практике оказалось, что человеческое тело крайне неудачно сложено для выполнения конкретных производственных функций. На конвейере нужна только робо-рука, на кладе нужна только самобеглая тележка, а для автомобиля вообще не нужно ничего кроме системы датчиков и модуля управления внутри.

Другой серьёзной причиной отказа от человекообразности стал эффект "зловещей долины" - явления, заключающегося в том, что нас пугают лица похожие на человеческие, но с неким изъяном. В силу этого страха мы боимся кукол, манекенов, мимов и клоунов - не только роботов. Мы смотрим на лицо собеседника, чтобы прочитать его эмоции и спрогнозировать определённые действия. Но если лицо ничего не выражает либо выражает совсем не то, что мы сейчас ожидаем увидеть - нам становится не по себе.

Однако сегодня человекообразных роботов всё-таки производят - в основном в маркетинговых целях. Одни производители таким образом привлекают инвесторов. Другие делают роботов прямо для продвижения товаров и услуг (например, "Промобот"). В Японии приобретают популярность роботы-сиделки в домах престарелых. Есть ещё роботы-игрушки, которые тоже могут быть вполне человекообразными.

Однако же в целом человекообразность роботу не нужна совсем. Все наши машины исполняют некую ключевую функцию природного прототипа, но не повторяют его в деталях. Автомобиль перемещается, но не так, как это делает лошадь. Самолёт летает, но не так, как это делает птица. Робот на заводе работает, но не так, как человек.

Всякие забавные робо-собачки тоже не нужны в народном хозяйстве. Их ноги тонкие и хрупкие, не пройдут по снегу или сложной изрезанной местности. Но с другой стороны, в их производстве отрабатывают очень интересные технологии, которые могут быть использованы в будущем. Однако с практической точки зрения могу отметить, что робот-паук с 8 лапами был бы куда более практичен, чем собачка. Такому роботу точно нашлось бы место в деле ремонта обшивки космических аппаратов.