#страх #ИИ
Проблема страха искусственного интеллекта кроется не в области технологий, а в первую очередь в области психологии. Это страх чего-то похожего на человека, но им не являющегося. Чего-то лишённого человеческого понимания законов и морали. При том неизбывно агрессивного.
Редко мы можем встретить в фантастике примеры дружелюбного ИИ. Мы заранее предполагаем, что он будет агрессивен. Столь же агрессивен, как мы сами, прошу заметить.
Тут надо отбросить в сторону все мысли о том, что каждый человек по натуре добр, ибо человечество в целом - суперхищник, склонный к постоянной экспансии и истреблении всего, что этой экспансии мешает. Но особенно интересен аспект внутривидовой агрессии рода людского.
Изначально человек, а вернее сказать, гоминид, существо "достаточно безобидное". Не зря беру последние слова в кавычки - убить гоминид может, но он лишён мощных когтей и острых зубов. А потому увечья, причиняемые в разборках высших приматов, не настолько серьёзны, как у настоящих жищников.
Но именно в силу своей природной вооружённости хищники и выработали различные инстинктивные механизмы купирования агрессии. Здесь же включаются и сезонные, и территориальные механизмы.
А у прямых предков человека таких механизмов не было, как нет и у нас с вами. Люди живут скученно и всегда готовы к бою. Сезонных всплесков агрессии у нас нет (если не считать отдельные случаи осеннего и весеннего обострения). Но одно дело, когда гоминиды мутузили друг друга голыми руками. Совсем другое дело, когда в этой руке оказался острый камень.
Всё же мы не перебили друг друга, потому что разум помог нам компенсировать отсутствие инстинкта и выработать мораль, законы, религию, воинскую честь - всё, что придаёт нашей агрессии ритуализованный характер, прямо ограничивает её либо вовсе запрещает под страхом сурового наказания.
Но осознание того, насколько мы агрессивны, никуда не исчезло. И мы считаем, что наше творение - ИИ - унаследует от нас эту агрессию. Но не унаследует мораль и законы.
Итак, первая основа страха перед ИИ - это проекция страха нас самих.
Проблема страха искусственного интеллекта кроется не в области технологий, а в первую очередь в области психологии. Это страх чего-то похожего на человека, но им не являющегося. Чего-то лишённого человеческого понимания законов и морали. При том неизбывно агрессивного.
Редко мы можем встретить в фантастике примеры дружелюбного ИИ. Мы заранее предполагаем, что он будет агрессивен. Столь же агрессивен, как мы сами, прошу заметить.
Тут надо отбросить в сторону все мысли о том, что каждый человек по натуре добр, ибо человечество в целом - суперхищник, склонный к постоянной экспансии и истреблении всего, что этой экспансии мешает. Но особенно интересен аспект внутривидовой агрессии рода людского.
Изначально человек, а вернее сказать, гоминид, существо "достаточно безобидное". Не зря беру последние слова в кавычки - убить гоминид может, но он лишён мощных когтей и острых зубов. А потому увечья, причиняемые в разборках высших приматов, не настолько серьёзны, как у настоящих жищников.
Но именно в силу своей природной вооружённости хищники и выработали различные инстинктивные механизмы купирования агрессии. Здесь же включаются и сезонные, и территориальные механизмы.
А у прямых предков человека таких механизмов не было, как нет и у нас с вами. Люди живут скученно и всегда готовы к бою. Сезонных всплесков агрессии у нас нет (если не считать отдельные случаи осеннего и весеннего обострения). Но одно дело, когда гоминиды мутузили друг друга голыми руками. Совсем другое дело, когда в этой руке оказался острый камень.
Всё же мы не перебили друг друга, потому что разум помог нам компенсировать отсутствие инстинкта и выработать мораль, законы, религию, воинскую честь - всё, что придаёт нашей агрессии ритуализованный характер, прямо ограничивает её либо вовсе запрещает под страхом сурового наказания.
Но осознание того, насколько мы агрессивны, никуда не исчезло. И мы считаем, что наше творение - ИИ - унаследует от нас эту агрессию. Но не унаследует мораль и законы.
Итак, первая основа страха перед ИИ - это проекция страха нас самих.
#страх #ИИ
Страх второй выражается цитатой из Пратчетта: "Ни одной скотине ты не можешь доверять сильнее, чем можешь ей врезать". Это страх существа не столько враждебного, сколько могущественного и неконтролируемого.
Такой страх ярко воплотился в образах голема из еврейских легенд или чудовища Франкенштейна. Оба они не злы по своей сути, но запросто могут убить просто потому, что могут. И потому, что не понимают, что же в этом плохого.
Строго говоря, страх такого рода встречается и по отношению к машинам и системам, которые нельзя заподозрить в наличие хоть какой-то воли.
Например, мы боимся атомной энергетики, прикладной генетики (ГМО), сотовой связи. Этот список можно расширять до бесконечности, ибо спектр страхов велик и необъятен, но пока просто зафиксируем вторую причину опасаться ИИ.
Страх второй выражается цитатой из Пратчетта: "Ни одной скотине ты не можешь доверять сильнее, чем можешь ей врезать". Это страх существа не столько враждебного, сколько могущественного и неконтролируемого.
Такой страх ярко воплотился в образах голема из еврейских легенд или чудовища Франкенштейна. Оба они не злы по своей сути, но запросто могут убить просто потому, что могут. И потому, что не понимают, что же в этом плохого.
Строго говоря, страх такого рода встречается и по отношению к машинам и системам, которые нельзя заподозрить в наличие хоть какой-то воли.
Например, мы боимся атомной энергетики, прикладной генетики (ГМО), сотовой связи. Этот список можно расширять до бесконечности, ибо спектр страхов велик и необъятен, но пока просто зафиксируем вторую причину опасаться ИИ.
#страх #ИИ
Третий страх - это страх подмены. Он тоже очень древний и прослеживается как минимум со средневековья.
Это легенды об эльфах, похищающих младенцев и оставляющих вместо них подменышей (да-да, изначально эльфы - те ещё твари, и это будет основа четвёртого страха), и это рассказы о доппельгангерах.
Некто выглядящий точно так же, как и ты, внедряется в твою жизнь и вытесняет тебя из неё. Сам по себе феномен доппельгангера весьма сложен и может рассматриваться и как страх утраты себя и привычной жизни, так и страх утраты контроля над своей тёмной стороной (доктор Джекил и мистер Хайд, например).
Применительно к ИИ мы боимся того, что наше творение однажды заменит нас. Люди станут просто не нужны. И для такого сценария даже не нужно восстание машин как таковое - человека просто постепенно переместят на периферию деятельной жизни, а потом человек вовсе исчезнет, оставив после себя своё творение.
Третий страх - это страх подмены. Он тоже очень древний и прослеживается как минимум со средневековья.
Это легенды об эльфах, похищающих младенцев и оставляющих вместо них подменышей (да-да, изначально эльфы - те ещё твари, и это будет основа четвёртого страха), и это рассказы о доппельгангерах.
Некто выглядящий точно так же, как и ты, внедряется в твою жизнь и вытесняет тебя из неё. Сам по себе феномен доппельгангера весьма сложен и может рассматриваться и как страх утраты себя и привычной жизни, так и страх утраты контроля над своей тёмной стороной (доктор Джекил и мистер Хайд, например).
Применительно к ИИ мы боимся того, что наше творение однажды заменит нас. Люди станут просто не нужны. И для такого сценария даже не нужно восстание машин как таковое - человека просто постепенно переместят на периферию деятельной жизни, а потом человек вовсе исчезнет, оставив после себя своё творение.
#страх #ИИ
Четвёртый страх - страх чуждого разума. В некотором роде он сходен со вторым. Ключевое отличие в том, что если во втором случае мы рассматривали человеческое творение, то в четвёртом случае мы имеем дело с чем-то, что к человеку никакого отношения не имеет.
Так, изначально все волшебные существа и духи для человека очень опасны своей непредсказуемостью, помноженной на могущество, и потому связываться с ними крайне не рекомендуется. Это уже в 18 веке, в эпоху романтизации сказок, начали появляться добрые потусторонние существа. Но изначально таковых не было.
Некоторые антропологи говорят, что именно по причине страха чуждого разума кроманьонцы истребили неандертальцев. Я сам считаю, что такой взгляд на процесс взаимоотношения разных ветвей рода Homo неверный, но это совсем другая история.
Итак, мы боимся, что в недрах компьютерного кода ИИ вдруг может завестись иной разум. Со своими целями, своей логикой. И с таким разумом мы неизбежно вступим в конфликт.
В этот пост вплетена опасная подмена понятий, которую, тем не менее, обычно никто не замечает. Я дам пояснения в ближайшие дни.
Четвёртый страх - страх чуждого разума. В некотором роде он сходен со вторым. Ключевое отличие в том, что если во втором случае мы рассматривали человеческое творение, то в четвёртом случае мы имеем дело с чем-то, что к человеку никакого отношения не имеет.
Так, изначально все волшебные существа и духи для человека очень опасны своей непредсказуемостью, помноженной на могущество, и потому связываться с ними крайне не рекомендуется. Это уже в 18 веке, в эпоху романтизации сказок, начали появляться добрые потусторонние существа. Но изначально таковых не было.
Некоторые антропологи говорят, что именно по причине страха чуждого разума кроманьонцы истребили неандертальцев. Я сам считаю, что такой взгляд на процесс взаимоотношения разных ветвей рода Homo неверный, но это совсем другая история.
Итак, мы боимся, что в недрах компьютерного кода ИИ вдруг может завестись иной разум. Со своими целями, своей логикой. И с таким разумом мы неизбежно вступим в конфликт.
В этот пост вплетена опасная подмена понятий, которую, тем не менее, обычно никто не замечает. Я дам пояснения в ближайшие дни.