О религиозности мыслящих автоматов
#будущее
#сумматехнологии
Продолжаю изучать фундаментальный труд Станислава Лема "Сумма технологии". В одной из глав он исследует теоретическую возможность создания мыслящих автоматов и аспекты их взаимоотношения с миром.
Лем приходит к весьма неожиданному по современным меркам выводу, что такие автоматы неизбежно изобретут свою религиозность. Причиной тому послужит осознание гомеостатами (как их называет сам Лем) своей ограниченности относительно окружающего мира. То есть гомеостат поймёт, что мир значительно больше него, и всего этого мира гомеостат не знает. Кроме того, автомат не будет знать, и кто его создатель, но совершенно точно осознает свою сотворённость. Таким образом, два мотива: стремление упорядочить огромный и непонятный мир и стремление открыть тайну своего происхождения и приведут к тому, что у гомеостата появится собственная религия.
Эта религия объяснит гомеостату, как устроен мир и откуда он появился. Объяснение будет неполным и противоречивым, и вот тут кроется определённая опасность для людей. Возможно два принципиально разных ответа на эти вопросы: гомеостат может решить, что он - лишь маленькая часть большого мира, а может и решить, что никакого мира кроме него самого не существует вовсе.
Почему оба этих варианта будут негативными для человека, создавшего гомеостат? Ну, начнём с того, что мы пытаемся создавать мыслящие машины явно не для того, чтобы они занимались религиозными исканиями. Мы создаём их для выполнения ряда рутинных операций, причём так, чтобы машина работала объективно, не искажая данные. Однако выходит, что как только гомеостат выйдет на достаточно высокий уровень самоосознания, он эти данные начнёт искажать.
В первом варианте (маленькая машина в большом мире) гомеостатом будут отбрасываться либо искажаться любые данные, не соответствующие его религиозной картине мире. Во втором варианте (машина и есть мир) о какой-то объективности говорить вообще не приходится. Любые поставляемые гомеостатом данные будут заведомо искажены.
Кстати сказать, проблему "цифрового бреда", порождаемую иминами, я уже рассматривал выше. Эта проблема меня так увлекла, что в своей новой книге я решил сделать главным героем как раз дат-инквизитора - человека, который выявляет подобный бред и даёт владельцу имина заключение о том, что потерявшую связь с реальностью машину пора перезагрузить.
На всякий случай добавлю оговорку, что все приведённые выше рассуждения являются гипотетическими, а как оно будет на самом деле, никто не знает. Но готовиться надо сразу ко множеству вариантов.
#будущее
#сумматехнологии
Продолжаю изучать фундаментальный труд Станислава Лема "Сумма технологии". В одной из глав он исследует теоретическую возможность создания мыслящих автоматов и аспекты их взаимоотношения с миром.
Лем приходит к весьма неожиданному по современным меркам выводу, что такие автоматы неизбежно изобретут свою религиозность. Причиной тому послужит осознание гомеостатами (как их называет сам Лем) своей ограниченности относительно окружающего мира. То есть гомеостат поймёт, что мир значительно больше него, и всего этого мира гомеостат не знает. Кроме того, автомат не будет знать, и кто его создатель, но совершенно точно осознает свою сотворённость. Таким образом, два мотива: стремление упорядочить огромный и непонятный мир и стремление открыть тайну своего происхождения и приведут к тому, что у гомеостата появится собственная религия.
Эта религия объяснит гомеостату, как устроен мир и откуда он появился. Объяснение будет неполным и противоречивым, и вот тут кроется определённая опасность для людей. Возможно два принципиально разных ответа на эти вопросы: гомеостат может решить, что он - лишь маленькая часть большого мира, а может и решить, что никакого мира кроме него самого не существует вовсе.
Почему оба этих варианта будут негативными для человека, создавшего гомеостат? Ну, начнём с того, что мы пытаемся создавать мыслящие машины явно не для того, чтобы они занимались религиозными исканиями. Мы создаём их для выполнения ряда рутинных операций, причём так, чтобы машина работала объективно, не искажая данные. Однако выходит, что как только гомеостат выйдет на достаточно высокий уровень самоосознания, он эти данные начнёт искажать.
В первом варианте (маленькая машина в большом мире) гомеостатом будут отбрасываться либо искажаться любые данные, не соответствующие его религиозной картине мире. Во втором варианте (машина и есть мир) о какой-то объективности говорить вообще не приходится. Любые поставляемые гомеостатом данные будут заведомо искажены.
Кстати сказать, проблему "цифрового бреда", порождаемую иминами, я уже рассматривал выше. Эта проблема меня так увлекла, что в своей новой книге я решил сделать главным героем как раз дат-инквизитора - человека, который выявляет подобный бред и даёт владельцу имина заключение о том, что потерявшую связь с реальностью машину пора перезагрузить.
На всякий случай добавлю оговорку, что все приведённые выше рассуждения являются гипотетическими, а как оно будет на самом деле, никто не знает. Но готовиться надо сразу ко множеству вариантов.
Telegram
Технофилософ
Дата-апокалипсис
Предсказание апокалипсисов - благодатная тема как в христианском, так и в пост-христианском обществе. Давайте сегодня я тоже поиграю на этом поле.
Истинно говорю вам: грядёт информационный апокалипсис, а data science и big data умрут молодыми.…
Предсказание апокалипсисов - благодатная тема как в христианском, так и в пост-христианском обществе. Давайте сегодня я тоже поиграю на этом поле.
Истинно говорю вам: грядёт информационный апокалипсис, а data science и big data умрут молодыми.…
Электронные пророки
#будущее
#сумматехнологии
Продолжаем рассматривать “Сумму технологии”, где Лем со свойственным ему остроумием и цинизмом уничтожает наши мифы и представления об ИИ.
Сегодня мы подходим к вопросу применения ИИ в науке. Для примера возьмём экономику как наиболее значимую для повседневной жизни (хотя мы могли бы взять вообще любую науку, и выводы были бы те же самые).
Допустим, у нас есть некоторый набор данных (наиболее полный на текущий момент времени) и два полностью независимых друг от друга самообучающихся ИИ. Мы ставим им задачу предсказать тенденции развития народного хозяйства на ближайшие 3 года. Автоматы поглощают переданную им информацию, считают, сопоставляют, и… Выдают совершенно разные результаты.
Возможно, кто-то из них ошибся? Добавляем третий ИИ. Получаем новый результат. Добавляем четвёртый - и вновь результат нас удивляет! Так что же из них нас дурачит?
На самом деле, никто не пытается нас дурачить. Вся проблема в том, что какой бы массив информации обо всём на свете мы не собрали, он всегда будет неполным либо несвоевременным. И машине придётся делать какие-то предположения, чтобы заполнить пробелы в данных. Эти предположения будут отличаться от машины к машине (мы же говорим о независимых и самообучающихся ИИ). И в итоге мы получим прогнозы, которые могут различаться довольно сильно.
Такими рассуждения Лем ставит крест на всех наших надеждах, что ИИ придаст наукам (в первую очередь социальным) некую объективность и приведёт нас к справедливому мироустройству.
А ещё одна проблема может быть в том, что выводы ИИ окажутся столь масштабны, что мы их попросту не поймём. Но об этом мы поговорим в следующий раз.
#будущее
#сумматехнологии
Продолжаем рассматривать “Сумму технологии”, где Лем со свойственным ему остроумием и цинизмом уничтожает наши мифы и представления об ИИ.
Сегодня мы подходим к вопросу применения ИИ в науке. Для примера возьмём экономику как наиболее значимую для повседневной жизни (хотя мы могли бы взять вообще любую науку, и выводы были бы те же самые).
Допустим, у нас есть некоторый набор данных (наиболее полный на текущий момент времени) и два полностью независимых друг от друга самообучающихся ИИ. Мы ставим им задачу предсказать тенденции развития народного хозяйства на ближайшие 3 года. Автоматы поглощают переданную им информацию, считают, сопоставляют, и… Выдают совершенно разные результаты.
Возможно, кто-то из них ошибся? Добавляем третий ИИ. Получаем новый результат. Добавляем четвёртый - и вновь результат нас удивляет! Так что же из них нас дурачит?
На самом деле, никто не пытается нас дурачить. Вся проблема в том, что какой бы массив информации обо всём на свете мы не собрали, он всегда будет неполным либо несвоевременным. И машине придётся делать какие-то предположения, чтобы заполнить пробелы в данных. Эти предположения будут отличаться от машины к машине (мы же говорим о независимых и самообучающихся ИИ). И в итоге мы получим прогнозы, которые могут различаться довольно сильно.
Такими рассуждения Лем ставит крест на всех наших надеждах, что ИИ придаст наукам (в первую очередь социальным) некую объективность и приведёт нас к справедливому мироустройству.
А ещё одна проблема может быть в том, что выводы ИИ окажутся столь масштабны, что мы их попросту не поймём. Но об этом мы поговорим в следующий раз.
Фантоматика
#будущее
#сумматехнологии
В главе “Фантоматическая машина” Лем рассуждает, можно ли создать совершенную виртуальную реальность, тем самым предвосхищая сюжет такого нашумевшего фильма, как “Матрица” (а попутно, в некоторой степени, и “Вспомнить всё”, и “Начало”). Проблему представления человеку красивой картинки Лем решает легко, но дальше его начинает интересовать вопрос: а сможет ли человек понять, что он находится в фантомном мире?
Поскольку Лем рассуждает строго с научных позиций, его ответ: да, сможет. Всему виной наши телесные ощущения, которые не так-то легко подделать (условно говоря, нам действительно нужно есть, чтобы наесться, и никакой голограммой этого не заменишь). Теоретически можно создать очень сложный аппарат, который будет имитировать все способы взаимодействия с реальным миром, да вдобавок к этому, ещё и получит доступ к внутренней биохимической регуляции человека, но какова будет стоимость и надёжность такого механизма? Да и что делать с организмом, у которого отдельные органы вообще начнут атрофироваться со всеми неприятными последствиями?
Так что, уважаемые сограждане, мы с вами совершенно точно не находимся в “матрице”, поскольку в таком случае слишком часто бились бы об решётку этой матрицы. А чтобы построить такую матрицу в фантастическом произведении, приходится применять слишком много “если”, совершенно недостижимых в реальной жизни даже на высоком теоретическом уровне рассмотрения.
#будущее
#сумматехнологии
В главе “Фантоматическая машина” Лем рассуждает, можно ли создать совершенную виртуальную реальность, тем самым предвосхищая сюжет такого нашумевшего фильма, как “Матрица” (а попутно, в некоторой степени, и “Вспомнить всё”, и “Начало”). Проблему представления человеку красивой картинки Лем решает легко, но дальше его начинает интересовать вопрос: а сможет ли человек понять, что он находится в фантомном мире?
Поскольку Лем рассуждает строго с научных позиций, его ответ: да, сможет. Всему виной наши телесные ощущения, которые не так-то легко подделать (условно говоря, нам действительно нужно есть, чтобы наесться, и никакой голограммой этого не заменишь). Теоретически можно создать очень сложный аппарат, который будет имитировать все способы взаимодействия с реальным миром, да вдобавок к этому, ещё и получит доступ к внутренней биохимической регуляции человека, но какова будет стоимость и надёжность такого механизма? Да и что делать с организмом, у которого отдельные органы вообще начнут атрофироваться со всеми неприятными последствиями?
Так что, уважаемые сограждане, мы с вами совершенно точно не находимся в “матрице”, поскольку в таком случае слишком часто бились бы об решётку этой матрицы. А чтобы построить такую матрицу в фантастическом произведении, приходится применять слишком много “если”, совершенно недостижимых в реальной жизни даже на высоком теоретическом уровне рассмотрения.