О грядущем Апокалипсисе
#history #culture #AI
The New York Times публикует статью известного политического мыслителя и историка Yuval Noah Harari об искусственном интеллекте (ИИ) и его опасностях для будущего человечества.
Начинается статья с простой констатации того факта, что сегодня ни один шахматный гроссмейстер не может обыграть компьютер. Шахматы - великая древняя игра, а с недавних пор компьютер не оставил никаких шансов даже чемпионам мира по шахматам.
Человеческая цивилизация по сложности во многие тысячи и тысячи раз превосходит шахматы. И вся её история связана с религией, культурой, философией, гуманитарными и точными науками, организацией социума, государственным управлением и многим прочим. А еще это многократно дублирующие себя системы, всегда позволявшие держать цивилизационный баланс. Честно говоря, для меня это еще один аргумент существования Бога в дополнение к аргументам, предложенным философами от древних до современных.
А теперь представьте себе следующее: ИИ знает о вас абсолютно все, гораздо лучше политиков, социологов, священников, ученых, врачей, деятелей культуры, производителей потребительских товаров и пр. - и может на 100% определить, что вам понравится. Во все века человеческое сознание было манипулируемо, но были, как я сказал, "дублирующие системы": личный человеческий опыт, воспитание, образование, семейные и национальные традиции и много чего еще. А тут ИИ берет на себя все эти функции, лишая вас свободы воли и права выбора, и останавливая вас в развитии на собственном трудном опыте. Причем, поскольку эта технология тысячекратно превосходит все что было до этого в человеческой истории, это делает из вас раба ИИ, или, скорее, тех, кто будет изобретать алгоритмы ИИ.
Человечество уже проиграло первую стычку с еще весьма примитивной первой версией ИИ: соцсети. С ужасом наблюдаю за современными детьми и подростками - это воспроизводство в реальной жизни уже упоминавшегося мной сюжета повести Уильяма Голдинга "Повелитель мух".
Поэтому, весьма уместным выглядит и название самой статьи: "Вам синюю, или красную таблетку? Извините, синие уже закончились".
https://www.nytimes.com/2023/03/24/opinion/yuval-harari-ai-chatgpt.html?smid=url-share
#history #culture #AI
The New York Times публикует статью известного политического мыслителя и историка Yuval Noah Harari об искусственном интеллекте (ИИ) и его опасностях для будущего человечества.
Начинается статья с простой констатации того факта, что сегодня ни один шахматный гроссмейстер не может обыграть компьютер. Шахматы - великая древняя игра, а с недавних пор компьютер не оставил никаких шансов даже чемпионам мира по шахматам.
Человеческая цивилизация по сложности во многие тысячи и тысячи раз превосходит шахматы. И вся её история связана с религией, культурой, философией, гуманитарными и точными науками, организацией социума, государственным управлением и многим прочим. А еще это многократно дублирующие себя системы, всегда позволявшие держать цивилизационный баланс. Честно говоря, для меня это еще один аргумент существования Бога в дополнение к аргументам, предложенным философами от древних до современных.
А теперь представьте себе следующее: ИИ знает о вас абсолютно все, гораздо лучше политиков, социологов, священников, ученых, врачей, деятелей культуры, производителей потребительских товаров и пр. - и может на 100% определить, что вам понравится. Во все века человеческое сознание было манипулируемо, но были, как я сказал, "дублирующие системы": личный человеческий опыт, воспитание, образование, семейные и национальные традиции и много чего еще. А тут ИИ берет на себя все эти функции, лишая вас свободы воли и права выбора, и останавливая вас в развитии на собственном трудном опыте. Причем, поскольку эта технология тысячекратно превосходит все что было до этого в человеческой истории, это делает из вас раба ИИ, или, скорее, тех, кто будет изобретать алгоритмы ИИ.
Человечество уже проиграло первую стычку с еще весьма примитивной первой версией ИИ: соцсети. С ужасом наблюдаю за современными детьми и подростками - это воспроизводство в реальной жизни уже упоминавшегося мной сюжета повести Уильяма Голдинга "Повелитель мух".
Поэтому, весьма уместным выглядит и название самой статьи: "Вам синюю, или красную таблетку? Извините, синие уже закончились".
https://www.nytimes.com/2023/03/24/opinion/yuval-harari-ai-chatgpt.html?smid=url-share
NY Times
Opinion | You Can Have the Blue Pill or the Red Pill, and We’re Out of Blue Pills
In games like chess, no human can hope to beat a computer. What happens when the same thing occurs in art, politics or religion?
О конце человеческой цивилизации
#history #culture #AI
The Washington Post сообщает, что Google вчера запустил свой чатбот Bard, основанный на искусственном интеллекте (ИИ), в своем соперничестве за технологическое лидерство с Microsoft.
Однако во всем мире растет понимание потенциальных и не до конца осознаваемых катастрофических последствий использования ИИ. Как из других публикаций уже известно - тот же Bard без каких-либо прямых инструкций со стороны разработчиков самостоятельно выучил бенгальский язык, официальный язык Бангладеш. И уже прилично пишет научные статьи на основных языках, причем иногда делает ссылки на несуществующие научные публикации (!?). Разработчики говорят, что ИИ уже сейчас "черный ящик", в котором начали самостоятельно генерироваться собственные алгоритмы.
Ранее мощь современных компьютеров позволяла решать многие сложнейшие научные задачи - подразумевалось, на благо человечества. А сейчас ИИ уже вторгся в сферу, которая всегда была под контролем человека - человеческий язык и все цивилизационное наследие (религия, наука, культура, политика, национальные и семейные традиции, социум и много чего прочего). Ранее это были, во многом, взаимно дублирующиеся системы. А сейчас выше всего встанет ИИ, который гораздо лучше знает про каждого, чем даже мы сами о себе; будет делать нам такие предложения во всех сферах жизни, которые нам покажутся единственно верными; а мы с вами превратимся в его рабов без права собственного выбора и трудного опыта обучения на собственных ошибках.
Это даже гораздо страшнее, чем мир будущего, представленный нам в "Матрице".
Несмотря на многочисленные призывы, прогресс ИИ, как мне кажется, невозможно уже остановить - нет юридического механизма на национальном и международном уровнях, и его трудно будет создать в обозримой перспективе.
Даже не представляю, что нам всем делать. Ведь, будут нарушены все основополагающие принципы развития, на которых была основана человеческая цивилизация. Возможно, это уже провозвестие конца времен...
https://www.washingtonpost.com/technology/2023/03/21/bard-google-ai/
#history #culture #AI
The Washington Post сообщает, что Google вчера запустил свой чатбот Bard, основанный на искусственном интеллекте (ИИ), в своем соперничестве за технологическое лидерство с Microsoft.
Однако во всем мире растет понимание потенциальных и не до конца осознаваемых катастрофических последствий использования ИИ. Как из других публикаций уже известно - тот же Bard без каких-либо прямых инструкций со стороны разработчиков самостоятельно выучил бенгальский язык, официальный язык Бангладеш. И уже прилично пишет научные статьи на основных языках, причем иногда делает ссылки на несуществующие научные публикации (!?). Разработчики говорят, что ИИ уже сейчас "черный ящик", в котором начали самостоятельно генерироваться собственные алгоритмы.
Ранее мощь современных компьютеров позволяла решать многие сложнейшие научные задачи - подразумевалось, на благо человечества. А сейчас ИИ уже вторгся в сферу, которая всегда была под контролем человека - человеческий язык и все цивилизационное наследие (религия, наука, культура, политика, национальные и семейные традиции, социум и много чего прочего). Ранее это были, во многом, взаимно дублирующиеся системы. А сейчас выше всего встанет ИИ, который гораздо лучше знает про каждого, чем даже мы сами о себе; будет делать нам такие предложения во всех сферах жизни, которые нам покажутся единственно верными; а мы с вами превратимся в его рабов без права собственного выбора и трудного опыта обучения на собственных ошибках.
Это даже гораздо страшнее, чем мир будущего, представленный нам в "Матрице".
Несмотря на многочисленные призывы, прогресс ИИ, как мне кажется, невозможно уже остановить - нет юридического механизма на национальном и международном уровнях, и его трудно будет создать в обозримой перспективе.
Даже не представляю, что нам всем делать. Ведь, будут нарушены все основополагающие принципы развития, на которых была основана человеческая цивилизация. Возможно, это уже провозвестие конца времен...
https://www.washingtonpost.com/technology/2023/03/21/bard-google-ai/