Forwarded from Малоизвестное интересное
Новая работа математик с мировым именем Дэвида Волперта (David Wolpert) продолжает его работу, которая тянет на статус самого фундаментального математико-философского откровения, формально доказанного за всю историю человечества.
В 2018 им было доказано существование предела знаний - т.е. всего и всегда никто и никогда узнать не сможет.
Из этого доказательства следовало, что создание безграничного суперинтеллекта принципиально невозможно.
В только что опубликованной новой работе Волперт идет дальше, ставя такой вопрос.
Если суперинтеллект не безграничен, то где его границы?
Иными словами, если люди создадут искусственный сверхразум (AGI), превосходящий интеллектуальные ограничения всего человечества:
• До какого уровня AGI сможет расширить знания, доступные пониманию цивилизации Homo sapiens?
• И где будет та граница знаний, которую не сможет преодолеть даже AGI?
Пересказывать столь глубокое и важное математико-философское откровение не буду.
Резюмирующее эссе новой статьи Волперта “What Can We Know About That Which We Cannot Even Imagine?” можно прочесть в Aeon.
Отмечу лишь наиболее впечатливший вывод.
Даже если AGI сможет
• улететь на ракете в космос и достичь там скорости света;
• и тем самым остановить время, чтобы решить задачи, требующие бесконечного времени решения …
Люди эти решения понять не смогут. Поскольку не смогут вообразить не доступное их воображению.
О предыдущей работе Волперта, которую продолжает новая статья – «Математически доказано Бог един, а знание не бесконечно»
#AGI
В 2018 им было доказано существование предела знаний - т.е. всего и всегда никто и никогда узнать не сможет.
Из этого доказательства следовало, что создание безграничного суперинтеллекта принципиально невозможно.
В только что опубликованной новой работе Волперт идет дальше, ставя такой вопрос.
Если суперинтеллект не безграничен, то где его границы?
Иными словами, если люди создадут искусственный сверхразум (AGI), превосходящий интеллектуальные ограничения всего человечества:
• До какого уровня AGI сможет расширить знания, доступные пониманию цивилизации Homo sapiens?
• И где будет та граница знаний, которую не сможет преодолеть даже AGI?
Пересказывать столь глубокое и важное математико-философское откровение не буду.
Резюмирующее эссе новой статьи Волперта “What Can We Know About That Which We Cannot Even Imagine?” можно прочесть в Aeon.
Отмечу лишь наиболее впечатливший вывод.
Даже если AGI сможет
• улететь на ракете в космос и достичь там скорости света;
• и тем самым остановить время, чтобы решить задачи, требующие бесконечного времени решения …
Люди эти решения понять не смогут. Поскольку не смогут вообразить не доступное их воображению.
О предыдущей работе Волперта, которую продолжает новая статья – «Математически доказано Бог един, а знание не бесконечно»
#AGI
Aeon
Ten questions about the hard limits of human intelligence | Aeon Essays
Science and mathematics may never fully capture the physical universe. Are there hard limits to human intelligence?
Forwarded from Малоизвестное интересное
AGI Manhattan Project – научное мошенничество невиданного масштаба
Подпитываемый наивной верой в возможность контролировать AGI, этот проект – угроза для США и всего мира
Всемирно известного космолога и астрофизика проф. MIT Макса Тегмарка коллеги прозвали «Безумный Макс» за его бескомпромиссность, смелые нетрадиционные идеи и страсть к приключениям. И все эти качества вновь проявились во вчерашнем обращении к правительству США - «Предложение Манхэттенского проекта по AGI - это научное мошенничество… Сделать это, - означало бы вступить в гонку к самоуничтожению».
Речь идет о новом докладе Комиссии США по экономике и безопасности в отношениях с Китаем (USCC: US-China Economic and Security Review Commission), рекомендующем Конгрессу создать и профинансировать программу по типу "Манхэттенского проекта", направленную на стремительное развитие и достижение возможностей Искусственного Общего Интеллекта (AGI).
Не буду здесь пересказывать документ Тегмарка, ибо автор сам коротко и ясно изложил, почему этот проект - научное мошенничество и почему его развертывание равносильно вступлению в гонку к самоуничтожению.
Отмечу лишь, что такая позиция разделяется многими ведущими исследователями ИИ, предостерегающими, что AGI может привести к гибели человечества (физической или, в лучшем случае, как вида). Как сказал лауреат Нобелевской премии по ИИ Джефф Хинтон в прошлом месяце: "Как только искусственный интеллект станет умнее нас, он возьмёт контроль в свои руки."
Но самое главное, на мой взгляд, из того, что говорит и пишет Тегмарк в своем манифесте и сопровождающих его твитах на ту же тему, следующее.
1) Ключевой мотивацией проекта является вовсе не сам AGI, а через его обретение, превращение США в мирового гегемона, способного за счет AGI подмять под себя своего главного соперника на эту роль - Китай.
2) Сэму Альтману удалось заручиться в деле подачи «Манхэттенского проекта» для AGI, как концепции национального технологического скачка, поддержкой мощного «лоббистского треугольника».
Подробней об этом и почему мне кажется, что «Безумный Макс» своим манифестом нарвался на новое большое приключение, читайте здесь
#AGI
Подпитываемый наивной верой в возможность контролировать AGI, этот проект – угроза для США и всего мира
Всемирно известного космолога и астрофизика проф. MIT Макса Тегмарка коллеги прозвали «Безумный Макс» за его бескомпромиссность, смелые нетрадиционные идеи и страсть к приключениям. И все эти качества вновь проявились во вчерашнем обращении к правительству США - «Предложение Манхэттенского проекта по AGI - это научное мошенничество… Сделать это, - означало бы вступить в гонку к самоуничтожению».
Речь идет о новом докладе Комиссии США по экономике и безопасности в отношениях с Китаем (USCC: US-China Economic and Security Review Commission), рекомендующем Конгрессу создать и профинансировать программу по типу "Манхэттенского проекта", направленную на стремительное развитие и достижение возможностей Искусственного Общего Интеллекта (AGI).
Не буду здесь пересказывать документ Тегмарка, ибо автор сам коротко и ясно изложил, почему этот проект - научное мошенничество и почему его развертывание равносильно вступлению в гонку к самоуничтожению.
Отмечу лишь, что такая позиция разделяется многими ведущими исследователями ИИ, предостерегающими, что AGI может привести к гибели человечества (физической или, в лучшем случае, как вида). Как сказал лауреат Нобелевской премии по ИИ Джефф Хинтон в прошлом месяце: "Как только искусственный интеллект станет умнее нас, он возьмёт контроль в свои руки."
Но самое главное, на мой взгляд, из того, что говорит и пишет Тегмарк в своем манифесте и сопровождающих его твитах на ту же тему, следующее.
1) Ключевой мотивацией проекта является вовсе не сам AGI, а через его обретение, превращение США в мирового гегемона, способного за счет AGI подмять под себя своего главного соперника на эту роль - Китай.
2) Сэму Альтману удалось заручиться в деле подачи «Манхэттенского проекта» для AGI, как концепции национального технологического скачка, поддержкой мощного «лоббистского треугольника».
Подробней об этом и почему мне кажется, что «Безумный Макс» своим манифестом нарвался на новое большое приключение, читайте здесь
#AGI