Может быть, у нас уже есть сбежавшие ИИ
В Задаче трех тел Лю Цысиня описан компьютер, состоящий из миллионов живых существ. Они выстроены в строгом порядке фоннеймановской архитектуры на необъятной площади и по командам поднимают флажки, выполняя роль логических элементов. Вроде бы фантастическая идея, но я сразу вспомнил о ней, открыв книгу: "Передача: как мы отдали контроль над нашими жизнями корпорациям, государствам и ИИ". Ее автор - Дэвид Ренсимен - английский академик и преподаватель в Кембриджском университете утверждает, что "изобретение государств и корпораций может чему-то научить нас об ИИ и наоборот" (рекомендую рецензию The New Yorker).
В основе его рассуждений идея о том, что достаточно сложные социальные структуры, например, государства и большие компании приобретают долю агентности, фактически действуют сами по себе. Вы можете единожды задать такой системе некую цель, например, выпуск продукции, но не можете до конца предсказать, как именно она в итоге будет выполнена, и к каким побочным эффектам это приведет. Поведение корпораций напоминает искусственный интеллект в представлении обеспокоенных ученых, только вместо графических процессоров, обработку данных здесь выполняют отдельные люди. Впрочем, они не могут повлиять на работу системы в целом и часто даже не знают, какие цели она преследует.
Возможно, бостромовский ИИ-максимизатор скрепок, перерабатывающий планету на канцелярию, уже существует. Только он, например, заваливает все вокруг пластиковым мусором в погоне за прибылью.
"Давайте не будем обманывать себя, что эпоха ИИ с проблемой черного ящика и алгоритмами, результаты работы которых загадкой для их создателей, представляет собой уникальную проблему. Просто посмотрите на свою жизнь. Вы полностью понимаете, откуда берутся групповые решения и как формируют то, кем вы являетесь?", - пишет Ренсимен. "Тот факт, что группы состоят из людей, не делает их более простыми для понимания, чем другие виды машин. Черные ящики уже повсюду вокруг нас. В каком-то смысле, они и есть мы".
Никак не пойму, обнадеживающая это мысль или нет.
#футурология
В Задаче трех тел Лю Цысиня описан компьютер, состоящий из миллионов живых существ. Они выстроены в строгом порядке фоннеймановской архитектуры на необъятной площади и по командам поднимают флажки, выполняя роль логических элементов. Вроде бы фантастическая идея, но я сразу вспомнил о ней, открыв книгу: "Передача: как мы отдали контроль над нашими жизнями корпорациям, государствам и ИИ". Ее автор - Дэвид Ренсимен - английский академик и преподаватель в Кембриджском университете утверждает, что "изобретение государств и корпораций может чему-то научить нас об ИИ и наоборот" (рекомендую рецензию The New Yorker).
В основе его рассуждений идея о том, что достаточно сложные социальные структуры, например, государства и большие компании приобретают долю агентности, фактически действуют сами по себе. Вы можете единожды задать такой системе некую цель, например, выпуск продукции, но не можете до конца предсказать, как именно она в итоге будет выполнена, и к каким побочным эффектам это приведет. Поведение корпораций напоминает искусственный интеллект в представлении обеспокоенных ученых, только вместо графических процессоров, обработку данных здесь выполняют отдельные люди. Впрочем, они не могут повлиять на работу системы в целом и часто даже не знают, какие цели она преследует.
Возможно, бостромовский ИИ-максимизатор скрепок, перерабатывающий планету на канцелярию, уже существует. Только он, например, заваливает все вокруг пластиковым мусором в погоне за прибылью.
"Давайте не будем обманывать себя, что эпоха ИИ с проблемой черного ящика и алгоритмами, результаты работы которых загадкой для их создателей, представляет собой уникальную проблему. Просто посмотрите на свою жизнь. Вы полностью понимаете, откуда берутся групповые решения и как формируют то, кем вы являетесь?", - пишет Ренсимен. "Тот факт, что группы состоят из людей, не делает их более простыми для понимания, чем другие виды машин. Черные ящики уже повсюду вокруг нас. В каком-то смысле, они и есть мы".
Никак не пойму, обнадеживающая это мысль или нет.
#футурология
Обработка камня очень трудоемка: 70-80% стоимости составляет рабочая сила, а не сам материал. Monumental делает ставку на то, что, используя роботов-резчиков, она превратит операционные расходы в капитальные затраты и значительно снизит стоимость обработанного камня. В многочисленных интервью ее основатель, Мика Спрингут (Micah Springut) говорит, что в перспективе они будут строить полноценные здания. Он считает, что это позволит строить красивее, дешевле и без траты материалов на отделку типа сайдинга.
Это грозит переделом строительной отрасли. Хотелось бы верить в скорый успех, но верится с трудом, и не потому, что идея плоха. Подобные стартапы сталкиваются с жестким сопротивлением со стороны компаний, которые уже поделили рынок. Об этом давно говорят те, кто пытается сделать бизнес на 3D-печати домов. В этой сфере победа новых технологий откладывается.
#робототехника #строительство #будущее #технологии #футурология
Это грозит переделом строительной отрасли. Хотелось бы верить в скорый успех, но верится с трудом, и не потому, что идея плоха. Подобные стартапы сталкиваются с жестким сопротивлением со стороны компаний, которые уже поделили рынок. Об этом давно говорят те, кто пытается сделать бизнес на 3D-печати домов. В этой сфере победа новых технологий откладывается.
#робототехника #строительство #будущее #технологии #футурология
— Ты всего лишь машина. Только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?
— А ты?
Многие фантастические произведения строятся вокруг одного конфликта: люди считают, что роботы - не люди, а машины желают, чтобы к ним относились по человечески.
Скоро эти сюжеты устареют, подобно футурологический прогнозам из начала 20 века. Диалог из "Я - робот" с Уиллом Смитом, да и сам фильм иллюстрируют этот тезис. Картины и музыка оказались первым, что освоило новое поколение нейронных сетей, но ключевое заблуждение сценаристов лежит глубже.
Мы примем машины в наше общество гораздо быстрее, чем можно предположить. Просто вспомните, как вы общаетесь с LLM. Здороваетесь, благодарите, просите? Весьма вероятно.
Люди склонны приписывать человеческие качества нечеловеческому: одушевлять предметы и стихии, видеть лица в облаках, разговаривать с животными.
Поэтому неудивительно, что мы испытываем искушение антропоморфизировать искусственный интеллект. Даже разработчики и исследователи, проектирующие эти системы, попадают в эту ловушку, начиная с таких ярлыков, как "машинное обучение".
Как писал Станислав Лем в Солярисе: "Не ищем мы никого, кроме людей. Не нужно нам других миров. Нам нужно зеркало..." Это оно. LLM похожи на людей, больше всего с чем мы сталкивались.
Антропоморфизм – это будущее, хорошее или плохое. Мы очень быстро станем обращаться с ИИ, как с людьми. Так проще.
Значит ли это, что роботы не столкнутся с дискриминацией? Скорее наоборот. Антропоморфизация - причина, по которой люди будут чаще обращаться с интеллектуальными машинами, как с себе подобными - гастарбайтерами, а то и рабами. К сожалению, это тоже в нашей природе.
Вместо того, чтобы спорить, каким голосом и тоном должен разговаривать голосовой помощник, стоит задуматься о том, как безопасно и продуктивно интегрировать ИИ в наше общество. Ведь практики общения и обращения с машинами неизбежно повлияют на нравы, культуру и мораль.
#нейросеть #футурология #будущее #фантастика #гуманизм
— А ты?
Многие фантастические произведения строятся вокруг одного конфликта: люди считают, что роботы - не люди, а машины желают, чтобы к ним относились по человечески.
Скоро эти сюжеты устареют, подобно футурологический прогнозам из начала 20 века. Диалог из "Я - робот" с Уиллом Смитом, да и сам фильм иллюстрируют этот тезис. Картины и музыка оказались первым, что освоило новое поколение нейронных сетей, но ключевое заблуждение сценаристов лежит глубже.
Мы примем машины в наше общество гораздо быстрее, чем можно предположить. Просто вспомните, как вы общаетесь с LLM. Здороваетесь, благодарите, просите? Весьма вероятно.
Люди склонны приписывать человеческие качества нечеловеческому: одушевлять предметы и стихии, видеть лица в облаках, разговаривать с животными.
Поэтому неудивительно, что мы испытываем искушение антропоморфизировать искусственный интеллект. Даже разработчики и исследователи, проектирующие эти системы, попадают в эту ловушку, начиная с таких ярлыков, как "машинное обучение".
Как писал Станислав Лем в Солярисе: "Не ищем мы никого, кроме людей. Не нужно нам других миров. Нам нужно зеркало..." Это оно. LLM похожи на людей, больше всего с чем мы сталкивались.
Антропоморфизм – это будущее, хорошее или плохое. Мы очень быстро станем обращаться с ИИ, как с людьми. Так проще.
Значит ли это, что роботы не столкнутся с дискриминацией? Скорее наоборот. Антропоморфизация - причина, по которой люди будут чаще обращаться с интеллектуальными машинами, как с себе подобными - гастарбайтерами, а то и рабами. К сожалению, это тоже в нашей природе.
Вместо того, чтобы спорить, каким голосом и тоном должен разговаривать голосовой помощник, стоит задуматься о том, как безопасно и продуктивно интегрировать ИИ в наше общество. Ведь практики общения и обращения с машинами неизбежно повлияют на нравы, культуру и мораль.
#нейросеть #футурология #будущее #фантастика #гуманизм
Taylor & Francis
Anthropomorphism in AI
AI research is growing rapidly raising various ethical issues related to safety, risks, and other effects widely discussed in the literature. We believe that in order to adequately address those is...
ИИволюция в биотехе случилась шесть лет назад
В 2018 году DeepMind показала AlphaFold — алгоритм машинного обучения, берущий последовательность аминокислот и реконструирующий белок, который из них получится. К 2022 году эта компания смоделировала 200 миллионов всевозможных белков для открытой базы. Некоторые из них я даже использовал в опытах с молекулярной визуализацией.
Несмотря на громкие заголовки, in silico и in vivo не одно и то же. Предсказания AlphaFold приходится тщательно проверять, но тогда машинное обучение начало серьезно менять биологию. Теперь оно, вероятно, спасет человечество как минимум от одного экзистенциального риска — бактерий, устойчивых к антибиотикам.
От таких бактерий умирает больше миллиона человек в год, к 2050 году эта цифра может достигнуть 10 миллионов. В то время как на открытие одного нового антибиотика уходит около десяти лет. Точнее, уходило.
В начале месяца биофизики рассказали, как при помощи машинного обучения проанализировали десятки тысяч микробных геномов из еще одной открытой базы данных. В результате алгоритм нашел более 800 тысяч фрагментов ДНК, которые кодируют потенциальные антимикробные соединения. Более 90% из них не были описаны прежде. Три из 100 соединений, синтезированных исследователями, действительно вылечили лабораторных мышей. Осталось проверить еще 799 900 — работы хватит на всю жизнь.
Машинное обучение позволило буквально перетряхнуть все известное микробное разнообразие в поисках нужных соединений, но самое удивительное, что мы не ограничены живущими сейчас организмами. Похожим образом антибиотики ищут, например, в иммунной системе неандертальцев.
Синтезом найденных соединений пока что занимаются люди, но Science уже пишет о создании шести автоматизированных лабораторий. Такие системы будут оперативно проверять результаты работы нейросетей. Этот подход уже используют для создания светоизлучающих материалов. Биотех и фармацевтика на очереди.
К тому же, согласно первым исследованиям, препараты, открытые ИИ, показывают 80-90% успешности на первой фазе испытаний, по сравнению с обычными 40-60%. Вероятно, по крайней мере в среднесрочной перспективе, будет открыто больше успешных терапевтических препаратов, чем во всей истории биотехнологий.
На фото: метициллинрезистентный золотистый стафилококк, от которого точно стоит избавиться.
#футурология #биотех #машинное_обучение #будущее #ИИ #технологии #антибиотики
В 2018 году DeepMind показала AlphaFold — алгоритм машинного обучения, берущий последовательность аминокислот и реконструирующий белок, который из них получится. К 2022 году эта компания смоделировала 200 миллионов всевозможных белков для открытой базы. Некоторые из них я даже использовал в опытах с молекулярной визуализацией.
Несмотря на громкие заголовки, in silico и in vivo не одно и то же. Предсказания AlphaFold приходится тщательно проверять, но тогда машинное обучение начало серьезно менять биологию. Теперь оно, вероятно, спасет человечество как минимум от одного экзистенциального риска — бактерий, устойчивых к антибиотикам.
От таких бактерий умирает больше миллиона человек в год, к 2050 году эта цифра может достигнуть 10 миллионов. В то время как на открытие одного нового антибиотика уходит около десяти лет. Точнее, уходило.
В начале месяца биофизики рассказали, как при помощи машинного обучения проанализировали десятки тысяч микробных геномов из еще одной открытой базы данных. В результате алгоритм нашел более 800 тысяч фрагментов ДНК, которые кодируют потенциальные антимикробные соединения. Более 90% из них не были описаны прежде. Три из 100 соединений, синтезированных исследователями, действительно вылечили лабораторных мышей. Осталось проверить еще 799 900 — работы хватит на всю жизнь.
Машинное обучение позволило буквально перетряхнуть все известное микробное разнообразие в поисках нужных соединений, но самое удивительное, что мы не ограничены живущими сейчас организмами. Похожим образом антибиотики ищут, например, в иммунной системе неандертальцев.
Синтезом найденных соединений пока что занимаются люди, но Science уже пишет о создании шести автоматизированных лабораторий. Такие системы будут оперативно проверять результаты работы нейросетей. Этот подход уже используют для создания светоизлучающих материалов. Биотех и фармацевтика на очереди.
К тому же, согласно первым исследованиям, препараты, открытые ИИ, показывают 80-90% успешности на первой фазе испытаний, по сравнению с обычными 40-60%. Вероятно, по крайней мере в среднесрочной перспективе, будет открыто больше успешных терапевтических препаратов, чем во всей истории биотехнологий.
На фото: метициллинрезистентный золотистый стафилококк, от которого точно стоит избавиться.
#футурология #биотех #машинное_обучение #будущее #ИИ #технологии #антибиотики