Santry's Singularity blog
2.21K subscribers
229 photos
21 videos
5 files
385 links
Авторский блог техноредактора. Научная журналистика, инсайды и нерегулярные записки о приближении сингулярности.

По всем вопросам (кроме рекламы):
@santry

#наука #технологии #будущее #футурология #сингулярность
Download Telegram
​​Может быть, у нас уже есть сбежавшие ИИ

В Задаче трех тел Лю Цысиня описан компьютер, состоящий из миллионов живых существ. Они выстроены в строгом порядке фоннеймановской архитектуры на необъятной площади и по командам поднимают флажки, выполняя роль логических элементов. Вроде бы фантастическая идея, но я сразу вспомнил о ней, открыв книгу: "Передача: как мы отдали контроль над нашими жизнями корпорациям, государствам и ИИ". Ее автор - Дэвид Ренсимен - английский академик и преподаватель в Кембриджском университете утверждает, что "изобретение государств и корпораций может чему-то научить нас об ИИ и наоборот" (рекомендую рецензию The New Yorker).

В основе его рассуждений идея о том, что достаточно сложные социальные структуры, например, государства и большие компании приобретают долю агентности, фактически действуют сами по себе. Вы можете единожды задать такой системе некую цель, например, выпуск продукции, но не можете до конца предсказать, как именно она в итоге будет выполнена, и к каким побочным эффектам это приведет. Поведение корпораций напоминает искусственный интеллект в представлении обеспокоенных ученых, только вместо графических процессоров, обработку данных здесь выполняют отдельные люди. Впрочем, они не могут повлиять на работу системы в целом и часто даже не знают, какие цели она преследует.

Возможно, бостромовский ИИ-максимизатор скрепок, перерабатывающий планету на канцелярию, уже существует. Только он, например, заваливает все вокруг пластиковым мусором в погоне за прибылью.

"Давайте не будем обманывать себя, что эпоха ИИ с проблемой черного ящика и алгоритмами, результаты работы которых загадкой для их создателей, представляет собой уникальную проблему. Просто посмотрите на свою жизнь. Вы полностью понимаете, откуда берутся групповые решения и как формируют то, кем вы являетесь?", - пишет Ренсимен. "Тот факт, что группы состоят из людей, не делает их более простыми для понимания, чем другие виды машин. Черные ящики уже повсюду вокруг нас. В каком-то смысле, они и есть мы".

Никак не пойму, обнадеживающая это мысль или нет.

#футурология
Обработка камня очень трудоемка: 70-80% стоимости составляет рабочая сила, а не сам материал. Monumental делает ставку на то, что, используя роботов-резчиков, она превратит операционные расходы в капитальные затраты и значительно снизит стоимость обработанного камня. В многочисленных интервью ее основатель, Мика Спрингут (Micah Springut) говорит, что в перспективе они будут строить полноценные здания. Он считает, что это позволит строить красивее, дешевле и без траты материалов на отделку типа сайдинга.

Это грозит переделом строительной отрасли. Хотелось бы верить в скорый успех, но верится с трудом, и не потому, что идея плоха. Подобные стартапы сталкиваются с жестким сопротивлением со стороны компаний, которые уже поделили рынок. Об этом давно говорят те, кто пытается сделать бизнес на 3D-печати домов. В этой сфере победа новых технологий откладывается.

#робототехника #строительство #будущее #технологии #футурология
— Ты всего лишь машина. Только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?
— А ты?

Многие фантастические произведения строятся вокруг одного конфликта: люди считают, что роботы - не люди, а машины желают, чтобы к ним относились по человечески.

Скоро эти сюжеты устареют, подобно футурологический прогнозам из начала 20 века. Диалог из "Я - робот" с Уиллом Смитом, да и сам фильм иллюстрируют этот тезис. Картины и музыка оказались первым, что освоило новое поколение нейронных сетей, но ключевое заблуждение сценаристов лежит глубже.

Мы примем машины в наше общество гораздо быстрее, чем можно предположить. Просто вспомните, как вы общаетесь с LLM. Здороваетесь, благодарите, просите? Весьма вероятно.

Люди склонны приписывать человеческие качества нечеловеческому: одушевлять предметы и стихии, видеть лица в облаках, разговаривать с животными.

Поэтому неудивительно, что мы испытываем искушение антропоморфизировать искусственный интеллект. Даже разработчики и исследователи, проектирующие эти системы, попадают в эту ловушку, начиная с таких ярлыков, как "машинное обучение".

Как писал Станислав Лем в Солярисе: "Не ищем мы никого, кроме людей. Не нужно нам других миров. Нам нужно зеркало..." Это оно. LLM похожи на людей, больше всего с чем мы сталкивались.

Антропоморфизм – это будущее, хорошее или плохое. Мы очень быстро станем обращаться с ИИ, как с людьми. Так проще.

Значит ли это, что роботы не столкнутся с дискриминацией? Скорее наоборот. Антропоморфизация - причина, по которой люди будут чаще обращаться с интеллектуальными машинами, как с себе подобными - гастарбайтерами, а то и рабами. К сожалению, это тоже в нашей природе.

Вместо того, чтобы спорить, каким голосом и тоном должен разговаривать голосовой помощник, стоит задуматься о том, как безопасно и продуктивно интегрировать ИИ в наше общество. Ведь практики общения и обращения с машинами неизбежно повлияют на нравы, культуру и мораль.

#нейросеть #футурология #будущее #фантастика #гуманизм
​​ИИволюция в биотехе случилась шесть лет назад

В 2018 году DeepMind показала AlphaFold — алгоритм машинного обучения, берущий последовательность аминокислот и реконструирующий белок, который из них получится. К 2022 году эта компания смоделировала 200 миллионов всевозможных белков для открытой базы. Некоторые из них я даже использовал в опытах с молекулярной визуализацией.

Несмотря на громкие заголовки, in silico и in vivo не одно и то же. Предсказания AlphaFold приходится тщательно проверять, но тогда машинное обучение начало серьезно менять биологию. Теперь оно, вероятно, спасет человечество как минимум от одного экзистенциального риска — бактерий, устойчивых к антибиотикам.

От таких бактерий умирает больше миллиона человек в год, к 2050 году эта цифра может достигнуть 10 миллионов. В то время как на открытие одного нового антибиотика уходит около десяти лет. Точнее, уходило.

В начале месяца биофизики рассказали, как при помощи машинного обучения проанализировали десятки тысяч микробных геномов из еще одной открытой базы данных. В результате алгоритм нашел более 800 тысяч фрагментов ДНК, которые кодируют потенциальные антимикробные соединения. Более 90% из них не были описаны прежде. Три из 100 соединений, синтезированных исследователями, действительно вылечили лабораторных мышей. Осталось проверить еще 799 900 — работы хватит на всю жизнь.

Машинное обучение позволило буквально перетряхнуть все известное микробное разнообразие в поисках нужных соединений, но самое удивительное, что мы не ограничены живущими сейчас организмами. Похожим образом антибиотики ищут, например, в иммунной системе неандертальцев.

Синтезом найденных соединений пока что занимаются люди, но Science уже пишет о создании шести автоматизированных лабораторий. Такие системы будут оперативно проверять результаты работы нейросетей. Этот подход уже используют для создания светоизлучающих материалов. Биотех и фармацевтика на очереди.

К тому же, согласно первым исследованиям, препараты, открытые ИИ, показывают 80-90% успешности на первой фазе испытаний, по сравнению с обычными 40-60%. Вероятно, по крайней мере в среднесрочной перспективе, будет открыто больше успешных терапевтических препаратов, чем во всей истории биотехнологий.

На фото: метициллинрезистентный золотистый стафилококк, от которого точно стоит избавиться.

#футурология #биотех #машинное_обучение #будущее #ИИ #технологии #антибиотики
​​Вавилонская башня XXI века: скрытое разнообразие человеческого мышления

В 2017 году нейробиолог Крис Де Мейер (Kris De Meyer) проводил вступительную сессию на конференции по вопросам принятия решений в условиях неопределенности для аудитории, состоящей из ученых, экономистов и политиков. Он разделил их на группы по шесть человек и дал им задания, связанные с личным и профессиональным опытом работы с рисками. Через некоторое время несколько человек подняли руки. Они сказали: "Мы только что поняли, что не можем согласовать определения риска и неопределенности", - рассказывает Де Мейер. "Даже в этих небольших группах они столкнулись с непримиримыми разногласиями".

Профессионалы в разных областях оперируют разными значениями одного и того же слова. "Риск" для исследователей климата - это одно, "риск" для экономистов - совершенно другое. Теперь объедините их с простыми гражданами, политиками, активистами, журналистами, социальными предпринимателями и пропагандистами, и вы получите то, что мы имеем. Витгенштейн удивился бы. Поэтому перед серьезным обсуждением чего-либо так важно договориться об определениях.

Несмотря на все наши зеркальные нейроны и ментальные модели, людям сложно понимать друг друга, но почему так происходит? Причин много. Например, у разных людей не только разные когнитивные миры и разные языки, но и, по-видимому, довольно широкий набор вариантов того, как мы воспринимаем и осмысляем действительность.

Если синестезию изучают порядка 200 лет (историю исследований можно проследить по статье Ричарда Цитовича (Richard Cytowic)), то недавно ученые подметили различия в том, как разные люди оперируют мысленными образами. Способности представлять что-то варьируются от афантазии - полного отсутствия мысленных образов, до способности воображать фотореалистичные картины.

Вспоминается "Мир в лицах" Александра Химушина, который фотографирует людей разных национальностей в традиционной одежде. Это яркое культурное разнообразие - удачная метафора и отражение разнообразия внутреннего мира. Сложно представить, но распространение аугментаций еще больше расширит этот диапазон. Это показывает проект In My Nature с подзаголовком "Мультимедийная прогулка с киборгами". Вы, вероятно, узнаете, по крайней мере, одного из трех его участников - Нила Харбиссона (Neil Harbisson), воспринимающего цвета при помощи антенны, вживленной в череп. Однако каждый из них рассказывает интересную историю о том, как аугментации меняют отношение к окружающему миру.

Полезное чтение. Эмпатия - то, что сейчас очень нужно.

#нейробиология #футурология #сингулярность #мозг #мышление #киборги
Если бы мы попытались спроектировать образовательную/обучающую систему с нуля,как бы она выглядела?

EdTech исследователь Энди Матущак в эссе Exorcising us of the Primer пытается ответить на этот вопрос на примере того самого букваря. Он рассказывает о том, чего мы хотим от обучения, как создавать сценарии, которые поощряют обучение и мышление, и как можно использовать технологии, чтобы вызвать любопытство… В дискуссию включается нейробиолог и игровой дизайнер Адриан Хон. "Возможно нужно не универсальное решение, а специализированные обучающие инструменты?" - предлагает он.

Я же просто хочу зафиксировать момент. Поразительно, что ученые обсуждают этот фантастический роман в прикладном ключе.
#футурология #образование #будущее