недорогой
биоробот, клон
устаревший, неловкий
с отрубленными руками
спасает гигантский город от ракетной
бактериологической атаки
оторванной частью тела
превозмогая боль
пользуясь одними зубами
заклинивает привод пусковой установки
и замирает
тихий
со стеклянными
недвижущимися глазами
в глазах отражаются облака и небо

не дышит
и уже не слышит
как компьютер дает сигнал отмены
бомбардировки

Еще целая подборка стихов про роботов

http://roboteka.org/archives/category/robots

Будущее наступает, вот появились и реальные законы робототехники. Их оказалось больше трех и они скорее юридические, а не алгоритмические. Но начало положено. Ниже законы и мои комментарии под каждым.

1) "Роботы не должны быть созданы для убийства или нанесения вреда человеку. Речь идёт не только о физическом вреде, но и о психологическом — страхе и стрессе. "

Оборот "быть созданы" - удобен в плане применения, но явно покрывает не все кейсы. Тем не менее, хорошо.

2) "Роботы не должны быть обманчивыми. Ноэль Шарки, профессор роботизации и исследования искусственного интеллекта в Университете Шеффилда, приводит пример: «В ходе недавнего исследования в детский сад завезли небольших роботов. Дети их полюбили и по-настоящему привязались к ним. Позже дети посчитали роботов более умными, чем их домашние животные»."

Этот пункт мне не очень понятен. Потому что если его прописать в форме "робот не должен лгать" - то это красиво с точки зрения сюжета для научного фантастики, но не особо применимо - робот ведь располагает только той информацией, которую в него вложили люди, либо новой, но которой он обучился на данной информации. Если в форме "не должен казаться лучшем, чем он есть на самом деле" - то это звучит как заповедь, а не как закон. В общем пока не ясно.

3) "За действия робота всегда отвечает человек, пишут составители стандартов, поэтому должно быть понятно, кто именно ответственен за определенного робота и его поведение."

Актуально, да. Остаются случаи с обучением нейронной сетки. Тот пример с чат-ботом, ставшим расистом, прочита Твиттер. Наверное, не авторы бота в этом виноваты все же.

4) "Разработка роботов должна быть максимально прозрачной. Проблема систем ИИ, особенно использующих глубинное обучение, сейчас состоит в том, что невозможно понять, почему они принимают такие решения."

Опять же, если это правило применять в лоб и абсолютно - это блокирует все инициативы по машинному обучению. И да, это проблема, но игра стоит свеч - "чуйка" роботов (термин от Анатолия Левенчука) оплачивается непредсказуемостью

5) "Машины должны уважать культурное разнообразие и плюрализм. Алгоритмы, используемые американской полицией и судами, часто проявляют расовые предрассудки, а программы распознавания речи хуже понимают женские голоса."

Да, хорошо. Ну тут скорее просто история про то, что авторы технологий должны, по возможности, способствовать всему хорошему против всего плохого.

http://apparat.cc/news/british-robots-guidelines

Как раз к нашему семианару в пятницу https://futuref.timepad.ru/event/377431/ да и к конференции по техноэтике 1 октября http://futuref.org/technoethics2016

Немного противоречивого из мира биотеха в новом переводе @TheIdealist:
Человеческие химеры: огромный потенциал и сложные этические вопросы

Человеческие химеры - существа, в которых клетки человека смешаны с клетками других существ - грызунов, свиней, а потенциально птиц и даже ящеров. Долгое время исследования в этой сфере были под запретом по этическим соображениям, но сегодня ситуация меняется. Работы в этой сфере обещают колоссальное продвижение в нашем понимании человеческой природы и развития, решения проблемы нехватки донорских органов и многие другие чудеса. Однако сложные этические вопросы остаются и требуют решения перед тем, как начнутся реальные эксперименты. В какой момент химера может стать существом, обладающим человеческим мышлением? Какие человеческие признаки допустимы для неё?

"Чтобы проиллюстрировать эту комплексность мы можем рассмотреть пример недавнего исследования, в котором учёные создали химеру мыши с типом человеческих мозговых клеток под названием glia, эти клетки в изобилии присутствовали в головном мозге мышей. Несмотря на то, что glia не считаются напрямую взаимосвязанными с человеческим мышлением как например нейроны, эти химерические мыши были гораздо умнее чем нормальные. К примеру, химеры показали почти в два раза лучший результат по навигации в лабиринте по сравнению с обычными мышами и демонстрировали признаки необыкновенной памяти. Этот интригующий вывод также указывает на сложности интерпретации возможных исследований с человеческими химерами. Нет чёткой разделительной линии по вопросу «чрезмерно» человеческих мозгах химер потому что мы слабо понимаем то в какой момент «гуманизация» животного мозга может привести к похожему на человеческий мышлению или сознанию. Мы даже не знаем когда это случается в развитии нормального человеческого мозга".

перевод: https://theidealist.ru/humanchimeras/
оригинал: https://www.wired.com/2016/09/human-chimera-researchs-huge-thorny-potential/

Возвращаемся мы с сегодня с Тимуром Щукиным c круглого стола в МПГУ мимо Яндекса и видим кучу полиции и таксистов.

А вот оно что оказывается. Снова новые технологии против старых профессий. То ли еще будет, когда беспилотные такси запустят.

http://govoritmoskva.ru/news/93431/

Алексей Амётов: "В 2016 году Фейсбук все чаще становится площадкой для дискуссий о морали, границах допустимого поведения и устройстве жизни в стране и отдельных социумах" (http://www.the-village.ru/village/city/situation-comment/245989-no-aviasales).

Вообще я вижу в этом начало той самой концепции "прозрачного мира". Конечно, новые технологии несут и удобство, и некоторые сложности и опасности, но что можно сказать с определенностью - быть гадом благодаря новому уровню связности стало гораздо труднее.

Молодцы ребята: "вчера вечером медиахолдинг Look At Media как минимум на полгода заморозил любое маркетинговое и коммерческое партнерство с Aviasales и остановил совместный проект в области рекламных технологий."

Я тоже внес свою небольшую лепту - вчера в телеграме мне как раз написали от Aviasales, спрашивали о рекламе в этом канале - скриншот в следующем посте. Так победим.

В продолжение статьи про химер. Вот вы как отнесетесь к редактированию своего генома или генома своих детей, например, для защиты от радиации? И если вы сами не готовы на этот шак, то на каком поколении ваши потомки решат стать немного тихоходкой?

Ученые обнаружили в геноме тихоходки уникальный белок, названный ими Dsup (от англ. damage suppressor — подавляющий повреждения). Он образует с ДНК устойчивые комплексы, вызывая ее агрегацию в ядре. Исследователи предположили, что этот белок может нести функцию защиты генетического материала от радиационного повреждения. И оказались правы.
https://nplus1.ru/news/2016/09/21/why-so-tough

Скорость развития технологий поражает. А главное, если вы о чем-то подумали, значит кто-то уже дописывает код этого и выпускает на рынок MVP.

У меня есть друг и по совместительству сосед Дима. Дима любит техно. И мы с ним часто обсуждаем технологии. Так дней 5 назад мы с ним говорили, что странно, что компьютер еще не научился сводить треки в электронной музыке.

И вот спустя 5 дней читаю про сервис, который даже больше, чем сводит треки - просто непрерывно генерирует и стримит электронную музыку. Можно только выбирать стиль. Кажется, с электронной музыкой произошло то же, что с живописью примерно год-полтора назад. Человеку осталось только творчество самого верхнего уровня - придумывать новые стили, идеи, смыслы. Все остальное уже делает машина.

http://play.mubert.com/

UPD: погуглив, обнаружил, что проекту уже больше полугода - они и на Startup Village были, и на vc.ru о них писали 25 марта. Это я просто только сейчас узнал случайно. Но это значит, что просто моя фраза в начале была недостаточно точна, нужно так: " если вы о чем-то подумали, значит кто-то уже дописал код этого и выпустил на рынок MVP полгода назад")

Про стоимость роботизации:

В Швейцарии есть робот, который:
1. Берет головку капусты, кладет в пакет
2. Берет пакет, кладет в коробку

Окупился за 3 месяца.

А давайте представим человечество, которое может менять геном свой и других животных в домашних условиях. Ууух, дух захватывает!

В продолжение скорости развития технологий. Когда-то 3D принтеры для дома были невообразимо дорогой покупкой для производства. Сегодня их можно купить ребенку на новый год. Несмотря на обнаружение систем CRISPR-Cas у самых разнообразных прокариот, о функциях CRISPR практически ничего не было известно вплоть до 2005 года. Вот ссылка на простой набор для CRISPR. Стоит примерно как 3D принтер, $140.

http://www.the-odin.com/diy-bacterial-gene-engineering-crispr-kit/

О биотехнологиях и большом бизнесе. Монсанто, селхозгигант, знаменитый среди противников ГМО, приобрел лицензию на CRISPR. Они вторые, после Dupont. Официально CRISPR не относится к ГМО, потому что это более точное редактирование, а не грубый обмен кусками ДНК. Еще напоминаю, они теперь принадлежат Bayer, предположительно за $66 млрд. http://www.businessinsider.com/monsanto-ends-gmo-war-crispr-2016-9

Я думаю, это очень круто. Уже не первый, но важный кейс частного финансирования науки. Мир изменился, теперь быть богатым не модно, модно двигать человечество вперед.

Копирую полностью текст Анастасии Егоровой (https://www.facebook.com/nst.egorova):

Цукерберги собираются в течение 10 лет пожертвовать 3 млрд долларов на борьбу чуть ли ни со всеми болезнями.

Когда речь заходит о такой сумме, обычно делают презентацию и рассказывают подробнее – я пол свитера связала, пока её смотрела. А раз уж всё равно посмотрела, ловите дайджест с часового (1:13:55) видео, ю ар велком:

Есть три основные цели: объединить учёных и инженеров, разработать приборы и технологии, поднять движение по финансированию науки.

Президентом по науке всего проекта ставят нейробиолога Доктора Кори Баргман (Cori Bargmann, PhD) https://en.wikipedia.org/wiki/Cornelia_Bargmann

Первый этап – Biohub, объединяют институты Стэнфорд, Беркли, UCSF. Плюс подключат ведущих инженеров. На это выделяют 600 млн.

Биохабом будут рулить биохимик/биофизик Джо ДэРиси (Joe DeRisi, PhD, UCSF) https://en.wikipedia.org/wiki/Joseph_DeRisi и физик/биоинженер Стивен Куэйк (Stephen Quake, DPhil, Stanford) https://en.wikipedia.org/wiki/Stephen_Quake

Сам Хаб расположен в районе Мишен Сан-Франциско, 499 Illinois st. аккурат посередине, очень удобно.

Уже 3 октября любой сотрудник одного из этих трех институтов сможет зарегистрироваться в онлайн систему. Конечно, Марк выделил целую команду инженеров на её разработку. Приглашаются смелые, молодые, всякие. Если вас берут, то это 5-летний контракт, нормальное финансирование, новые идеи и готовность к рискованным проектам.

В Биохабе в том числе будут заниматься проектами «Клеточный атлас», инфекционными заболеваниями, стволовыми клетками. Атлас – это схема всех-всех видов клеток в организме, их молекулярных характеристик и молекулярных взаимодействий внутри клеток. С инфекционными все тоже понятно: детектировать, среагировать, вылечить, предотвратить. Будут работать над новыми поколениями вакцин. Обещают быстро реагировать на эпидемии.

Марк говорил о четырёх основных причинах смерти: сердечно-сосудистые заболевания, рак, инфекционные и неврологические заболевания. И о том, что каждый скачек в науке был сопряжен с изобретением новой технологии (телескоп, микроскоп). Нам тоже нужны новые технологии для каждой из категорий: ИИ софт, который поможет разобраться в устройстве мозга (это для нейро заболеваний); машинное обучение для анализа бигдаты онко геномов; чип для диагностирования любой инфекции; мониторы крови в реальном времени для ранней диагностики заболеваний и тот самый клеточный атлас.

Три важных идеологических акцента:

1. Коллаборация. Будет система вознаграждений, мотивирующая длительные совместные проекты.
2. Долгая перспектива. То есть лучше долго и правильно, чем быстро и пшик.
3. Открытость. Результаты всех исследований и достижений будут доступны абсолютно всем. Для критического мнения так же приглашаются все, кто хочет/может.

Всего в презентации было по три. Угадайте, сколько всего этапов в проекте? Первый Биохаб, о нем уже говорили. Второй, Transformative Technology поможет быстрее перевести новые технологии из стадии разработки в применение. Третий, Challenge Networks для сбора команд по всему миру для решения всех возможных задач.

С Хабом более-менее ясно, про два других говорили немного. Сделали акцент на том, что для них подбирают партнёров. Куда писать письма, в общем, понятно.

Научный совет:
Арт Левинсон из Калико https://en.wikipedia.org/wiki/Arthur_D._Levinson
Худа Зогби, Медицинский колледж Бэйлор https://en.wikipedia.org/wiki/Huda_Zoghbi
Роберт Тиджен, Университет Беркли https://en.wikipedia.org/wiki/Robert_Tjian
Дэвид Хаслер, Университет Санта Круз https://en.wikipedia.org/wiki/David_Haussler
Ширли Тилмэн из Принстона https://en.wikipedia.org/wiki/Shirley_M._Tilghman
Тобиас Бонхофер, Институт Макса Планка https://en.wikipedia.org/wiki/Tobias_Bonhoeffer
Гарольд Вармус, Медицинская школа Вейл-Корнел

Научный совет Биохаба:
Ричард Лифтон, президент Университета Рокфеллер https://en.wikipedia.org/wiki/Richard_P._Lifton
Сангита Батия из MIT https://en.wikipedia.org/wiki/Sangeeta_N._Bhatia
Роберт Тиджан, Университет Беркли и Дон Ганем из Новартиса.

Советники президентов Биохаба:
Рас Алтман из Стэнфорда https://en.wikipedia.org/wiki/Russ_Altman
Дженифер Дудна из Беркли https://en.wikipedia.org/wiki/Jennifer_Doudna
Джонатан Вайзман из UCSF https://en.wikipedia.org/wiki/Jonathan_Weissman

Видео презентации: https://www.youtube.com/watch?v=qYr4NBTJKcI

Коллеги, я делаю конференцию:

Как технологии меняют нашу повседневную жизнь и общество в целом? Как технологии меняют этику? Как видят этику настоящего те, кто уже сейчас меняет будущее?

Об этом мы будем говорить на нашей конференции о практической техноэтике Future Foundation Technology Ethics.

Регистрация: http://futuref.org/technoethics2016

Мы сфокусировались на технологиях, меняющих человеческую идентичность в области тела и мышления: редактирование генома, нейротехнологии, киборгизация.

Среди спикеров: Виктор Вахштайн, Василий Ключарев, Александр Каплан, Анатолий Левенчук, Тимур Щукин, Кирилл Мартынов и многие другие.

Дата: 1 октября 2016
Место: "Точка Кипения", Москва, Малый
Конюшковский пер., 2
Участие бесплатное.

Регистрация еще открыта: http://futuref.org/technoethics2016

Рождается поколение, в котором редактирование генома было всегда. Рождается, в том числе, редактированием генома. В данном случае это было практически единственным выходом из ситуации с наследуемым заболеванием.

Эта новость мне напомнила о моем прогнозе развития семьи: думаю, в будущем, семья станет менее конкретной по количеству и гендерному составу: несколько людей любых полов соединяют по доле своих геномов и выращивают ребенка, чтобы никому не было обидно - в инкубаторе. У них есть обязательства, заркепленные на блокчейн по финансировании образования этого ребенка. Сексуальность может выйти из такой семьи, может нет, полиаморность будет нормой. Потом еще искусственные интеллекты как-то могут зайти в такой союз людей. И, например, вкладывать в ребенка вместо ДНК чать кода его цифровой части. А ведь мы помним, что будущее человечество - это "цифровые кентавры", так что все как раз сходится.

Такая форма семьи решит многие проблемы - споры о гендерных ролях уйдут, так как нет процесса вынашивания плода, который отличают гендеры биологически. Уйдет диктатура различных социальных функций - ведь все равны.

В общем, как такое будущее семьи наступит, я, может, даже и сам задумаюсь о семье. Но не раньше)

https://nplus1.ru/news/2016/09/27/mitobaby

Программа и спикеры конференции Future Foundation Technology Ethics Conference, которая пройдет уже очень скоро - в субботу 1 октября.

Пожалуйста, приходите чуть заранее - к 09:30. Если вы еще не зарегистрировались - успейте это сделать:
http://futuref.org/technoethics2016

09:30-10:00
Сбор гостей. Регистрация.

10:00-10:05
Начало конференции. Приветственное слово организаторов.

Блок "Биотехнологии":

10:05-10:30
Виктор Вахштайн: "Онтологические метафоры в социальных исследованиях технологий"

10:30-11:30
Панельная дискуссия "Конструируя человека. Метафоры, воображение, смыслы"
Виктор Вахштайн , Сергей Шевченко, Константин Ефимов, Александра Курленкова. Модераторы: Елена Соколова, Петр Левич

11:40-12:10
Екатерина Ядова: "Человек и машина: практика и этика взаимодействия"

12:10-12:40
Юрий Войнилов, Алена Нефедова: "Личные роботы и генная инженерия: к каким инновациям готовы россияне"

12:50-14:20
Панельная дискуссия "Human enhancement. Киборгизация. Теория и практика"
Юрий Войнилов, Алена Нефедова:, Артем Елмуратов, Тимур Щукин, Андрей Бабицкий, Андрей Константинов. Модераторы: Елена Соколова, Петр Левич

14:20-15:00
Обед (самостоятельно)

15:00-15:30
Кирилл Мартынов: "Универсальная этическая машина: мораль после big data"

Блок "Нейротехнологии":

15:30-16:00
Анатолий Левенчук: "Персональные и коллективные виртуальные ассистенты и privacy"

16:10-17:40
Панельная дискуссия "Нейротехнологии: эксперименты. Этические границы. Наука и бизнес"
Наталия Минеева, Ольга Кайрова, Тимур Бергалиев, Екатерина Ядова. Модераторы: Елена Соколова, Петр Левич

17:50-18:20
Александр Каплан: "Стратегии науки о мозге: нравственный выбор"

18:20-18:50
Наталия Галкина: "Этическая сторона нейромаркетинга: как развивать новый рынок, не отступая от интересов и норм общества"

19:00-20:30
Панельная дискуссия "Нейротехнологии: возможности и опасности. Какой мир мы создаем?"
Александр Каплан, Василий Ключарев, Тимур Щукин, Алексей Гусев, Наталия Галкина. Модераторы: Елена Соколова, Петр Левич

20:30-21:30
Завершение. Рефлексия.
Тимур Щукин, Петр Левич, Елена Соколова

21:30-22:00
Нетворкинг.

К вопросу о редактировании гена детей, проектировании детей. Как это спасает жизни. Интересный прецедент был в России. "Родственных доноров у девочки не было, неродственного в огромной международной базе тоже не нашлось. Сделали гаплоидентичную (от частично совместимого донора) ТГСК. От мамы. Однако болезнь-то наследственная, причем носителями мутации гена являются и отец, и мать. Как же быть? Дети с этим диагнозом живут не более семи лет. И тогда сделали обследование родителей (это и была предымплантационная диагностика), в пробирке провели оплодотворение яйцеклетки, затем — анализ ДНК эмбриона, выбрали клетки без мутации и имплантировали их маме. В марте 2014 года мама родила здорового мальчика. А не так давно этот мальчик стал донором для сестры. Ей провели ТГСК, причем сразу и клеток костного мозга, и клеток заранее заготовленной пуповинной крови. Девочка жива, ей сейчас семь лет.
Врачи "спроектировали" родителям здорового ребенка, клетками которого спасли его сестру!"
http://www.kommersant.ru/doc/3102472

Посмотрим, какое будущее победит - это или наш урок Технология с биороботами и этикой ИИ.

Шутки-шутками, но вот это описание очень похоже на главы "Основания" Азимова, в которых описывается галактическая империя эпохи распада, где атомные реакторы - места религиозного культа, а оставшиеся единицы инженеров, которые могут их починить - монахи, чудом сохранившие старые компетенции...

С просторов интернета (https://www.facebook.com/sergei.smirnov.568):

- Ну, как дела в школе?
- Да как обычно... патриотическая линейка, основы хиромантии...
- Хиромантии?
- Ну. Скукотища. Телегония гораздо круче. И училка там суперская.
- А математика была?
- Дед, ты опять? Математику еще в прошлом году отменили.
- И что же вместо математики?
- Нумерология. Числа судьбы.
- И как они... числа судьбы?
- Тяжело. Я не все понимаю. Магические квадраты эти. Но приходится учить. Я теперь уже точно решил: после школы в университет пойду. А там нумерологию нужно знать. Там же дальше парапсихология пойдет. К нам из университета приходили, научный сериал показывали в классе: "Зачарованные".
- Университет, значит.
- Ну. Сегодня без высшего образования никуда. Вот ты что проходил в своем институте?
- Матанализ, дифференциальные уравнения...
- Понятно. Старые, мертвые науки. Вас там, наверное, еще учили, что Земля - это шар?
- В общем, еще в школе...
- Офигеть. Значит, директор не врал, когда про своих предков рассказывал. А у нас в классе никто не поверил. Ты не обижайся только. Наука все-таки с твоих времен далеко продвинулась. Он для тебя еще что-то в моем дневнике написал.
- Кто, директор?
- Да, отец Онуфрий.
- И что написал?
- Дед, ну что ты прикалываешься? У нас чтение только с девятого класса. Держи дневник, я гулять. Вернусь... ... аз, веди, глагол, добро... есть. В пять. Бай.

Мы рады интересу к теме техноэтики и благодарим всех, кто пришел на нашу конференцию Future Foundation Technology Ethics Conference: участников, спикеров и работников Точки Кипения, которые приютили нас.

Ниже вы можете посмотреть и скачать презентации всех докладов (чтобы ссылки на слайдах стали кликабельны нужно скачать презентацию): http://www.slideshare.net/Future_Foundation

Через некоторое время мы начнем публиковать видео всех панелей и докладов, а также фото. Некоторые СМИ уже готовят статьи по докладам - ими мы тоже будем с вами делиться. Все это будет: а этом канале, по почте и на странице фб https://www.facebook.com/futurefo/

Для общения предлагаем вам вступить в группу https://www.facebook.com/groups/futurefound/