Философ из Оксфорда Дэвид Эдмондс про то, как мы можем определить робота, какую этику выбрать для беспилотного автомобиля и, конечно, проблему вагонетки. http://serious-science.org/ethics-of-machines-6856

Хорошая визуализация Wearables http://time.com/see-the-wearable-tech-of-the-future/

В рамках очередного семинара про взаимодействие технологий и общества, поговорим про юридические аспекты робототехники с Екатериной Ядовой из МТИ и Алексеем Гонноченко из Робоцентра Сколково.

Будет интересно, тем более на семинар нам привезут настоящий промышленный робот UR3. Это интеллектуальный манипулятор нового поколения, способный трудиться совместно с человеком, гарантируя полную безопасность (о безопасности промышленных роботов тоже будет идти речь на круглом столе).

https://futuref.timepad.ru/event/377431/

Уже давал выше ссылку на это интервью (тогда не было времени подробно написать), но оно настолько хорошее, что еще раз: теперь подробно.

В первой части интверьвью Маск сразу сформулировал три важные задачи, которые стоят перед человечеством:

- Искусственный интеллект.
- Генетика.
- Скоростной интерфейс к мозгу.

Он хочет сделать ИИ своего проекта OpenAI внешней вычислительной мощностью для наших мозгов, соединив их при этом в единой сознание. Что одновременно купирует угрозу недружественного ИИ. Ну и про цифровую личность говорит, конечно)

Во второй части интвервью, Маск во многом говорит о своем мировоззрении и даже больше на уровне устрйоства общества, мотивации людей, а не о технических вещах.

Каждый должен выбирать себе место согласно критерию, где он больше пользы принесет. На самом деле неочевидная мысль и, вообще говоря, пахнет утопиями и идеологией. Это меня насторожило. Идея, конечно, хорошая, но я бы точно не употреблял здесь слово "должен". Но тем не менее, Маск - фигура важная и влияющая на мир, поэтому стоит знать его мировоззрение. Вот он пишет:

"Технологический прогресс и движение человечества вперёд возможны только в том случае, если большое количество умных людей как сумасшедшие будут упорно трудиться, чтобы сделать мир лучше. Если этого не происходит, то энтропия играет против нас. Как египетская цивилизация разучилась возводить пирамиды и читать иероглифы. Как римляне разучились строить акведуки и водопровод. Как инженеры авиакосмической отрасли 21 века разучились строить тяжёлые ракеты, которые доставляют человека на Луну, а потом отказались от многоразовых космических шаттлов. Если большое количество умных людей как сумасшедшие не будут упорно трудиться, то произойдёт быстрая техническая деградация."

Еще немного о себе: Маск 80 процентов времени занимается инженерией и проектированием, а не бизнесом - знает в ракете SpaceX каждую деталь.

Все интервью снималось на фоне конвейера по сборке автомобилей Tesla со снующими туда-сюда роботами

https://geektimes.ru/post/280516/

Хочу порекомендовать всем @freakbook - полезный канал, где каждый вечер выходит дайджест лучших статей дня, отобранных из множества популярных русскоязычных изданий. В подборках всегда много ссылок на крутые тексты о технологиях, обществе и науке, поэтому советую подписаться на https://telegram.me/freakbook

недорогой
биоробот, клон
устаревший, неловкий
с отрубленными руками
спасает гигантский город от ракетной
бактериологической атаки
оторванной частью тела
превозмогая боль
пользуясь одними зубами
заклинивает привод пусковой установки
и замирает
тихий
со стеклянными
недвижущимися глазами
в глазах отражаются облака и небо

не дышит
и уже не слышит
как компьютер дает сигнал отмены
бомбардировки

Еще целая подборка стихов про роботов

http://roboteka.org/archives/category/robots

Будущее наступает, вот появились и реальные законы робототехники. Их оказалось больше трех и они скорее юридические, а не алгоритмические. Но начало положено. Ниже законы и мои комментарии под каждым.

1) "Роботы не должны быть созданы для убийства или нанесения вреда человеку. Речь идёт не только о физическом вреде, но и о психологическом — страхе и стрессе. "

Оборот "быть созданы" - удобен в плане применения, но явно покрывает не все кейсы. Тем не менее, хорошо.

2) "Роботы не должны быть обманчивыми. Ноэль Шарки, профессор роботизации и исследования искусственного интеллекта в Университете Шеффилда, приводит пример: «В ходе недавнего исследования в детский сад завезли небольших роботов. Дети их полюбили и по-настоящему привязались к ним. Позже дети посчитали роботов более умными, чем их домашние животные»."

Этот пункт мне не очень понятен. Потому что если его прописать в форме "робот не должен лгать" - то это красиво с точки зрения сюжета для научного фантастики, но не особо применимо - робот ведь располагает только той информацией, которую в него вложили люди, либо новой, но которой он обучился на данной информации. Если в форме "не должен казаться лучшем, чем он есть на самом деле" - то это звучит как заповедь, а не как закон. В общем пока не ясно.

3) "За действия робота всегда отвечает человек, пишут составители стандартов, поэтому должно быть понятно, кто именно ответственен за определенного робота и его поведение."

Актуально, да. Остаются случаи с обучением нейронной сетки. Тот пример с чат-ботом, ставшим расистом, прочита Твиттер. Наверное, не авторы бота в этом виноваты все же.

4) "Разработка роботов должна быть максимально прозрачной. Проблема систем ИИ, особенно использующих глубинное обучение, сейчас состоит в том, что невозможно понять, почему они принимают такие решения."

Опять же, если это правило применять в лоб и абсолютно - это блокирует все инициативы по машинному обучению. И да, это проблема, но игра стоит свеч - "чуйка" роботов (термин от Анатолия Левенчука) оплачивается непредсказуемостью

5) "Машины должны уважать культурное разнообразие и плюрализм. Алгоритмы, используемые американской полицией и судами, часто проявляют расовые предрассудки, а программы распознавания речи хуже понимают женские голоса."

Да, хорошо. Ну тут скорее просто история про то, что авторы технологий должны, по возможности, способствовать всему хорошему против всего плохого.

http://apparat.cc/news/british-robots-guidelines

Как раз к нашему семианару в пятницу https://futuref.timepad.ru/event/377431/ да и к конференции по техноэтике 1 октября http://futuref.org/technoethics2016

Немного противоречивого из мира биотеха в новом переводе @TheIdealist:
Человеческие химеры: огромный потенциал и сложные этические вопросы

Человеческие химеры - существа, в которых клетки человека смешаны с клетками других существ - грызунов, свиней, а потенциально птиц и даже ящеров. Долгое время исследования в этой сфере были под запретом по этическим соображениям, но сегодня ситуация меняется. Работы в этой сфере обещают колоссальное продвижение в нашем понимании человеческой природы и развития, решения проблемы нехватки донорских органов и многие другие чудеса. Однако сложные этические вопросы остаются и требуют решения перед тем, как начнутся реальные эксперименты. В какой момент химера может стать существом, обладающим человеческим мышлением? Какие человеческие признаки допустимы для неё?

"Чтобы проиллюстрировать эту комплексность мы можем рассмотреть пример недавнего исследования, в котором учёные создали химеру мыши с типом человеческих мозговых клеток под названием glia, эти клетки в изобилии присутствовали в головном мозге мышей. Несмотря на то, что glia не считаются напрямую взаимосвязанными с человеческим мышлением как например нейроны, эти химерические мыши были гораздо умнее чем нормальные. К примеру, химеры показали почти в два раза лучший результат по навигации в лабиринте по сравнению с обычными мышами и демонстрировали признаки необыкновенной памяти. Этот интригующий вывод также указывает на сложности интерпретации возможных исследований с человеческими химерами. Нет чёткой разделительной линии по вопросу «чрезмерно» человеческих мозгах химер потому что мы слабо понимаем то в какой момент «гуманизация» животного мозга может привести к похожему на человеческий мышлению или сознанию. Мы даже не знаем когда это случается в развитии нормального человеческого мозга".

перевод: https://theidealist.ru/humanchimeras/
оригинал: https://www.wired.com/2016/09/human-chimera-researchs-huge-thorny-potential/

Возвращаемся мы с сегодня с Тимуром Щукиным c круглого стола в МПГУ мимо Яндекса и видим кучу полиции и таксистов.

А вот оно что оказывается. Снова новые технологии против старых профессий. То ли еще будет, когда беспилотные такси запустят.

http://govoritmoskva.ru/news/93431/

Алексей Амётов: "В 2016 году Фейсбук все чаще становится площадкой для дискуссий о морали, границах допустимого поведения и устройстве жизни в стране и отдельных социумах" (http://www.the-village.ru/village/city/situation-comment/245989-no-aviasales).

Вообще я вижу в этом начало той самой концепции "прозрачного мира". Конечно, новые технологии несут и удобство, и некоторые сложности и опасности, но что можно сказать с определенностью - быть гадом благодаря новому уровню связности стало гораздо труднее.

Молодцы ребята: "вчера вечером медиахолдинг Look At Media как минимум на полгода заморозил любое маркетинговое и коммерческое партнерство с Aviasales и остановил совместный проект в области рекламных технологий."

Я тоже внес свою небольшую лепту - вчера в телеграме мне как раз написали от Aviasales, спрашивали о рекламе в этом канале - скриншот в следующем посте. Так победим.

В продолжение статьи про химер. Вот вы как отнесетесь к редактированию своего генома или генома своих детей, например, для защиты от радиации? И если вы сами не готовы на этот шак, то на каком поколении ваши потомки решат стать немного тихоходкой?

Ученые обнаружили в геноме тихоходки уникальный белок, названный ими Dsup (от англ. damage suppressor — подавляющий повреждения). Он образует с ДНК устойчивые комплексы, вызывая ее агрегацию в ядре. Исследователи предположили, что этот белок может нести функцию защиты генетического материала от радиационного повреждения. И оказались правы.
https://nplus1.ru/news/2016/09/21/why-so-tough

Скорость развития технологий поражает. А главное, если вы о чем-то подумали, значит кто-то уже дописывает код этого и выпускает на рынок MVP.

У меня есть друг и по совместительству сосед Дима. Дима любит техно. И мы с ним часто обсуждаем технологии. Так дней 5 назад мы с ним говорили, что странно, что компьютер еще не научился сводить треки в электронной музыке.

И вот спустя 5 дней читаю про сервис, который даже больше, чем сводит треки - просто непрерывно генерирует и стримит электронную музыку. Можно только выбирать стиль. Кажется, с электронной музыкой произошло то же, что с живописью примерно год-полтора назад. Человеку осталось только творчество самого верхнего уровня - придумывать новые стили, идеи, смыслы. Все остальное уже делает машина.

http://play.mubert.com/

UPD: погуглив, обнаружил, что проекту уже больше полугода - они и на Startup Village были, и на vc.ru о них писали 25 марта. Это я просто только сейчас узнал случайно. Но это значит, что просто моя фраза в начале была недостаточно точна, нужно так: " если вы о чем-то подумали, значит кто-то уже дописал код этого и выпустил на рынок MVP полгода назад")

Про стоимость роботизации:

В Швейцарии есть робот, который:
1. Берет головку капусты, кладет в пакет
2. Берет пакет, кладет в коробку

Окупился за 3 месяца.

А давайте представим человечество, которое может менять геном свой и других животных в домашних условиях. Ууух, дух захватывает!

В продолжение скорости развития технологий. Когда-то 3D принтеры для дома были невообразимо дорогой покупкой для производства. Сегодня их можно купить ребенку на новый год. Несмотря на обнаружение систем CRISPR-Cas у самых разнообразных прокариот, о функциях CRISPR практически ничего не было известно вплоть до 2005 года. Вот ссылка на простой набор для CRISPR. Стоит примерно как 3D принтер, $140.

http://www.the-odin.com/diy-bacterial-gene-engineering-crispr-kit/

О биотехнологиях и большом бизнесе. Монсанто, селхозгигант, знаменитый среди противников ГМО, приобрел лицензию на CRISPR. Они вторые, после Dupont. Официально CRISPR не относится к ГМО, потому что это более точное редактирование, а не грубый обмен кусками ДНК. Еще напоминаю, они теперь принадлежат Bayer, предположительно за $66 млрд. http://www.businessinsider.com/monsanto-ends-gmo-war-crispr-2016-9

Я думаю, это очень круто. Уже не первый, но важный кейс частного финансирования науки. Мир изменился, теперь быть богатым не модно, модно двигать человечество вперед.

Копирую полностью текст Анастасии Егоровой (https://www.facebook.com/nst.egorova):

Цукерберги собираются в течение 10 лет пожертвовать 3 млрд долларов на борьбу чуть ли ни со всеми болезнями.

Когда речь заходит о такой сумме, обычно делают презентацию и рассказывают подробнее – я пол свитера связала, пока её смотрела. А раз уж всё равно посмотрела, ловите дайджест с часового (1:13:55) видео, ю ар велком:

Есть три основные цели: объединить учёных и инженеров, разработать приборы и технологии, поднять движение по финансированию науки.

Президентом по науке всего проекта ставят нейробиолога Доктора Кори Баргман (Cori Bargmann, PhD) https://en.wikipedia.org/wiki/Cornelia_Bargmann

Первый этап – Biohub, объединяют институты Стэнфорд, Беркли, UCSF. Плюс подключат ведущих инженеров. На это выделяют 600 млн.

Биохабом будут рулить биохимик/биофизик Джо ДэРиси (Joe DeRisi, PhD, UCSF) https://en.wikipedia.org/wiki/Joseph_DeRisi и физик/биоинженер Стивен Куэйк (Stephen Quake, DPhil, Stanford) https://en.wikipedia.org/wiki/Stephen_Quake

Сам Хаб расположен в районе Мишен Сан-Франциско, 499 Illinois st. аккурат посередине, очень удобно.

Уже 3 октября любой сотрудник одного из этих трех институтов сможет зарегистрироваться в онлайн систему. Конечно, Марк выделил целую команду инженеров на её разработку. Приглашаются смелые, молодые, всякие. Если вас берут, то это 5-летний контракт, нормальное финансирование, новые идеи и готовность к рискованным проектам.

В Биохабе в том числе будут заниматься проектами «Клеточный атлас», инфекционными заболеваниями, стволовыми клетками. Атлас – это схема всех-всех видов клеток в организме, их молекулярных характеристик и молекулярных взаимодействий внутри клеток. С инфекционными все тоже понятно: детектировать, среагировать, вылечить, предотвратить. Будут работать над новыми поколениями вакцин. Обещают быстро реагировать на эпидемии.

Марк говорил о четырёх основных причинах смерти: сердечно-сосудистые заболевания, рак, инфекционные и неврологические заболевания. И о том, что каждый скачек в науке был сопряжен с изобретением новой технологии (телескоп, микроскоп). Нам тоже нужны новые технологии для каждой из категорий: ИИ софт, который поможет разобраться в устройстве мозга (это для нейро заболеваний); машинное обучение для анализа бигдаты онко геномов; чип для диагностирования любой инфекции; мониторы крови в реальном времени для ранней диагностики заболеваний и тот самый клеточный атлас.

Три важных идеологических акцента:

1. Коллаборация. Будет система вознаграждений, мотивирующая длительные совместные проекты.
2. Долгая перспектива. То есть лучше долго и правильно, чем быстро и пшик.
3. Открытость. Результаты всех исследований и достижений будут доступны абсолютно всем. Для критического мнения так же приглашаются все, кто хочет/может.

Всего в презентации было по три. Угадайте, сколько всего этапов в проекте? Первый Биохаб, о нем уже говорили. Второй, Transformative Technology поможет быстрее перевести новые технологии из стадии разработки в применение. Третий, Challenge Networks для сбора команд по всему миру для решения всех возможных задач.

С Хабом более-менее ясно, про два других говорили немного. Сделали акцент на том, что для них подбирают партнёров. Куда писать письма, в общем, понятно.

Научный совет:
Арт Левинсон из Калико https://en.wikipedia.org/wiki/Arthur_D._Levinson
Худа Зогби, Медицинский колледж Бэйлор https://en.wikipedia.org/wiki/Huda_Zoghbi
Роберт Тиджен, Университет Беркли https://en.wikipedia.org/wiki/Robert_Tjian
Дэвид Хаслер, Университет Санта Круз https://en.wikipedia.org/wiki/David_Haussler
Ширли Тилмэн из Принстона https://en.wikipedia.org/wiki/Shirley_M._Tilghman
Тобиас Бонхофер, Институт Макса Планка https://en.wikipedia.org/wiki/Tobias_Bonhoeffer
Гарольд Вармус, Медицинская школа Вейл-Корнел

Научный совет Биохаба:
Ричард Лифтон, президент Университета Рокфеллер https://en.wikipedia.org/wiki/Richard_P._Lifton
Сангита Батия из MIT https://en.wikipedia.org/wiki/Sangeeta_N._Bhatia
Роберт Тиджан, Университет Беркли и Дон Ганем из Новартиса.

Советники президентов Биохаба:
Рас Алтман из Стэнфорда https://en.wikipedia.org/wiki/Russ_Altman
Дженифер Дудна из Беркли https://en.wikipedia.org/wiki/Jennifer_Doudna
Джонатан Вайзман из UCSF https://en.wikipedia.org/wiki/Jonathan_Weissman

Видео презентации: https://www.youtube.com/watch?v=qYr4NBTJKcI

Коллеги, я делаю конференцию:

Как технологии меняют нашу повседневную жизнь и общество в целом? Как технологии меняют этику? Как видят этику настоящего те, кто уже сейчас меняет будущее?

Об этом мы будем говорить на нашей конференции о практической техноэтике Future Foundation Technology Ethics.

Регистрация: http://futuref.org/technoethics2016

Мы сфокусировались на технологиях, меняющих человеческую идентичность в области тела и мышления: редактирование генома, нейротехнологии, киборгизация.

Среди спикеров: Виктор Вахштайн, Василий Ключарев, Александр Каплан, Анатолий Левенчук, Тимур Щукин, Кирилл Мартынов и многие другие.

Дата: 1 октября 2016
Место: "Точка Кипения", Москва, Малый
Конюшковский пер., 2
Участие бесплатное.

Регистрация еще открыта: http://futuref.org/technoethics2016

Рождается поколение, в котором редактирование генома было всегда. Рождается, в том числе, редактированием генома. В данном случае это было практически единственным выходом из ситуации с наследуемым заболеванием.

Эта новость мне напомнила о моем прогнозе развития семьи: думаю, в будущем, семья станет менее конкретной по количеству и гендерному составу: несколько людей любых полов соединяют по доле своих геномов и выращивают ребенка, чтобы никому не было обидно - в инкубаторе. У них есть обязательства, заркепленные на блокчейн по финансировании образования этого ребенка. Сексуальность может выйти из такой семьи, может нет, полиаморность будет нормой. Потом еще искусственные интеллекты как-то могут зайти в такой союз людей. И, например, вкладывать в ребенка вместо ДНК чать кода его цифровой части. А ведь мы помним, что будущее человечество - это "цифровые кентавры", так что все как раз сходится.

Такая форма семьи решит многие проблемы - споры о гендерных ролях уйдут, так как нет процесса вынашивания плода, который отличают гендеры биологически. Уйдет диктатура различных социальных функций - ведь все равны.

В общем, как такое будущее семьи наступит, я, может, даже и сам задумаюсь о семье. Но не раньше)

https://nplus1.ru/news/2016/09/27/mitobaby