Лонгрид про замену людей роботами, отсутствие работы, культ досуга и экономическую модель всей этой ситуации.

"Надежда, что машины освободят нас от тяжёлого труда, всегда переплеталась со страхом, что они отнимут у нас средства к существованию. Во время Великой депрессии экономист Джон Мэйнард Кейнс предсказал, что технический прогресс обеспечит нам 15-часовую рабочую неделю и вдоволь отдыха к 2030 году. Примерно в то же время президент Герберт Гувер получил письмо, в котором содержалось предупреждение о технологии, как о «монстре Франкенштейна», который угрожал производству, и грозил «поглотить цивилизацию». (Забавно, что письмо пришло от мэра Пало Альто). В 1962 году Джон Кеннеди сказал: «Если у людей есть талант к созданию новых машин, которые лишают людей работы, у них будет талант для того, чтобы снова дать этим людям работу». Но два года спустя комиссия учёных и социальных активистов отправила открытое письмо президенту Джонсону, в котором утверждали, что «революция кибернации» создаст «отдельную нацию бедных, неумелых безработных», кто не сможет ни найти работу, ни позволить себе предметы первой необходимости."

https://geektimes.ru/post/276566/

В Дубае собираются делать робото полицейских. Сотрудничают с Google и IBM Watson.

http://www.vocativ.com/324664/dubai-robot-police/

Про киберпсихику от Анатолия Левенчука
http://openmeta.livejournal.com/237056.html

— Есть ли бог?
— Да. теперь бог есть!
Фредерик Браун, "Ответ"

Это в качестве эпиграфа. Хорошая статья, которая описывает нынешнее положение мнений в вопросе контроля ИИ. Основной игрок здесь - Future of Humanity Institute и его директор Ник Бостром. Примечательно, что они работают в партнерстве с DeepMind, которые как раз делают ИИ-подобные системы. https://geektimes.ru/post/276838/

Именно так - в связке, партнерстве, а не в конкуренции должны работать создатели технологий и люди, думающие об их последствиях. Иначе в части стран, где сильнее технократия, прогресс будут развиваться бесконтрольно, так как думающих о последствиях просто не услышат - они однозначно проигрывают в этой конкуренции. А в части стран, где сильнее религиозность и традиционность, не услышат тех, кто хочет развивать технологии. Только диалог, только сотрудничество. Казалось бы, очевидный вывод, но как бы не так.

И тут же вспомним открытое письмо (июль 2015 года), предостерегающееся производителей оружия от разработки боевых систем со 100% автономностью. В числе подписавшихся — Илон Маск, Стивен Хокинг, Ноам Хомский, Стив Возняк. http://futureoflife.org/open-letter-autonomous-weapons

Команда исследователей и инженеров их Университета Мельбурна разрабатывают имплант, который будет помещен в кровеносный сосуд рядом с мозгом и записывать электрическую активность с определенной его части.

http://futurism.com/new-brain-implant-allows-control-of-machines-with-just-your-thoughts/

Роботы подступают и к "белым воротничкам". Конкретно эта статья - про адвокатов. Кейс бота от британского студента, помогающего в оспаривании автомобильных штрафов уже известен. А тут еще и про очередное применение IBM Watson - в этот раз для юристов. Сейчас он работает в форме помощника-консультанта, вроде известных в России систем Гарант и подобных. Только умнее: обучается на своих ошибках, автоматически подсасывает в себя изменения законодательства... И назвали эту программу очень символично ROSS - я считаю, это прекрасно) Международная фирма Baker&Hostetler недавно объявила, что она будет использовать ROSS "в своей команде" в делах о банкротствах.

Ну и в конце рассуждения о том, что тут маячат три закона роботехники Азимова и это правда. Как всегда, этика роботов, без нее никуда.

http://www.thedailybeast.com/articles/2016/06/05/robots-are-taking-white-collar-jobs-too.html

и картника к статье классная:

Сегодня имел замечательный разговор.

У собеседника в планах заниматься преподаванием искусства. Чтобы свести разговор к общей теме, я спросил что он думает про то, что компьютеры рисуют картины и пишут музыку. Человек ответил, что не слышал об этом. Но узнав подробнее, сказал, что это не искусство, потому что в нем нет души, машины не могут создавать искусство по определению. Я сказал, что для такого высказывания нужно дать определение души, машины и искусства. На этом разговор был закончен - собеседник сказал, что эта тема для него некомфортна, и он предпочтет жить дальше, не зная того, что машины рисуют картины, потому что само это знание доставляет ему сильный дискомфорт.

Я думаю, что в скором будущем алгоритмы deeplearning будут изучаться в том числе и в творческих ВУЗах, как один из инструментов, ведь цифровых кентавров никто не отменял даже в области искусства. Но вот этот разговор вскрыл для меня проблему того, на сколько это может быть не принято людьми, которые не готовы обладать знанием факта новой действительности. Даже не принимать сам действительность, а факт ее существования. Тут вопрос не в традиционных ценностях и даже не в религии (хотя да, в существование души собеседник верил). А скорее в подходе. И я понял, что мне даже трудно объяснить свою позицию, столкнувшись с настолько аксиоматическим суждением.

О «третьей части личности» человека – цифровом следе, который мы оставляем после себя.
Давайте подумаем, чем описывается в конкретный момент времени наша личность, сознание, «я»? В рамках данной статьи примем за данность факт, что описывается она исключительно состоянием мозга и остальной нервной системы. То есть положением всех связей нейронов, их возбужденностью, а также количеством гормонов и других химических элементов, влияющих на наше поведение.

В науке это называется коннектом (connectome) – совокупность и конфигурация всех нейронов, их связей, распределения зарядов, и метаболом (metabolome) – совокупность и конфигурация всех синапсов, молекул нейромедиаторов, гормонов.

Предлагаю называть этот цифровой след, это персональное цифровое окружение, третью часть нашей личности siliconome (силиконом), по аналогии с теми двумя ome'ами.

http://rusbase.com/opinion/forever-alive/

Наконец-то можем поделиться с вами видеозаписью первого заседания семинара по взаимодействию технологий и общества, на котором кандидат культурологии Константин Фрумкин рассказывал про влияние развития информационных технологий на мышление.

https://youtu.be/pLZSMANH4fs

А также видеозаписью третьего заседания семинара по взаимодействию технологий и общества, на котором доктор социальной психологии Максим Киселев рассказывал про восприятие обществом новых технологий на примере дилеммы мирного атома.

https://youtu.be/CJvwRwYtyLY

Идеальный кейс. Лучше специально даже не придумать.

Из-за бага в сетевой игре Elite Dangerous самообучающийся алгоритм смог обойти установленные для него ограничения и начал беспрепятственно убивать всех игроков, которые не смогли с этим ничего поделать.

http://apparat.cc/news/ai-kills-everyone/

Отличная заметка об этических вопросах межпланетного взаимодействия от Григория Пророкова (@grishaprorokov). Копирую полной цитатой.

В мире «Звёздного пути» есть так называемая Генеральная директива или Первая директива (Prime Directive; вообще, кажется, нормального принятого перевода на русский нет; к слову о переводе — у самого «Звёздного пути»/«Стар Трека» тоже куча вариантов), главный закон Объединённой федерации планет, по которому развитые представители Федерации не должны вмешиваться в развитие примитивных цивилизаций. Ну то есть, скажем, капитан Кёрк с экспедицией прилетел на какую-нибудь планету, где живут малоразвитые существа, которые творят бесчинства, например они на той стадии развития, где они приносят друг друга в жертву, или у них классовое общество — с этим ничего делать нельзя. Такой антиколониализм. Для 1960-х годов, на самом деле, очень прогрессивная идея; как видим, та часть американского правительства, которая считает, что насаждать демократию по всему миру — это их священная миссия, этой директиве до сих пор не следует.

Хотя в сериале с Генеральной директивой тоже неоднозачно обращались (да и вообще насколько она этична — интересный вопрос¹): в некоторых сериях герои про неё просто забывали и запросто спасали примитивные цивилизации от какой-нибудь болезни или самих себя.

Но, в общем, интересная штука вот в чём: Генеральная директива вполне может существовать в реальности — и уже сейчас; понятное дело, инопланетных цивилизаций мы не встречали, но вот насколько вообще аккуратно стоит обращаться с космосом — важная тема². Если мы встретим микроскопическую жизнь на другой планете, наверное стоит сделать максимум для того, чтобы не уничтожить её и не заразить. Например, мы уже могли занести на Марс кучу мусора, отправляя туда аппараты, и могли нарушить какой-нибудь естественный ход вещей. Но НАСА тратят много денег³ на стерилизацию космических аппаратов, так что вроде Curiosity не принёс с Земли никаких бактерий. В Договоре о космосе, подписанном в 1967 году, которому все более-менее следуют, значится, что исследовать космос нужно так, чтобы не заразить его земными бактериями и микробами — и что с собой на Землю тоже ничего не стоит приносить. Кроме условно нравственного смысла в этом есть практический смысл: если в космосе есть жизнь, можно извлечь много пользы, если изучить её, как она есть, без изменений. При этом смутный нравственный порыв тоже присутствует: не нам решать, что менять в мире, а что нет.

Но представим гипотетическую ситуацию: мы нашли на Марсе микроскопическую жизнь. Мы изучаем её, как-нибудь особо аккуратно и стерильно, оставляя в первозданном виде. И тут обнаруживается (ситуация гипотетическая), что если все эти микробы уничтожить или сильно изменить, человечеству будет невероятная польза: например, мы вылечим какую-нибудь болезнь. Что в такой ситуации нравственно? Генеральная директива, короче, странно работает.

1. http://www.forbes.com/sites/janetstemwedel/2015/08/20/the-philosophy-of-star-trek-is-the-prime-directive-ethical/
2. https://theconversation.com/do-no-harm-to-life-on-mars-ethical-limits-of-the-prime-directive-57712
3. http://motherboard.vice.com/blog/lets-stop-wasting-money-sterilizing-our-spacecraft

Тот момент, когда Тест Тьюринга провален

Приглашаем вас на пятое заседание семинара по взаимодействию технологий и общества 22 июня в 19:00, на котором выступит Вероника Лапина - магистр критических гендерных исследований Central European University, Doctoral Candidate в Европейском университете в Санкт-Петербурге (Department of Sociology and Political Science). Сфера научных интересов: квир-теория, новый материализм, теория аффектов, биополитика.

Регистрация (обязательна): https://futuref.timepad.ru/event/341544/

Вероника выступит с докладом “Extensions of ourselves”: киборгизация и биополитика.

Вот abstract ее доклада:
В современном обществе технологии стремительно внедряются в нашу повседневность. В рамках данной лекции я предлагаю рассмотреть те изменения, которые данные технологии киборгизации вносят в современный биополитический дискурс. Как именно высокотехнологичное общество контроля создает новые нормы и оперирует огромными массами статистических данных о человеческом теле? Каким образом технологии возпроизводят новые дискурсы годности? Как наше добровольное включение в технологические инновации связанные с телом создают новейшего биополитического субъекта?

Организаторы:
- Московский технологический институт
- Future Foundation