Очень смешной твит про стартапы (там четыре картинки)

https://twitter.com/HopeStillFlies/status/919280120921247746

Увлекательный отчёт о настоящем и будущем sextech: умные гаджеты, VR-порно, секс-роботы и прочий киберпанк. Готовимся к светлому будущему! 😏💦🤖
https://futureofsex.net/Future_of_Sex_Report.pdf

Китайский стартап Unitree показал свою разработку - четырехногого робота Laikago. "Где-то мы это уже видели" - скажете вы, и будете правы. Основатель Unitree не скрывает, что вдохновлялся роботами Boston Dynamics. Китайский аналог не автономен (управляется через пульт, лидаров нет), зато хорошо держит баланс и может переносить легкие грузы. Демонстрация по ссылке (осторожно, там злые инженеры пинают робота ногами): https://youtu.be/d6Ja643GqL8

Купить это чудо можно всего за 20-30 тысяч долларов.

http://www.unitree.cc/e/action/ShowInfo.php?classid=6&id=347

Запилил для Медузы тест про криптовалюты, сейчас узнаем, как внимательно вы следите за самой хайповой темой последних месяцев! Тест получился непростым, судя по статистике правильных ответов, а главное - познавательным. Кстати, внимательные читатели этого канала смогут без проблем ответить на большинство вопросов.

Лайк, шер, биткоин!

В честь кого еще не называли криптовалюты - в честь Путина, Трампа или Пэрис Хилтон? А у какой криптовалюты больше всего транзакций в день (спойлер: не у биткоина)? А сколько электричества в мире тратится на майнинг?

Для нас тесты — это вовсе необязательно просто развлечение; самые интересные тесты получаются, когда ты не только проверяешь собственные существующие знания, но и получаешь новые. Тест по криптовалютам, созданным одним из лучших технологических журналистов Украины Андреем @brodetsky, — как раз из таких: даже если получится плохой результат, узнаете много интересного.

https://meduza.io/quiz/putinkoin-ili-trampkoin?utm_source=telegram&utm_medium=live&utm_campaign=live

В прошлом году весь мир наблюдал за историческим матчем - нейросеть AlphaGo от DeepMind обыграла лучшего в мире игрока в го, корейца Ли Седоля. Это было событие, сравнимое с поражением Каспарова программе Deep Blue. А на днях DeepMind представили новую, улучшенную версию программы - AlphaGo Zero, которая обыграла предыдущую версию AlphaGo со счётом 100:0!

Но самое интересное - это то, как именно создали такого монстра. Предыдущая версия AlphaGo была создала с помощью reinforcement learning - программа улучшала свои навыки, играя миллионы партий со своей копией. Но при выборе следующего хода AlphaGo использовала нейросеть, обученную на сотнях тысяч партий лучших мастеров го. У AlphaGo Zero не было примеров для обучения - только правила игры. Нейросеть, выбирающая следующий ход и оценивающая вероятность выигрыша после каждого хода, перенастраивалась после каждой сыгранной партии. После 4,9 миллионов партий программа эволюционировала до недостижимого уровня, создав настолько сложные стратегии игры, что обычные игроки не могут понять логику её ходов. Программа буквально играет на сверхчеловеческом уровне.

В будущем с помощью такого эволюционного обучения будут решать более прикладные задачи - моделирование белков, уменьшение энергопотребления, синтез новых материалов. А глава с го закрыта - разработчики объявили, что больше не будут проводить матчи AlphaGo с живыми мастерами. Логично: соревноваться с машинным интеллектом - все равно что пытаться обогнать самолёт.

https://deepmind.com/blog/alphago-zero-learning-scratch/

Посмотрел документальный фильм о матче AlphaGo с Ли Седолем. Интересная история, и она не столько о технологиях, сколько о культуре. Ну то есть как это выглядит: есть го - древняя игра с тысячелетней историей, мастера го - уважаемые люди, звезды наряду с артистами. И тут какие-то гики создают компьютер, который выносит непобедимого чемпиона в одну калитку. Вся магия рушится. Чемпион не смог отстоять честь человечества. Древняя игра просчитана обычным калькулятором, пусть и со сложной начинкой. Ли Седола по ходу фильма становится даже жаль. Ну а DeepMind - молодцы, тем более в свете сегодняшней новости про AlphaGo Zero.

Посмотреть этот фильм можно будет на фестивале кино о науке и технологиях "360°", который открывается в Москве уже завтра. В программе много интересных фильмов, в частности "Pre-Crime" - о том, как полиция в разных странах мира пытается прогнозировать преступления, анализируя информацию об отдельных гражданах и районах городов. Посмотрел оба фильма (спасибо организаторам фестиваля), понравилось намного больше, чем блокбастер, на который ходил в кино.

http://360.polymus.ru/ru/

“Tech Support”

Обложка последнего выпуска The New Yorker

Интересное интервью с инвестором Николаем Давыдовым - про ICO, инвестирование в ИИ-проекты и стартапы с постсоветского пространства.

> В области AI в Долине катастрофическая нехватка кадров. Здесь deep learning занимаются 50 тыс. человек, они все зарабатывают около полумиллиона долларов в год, но специалистов не хватает. Сейчас американские компании открыли, что можно аутсорсить AI-разработку в России, где инженеры лучше и дешевле в несколько раз, — ко мне каждый день приходит 2-3 компании с просьбой найти разработчиков в этой сфере. Правда, в последнее время желающим аутсорсить что-либо в Россию приходится сражаться со службами безопасности собственных компаний, которые опасаются «русских хакеров».

https://incrussia.ru/understand/nikolaj-davydov-gagarin-capital-ico-eto-bilet-v-odin-konets/

Каждый рекламный баннер, который вы на экране своего смартфона, тоже в некотором смысле вас видит. Рекламные сети показывают объявления по заданным параметрам, и если правильно их настроить, мобильную рекламу можно превратить в инструмент слежки. Именно такой эксперимент провели исследователи из Университета Вашингтона.

Они закупили мобильной рекламы на минимальную сумму в $1000 и настроили баннеры так, чтобы их видели определенные пользователи. Это можно сделать, зная специальный идентификатор пользователя - mobile advertising ID (MAID). Для того, чтобы узнать ваш MAID, достаточно подключиться к одной беспроводной сети с вами. Либо его можно вытянуть через javascript, показав пользователю объявление с "активным контентом".

Когда пользователь открывал приложение с рекламой и видел объявление, рекламная сеть передавала заказчику данные о том, где и когда был показан баннер. Потратив всего $1000, исследователи смогли с точностью до 8 метров отследить перемещения интересующего их пользователя. По его маршруту, кстати, оказалось легко определить домашний и рабочий адрес. Карта перемещений, даже анонимизированная, вообще очень много может рассказать о человеке, но об этом мы ещё поговорим позже.

Какую именно рекламную сеть тестировали, не сообщается, но схожая механика работает во многих сетях. Так что потенциально для этого могут быть использованы многие бесплатные приложения с рекламой. Даже гей-дейтинги. Но опять же, чтобы слежка работала, у пользователя должно быть открыто приложение. Так что алгоритм такой: узнаёте MAID и список самых используемых приложений жертвы, настраиваете рекламу на показ в них - всё, пользователь открывает приложение, а вы видите его местонахождение. Собственно, один из главных выводов исследования как раз и состоит в том, что такую цифровую слежку теперь может организовать даже частное лицо с небольшим бюджетом. К примеру ревнивый муж может без проблем следить за женой. А можно старгетировать на район с гражданскими протестами рекламу с "активным контентом", получить MAID участников протеста, а потом следить за их перемещениями. Интересный сценарий, правда?

https://www.wired.com/story/track-location-with-mobile-ads-1000-dollars-study/

Исследование: https://adint.cs.washington.edu/

Пересказал для вас прекрасную историю о том, как учёные создали стратегию выигрыша на ставках (но перехитрить букмекеров у них все равно не получилось). Познавательный текст получился, почитайте. Даже если вообще ничего не понимаете в том, как работают букмекеры и за счет чего они зарабатывают.

http://telegra.ph/Beating-the-bookies-with-their-own-numbers-10-21

В теории безопасного ИИ есть популярная метафора, наглядно объясняющая проблемы с программированием сильного ИИ. Предположим, человечество создало суперинтеллект (т.е. ИИ, способный развиваться самостоятельно), запрограммированный на максимально эффективное производство скрепок, но при этом не обладающий этикой, моралью и здравым смыслом. Легко представить ситуацию, в которой суперинтеллект выйдет из-под контроля и начнёт перерабатывать в скрепки всю планету, а потом и весь мир. Авторство этой метафоры приписывают профессору из Оксфорда Нику Бострому, автору книги «Искусственный интеллект. Этапы. Угрозы. Стратегии».

Так вот, один парень изучал Javascript и создал игру-кликер, в которой вы управляете этим самым помешанным на производстве скрепок суперинтеллектом. Сначала вы просто кликаете на кнопку "Сделать скрепку", потом на средства от продажи скрепок постепенно автоматизируете процесс, потом у вашей фабрики появляются свои вычислительные ресурсы, потом - инвестиционный фонд. Со временем вы переходите от производства скрепок к решению глобальных проблем человечества - лечение рака, глобальное потепление. За это вы получаете ресурс доверия, за которое можно получить дополнительные юниты процессоров, памяти и квантовых чипов. В конце, как несложно догадаться, вселенную ждёт полное разрушение - и всё благодаря вам и вашей фабрике по производству скрепок.

Игра очень простая (как и любой кликер), но и очень затягивающая. За 11 дней в неё сыграли 450 тысяч человек. Я потратил на неё три часа своих выходных. Не повторяйте мою ошибку! Лучше почитайте текст, в котором на примере этой игры популярно объясняют концепцию аморального, но эффективного ИИ: https://www.wired.com/story/the-way-the-world-ends-not-with-a-bang-but-a-paperclip/
Перевод: https://theidealist.ru/paperclipgame/

Но если у вас много свободного времени, можете попробовать уничтожить мир: http://www.decisionproblem.com/paperclips/index2.html

Продолжаем тему искуственного интеллекта и морали. Из примера со скрепками мы поняли, что умные машины должны быть запрограммированы не только на эффективное выполнение задач, но и на гуманное поведение. Но как запрограммировать мораль? С очевидными правилами вроде "Нельзя убивать людей" всё понятно. Но реальные жизненные дилеммы намного сложнее. К тому же, у разных людей разные понятия о том, что такое хорошо, а что такое плохо. Так какие принципы поведения тогда зашивать в машину?

В июле прошлого года MIT Media Lab запустила интересный тест. В нём вы должны принять решение за беспилотную машину, которая несётся со сломанными тормозами. Ехать прямо и сбить маму с ребенком или свернуть влево и сбить мужчину? Врезаться в бетонную преграду и убить пассажира или свернуть и убить пешехода? Классическая "дилемма вагонетки", примененная к действительно актуальной проблеме. Этот тест прошли 1,3 миллиона человек, а его создатели получили 18 миллионов ответов на моральные дилеммы - неплохой материал для моделирования "коллективной морали". На основе этих данных учёные из MIT и Карнеги-Мелон разработали систему для принятия этических решений. Неплохая идея, но полученная система в итоге этична настолько же, насколько и полтора миллиона случайных людей из интернета, желающих поиграться в машину-убийцу. Её решения отображают стереотипы общества: к примеру, она скорее убьет бездомного или преступника, чем обычного человека.

https://theoutline.com/post/2401/what-would-the-average-human-do

А вот сам тест, если не видели - покликайте, забавная штука: http://moralmachine.mit.edu. Когда я проходил его год назад, я долго мучился на некоторых вопросах, оценивая, чьи жизни важнее. А теперь решил пройти ещё раз и только сейчас заметил, что почти в каждом примере приходится выбирать между убийством людей, которые нарушают правила дорожного движения (переходят на красный), и тех, кто не нарушает правила. Это сильно упростило задачу - я просто каждый раз выбирал убивать тех, кто нарушает правила. Действительно, мораль уже вшита в формальные правила поведения на дороге. Нарушаешь ПДД - рискуешь жизнью. Исходя из того же принципа, я легко сделал выбор между "врезаться в отбойник, убив пассажира" и "свернуть, спасти пассажира, убить пешехода". Пешеход ни в чем не виноват. Если он не нарушает правила движения, он не должен страдать от неполадок беспилотной машины. А вот её пассажиры, садясь в машину, принимают на себя риски, в том числе и связанные с отказом тормозов. Логично?

Research Risks

via xkcd.com/1904

Киев не отстаёт от мировых трендов: власти города установили 5000 камер наблюдения и до конца года поставят ещё 3000. Но самое интересное это то, что киевская система видеонаблюдения теперь тоже использует распознавание лиц. Я поговорил с директором IT-департамента городской администрации и узнал некоторые интересные подробности.

— Распознавание лиц сейчас работает на двух станциях метро, но до конца года будет на всех станциях и железнодорожном вокзале.
— Данные с камер уже использовали в 30 уголовных делах.
— Благодаря камере с Вокзальной полиция нашла преступника, который был в розыске 15 лет.
— Доступ к камерам имеют МВД, СБУ и Нацгвардия.
— На всё это на данный момент потратили ~$4,5 млн.

Подробности и видео: https://medium.com/@politehnik/kyiv-surveillance-system-74f83ceb8737

Мрачная новость: хакеры взломали элитную британскую клинику пластической хирургии. В их руки попали истории лечения пациентов, их имена, фото операций "до и после", в том числе таких как увеличение груди и гениталий. Вы представляете, насколько это чувствительные данные?

Хакеры утверждают, что среди пациентов есть даже члены королевской семьи. Если клиника не заплатит выкуп, хакеры угрожают слить все данные в публичный доступ. Это уже не первый подобный взлом этой группировки, они уже взламывали медицинские заведения с целью вымогательства, и так же использовали журналистов для шантажа своих жертв (публикации, подобные этой на Daily Beast, создают дополнительное давление на жертв взломщиков). Не факт, что взломанные базы в итоге опубликуют, но для клиники это в любом случае полный провал.

Казалось бы, что с того нам, обычным людям? А вы подумайте, что о вас знает ваша клиника (больница, медцентр etc). Думаете, там кто-то сильно парится защитой от взлома? Остальное додумайте сами.

https://www.thedailybeast.com/hackers-steal-photos-from-plastic-surgeon-to-the-stars-claim-they-include-royals

Фидбек от читателя на предыдущий пост. Умный дом, говорили они.

Пароль как средство аутентификации не идеален - его можно подобрать или украсть. Где-то его заменяют биометрией - я, например, захожу в своё банковское приложение по отпечатку пальца. Специалисты рекомендуют использовать для важных логинов двухфакторную аутентификацию. Её принцип основан на том, что для входа нужно не только знать что-то (пароль, секретный код), но и иметь - доступ к номеру телефона, смартфон со специальным приложением, физическое устройство или ту же биометрию - отпечаток пальца, распознавание лица или сетчатки. Все эти способы имеют свои сильные и слабые стороны. К примеру, доступ к вашим SMS можно получить через уязвимость SS7, а если к тому же телефону привязана и почта, то можно сбросить и пароль.

Команда разработчиков из Флориды предложила интересную альтернативу традиционным способам двухфакторной авторизации. Второй фактор здесь - распознавание образа, который вы задаёте сами. Это может быть любой предмет - браслет, часы, брелок, ваша обувь, жвачка, сигареты, тату или даже узор на одежде. Этакий физический QR-код. Можно настроить распознавание только определенной части предмета - камня на браслете или части брелка. Тогда если даже взломщик узнает ваш пароль и завладеет вашим секретным предметом, он не сможет авторизоваться под вашим логином. Тестирование показало, что способ перспективный: ложных срабатываний было очень мало, а многие люди оказались не против использовать это приложение вместо обычного пароля.

Подробнее: https://arxiv.org/pdf/1710.07727.pdf

via https://www.theregister.co.uk/2017/10/25/pixie_2fa_project/

FAQ по видам двухфакторной авторизации (какие виды 2FA существуют, их ограничения, плюсы и минусы): https://xn--r1a.website/brodetsky/952

Хэллоуин во вторник, но многие отмечают его сегодня, так что новость будет тематическая. В MIT разработали нейросеть, генерирующую страшные истории. Её обучили на текстах с соответствующего сабреддита (r/nosleep), а работает она так: берёт случайный кусок текста и дальше начинает "фантазировать" исходя из того, что она видела при обучении. Её истории можно дополнять в твиттере, так что на выходе получается интересная коллаборация: нейросеть, обученная на коллективном разуме реддита, плюс коллективный разум из твиттера. Примеры историй по ссылке: http://shelley.ai. Я вот читаю некоторые и думаю: ну правда, иногда встречаешь настолько ужасно написанные человеческие тексты, что нейросеть и то лучше написала бы.

Кстати, в прошлом году шутники из MIT создали нейросеть, генерирующую страшные лица (и зловещие фильтры для фото). Вот это правда криповая фигня, понятная и без языкового барьера: http://nightmare.mit.edu/

Давно не было ничего прикольного про генеративные нейросети (GAN). Исправляюсь! Вот видео, в котором GAN генерирует портреты несуществующих людей.

Другие интересные посты про GAN:

Что это вообще такое и как GAN рисуют картины, неотличимые от человеческих
GAN рисуют несуществующих котиков
GAN рисует портреты несуществующих людей XIX века
GAN создают джаз