​​О важности обучающей выборки

В 2016 году китайские дата саентисты захотели создать нейросеть, определяющую преступные наклонности человека по его фотографии. Они загрузили в нейросеть две тысячи фотографий преступников и обычных людей и вроде как научили её с 90% точностью определять преступников "на глаз". Алгоритм выделил особенности преступных лиц: меньшее расстояние между уголками глаз, меньший угол между носом и уголками губ, больший изгиб верхней губы.

Когда к фотографиям присмотрелись внимательнее, оказалось что не преступники на них слегка улыбаются, а преступники — наоборот, серьезны и даже нахмурены. Отсюда — и изгиб верхней губы (во время улыбки она распрямляется), и остальные "преступные" черты. Нейросеть научилась улавливать не склонность к преступности, а улыбку. Ну или расслабленность лица, как предлагают это трактовать авторы исследования. Изображения преступников для обучения были взяты из официальных государственных баз, а фото обычных людей — с коммерческих сайтов, нередко из промо-материалов, где люди выглядят хорошо и позитивно.

Это пример из курса по изучению буллшита в эпоху данных. Другой пример - разбор ещё одного спорного исследования, в котором нейросеть научили определять ориентацию человека по фото.

Курс бесплатен, разработан двумя профессорами из Вашингтона и призван уменьшить количество цифрового буллшита — графиков, статистики и прочих точных данных, которая выглядят убедительно, но вводят в заблуждение. Читайте на досуге, прокачивайте критическое мышление: https://callingbullshit.org/index.html

​​Представьте: вы включаете свой смарт-телевизор, заходите в настройки скринсейвера и видите опцию интеграции с Google Photos. Но помимо ваших фото вам доступны фотографии сотен других пользователей. Вы можете смотреть частные фотографии незнакомых людей, которые об этом даже не догадываются. Звучит стрёмно, правда? Это не выдумка: именно в такую ситуацию попал пользователь смарт-телевизора Vu из Индии. Компания-производитель поблагодарила внимательного пользователя и закрыла дыру. Но сама возможность такого бага заставляет задуматься — как уберечь себя от неприятных утечек, если такие дыры могут обнаружиться в любом сервисе?

Очень красивый и любопытный проект: атлас активаций. Позволяет заглянуть внутрь нейросети и увидеть, как она распознаёт объекты.

Почему это важно? Потому что одно из слабых мест нейросетей — их непрозрачность. Они хорошо умеют классифицировать данные, но не умеют объяснять свои решения. Это может создавать проблемы. К примеру, банковский алгоритм, оценивающий риски, может отказать потенциальному клиенту в кредите без каких-либо объяснений. По закону банк обязан обосновывать такие решения. Так же сложно будет пациенту согласиться на операцию, если это совет без объяснений от алгоритма-черного ящика. А ещё черный ящик сложнее отладить.

Так вот, по ссылке можно посмотреть, что видит нейросеть во время распознавания различных образов. Есть над чем залипнуть.

Что ещё почитать по теме:
— Как открыть "черный ящик" ИИ
— Заглянуть внутрь генеративной нейросети
— Ещё одна красивая визуализация нейросети
— Как обмануть нейросеть, распознающую предметы:
— — с помощью поворота изображения;
— — с помощью нескольких пикселей;
— — с помощью 3D-принтера

Про UI и UX

Навигация Google Maps с дополнённой реальностью via Owen Williams

Выглядит круто. Ждём, пока выкатят на наши края.

В NVIDIA сделали классный Paint на стероидах: генеративная нейросеть превращает наброски в фотореалистичные пейзажи [PDF].

GauGAN could offer a powerful tool for creating virtual worlds to everyone from architects and urban planners to landscape designers and game developers. With an AI that understands how the real world looks, these professionals could better prototype ideas and make rapid changes to a synthetic scene.

Выглядит круто, правда в онлайне затестить нельзя. Но — хорошие новости — есть аналогичный проект от MIT. Попроще, зато там можно рисовать самому, прямо в браузере!

Из твиттера:

So I thought I did a pretty good job locking down my 8 year old’s iPad. Age restriction set, no Safari, no YouTube etc... only her “learning apps”. Well turns out she has been able to get to YouTube through her Duolingo app!!! Well played kid, well played 🤨🤨🤨

Как дети обходят родительские ограничения на смартфонах

👄 Женатые американцы использовали сайт знакомств для интриг на стороне. База данных сайта попала в открытый доступ. Вместе со всеми данными пользователей.

👀 Молодая пара из Китая установила дома веб-камеру для безопасности. Российские тролли подобрали стандартный пароль от камеры и месяцами обсуждали частную жизнь пары на развлекательном форуме.

🚕 Француз вызвал Uber со смартфона жены. Через баг в приложении она продолжила получать уведомления с аккаунта мужа и узнала о его поездках к любовнице. Брак распался, муж подал на Uber в суд, но безрезультатно.

📍Завтра расскажу на кинофестивале Docudays несколько историй о том, как можно попасть в неприятную ситуацию из-за технической безграмотности. И поделюсь своими соображениями о том, как уберечь себя от этого. Приходите, будет интересно. Кинотеатр Жовтень, 11:30, вход свободный.

​​Во время записи и выступлений музыканты используют мониторы — акустические системы, позволяющие исполнителям слышать себя, а звукорежиссёрам — контролировать качество звука и баланс инструментов.

Благодаря Reddit узнал интересный факт: некоторые студии при съемке VR-порно тоже используют экраны-мониторы. С их помощью режиссёр и актёры могут видеть, что происходит в кадре — есть ли eye contact, хороша ли композиция кадра и так далее. Почему VR-порно снимают необычными камерами и зачем между актёрами вставляют пластиковую голову? Об этом — в предыдущем посте по теме.

Как работает стойка помощи пассажирам в китайском аэропорту. Система распознает вас по лицу, выдаст информацию о вашем полёте и поможет найти дорогу к нужному гейту. Не надо ничего вводить, достаточно просто подойти.

via Matthew Brennan

New York Times публикует мощный текст с основным тезисом: потребление цифровых услуг - это признак бедности. Мы говорим цифровая экономика, а подразумеваем экономика услуг для бедняков.

Вы бедный, если ваш врач консультирует вас по интернету, а не в ходе личной встречи.

Бедный, если ваши дети учатся онлайн, а не у оффлайновых преподавателей.

Бедный, если покупаете товары онлайн, а не в красивом магазине в центре города.

Для бедных существует гигантский рынок сексуальных услуг онлайн, на котором жители третьего мира продают эротические фантазии бедным гражданам мира первого, которые в состоянии потратить на это лишние десять долларов.

Тот факт, что богатые предпочитают старомодных тьюторов, личных тренеров и поваров, а не Coursera или доставку еды через смарфтон, ни для кого не секрет. Но автора статьи Нелли Боулерз идет дальше и заявляет, что происходит "люксеризация" человеческих отношений.

Если вы по-прежнему получается услуги от живых людей или имеете возможность общаться с ними, значит скорее всего вы представитель новой элиты, престижное потребление которой заключается в отказе от цифровых услуг в пользу оффлайновых.

Бедные покупают в кредит Айфон, богатые отказываются от смартфонов. Бедные стараются сделать так, чтобы их дети умели пользоваться компьютерами, богатые предлагают своим наследникам частные школы, где обучение строится на общении между людьми. Жизнь, проведенная перед экраном, теперь есть признак вашей неуспешности в жизни.

В этом моменте Боулерз сбивается на довольно спорные утверждения о том, что взросление с гаджетами вредит когнитивному развитию детей и утверждает, что на стороне IT-корпораций в этой дискуссии выступают многочисленные недобросовестные психологи.

Но когда она описывает 68-летнего пенсионера, живущего на прожиточный минимум, главным собеседником в жизни которого стал нарисованный на планшет кот по имени Sox, текст в целом воспринимается как чрезвычайно убедительный. Нарисованного кота для присмотра за пожилыми людьми придумал 31-летний бизнесмен, сотрудники его стартапа работают из Филиппин.

Если о том, что вы умираете, вам сообщит компьютерная программа, это значит, что вы умираете как бедняк в цифровой экономике.

https://www.nytimes.com/2019/03/23/sunday-review/human-contact-luxury-screens.html

​​Французская полиция задержала банду топливных хакеров.

Пятеро ранее судимых мужчин подъезжали к небольшим заправкам ночью, разблокировали насосы с помощью специального дистанционного пульта, купленного в интернете, сливали топливо и затем продавали его со скидкой через чаты в соцсетях. Таким образом они украли 120 000 литров бензина и дизтоплива, выручив на этом 150 000 евро. Высокие цены на бензин недавно стали одной из причин гражданских протестов во Франции, так что топливо по выгодным ценам раскупали быстро.

Интересный факт: хакнуть с помощью пульта удавалось только те заправки, администраторы которых не меняли стандартный пароль на насосах — "0000".

У Airbnb есть проблема — скрытые камеры

The Atlantic пишет о пользователях, которые сняли жильё через Airbnb, а потом обнаружили в нём камеры видеонаблюдения. Оказалось, что Airbnb нормально относится к такой практике, если камеры видно на фотографиях жилья на сайте. Мол, камеры же не скрытые, вы сами видели, что снимали.

Даже обнаружив в арендованном жилье скрытую камеру, максимум, на что вы можете рассчитывать — возврат денег, новое жильё за счет сервиса и бан владельца. Кто и как долго вас снимал, что попало на видео, кто будет его смотреть и не стали вы уже звездой платных форумов вуайеристов — все эти вопросы останутся без ответа.

Один американец посреди ночи обнаружил в квартире камеры наблюдения, вынул из них карты памяти и в ужасе сбежал оттуда. И сам же пострадал — несмотря на все попытки объяснить ситуацию полиции, камеры принадлежали владельцу квартиры. Мало ли какими он там сервисами пользовался в интернете — его квартира, что хочет то и устанавливает там.

Как тут не вспомнить историю про вуайериста, который открыл свой мотель и тридцать лет наблюдал за частной жизнью постояльцев. Кстати, Netflix настойчиво рекомендует мне фильм по этой истории.

Почему YouTube втирает нам дичь? Потому что это выгодно.

На YouTube приходится 37% всего мобильного интернет-трафика. 70% просмотров приходится на видео из рекомендаций. Фактически, рекомендательный алгоритм YouTube отвечает за четверть всего мобильного трафика в интернете.

Как именно он работает, до конца не знают даже его разработчики. Рекомендации подбираются с помощью нейросетей и зависят от предыдущих просмотров пользователя. Со временем алгоритмы показывают пользователю всё более популярные и длинные видео. Логично — чем больше времени пользователь проводит за просмотром роликов, тем больше рекламы ему покажет YouTube. А больше рекламы — больше денег для компании Google.

Некоторые производители контента смекнули, как на этом можно заработать. Например, генерировать безумные мультики в стиле "Свинки Пеппы", оптимизируя их названия для рекомендательного алгоритма YouTube. Просмотры крутятся, малыши смотрят мультики, авторы схемы зарабатывают — и только родители иногда обнаруживают, что мультики на самом-то деле совсем не детские, а иногда очень даже чернушные.

Со взрослыми видео тоже есть проблема. YouTube неоднократно обвиняли в том, что платформа помогает конспирологам и экстремистам распространять свои идеи, промотируя их ролики через рекомендации. Например, первое же видео по запросу про Федеральный резерв США затягивает вас в кроличью дыру конспирологии с рабством, заговором марксистов и иллюминатами. 30 из 30 участников съезда адептов плоской Земли признались, что впервые узнали об этой теории благодаря роликам на YouTube.

И из этой ситуации, кажется, нет выхода. Смотрите сами.

Разработчики YouTube настраивают его рекомендательный алгоритм так, чтобы пользователи проводили на сайте побольше времени.

Алгоритм анализирует поведение миллионов пользователей, видит, что вот этот свежий ролик про Нибиру хорошо собирает просмотры и начинает подсовывать его пользователям, которым он может понравиться.

Пользователи открывают ролик с кричащим заголовком, кто-то недосматривает, а кто-то смотрит ещё и несколько похожих. Благо, автовоспроизведение включено по умолчанию — разработчики Google знают толк в dark patterns. И вот в рекомендациях уже не только Нибиру, но и иллюминаты, Ротшильды и вся мировая закулиса.

Эта схема выгодна всем: YouTube зарабатывает деньги, пользователи получают непрерывный поток жвачки, производители роликов распространяют свои идеи и зарабатывают на монетизации.

Так будет продолжаться, пока Google не настучат по голове — например, крупные рекламодатели, которые ранее уже добились того, что видео с насилием нельзя монетизировать. А до тех пор расчлененка со свинкой Пеппой и страшная правда про иллюминатов будет бесплатно получать миллионы новых зрителей от алгоритма, который управляет четвертью мобильного трафика в мире.

Пока аналитики разбирают стратегию Apple, британские геологи исследуют состав смартфонов. В ходе эксперимента ученые перемололи в блендере iPhone 4S (без аккумулятора). Полученный в процессе порошок смешали с пероксидом натрия, подвергли воздействию высоких температур, растворили в кислоте и получили состав, который уже можно было изучать с помощью масс-спектрометрии.
Оказалось, что в состав одного айфона входит 33 грамма железа, 6 грамм меди, 2,7 грамм никеля и 0,7 грамм олова. Геологи также нашли компоненты вольфрама, кобальта, золота и серебра.
Вывод - на производство одного айфона старого поколения уходит 10-15 килограмм руды. Если учесть, что в год компании по всему миру выпускают более 1,4 млрд смартфонов, масштабы, конечно, поражают.
Только непонятно, почему ученые выбрали именно модель 4S, которую уже сняли с производства. Особенно если учесть, что Apple неоднократно меняла материалы, из которых изготавливали корпуса последующих моделей. https://www.youtube.com/watch?v=bhuWmcDT05Q

Интересные цифры — на чём заработали в 2018 году Apple, Google, Microsoft, Amazon и Facebook.

98,5% выручки Facebook — онлайн-реклама.
У Google немного меньше — 85%.
У Microsoft самый диверсифицированный бизнес — на Office, Azure и Windows приходится 28%, 24% и 18% выручки соответственно.
Главная статья выручки Apple (63%) — продажи iPhone.

Пользователь Twitter опубликовал видеоролик, в котором показал, как может выглядеть доставка товаров Amazon в ближайшем будущем. На видео дирижабль с логотипом компании сбрасывает партию дронов-курьеров, несущих посылки, после чего они разлетаются по адресам.
Эту технологию Amazon описала в патенте 2016 года, но о ее разработке пока ничего не известно.
В Twitter не все поняли, что это компьютерная графика. Одни тут же назвали проект воплощением антиутопии и духа позднего капитализма, а другие отметили, что наконец-то кто-то создал по-настоящему футуристичный продукт. “Отличный” сценарий описал писатель-фантаст Чак Вендиг: “This blimp will one day disgorge these drones over your house. And from there, they will hunt you wherever you go. You will buy from them. Or you will die by their whirring rotors, turned into a protein shake, or jewelry, or simple code”.

Новые устройства порождают новые привычки. Мы не снимаем беспроводные наушники, читаем уведомления на смарт-часах и общаемся стикерами. Но как новые цифровые привычки сочетаются с устоявшимися социальными правилами? Кого-то может оскорбить собеседник, не снимающий наушники, или поглядывающий на экран умных часов. Обязательно ли дружить с коллегами в соцсетях? Уместны ли стикеры в рабочей переписке? Убирать ли телефоны во время ужина? Вот неплохой текст с попыткой ответить на вопросы цифрового этикета: http://www.sobaka.ru/lifestyle/gadgets/79109

Главное правило, как мне кажется, состоит в том, что универсальных ответов нет. В любой ситуации важно чувствовать контекст. Грубые люди, которые плохо чувствуют чужие эмоции, обижают других своим некорректным поведением в интернете и в офлайне. Не зря все говорят про эмоциональный интеллект — без него в прекрасном технологическом будущем будет сложно.