Недавно разработчики Google Translate сильно улучшили качество перевода с помощью нейросетей. Для технооптимистов это стало поводом похоронить очередную профессию - мол, скоро переводчики будут не нужны, программы будут переводить тексты не хуже людей. Но не всё так просто.

Известный учёный и писатель Дуглас Хофштадтер в своём эссе на Atlantic указывает на слабые места машинного перевода. Текст для машины - просто набор слов и знаков. Компьютер не может понимать текст, слова в машине не преобразуются в идеи и образы. Вспомните мысленный эксперимент с китайской комнатой. Машинный переводчик - это как раз такая китайская комната.

Нейросети не спасают ситуацию. Даже с ними машинный перевод - это просто отображение статистических закономерностей и фактов, вроде «чаще всего фраза Х в языке 1 переводится на язык 2 как Y». Для многих случаев этого достаточно - с помощью Google Translate я читаю в интернете статьи на языках, которых не знаю, и это действительно похоже на магию. Но настоящий перевод - это не просто статистический анализ слов, это пересказывание мыслей и идей на другом языке.

Хофштадтер показывает, как хваленый нейросетевой Google Translate не справляется с простыми предложениями - путает местоимения, не понимает редко употребляемые выражения, не чувствует контекст. Для идеального машинного перевода нам рано или поздно придётся научить машину понимать текст, и это, по мнению Хофштадтера, один из главных вызовов, которые стоят перед разработчиками переводчиков. Текст очень хорошо написан, рекомендую потратить полчаса своего времени и прочитать его.

Хороший пост в тему: разработчик Яндекса рассказывает о проблемах машинного перевода

Как Google Translate перевели на новый уровень с помощью нейросетей

Большой текст с историей машинного перевода

Иногда пишу здесь про разные хитрые взломы, но сейчас - про очень простой фрод. Злоумышленники опубликовали на Google Play фальшивое приложение, якобы работающее с банкингом пяти самых популярных украинских банков. При входе приложение собирало пароли от банкинга и данные карт пользователей с CVV. С помощью этих данных злоумышленники потом выводили деньги с карт пользователей.

За две недели приложение скачали 6 тысяч раз, преступники успели собрать 5500 паролей и данные 1200 банковских карт. Сколько денег вывели с карт, неизвестно. Учитывая простоту приложения, его разработка наверняка обошлась недорого, так что скорее всего афера окупилась. Подробнее здесь.

Не передавайте сторонним лицам и приложениям свои банковские пароли и данные карт. И расскажите об этом своим друзьям, которые не очень хорошо разбираются в таких вещах.

Красивый концепт: пользователь проектирует объекты в 3D-редакторе в дополненной реальности, а 3D-принтер с роботизированной рукой сразу печатает спроектированное. Посмотрите! 💖

https://youtu.be/K_wWuYD1Fkg

Непростая работа деревенского учителя информатики в Гане.

Интересный тред с комментариями от людей, которые учились в таких школах: https://redd.it/7yoogw

Журнал MIT Technology Review опубликовал традиционный ежегодный список из 10 прорывных технологий. Сокращённое содержание:

3D-печать по металлу
Металлические 3D-принтеры - дорогие устройства, но представьте себе, что вам не нужен завод, чтобы собрать автомобиль - все детали можно напечатать на нескольких принтерах.

Искусственные эмбрионы
Биологи научились выращивать эмбрионы мышей из одних стволовых клеток - без спермы и яйцеклетки. На очереди - человеческие эмбрионы. Звучит зловеще!

Сенсорный город
Район Торонто напичкают всевозможными сенсорами и будут собирать данные о всём - загрязнение воздуха, уровень шума, активности населения и т.д.

Облачный ИИ
Благодаря облачным решениям от Amazon, Google и Microsoft любой может за разумные деньги получить доступ к мощностям и софту для машинного обучения. Демократизация технологий ускоряет прогресс, и это хорошо.

Соревнующиеся нейросети (GAN)
Архитектура нейросетей, позволяющая генерировать фотографии несуществующих людей и картины, неотличимые от настоящих. Подробно писал об этом, почитайте.

Наушники для перевода на лету
Устройство из фантастических фильмов уже можно купить всего за $160 - ищите в Google "Pixel Buds".

Экологически чистый природный газ
Углекислый газ, который выделяется при сгорании природного газа, можно использовать для производства энергии, цемента, пластмасс и пр.

Онлайн-приватность
Анонимная криптовалюта Zcach использует технологию zero-knowledge proof, позволяющую потверждать свойства данных, не раскрывая самих данных.

Гадание по ДНК
Генетические тесты, указывающие на склонность к определенным заболеваниям

Моделирование молекул
В IBM создали маленький квантовый компьютер (7 кубит) и смоделировали поведение электронов в молекуле из трёх атомов.

Прошлогодний список прорывных технологий

Цикл Гартнера 1995 года. Кажется, с тех пор виртуальная реальность переместилась куда-то назад.

Про нейросети часто говорят, что они "имитируют работу мозга", но это большое преувеличение. Да, информация передаётся между слоями нейросети подобно сигналу между нейронами в мозгу. Но даже самые сложные нейросети на порядки проще самых простых биологических мозгов. Вот познавательное исследование - учёные разобрали, как работает обонятельная система бражника (обычный серый мотыль) и смоделировали на её основе нейросеть. А в голове у мотыля непростая система: 30 тысяч химических рецепторов улавливают запахи, затем сигнал передаётся в антенную долю, где 60 разных клубочков отвечают за разные запахи. Дальше код уловленного запаха передаётся в грибовидное тело (это такие парные структуры в мозгу насекомых, состоящие из нескольких слоёв нейронов), где 4000 специальных клеток перекодируют запахи в воспоминания. На финальном уровне несколько десятков внешних нейронов интерпретируют полученные сигналы в действия, к примеру "лететь вверх".

Эта система сильно отличается от компьютерных нейросетей: к примеру, антенная доля кодирует сигнал с низким количеством параметров, а следующий уровень, грибовидное тело - уже с высоким. В нейросетях слои обычно имеют схожее количество измерений. А ещё успешное распознавание запаха приводит к выделению гормона октопамина, который помогает закреплять полезную информацию. В нейросетях всё по-другому - там связи между слоями пошагово корректируются, пока не будет получен правильный результат.

На смоделированной нейросети учёные увидели много интересного: как сигнал очищается от шума с увеличением разрядности между слоями, как обучение без октопамина замедляется и становится практически бесполезным. Мотыль обучается очень быстро - для того чтобы правильно запомнить нужный запах, ему достаточно нескольких итераций, тогда как обучение искусственных нейросетей требует очень много времени. Исследователи планируют использовать подсмотренные у природы механизмы для того чтобы обучать нейросети быстрее и эффективнее. Мне кажется, такие заимствования у природы - это очень круто!

https://www.technologyreview.com/s/610278/why-even-a-moths-brain-is-smarter-than-an-ai/

Забавное видео: арт-критик комментирует творчество нейросетей. Критикует, находит неожиданные отсылки, но не признаёт это искусством.

5-минутное видео от Vox о хитром дизайне смартфонов и приложений, который заставляет нас тупить в телефоне часами. Три совета по сокращению траты времени:
1. Отключить лишние уведомления
2. Переключить экран в черно-белый режим
3. Убрать с первого экрана лишние приложения

Много читал про черно-белый экран, несколько друзей в ленте даже повторили этот эксперимент. Решил тоже попробовать. Пока главное впечатление - дезориентация. Все-таки при пользовании смартфоном зрение сильно ориентируется на цветные иконки, а в ч/б всё находишь с задержкой. Погоняю так хотя бы пару дней, потом расскажу вам. Большой текст по теме.

Познавательный текст про китайского Большого брата. В мятежном уйгурском регионе Синьцзян введён футуристический полицейский режим: полицейские участки через каждые 500 метров, десятки тысяч патрульных, огромное количество камер с распознаванием лиц. А ещё у жителей собирают образцы ДНК для наибольшей в мире базы генетического материала. Преступников находят даже по анализам ДНК их родственников. Реальный киберпанк.

+ Большой текст Buzzfeed на эту же тему: This Is What A 21st-Century Police State Really Looks Like

Ваше чтение на вечер: конспект книги о зависимости от технологий. Отличный повод отвлечься от листания ленты и залипнуть в большой текст.

Кстати, Стив Джобс, как и многие другие разработчики технологий, ограничивал своих детей в обращении с компьютерной техникой. Как гласит поговорка, never get high on your own supply.

​​Есть такая шутка про Википедию: если всегда кликать на первую ссылку в статье, то с какой бы статьи вы ни начали, рано или поздно вы прийдёте на страницу "Философия". Можете попробовать.

А вот забавный сайт, который показывает кратчайший путь по ссылкам между двумя заданными статьями. Покликайте, увидите много неожиданных связей. Например, от Большого взрыва до Telegram - всего две ссылки. Короче, я залип.

via Hacker News

Создатель догекоина Джексон Палмер разочаровался в криптовалютах:
— Догекоин возник как пародия. Он высмеивал лавину «альткоинов», альтернативных криптовалют, возникших по мере роста популярности биткоина. Благодаря публикациям в СМИ и постам на «Реддите», догекоин стал недорогим способом попробовать криптовалюту. Сообщество состояло из идеалистов, искренне веривших в децентрализацию экономики.
— Капитализация догекоина превысила 2 миллиарда долларов. Венчурные фонды вкладываются в «блокчейн для Х», а биткоин торгуется на Уолл-стрит. Мошенники и спекулянты отвлекают сообщество от идей «новой экономики». Палмер считает, что его шутка зашла слишком далеко, но надеется, что криптопузырь не помешают развитию самой технологии.

5 минут на чтение

Устройство для аналогового дебаггинга. Лучший гаджет, что я видел за последнее время!

via fb.com/iwantthatvideos

Недавно в интернете появился софт, позволяющий создавать реалистичные видеофейки с помощью нейросетей. Довольно быстро случилось то, что и должно было случиться: люди начали накладывать на порноролики лица знаменитостей и своих знакомых. Pornhub и Reddit даже запретили публикацию подобных видео - фактически это non-consensual porn (порно, опубликованное без согласия того, кто на видео). Медиа отреагировали на новую технологию волной моральной паники: мол, мы входим в новую эру фейков, когда с каждым можно быстро склепать порноролик, любое видеодоказательство теперь можно будет подделать, верить ничему нельзя.

Журналист New York Times Кевин Руз решил проверить, насколько обоснованы такие опасения. Вместе с коллегой-программистом он попробовал перенести с помощью FakeApp своё лицо на видео с разными голливудскими звёздами (без порно). Что из этого получилось, смотрите по ссылке. Спойлер: без сноровки хорошее видео не получается, но опытный создатель фейков может очень хорошо подогнать лицо под видео. Надо только много фотографий обоих людей и вычислительные мощности для работы нейросети.

Ранее Кевин Руз проводил другой интересный эксперимент: он заказал нескольким хакерам взломать самого себя. Получилось интересно!

И ещё про нейросетевые фейки:

Управление мимикой Трампа на видео на лету

Алгоритм генерирует видео с Обамой на основе аудио

Что такое генеративные нейросети и как нам подготовиться к новому поколению фейков

Японские учёные разработали интересную технологию. Скоростной проектор сменяет кадры тысячу раз в секунду, а система трекинга из 10 камер отслеживает изменения поверхности, на которую проецируется изображение, и картинка на проекторе подстраивается, двигается вместе с поверхностью.

В итоге получается что-то, совсем непохожее на картинку с проектора - необычные текстуры, объемные поверхности, в общем - красивый обман зрения. Сложно описывать это словами, смотрите сами.

Если ваша блокчейн-конференция не похожа как минимум на это, даже не пытайтесь меня приглашать.

В Нью-Йорке прошла конференция по блокчейну, на которой посетителям подавали блюда и напитки с экстрактом марихуаны. Не все посетители были предупреждены об этом. Люди заплатили по $500, чтобы потусоваться с потенциальными партнерами и инвесторами, пообедали и поймали сильный трип (эффект от пищевых продуктов с марихуаной намного сильнее и дольше, чем от её курения). Кому-то зашло нормально, кому-то стало плохо, некоторые спикеры даже не смогли выступить. Отравленные наркотиком криптоэнтузиасты негодуют, организаторы не отвечают на жалобы, а Wired ловит трафик на этой смешной истории.

Кажется, крипто-бро на Ламбо из Долины совсем уже тронулись со своим микродозингом и биохакингом.

Внутри Google есть подразделение Magenta, которое работает над применениями нейросетей в творчестве. Вы могли встречать в интернете примеры их работ, например странную машинную музыку. Один из проектов Magenta - NSynth, нейросетевой синтезатор. С его помощью можно создавать новые звуки (более 100 000), хитрым образом соединяя звуковые характеристики разных инструментов и эффектов. Теперь для него выпустили физический интерфейс (пока прототип, не коммерческое решение), и выглядит это очень интересно. Проект опенсорсный, так что если вы программируете и делаете музыку - дерзайте. Даже если получится так себе, сможете сказать: "Зато мои треки созданы с помощью искусственного интеллекта!" 🤖

Мат-рок, блэк метал и колыбельная, написанные нейросетями

Поп-клип с машинной музыкой

Стартап генерирует фоновую музыку для рекламы

И ещё о машинной музыке