Чтобы создавать персональные ИИ-решения, нужно знать обо всех рисках применения технологий, в которых используются речь, изображения и видео пользователей. Алексей Зуев, ведущий аналитик команды ИИ-сервисов, рассказал о том, какие новые возможности создают дипфейки, и когда их применение может привести к негативным последствиям.

Использование технологии Deepfake вызывает много вопросов в области этики и конфиденциальности. Последствия злоупотребления могут быть разрушительными как для отдельных людей, так и для общества в целом. К примеру:

⚫️Манипулирование общественным мнением в интересах мошенников.
⚫️Создание поддельных видео, которые могут быть использованы для мошенничества.
⚫️Генерация и распространение ложной информации.
⚫️Подделка видео и изображений в целях материального обогащения.
⚫️Использование лиц знаменитостей без их согласия в фильмах 18+.
⚫️Кибербуллинг и домогательства, создание оскорбительных, унижающих или компрометирующих материалов.

Этим можно объяснить фокус и внимание регуляторов всех стран к генеративному ИИ и связанных с технологией рисков.

Так, в Китае в этом году вступили в силу два нормативных документа (первый и второй), направленных на регулирование дипфейков и генеративного ИИ, которые призваны обеспечить безопасное развитие технологий в соответствии с общенациональными принципами.

Правила требуют от компаний, создающих контент с использованием дипфейков или контента, который может быть воспринят как реальный, включая синтез человеческого голоса, синтез изображения лица и т.д., обеспечивать точность своих моделей и алгоритмов, обеспечивать безопасность собираемых ими данных, раскрывать практики управления алгоритмами, проводить аудиты сгенерированного контента, а также промптов для его создания на предмет соответствия национальным ценностям.

Использование дипфейков запрещено при производстве и публикации новостной информации. В остальных случаях их публикация требует оценки со стороны регуляторов. Дипфейки, получившие одобрение на их публикацию и распространение, должны маркироваться специальными «водяными знаками» для исключения возможности введения общественности в заблуждение.

Статья Алексея полностью: https://telegra.ph/Deepfake-horoshij-plohoj-zloj-12-15

Новогодние подарки от Future Crew 🎅

Готовимся к праздникам и запускаем серию из 5 конкурсов с загадками. Чтобы их отгадать, понадобятся логика, ум и сообразительность. А чтобы написать ответ раньше всех — ещё и скорость. Победители получат набор мерча от Future Crew!

Что входит в праздничный зимний набор?
❄️ Гирлянда
❄️ Термокружка
❄️ Пауэрбанк
❄️ Носки
❄️ Сумка-шоппер, чтобы всё это сложить

Первую загадку ждите уже скоро 🐉

Полные правила конкурса здесь, есть несколько важных моментов ☝

Поздравляем первого победителя 🎅

Спасибо всем, кто принял участие в нашем новогоднем конкурсе! Пока мы опубликовали только первую загадку из пяти. Впереди — новый розыгрыш 🎉

Победитель этого раунда — @alex. Он первым написал правильный ответ (Богдан) на нашу задачу и получает набор мерча от Future Crew!

Просим победителя связаться с нами по почте info@agenda.media (в личку тоже напишем 👌).

P.S. Полные правила игры здесь.

Продолжаем проверять логику и дарить новогодний мерч Future Crew ☃️

Сегодня предлагаем вам почувствовать себя хакерами и взломать замок. Подберите трёхзначный код на основе данных, указанных на картинке.

Первый, кто напишет верный код в комментариях, получит приз — набор мерча 🎁

P.S. Полные правила новогодней игры здесь.

Открытая статистика Future Crew

Возможно, вы уже заходили на futurecrew.ru, чтобы прочитать о наших продуктах и команде. Мы не можем знать точно, были ли это лично вы, но о том, какие разделы сайта популярны больше и какие меньше, мы знаем благодаря нашей обобщённой статистике, она прозрачна. Кирилл Малков, директор по AI & BigData Future Crew, рассказал о том, что можно узнать на этой странице, что нельзя и почему.

Нам важно понимать: как люди попадают на наш сайт, кому что интересно и что неинтересно, не вызывает ли сложностей заполнение форм. При этом, как мы писали ранее, для нас принципиально важно, чтобы аналитика была этичной, не собирала данные, по которым можно идентифицировать конкретного человека, и не передавала никакую информацию о действиях людей на сайте посторонним компаниям, как это бывает при внедрении популярных бесплатных инструментов аналитики. (Как мы знаем, бесплатным ничего не бывает).

С точки зрения управления данными максимально неэтично знать о человеке всё: движения и остановки курсора, связку IP-адреса и почты, которую он оставляет при заполнении форм на сайте. Это полное отрицание приватности. Такой информации в нашей статистике нет.

Мы используем open source решение Umami, оно размещено на наших ресурсах, и никому кроме нас данные не передаются. Здесь мы рассказали подробнее об этом инструменте и о других, которые рассматривали.

Что включает в себя статистика:
🔘Количество просмотров страниц
🔘Среднее время визита
🔘Самые популярные страницы
🔘Источники, откуда пришли посетители
🔘Страны, устройства и ОС (в обобщённом виде)

Чтобы показать, что мы заботимся о ваших данных, мы разработали страницу со статистикой. Здесь вы можете увидеть ровно то же самое, что мы отрисовываем у себя во внутренних дашбордах. Разница только в том, что у нас данные обновляются динамично и видны показатели в любой момент, а на сайт эта информация выгружается раз в 24 часа. Больше никаких манипуляций. И если что, то вы можете всегда проверить это на собственном сайте.

С любовью к данным, команда Future Crew ❤️

P.S. Всегда приятно получать подарки, но особенно ценно – когда это не просто подарок, а профессиональная награда. В начале декабря организаторы крупнейшей российской премии Tagline Awards 2023 озвучили победителей: Future Crew взял бронзу в номинации «лучший корпоративный сайт». Здесь мы рассказали о награде подробнее, а на сайте премии можно узнать о других участниках.