😒 Алгоритмическая предвзятость — серьезная проблема ИИ

Несправедливые результаты, которые систематически создает ИИ, могут приводить к дискриминации некоторых людей или групп.

Дело в том, что ИИ обучает человек с собственной точкой зрения и предубеждениями. Таким образом, кроме ошибок в обучающих данных, системы ИИ могут иметь предвзятость человека.

Так, системы распознавания лиц хуже идентифицируют людей с темным цветом кожи, что приводит к арестам невиновных. Еще один пример дискриминации — алгоритм от Amazon для поиска кандидатов на работу. Обучили его на резюме уже нанятых сотрудников (мужчин в IT-индустрии больше 90%). Поэтому ИИ выбирал преимущественно сильный пол.

Какими еще способами ИИ распространяет неравенство и меняет спрос на товары и услуги, — в материале Научно-технического центра ГРЧЦ.

✅ Отдохнули в выходные? 🙃 Тогда пора вливаться в рабочий процесс. Предлагаем сделать это с дайджеста СМИ по теме регулирования высоких технологий

⏺ Роскомнадзор впервые включил видеоигру в реестр распространителей информации

⏺ В Китае решили запретить буллинг несовершеннолетних в киберпространстве

⏺ В России запустят систему сканирования безопасности сетевых адресов

⏺ В Великобритании вступил в силу закон «О безопасном интернете»

⏺ Сенат США представил законопроект, который требует раскрывать информацию о материалах, созданных ИИ

⏺ Филиппины создадут киберкомандование для защиты своих IT-систем от кибератак

⏺ Верховный суд снял ограничения на контакты администрации Джо Байдена с цифровыми платформами

⏺ Власти Германии хотят заставить интернет-провайдеров блокировать доступ к сайтам для взрослых

⏺ Бразилия и Нигерия присоединились к Всемирной ассамблее конфиденциальности

⏺ В России создадут собственную базу данных учета географической принадлежности IP-адресов

⏺ Индия требует от компаний, занимающихся онлайн-играми, выплатить $12 млрд налогов

⏺ Япония начала антимонопольное расследование в отношении Google из-за доминирования компании на рынке поисковых систем

⏺ Правозащитники призвали правительство Австралии включить меры защиты шифрования в законы об онлайн-безопасности

⏺ Федеральная торговая комиссия США наймет детских психологов, чтобы они помогали в регулировании социальных сетей

#НТЦ_дайджест

📍 Ученые обманули ИИ и заставили его написать вредоносный код

Исследователи факультета компьютерных наук Университета Шеффилда продемонстрировали, что системы Text-to-SQL можно обманом заставить написать вредоносный код для использования в кибератаках. Вводя специфические вопросы, они заставили чат-боты украсть конфиденциальную информацию, подделать и уничтожить базы данных, провести DDoS-атаки.

Кто должен нести ответственность за создание противоправного контента искусственным интеллектом и можно ли научить ИИ распознавать неэтичные запросы? Спросили начальника отдела перспективных проектов Научно-технического центра ГРЧЦ Михаила Соколенко:

💬 Существует мнение, что ответственность за создание такого контента надо возложить на создателей платформ, но это лишено смысла, ведь мы не обвиняем создателя языка программирования, на котором написан вредоносный код. Создатели постоянно встраивают новые механизмы обеспечения безопасности, но главное, что следует понять — ИИ не умеет мыслить, поэтому не сможет увидеть подвоха в несвязанных на первый взгляд запросах. Пока мы не дошли до создания «сильного ИИ», человек всегда сможет найти способ обойти защиту.

💻 Врываемся в сокращенную рабочую неделю с подборкой главных новостей по теме регулирования высоких технологий

⏺ Российское Правительство поддержало идею штрафовать до ₽1 млн за спам-звонки

⏺ Великобритания создаст первый в мире институт безопасности искусственного интеллекта

⏺ Технологические компании заявили, что новый закон Великобритании о безопасности в интернете представляет риск для сквозного шифрования

⏺ Канада запретила использовать WeChat и приложения «Лаборатории Касперского» на правительственных устройствах

⏺ Страны G7 согласовали кодекс поведения для компаний-разработчиков ИИ

⏺ Техгиганты взяли на себя обязательство бороться с распространением детской порнографии, созданной ИИ

⏺ Китай заставит блогеров с более 500 тыс. подписчиков отображать свои реальные имена в социальных сетях

⏺ Продуктам Meta* запретили обработку персональных данных для поведенческой рекламы на территории стран ЕС, Исландии, Норвегии и Лихтенштейна

⏺ Китайский поисковик оштрафовали за непристойный контент

⏺ Apple проиграла суд в Великобритании по делу о некачественных товарах

⏺ 40 стран возьмут на себя обязательство не платить выкуп киберпреступникам, заявили в США

⏺ В Китае усилили меры по защите персональных данных в сфере автомобильной промышленности и такси

⏺ ООН создает консультативный орган по вопросам управления ИИ

*признана экстремистской организацией, деятельность запрещена в РФ

#НТЦ_дайджест

✈️ Тренды российской рекламы
 
2022 год стал для интернет-индустрии периодом новых вызовов, трудностей и возможностей. Ушли многие иностранные компании, что привело к сокращению рекламного инвентаря, технологий и инструментов. Однако освободилась ниша для российских рекламных площадок.

🔍В трендах: маркетплейсы, небольшие видео во «ВКонтакте» или «Яндекс.Дзен», Telegram, внедрение алгоритмов автоматизации и искусственного интеллекта.

🔍Наиболее популярные площадки размещения рекламы: Yandex.ru, 2gis.ru, Dzen.ru, ozon.ru.

🔍Среди сегментов отрасли с наибольшим бюджетированием уверенно лидируют оптовая и розничная торговля (24,4%), а также деятельность в области информации и связи (20,9%).

🔍Топ-5 компаний-рекламодателей с государственным участием: ПАО «Сбербанк», ООО «В контакте», ООО «Маркетплейс», ООО «Деливери клаб» и Банк ГПБ (АО).
 
🔍На текущий момент количество иноагентов, представленных в ЕРИР, составляет 30, из них 11 — рекламораспространители (объем бюджета на размещение — 75 млн руб).
 
Кроме того, продолжает усиливаться роль государства в рекламной индустрии: меры государственной поддержки, участие в качестве рекламодателя, изменения в законодательство в части необходимости маркировки рекламных креативов. Все это делает рынок более прозрачным и позволяет увеличить эффективность выявления запрещенной.

Подробнее — в обзоре Научно-технического центра ГРЧЦ.

✅ Рабочую неделю начинаем с дайджеста СМИ по теме регулирования высоких технологий 🤖

⏺ В России ужесточат ответственность за незаконную обработку персональных данных

⏺ Евросоюз установил новые правила для таргетированной рекламы

⏺ Американская ассоциация больниц подала в суд на администрацию Джо Байдена из-за запрета на использование веб-трекеров

⏺ Антимонопольный орган Великобритании получит новые юридические полномочия для борьбы с крупными технологическими компаниями

⏺ Крупнейшие IT-компании запустили программу Lantern для защиты детей в интернете

⏺ Российский суд оштрафовал американскую компанию по доставке посылок United Parcel Service за нарушение закона о хранении данных

⏺ Эфиопия одобрила законопроект о защите персональных данных

⏺ Министр образования Ирландии призвала родителей не покупать смартфоны детям младшего школьного возраста

⏺ Компания Epic Games подала еще один антимонопольный иск против Google

⏺ Закон ЕС об искусственном интеллекте послужит основой для разработки глобальных правил, заявил депутат Европарламента

⏺ Регулирующий орган Испании возбудил первое дело, связанное с рекламой криптоактивов

#НТЦ_дайджест

☁ Программное обеспечение как услуга (SaaS) — модель предоставления доступа к приложениям через браузер без установки ПО на компьютеры или корпоративные сети.

Этот сегмент IT-рынка динамично развивается за счет роста популярности удаленной работы, экономичности, доступности, снижения затрат на ИТ-инфраструктуру. Крупные компании по всему миру включают SaaS в стратегии цифровой трансформации своего бизнеса. 

Эксперты Научно-технического центра ГРЧЦ считают, что 2024 год несет в себе значительный потенциал для индустрии SaaS. Этому будет способствовать внедрение генеративного ИИ и разработка платформ SaaS с белой маркировкой (White Label). Такие платформы позволяют компаниям создавать современные программные решения, которые другие компании могут приобрести и представить как собственные.

Подробнее — в обзоре Научно-технического центра ГРЧЦ.

✅ Новая неделя — новая подборка новостей из сферы регулирования высоких технологий 🤓

⏺ В России планируют закрепить нормы об аутсорсинге ИТ-технологий

⏺ YouTube обяжет пользователей маркировать «реалистичный» контент, созданный искусственным интеллектом

⏺ Европейский парламент поддержал закон об улучшении доступа к данным и их использовании

⏺ Индия представила новый закон о саморегулировании вещательных компаний и потоковых сервисов

⏺ В США выпустили доклад о наступлении «новой эры законов о конфиденциальности»

⏺ Британская общественная организация подала жалобу на Google из-за маскировки IP-адресов пользователей Chrome

⏺ Microsoft временно ограничила сотрудникам доступ к ChatGPT из соображений безопасности

⏺ Непал запретит TikTok из-за его пагубного воздействия на общество

⏺ Правозащитники призвали Конгресс США не продлевать действие закона о слежке

⏺ В США технологические компании могут столкнуться с судебными исками в связи с формированием у молодежи зависимости от социальных сетей

⏺ Великобритания внесла изменения в законопроект о цифровых рынках, чтобы обеспечить более справедливую конкуренцию в технологической отрасли

⏺ WhatsApp* будет взимать плату за сохранение старых сообщений

*Принадлежит организации Meta*, признанной в РФ экстремистской

#НТЦ_дайджест

🔥 Объявляем старт Международного конкурса «Битва ИИ»!

Главный радиочастотный центр и Российское общество «Знание» при поддержке Роскомнадзора объявляют конкурс для команд-разработчиков систем искусственного интеллекта.

🤩 На конкурсе нужно решить задачи разного уровня с помощью ИИ. Их разработали эксперты Роскомнадзора, МГТУ им. Баумана, Фонда «Сколково», Фонда перспективных исследований и Ростелекома. Они же будут в составе жюри, которое выберет по три лучшие команды среди профессионалов и любителей.

Приглашаем к участию уже сложившиеся или вновь созданные команды от 3 до 6 человек старше 16 лет. Школьники, студенты, молодые специалисты, используйте возможность проявить себя, создать портфолио, пообщаться с экспертами и познакомиться с коллегами! Победители смогут пройти стажировку в Сколково и в Центре компетенций образования и акселерации Межгоспрограммы СНГ. 😮

Заявки принимаются до 12 декабря на сайте:

▶️ ai-battle.ru

Если у вас нет команды, регистрируйтесь как индивидуальный участник, и мы поможем присоединиться к уже сформированному коллективу.

Следите за ходом битвы в наших соцсетях 👉 подписаться

💻 Врываемся в новую рабочую неделю с подборкой главных новостей по теме регулирования высоких технологий

⏺ Индия намерена регулировать дипфейки из-за этических проблем, потенциально вызываемых технологией

⏺ Федеральная комиссия по связи США приняла новые правила для защиты потребителей от атак с подменой SIM-карт

⏺ Австралия сформирует группы быстрого реагирования на кибератаки в Тихоокеанском регионе

⏺ Apple подала судебный иск против Закона ЕС о цифровых рынках

⏺ Министерство обороны США запускает платформу для обучения сотрудников основам работы с ИИ

⏺ Надзорный орган Испании освободил Amazon, Booking.com и Tripadvisor от ответственности за распространение фальшивых отзывов на их платформах

⏺ Сенат США вызвал руководителей Discord, Snap и X в суд США для дачи показаний по делу об эксплуатации детей

⏺ Законодатели Массачусетса предлагают ограничить использование технологий распознавания лиц

⏺ Еврокомиссия предоставит европейским стартапам в области ИИ доступ к суперкомпьютерам для ускорения развития искусственного интеллекта

⏺ Законодатели ЕС разработают правила, обязывающие крупные технологические компании бороться с детской порнографией

⏺ TikTok пытается оспорить статус «привратника» в ЕС

#НТЦ_дайджест

🤔 Вопрос регулирования искусственного интеллекта стоит на повестке многих стран. О том, какое будущее есть у ИИ в плоскости российского законодательства, мы поговорили со Станиславом Махортовым, юристом, заместителем начальника отдела специальных проектов и академических программ Научно-технического центра ГРЧЦ.

💬 Регулирование ИИ в России. Не опаздываем ли мы в этом вопросе?

— Законодательство, которое позволяет регулировать искусственный интеллект, у нас есть давно. Соответствующие общие положения закреплены в четвертой части Гражданского кодекса и не требуют специальных норм. Так, искусственный интеллект, преимущественно, квалифицируется как программа для электронных вычислительных машин, изобретение или ноу-хау. То есть как результат интеллектуальной деятельности.

Об «опоздании» регулирования говорить не приходится, поскольку большинство развитых правовых систем мира также не регулируют искусственный интеллект специальным законодательством. Но с учетом стремительного развития технологий, очевидно, это временное явление и отечественным законодателям необходимо следить за развитием ситуации.

💬 Возможно ли в России введение уголовной ответственности за создание противоправного контента с помощью искусственного интеллекта?

— Она уже существует. В случаях, если такой контент нарушает уголовное законодательство, например, если ИИ генерирует детское порно. И методы его создания и распространения: при помощи ИИ или нет, здесь значения не имеют. Другое дело, кто будет нести уголовную ответственность в такой ситуации. Данный вопрос будет рассматриваться правоохранительными органами индивидуально в контексте каждого совершенного преступления и его обстоятельств.

🤓 Понедельник — не бездельник. Давайте читать подборку новостей по теме регулирования высоких технологий 👇

⏺ Владимир Путин поручил внести поправки в закон об экспериментальных правовых режимах в сфере цифровых инноваций

⏺ Правительство Великобритании предоставит полиции больше полномочий по сбору биометрических данных

⏺ Испанский YouTube-блогер подал в суд на Google за неправомерное увольнение

⏺ Пентагон опубликовал новую стратегию ведения информационной войны

⏺ Швейцария сообщила о разработке национального цифрового удостоверения личности, которое будет внедрено в 2026 году

⏺ Совет Европы принял новый закон о справедливом доступе к данным и их использовании

⏺ Премьер-министр Франции запретила министрам пользоваться WhatsApp, Telegram и Signal

⏺ Австралия внесет поправки в закон, регулирующий цифровые платежные системы

⏺ Канада и Google заключили соглашение о сохранении доступа к новостному контенту в результатах поиска

⏺ Поправки к закону о защите данных позволят создать инновационный режим защиты конфиденциальности в Великобритании и реализовать новые возможности после выхода страны из Европейского союза

⏺ Индия предупредила Facebook* и YouTube о необходимости обеспечить соблюдение правил по предотвращению распространения дипфейков

⏺ Вьетнам сделает биометрию радужной оболочки глаз обязательным требованием в пересмотренном законопроекте о цифровых удостоверениях личности

*Деятельность Meta (соцсети Facebook, Instagram) запрещена в России как экстремистская

#НТЦ_дайджест

❓ Как Научно-технический центр ГРЧЦ выявляет перспективные технологии

На III Конгрессе молодых ученых в «Сириусе» советник генерального директора Главного радиочастотного центра по научно-техническому развитию Евгения Рыжова рассказала, как предприятие определяет приоритеты научно-практических исследований:

1️⃣ Сначала анализируют спектр научных публикаций, патентов, прототипов, инвестиционных проектов.

2️⃣ На основе анализа и обсуждений с экспертами выделяют группы технологий, соответствующих интересам Службы по мониторингу и обеспечению безопасности интернет-среды.

3️⃣ Подробно разбирают, систематизируют и описывают ключевые кейсы в каждой группе.

4️⃣ Строят графическую модель — обзорную карту технологий, которая демонстрирует ландшафт разработки решений в разрезе кластеров, субтехнологий и степени зрелости этих решений.

5️⃣ Все собранные материалы берут за основу собственных разработок.

Благодаря таким методам анализа мы находим «слепые пятна» в технологиях, которые нам не очевидны, но они активно развиваются в мире. Например, когда мы изучали технологии дипфейков, нашли большое число исследований по информационным каскадам, журналистской этике, эхо-камерам, ложным воспоминаниям.

✅ Рабочую неделю начинаем с дайджеста СМИ по теме регулирования высоких технологий 🤖

⏺ В России впервые оштрафовали за видеоролик с дипфейком

⏺ Власти бразильского города Порту-Алегри приняли закон, написанный ИИ

⏺ ЕС согласовал правила защиты умных устройств от киберугроз

⏺ Антимонопольный орган Великобритании выиграл апелляцию по делу против Apple

⏺ Малайзия внедряет национальное цифровое удостоверение личности и правила регистрации биометрических данных

⏺ Технологические компании призвали Верховный суд отклонить закон Флориды о социальных сетях

⏺ Госдума увеличила штрафы за нарушения при обработке персональных данных

⏺ На Ямайке вступил в силу закон о защите данных

⏺ Twitch прекратит свою деятельность в Южной Корее из-за высоких затрат

⏺ Страны ЕС достигли соглашения по правилам регулирования ChatGPT и других систем ИИ

⏺ В России рассматривают запрет треш-стримов

⏺ Административно-бюджетное управление США сообщило о создании реестра Интернета вещей

⏺ Штат Массачусетс представил законопроект, ограничивающий использование полицией технологии распознавания лиц

#НТЦ_дайджест

Так-так-так...

🤨 Почему-то не видим твоей заявки на Битву искусственных интеллектов. Хотя остался 1️⃣ день!

👉 Торопитесь, нужно не только зарегистрироваться, но и отправить решение отборочного задания.

Участники, которые прошли отбор в финал, будут решать задачи разного уровня с помощью ИИ. Победителей выберут эксперты Роскомнадзора, МГТУ им. Баумана, Фонда «Сколково», Фонда перспективных исследований и Ростелекома.

⚡️Участвовать в Битве⚡️

Победители получат персональные экспертные консультации по ИИ, смогут пройти трекинг-сессии по проектам и стажировки у партнеров конкурса.

👉 До 23:59 (мск) 12 декабря принимаем заявки от команд до 6 человек старше 16 лет. Школьники, студенты, молодые специалисты, используйте возможность проявить себя, создать портфолио и пообщаться с экспертами!

Если у вас нет команды, регистрируйтесь как индивидуальный участник, и мы поможем присоединиться к уже сформированному коллективу.

✅ Регулирование в сфере IT. Что нового за неделю 👇

⏺ Владимир Путин заявил, что если нельзя предотвратить развитие ИИ, его нужно возглавить

⏺ Италия ужесточает правила для платформ обмена видео в целях защиты несовершеннолетних

⏺ Индонезия подготовила этические принципы для разработчиков ИИ

⏺ Новый закон ЕС об искусственном интеллекте может помешать развитию инноваций, — Эмманюэль Макрон

⏺ Google проиграла антимонопольное дело против создателей видеоигры Fortnite

⏺ Владимир Путин подписал закон, устанавливающий штрафы до ₽1 млн за нарушения при обороте биометрических персональных данных

⏺ Управление по вопросам информации Великобритании оштрафовало Минобороны за утечку данных граждан Афганистана

⏺ Европарламент призвал принять новые правила для борьбы с цифровой зависимостью

⏺ Италия оштрафовала YouTube и Twitch за нарушение запрета на рекламу азартных игр

⏺ Meta* использовала книги, защищенные авторским правом, для обучения ИИ

⏺ Апелляционный суд Великобритании потребовал внести изменения в положения Закона о защите данных об обработке информации о мигрантах

⏺ Правительства скандинавских стран объединяют усилия для защиты персональных данных при их трансграничной передаче

*Признана экстремистской и запрещена в России

#НТЦ_дайджест