ЕС готовится ограничить доступ детей к социальным сетям

Председатель Европейской комиссии Урсула фон дер Ляйен представила выводы экспертной группы по безопасности детей в интернете.
👀 Что вызывает обеспокоенность:
▪️ подростки в Европе проводят перед экранами 4–6 часов ежедневно;
▪️почти 60% детей сталкивались с эмоциональными или психосоциальными проблемами, связанными с онлайн-средой;
▪️среди последствий называют тревожность, депрессию, кибербуллинг, нарушения сна и контакт с вредным контентом.

Комиссия обозначила три ключевых направления регулирования:
▪️ Ответственность платформ. Социальные сети должны доказывать безопасность своих сервисов по принципу safety by design. Особое внимание будет уделено алгоритмам, вызывающим зависимость, «тёмным паттернам», вредному контенту и нежелательным контактам. Требования DSA в действии.
▪️ Возрастная верификация. ЕС продолжает внедрение механизмов для подтверждения возраста, чтобы ограничить доступ детей к неподходящим сервисам.
▪️ Минимальный возраст для социальных сетей.
После изучения доклада Комиссия намерена представить законодательное предложение уже после летних каникул.
Если инициатива будет реализована, речь пойдёт не просто о новых обязанностях платформ. Это может стать одним из крупнейших изменений европейского регулирования социальных сетей после Закона о цифровых услугах.

Из пресс-релиза: "....Хотя в конечном итоге именно родители решают, когда дети получат свои первые смартфоны, у нас уже есть консенсус относительно того, что необходимо установить возраст, с которого дети могут начать пользоваться социальными сетями. Нынешнее положение дел, мир, в котором мы продолжаем предоставлять крупным технологическим компаниям неограниченный доступ к нашим детям, лишь обречет еще одно поколение на еще больший психологический вред, зависимость и страдания....."

“Platforms should grow with the child. […] Any recommender system serving a minor must be optimised for that сhild’s well-being, not for engagement.” — GABRIELE BATTIMELLI, BIK+ AMBASSADOR FROM ITALY

📌 Survey: EU challenges and priorities,
Report: Child safety online,
Report:Mental health of young people in a digital era

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Еврокомиссия и AI Board признали Кодекс прозрачности эффективным способом соблюдения AI Act

Европейская комиссия и Совет по ИИ (AI Board) признали "Code of Practice on Transparency of AI-Generated Content", эффективным инструментом для соблюдения требований статьи 50 AI Act.
Кодекс остается добровольным, однако его применение позволит поставщикам ИИ использовать предусмотренные в нем меры в качестве способа продемонстрировать соответствие требованиям AI Act по маркировке и обнаружению ИИ-контента, включая дипфейки.
Регуляторы фактически подтвердили, что следование Кодексу рассматривается как надежный путь к выполнению обязательств по прозрачности, которые начинают применяться с 2 августа 2026 года.

Разбор был в постах здесь.

И в файле пример напоминания от Голландского управление по защите данных.
1️⃣Информирование о общении с ИИ: Поставщики систем, которые напрямую взаимодействуют с людьми (например, чат-боты), обязаны четко давать понять, что собеседник не является человеком.
2️⃣Предупреждение о распознавании эмоций и биометрии: Пользователи систем, классифицирующих людей по биометрическим данным или определяющих их эмоции и намерения, обязаны информировать граждан о том, что они подвергаются такому анализу.
3️⃣Маркировка ИИ-контента: Разработчики систем, генерирующих текст, аудио, фото или видео, должны внедрять механизмы распознаваемой маркировки (водяные знаки, метаданные, криптографические метки).
4️⃣Распознавание дипфейков: Тех, кто создает или редактирует дипфейки, обяжут явно (визуально или аудиально) сообщать о манипуляциях с контентом. Для этого Европейская комиссия предлагает использовать бесплатные официальные иконки с надписями «AI», «AI generated» или «AI modified»

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Бот AI & GDPR Compliance Navigator снова в строю и готов к работе.

Если вы разрабатываете, внедряете или планируете запуск продукта на базе ИИ, наш обновленный бот поможет быстро оценить соответствие требованиям GDPR и AI Act.
Как проходит проверка:
1️⃣ Бот определит, подпадает ли ваш ИИ под действие GDPR и AI Act
2️⃣ Определит категорию риска вашего ИИ (от минимального до неприемлемого по классификации AI Act) и специфику работы с данными.
3️⃣Даст детальный перечень необходимых мер и требований для полной легализации вашего ИИ-решения.
4️⃣ Подготовит итоговый отчет с рекомендациями, который можно обсудить с командой.
Запустить проверку ➡️ @AI_GDPR_bot

Комментарии, замечания, отзывы приветствуются. Можно оставить здесь под постом либо боту.

❕Результаты работы бота носят справочный характер и не являются юридической консультацией, не пренебрегайте анализа ситуации экспертами.

————
@pattern_ai | AI GDPR Navigator

Риски и правила безопасности при работе с ИИ-агентами

Управление по защите конфиденциальности Израиля опубликовало полезные практические рекомендации о том, как защитить свои данные при работе с ИИ-агентами.
Забираем себе.
👀 Главные риски:
1️⃣ Избыточная концентрация знаний (Сверхдоступ)
ИИ-агенты часто подключаются к календарям, почте и платежным системам. Из-за слишком широких настроек или отсутствия фильтров они могут собирать информацию, которая вообще не нужна для текущей задачи.

Пример: Вы подключаете ИИ-агента для сортировки входящих писем за последние 2 года (с момента поступления в магистратуру). Вместо этого агент сканирует абсолютно всю вашу почту за 15 лет, включая исходящие сообщения и старые черновики, составляя на вас детальное досье.

2️⃣ Действия на основе скрытых выводов и контекста
ИИ-агенты способны сопоставлять данные из разных источников и создавать единый цифровой профиль (привычки, болезни, финансы). Риск в том, что агент может использовать эти скрытые выводы невпопад или выдать их третьим лицам.

Пример: Фитнес-агент на основе анализа вашей активности, календаря и списка покупок делает вывод, что у вас есть определенное медицинское заболевание. Позже, когда вы просите его просто забронировать столик в ресторане для встречи с друзьями, он самостоятельно указывает в бронировании особые диетические требования, раскрывая вашу медицинскую тайну без вашего ведома.

3️⃣ Автономные решения и потеря данных
Обладая правами на редактирование и удаление, агент может совершить действие, которое противоречит вашим реальным желаниям.

Пример: Агент для очистки места на диске находит старые письма с копиями документов, договорами аренды и медицинскими рецептами и безвозвратно удаляет их. В итоге вы теряете критически важные файлы, необходимые, например, для страхового случая.

➡️ Как защитить себя:

1️⃣Ограничивайте доступ по принципу «Необходимо знать».
Не давайте агенту доступ ко всей базе данных, если можно обойтись малой частью. Настраивайте временный доступ и запрещайте использовать ваши данные для обучения будущих моделей.

Примеры:
▪️Если ИИ-агенту нужно собрать квитанции из почты для налогового отчета, дайте ему инструкцию искать письма только за конкретный год и только от определенных отправителей (или заведите для квитанций отдельный ящик).
▪️ Позволяя агенту изучить ваши старые посты в соцсетях для копирования стиля, убедитесь, что у него нет доступа к личной переписке по этой теме.
▪️Разрешая агенту планировать встречи, откройте ему доступ только к статусу занятости («свободен/занят»), но скройте темы и детали других встреч.
▪️ Выбирайте агентов, которые удаляют временные файлы (аудиозаписи, транскрипции) сразу после выполнения задачи (например, после создания краткого резюме созвона).

2️⃣ Следите, чтобы ИИ-агент не передавал лишнюю информацию внешним сервисам при интеграции.

Пример: При планировании встреч агент не должен раскрывать имена других участников сторонним лицам. При бронировании отелей в путешествии запретите агенту делиться целью вашей поездки или деталями других планов из календаря.

3️⃣ Уменьшайте права (Режим «Только чтение»)
Если агенту для работы не нужно физически отправлять письма или менять файлы, ограничьте его права до уровня View-only или Read-only.

Пример: Агент-помощник может подсвечивать важные письма и генерировать черновики ответов, но отправлять их он должен только после вашего явного одобрения. Юридический ИИ-агент может анализировать риски в договоре, но не имеет права его редактировать или пересылать.

4️⃣Контроль, мониторинг и логирование.
Настройте агента так, чтобы он сначала показывал вам цепочку планируемых действий (какие сайты откроет, куда подключится) и ждал подтверждения.
Проверяйте историю действий агента (что, когда и почему он изменил), чтобы вовремя заметить аномалии в его поведении.
5️⃣Всегда делайте бэкапы.
Перед тем как доверить ИИ-агенту масштабную работу с вашими файлами (сортировка, чистка дубликатов), обязательно создайте резервную копию.

❕Максимальная автономия требует максимальной ответственности.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Character.AI нарушила GDPR или какие уроки извлечь бизнесу из решения итальянского регулятора

Итальянский регулятор по защите данных (Garante) вынес одно из самых подробных европейских решений в отношении генеративного ИИ, признав, что Character.AI нарушила сразу несколько требований GDPR.
Компании назначен штраф 158 тыс. евро и предписано устранить нарушения в течение 120 дней.

👀 Нарушения ст. 5(2), 12, 13, 14, 24, 25, 27 и 35 GDPR:

1️⃣ Недостаточная прозрачность. Пользователи не получали понятной информации о том, какие данные собираются, на каких правовых основаниях обрабатываются, как долго хранятся и передаются ли за пределы ЕС. Регулятор подчеркнул, что информация должна быть действительно понятной обычному пользователю, а не содержать расплывчатые формулировки.

2️⃣ Защита несовершеннолетних. На протяжении длительного времени сервис полагался на недостаточные механизмы проверки возраста. Более строгие меры появились лишь после начала расследования. По мнению Garante, это привело к обработке данных несовершеннолетних, включая потенциально детей младше 13 лет, без достаточных гарантий.

3️⃣ Подотчетность. Регулятор также установил нарушения, связанные с несвоевременным проведением DPIA и отсутствием представителя в ЕС, что является самостоятельным нарушением требований GDPR.

4️⃣Отдельно Garante рассмотрел использование персональных данных при предварительном обучении собственных LLM. При этом регулятор отметил, что рекомендации EDPB по этой теме не могут применяться ретроактивно, поскольку соответствующее обучение моделей завершилось до их публикации. Тем не менее пользователи должны получать прозрачную информацию о подобных целях обработки данных.

❕Фактически чек-лист для разработчиков ИИ.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

В Китае вступили в силу правила для ИИ-компаньонов

Мы уже разбирали и теперь официально 15 июля в Китае вступили в силу Временные меры по управлению сервисами человекоподобного взаимодействия с ИИ. Это первый национальный нормативный акт, который специально регулирует сервисы, предназначенные для длительного эмоционального общения с пользователями.
Напомню немного.
Правила распространяются на системы, которые имитируют человеческое поведение и предоставляют эмоциональную поддержку, общение или сопровождение через текст, голос, изображения, видео и другие способы. При этом они не затрагивают обычные сервисы для поиска информации, работы, обучения или научных исследований, если те не предполагают устойчивого эмоционального взаимодействия.

👀 Требования:
▪️ необходимо ясно уведомлять пользователей, что они взаимодействуют с ИИ;
▪️ сервисы должны выявлять признаки эмоционального кризиса, суицидальных намерений или психологической зависимости, предлагать поддержку и рекомендовать обратиться за профессиональной помощью;
▪️ требуется внедрить механизмы выявления рисков и реагирования на чрезвычайные ситуации;
▪️ после двух часов непрерывного использования сервис должен напомнить пользователю сделать перерыв;
▪️ пользователю должна быть предоставлена возможность немедленно прекратить взаимодействие с сервисом;
▪️ вводятся строгие ограничения для несовершеннолетних, включая запрет на использование сервисов, моделирующих романтические отношения с ИИ;
▪️ использование переписки пользователей для обучения моделей допускается только при наличии отдельного согласия;
▪️ сервисы с более чем 1 млн зарегистрированных или 100 тыс. ежемесячно активных пользователей обязаны проводить оценку безопасности и представлять ее результаты государственным органам.

Исключение для интеллектуальных помощников, сервисов вопросов-ответов, рабочих помощников, образовательных сервисов, научных исследований, если они не предполагают продолжительного эмоционального взаимодействия

❕Правила регулируют не только безопасность технологий, но и сам характер отношений между человеком и ИИ. Прямо запрещается проектировать сервисы таким образом, чтобы они формировали эмоциональную зависимость, подменяли реальные социальные связи виртуальными или использовали эмоциональную привязанность для воздействия на поведение пользователя.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Доклад AI Safety in China 2026

И если совсем нет планов на летние выходы, то можно почитать доклад почти на 200 стр. про регулирование ИИ в Китае.

Тенденции, на которые стоит обратить внимание:

1️⃣Отраслевое регулирование. Единый закон только на стадиях обсуждений, зато приняты специальные правила для отдельных видов ИИ ( генеративных моделей, маркировки созданного ИИ контента, человекоподобных сервисов, ИИ-агентов, этической экспертизы и других направлений). И как раз авторы выделяют регулирование ИИ-компаньонов и обязательную этическую экспертизу ИИ как два основных новшества этого года.
2️⃣ Расширяется понятие рисков. Если раньше основное внимание уделялось незаконному контенту и кибербезопасности, то теперь в систему оценки включены эмоциональная зависимость от человекоподобного ИИ, влияние на рынок труда, образование, исследовательскую этику, социальные последствия и даже катастрофические риски.
3️⃣ Стандарты становятся основным инструментом регулирования. В стране одновременно разрабатываются десятки национальных стандартов, посвященных этической экспертизе, безопасности ИИ-агентов, маркировке и выявлению контента, созданного ИИ, безопасности открытых моделей и оценке рисков.
4️⃣ ИИ-агенты являются приоритетом. Уже готовятся стандарты по безопасному использованию инструментов, взаимодействию между агентами, защите цепочек поставок и предотвращению потери контроля над автономными системами.
5️⃣ Регулирование уже не только про сами технологии. Все больше внимания уделяется вопросам, которые еще недавно почти не обсуждались в законодательстве: психологическому воздействию ИИ, социальной устойчивости, исследовательской этике и влиянию технологий на общество.

#AIShelf #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ЕС меняет экосистему Android: Google открывает новые возможности для AI-ассистентов

Около 60% пользователей смартфонов в Европе используют Android, поэтому изменения правил доступа к платформе затронут миллионы пользователей и разработчиков.

👀 16 июля Европейская комиссия направила компании Google два пакета обязательных к исполнению требований в рамках Digital Markets Act, определив требования к интероперабельности AI-сервисов с Android.

Сторонние ИИ-помощники и сервисы на базе ИИ смогут эффективно использовать 11 функций Google Android, которые сегодня в основном доступны Gemini:
▪️запуск по голосовой команде или кнопке устройства,
▪️ понимание контекста на экране (с согласия пользователя),
▪️взаимодействие сразу с несколькими приложениями,
▪️управление настройками устройства,
▪️использование локальных ИИ-моделей и выполнение сложных последовательностей действий от имени пользователя.
Пользователь всегда сможет явно дать согласие на доступ к любой из функций тех ИИ-помощников, которые он решит установить.
Например, вместо привычной цепочки «открыть приложение → найти ресторан → оформить заказ» пользователь сможет просто сказать: «Закажи мой обычный ужин». Ассистент сам выполнит необходимые действия через соответствующие сервисы.

Сроки реализации:
Google должен сначала разработать программу соответствия и критерии доступа (подробно здесь):
▪️1 февраля 2027 года — публикация проекта условий программы для обсуждения с Комиссией и независимыми экспертами;
▪️1 мая 2027 года — публикация финальных условий программы;
▪️с 1 мая 2027 года — начало приема заявок на сертификацию ИИ-сервисов;
проверка соответствия конкретного ИИ-ассистента критериям должна занимать не более 4 недель.
▪️внедрение мер для каждой функции не позднее 1 августа 2027 года ( Android 18).
▪️функция одновременного распознавания ключевых слов, позволяющая запускать несколько сервисов с помощью голосового вызова не позднее 1 августа 2028 года (Android 19).

".....Благодаря этим мерам мы надеемся увидеть появление альтернатив Google Search и сервисам ИИ от Google, таким как Gemini, и предоставить пользователям в ЕС более широкий выбор услуг. Все разработчики, как крупные, так и малые, могут изучить эти новые возможности, которые, безусловно, принесут пользу и пользователям."

✏️При этом Комиссия отдельно предусмотрела гарантии защиты данных в своем решении:
▪️требование применять многоуровневую анонимизацию передаваемых поисковых данных,
▪️позволяет Google оценивать риски для кибербезопасности и защиты данных перед их передачей третьим лицам,
▪️также устанавливает прозрачные правила доступа к данным и их стоимости.
Такой подход должен обеспечить совместимость требований DMA и GDPR.

Интересно, что Apple отложила запуск части функций Apple Intelligence в ЕС, хотя Еврокомиссия заявила, что DMA не препятствует запуску продукта и что решение не выводить Siri AI на рынок ЕС является выбором самой Apple. Google же согласился адаптировать архитектуру Android под новые требования.

❕Если эти меры будут реализованы в полном объеме, конкуренция постепенно сместится с приложений на ИИ-ассистентов. Регулирование будет все заметнее влиять не только на комплаенс, но и на дизайн пользовательского опыта.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

До 2 августа осталось мало времени: опубликованы рекомендации по статье 50 AI Act

Европейская комиссия опубликовала долгожданные гайдлайны по статье 50 AI Act, которые разъясняют, как выполнять требования к прозрачности для ИИ.
Правила начинают применяться уже со 2 августа 2026 года.
Руководство подробно объясняет, на кого распространяются обязанности, какие существуют исключения и как выполнять требования на практике.
FAQ можно почитать здесь.

Напомним, что:
1️⃣ Пользователь должен понимать, когда он взаимодействует с ИИ, а не с человеком.
2️⃣ Контент, созданный или существенно измененный ИИ, должен маркироваться в случаях, предусмотренных AI Act (включая дипфейки и отдельные категории ИИ-сгенерированных текстов).

Дальше посты с примерами из документа.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Какой дипфейк считается вымышленным?

В рекомендациях по статье 50 AI Act Еврокомиссия привела примеры.
1️⃣ Дипфейки, представляющие собой креативные, сатирические, вымышленные или аналогичные произведения:
▪️Художественные/вымышленные произведения: фильмы (или трейлеры к фильмам), содержащие созданные или обработанные с помощью ИИ дипфейки омоложенных существующих актеров или цифровые копии умерших актеров или других лиц, доступные в кинотеатрах или на стриминговых платформах.
▪️ Художественные/креативные произведения: музыка, созданная с помощью ИИ в любом жанре, напоминающая индивидуальный стиль существующих исполнителей.
▪️ Сатирические/вымышленные произведения: обработанное с помощью ИИ изображение существующего политика, помещенное в сцену, явно призванную в юмористической форме критиковать определенные политические решения, принятые или поддержанные этим человеком.
▪️ Аналогичные креативные/вымышленные произведения: игровые изображения, созданные с помощью ИИ, включающие дипфейки-симуляции реальных, существующих людей.

Даже если дипфейк относится к художественному или сатирическому произведению, это не освобождает от обязанности раскрыть, что контент был искусственно создан или изменен. Однако такое раскрытие может быть реализовано способом, который не мешает восприятию произведения, например в титрах, описании или иной сопроводительной информации.

2️⃣ Дипфейки, не являющихся художественными, творческими, сатирическими, вымышленными или аналогичными произведениями:
▪️Видео, созданное с помощью ИИ в стиле телемагазина, включающее симуляцию дипфейка, в котором люди рекламируют продукт в сгенерированной ИИ сцене, демонстрирующей функциональное использование продукта смоделированными потребителями с целью убедить зрителей купить продукт.

▪️Изображение знаменитостей, созданное с помощью ИИ, подразумевающее их участие в действиях, которых никогда не было, и не имеющее никакой вымышленной, сатирической или аналогичной цели.

▪️ Видео, созданное с помощью ИИ, в котором реалистичный синтетический инфлюенсер тестирует спонсируемый реальный продукт, сфокусированное исключительно на демонстрации функциональных возможностей продукта.

▪️Видео, созданное с помощью ИИ, изображающее реалистичные сцены Холокоста, распространяемое на общедоступных платформах социальных сетей.

Для такого контента исключение для художественных произведений не применяется. Если материал является дипфейком, должны соблюдаться требования статьи 50 AI Act о раскрытии информации о его искусственном происхождении или изменении.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Запрет соц.сетей детям младше 15 лет во Франции

Франция приняла закон, запрещающий детям до 15 лет пользоваться социальными сетями, и стала второй страной в мире после Австралии (запрещены с 10 декабря 2025 года до 16 лет) и первой страной Европейского союза.

👀 С 1 сентября 2026 года пользователи младше 15 лет не смогут создавать новые аккаунты.
1️⃣Действующие аккаунты должны быть удалены в течение четырех месяцев.
2️⃣Платформы обязаны внедрить эффективную систему проверки возраста.
3️⃣Исключения предусмотрены для образовательных сервисов, онлайн-энциклопедий и платформ с открытым исходным кодом.
4️⃣Запрещается реклама, прямая или косвенная, онлайн-сервисов социальных сетей, если она специально ориентирована на несовершеннолетних, в том числе если она осуществляется влиятельными лицами или в рамках коммерческого партнерства.
5️⃣Реклама социальных сетей или онлайн-платформ должна содержать предупреждение: «Продукты опасны для детей младше пятнадцати лет».

Закон стал возможен после обновления европейских подходов к защите несовершеннолетних в рамках Digital Services Act (DSA). Франция считает, что именно платформы должны нести ответственность за недопуск детей младше установленного возраста.
Теперь внимание сместится на главный практический вопрос, какие механизмы проверки возраста будут признаны достаточными и как они будут сочетаться с требованиями GDPR по минимизации обработки персональных данных.
Если французская модель окажется успешной, она может стать ориентиром для других стран.
Так, Норвегия планирует установить минимальный возраст в 16 лет, Дания выступает за общеевропейские ограничения, Испания готовит реформу по усилению защиты несовершеннолетних в цифровой среде. В Турции также подготовлен законопроект об ограничении доступа несовершеннолетних к социальным сетям.

❕Тренд становится глобальным.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ИИ в HR становится предметом судебных разбирательств

26 сотрудников Meta * (компания признана экстремистской организацией на территории России) подали иск, который может стать одним из первых судебных процессов в США, напрямую проверяющих законность использования ИИ при принятии кадровых решений.

👀 Истцы утверждают, что при массовом сокращении около 8 000 сотрудников компания использовала комплекс внутренних ИИ-инструментов для оценки и отбора работников на увольнение.
Система анализировала не только результаты работы, но и цифровую активность сотрудников, включая данные с корпоративных устройств, использование внутренних ИИ-инструментов и автоматизированные рейтинги эффективности. Модели не учитывали отпуска ( по беременности и родам, семейный, по болезни и предоставленные работодателем условия для сотрудников с инвалидностью), а в результате, по мнению истцов, именно эти категории работников непропорционально часто попадали в списки на увольнение, что может нарушать требования законов США.
Meta * (компания признана экстремистской организацией на территории России) категорически отвергает обвинения. Компания заявила суду, что окончательные решения принимались руководителями подразделений по нейтральным критериям, а ИИ не использовался для ранжирования сотрудников или принятия решений об увольнении.

17 июля федеральный судья Уильям Оррик отказался временно приостанавливать увольнения. Однако решение нельзя считать победой Meta.
Суд отметил, что на текущем этапе истцы не представили достаточных доказательств, подтверждающих использование ИИ именно для принятия решений об увольнении.
При этом судья прямо указал, что вопросы, поднятые в иске, являются серьезными, назначил дальнейшее рассмотрение дела на август и допустил возможность изменить свою позицию, если появятся дополнительные доказательства использования ИИ при сокращении персонала.

Эксперты обращают внимание, что дело демонстрирует одну из главных проблем эпохи ИИ в HR: доказать, как именно алгоритм повлиял на решение работодателя, крайне сложно. Внутренние модели, журналы принятия решений и параметры работы алгоритмов остаются закрытыми для сотрудников, а обязательный арбитраж существенно ограничивает возможности получения таких доказательств. Именно поэтому подобные дела будут сталкиваться с серьезными процессуальными трудностями даже при наличии подозрений в дискриминации.

🔍Это не единственный сигнал напряженности внутри Big Tech.

На прошлой неделе более 4 500 сотрудников Google передали генеральному директору Сундару Пичаи петицию с требованием усилить гарантии защиты от увольнений.
Инициатива, организованная профсоюзом Alphabet Workers Union, стала крупнейшей коллективной акцией сотрудников компании по вопросу сохранения рабочих мест.
Работники требуют гарантированных выходных пособий, добровольных программ увольнения до принудительных сокращений, отказа от рейтинговых квот при оценке эффективности и возможности получать выходное пособие в виде оплачиваемого отпуска. По словам профсоюза, кампания уже привела к расширению программ добровольного ухода (Voluntary Exit Packages) более чем на 70 тыс. сотрудников Google.

📌 Примеры из судебной практики:
▪️ Mobley v. Workday, Inc. - AI-инструменты Workday автоматически отсеивали кандидатов по признакам возраста, расы и инвалидности.
▪️EEOC v. iTutorGroup - система автоматически отклоняла женщин старше 55 лет и мужчин старше 60 лет, компания выплатила $365 000, изменила алгоритмы и согласилась на гос. контроль.
▪️Baker v. CVS Health Corp. - система анализа интервью фактически выполняла функции запрещенного законом «детектора лжи» при приеме на работу, стороны заключили мировое соглашение.
▪️А.Н. Рожкова v. ООО «Алиса» - увольнение из-за ИИ признано незаконным, выплаты и моральная компенсация.

❕По мере роста инвестиций в ИИ сотрудники все чаще требуют прозрачности в принятии кадровых решений и дополнительных гарантий защиты от увольнений.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

AI в HR: что должны учитывать работодатели в ЕС
Часть 2

Индивидуальные меры регулирования нац. законодательства + требования к системам ИИ с высоким риском + основополагающие принципы, регулирующие этические практики наблюдения = ответственное и этичное использование ИИ, обеспечивая баланс между технологическими достижениями и защитой индивидуальных прав.

📝 Чек-лист:
1️⃣ Осознанное согласие: сотрудники должны быть полностью информированы об используемых инструментах мониторинга, их целях и собираемых данных. Получение явного согласия обеспечивает осведомленность и согласие с методами наблюдения.
2️⃣Обеспечить прозрачность: работники и кандидаты должны понимать, когда при принятии кадровых решений используется ИИ, какие данные анализируются и каким образом результаты влияют на итоговое решение.
3️⃣Минимизация данных: следует собирать только необходимые данные для законных деловых целей. Этот принцип предотвращает чрезмерное наблюдение, защищая сотрудников от ненужного вторжения в личную жизнь.
4️⃣Недискриминация: системы ИИ должны быть разработаны и внедрены таким образом, чтобы избегать дискриминации по признаку расы, пола, возраста или других защищенных характеристик. Регулярные проверки и стратегии смягчения предвзятости имеют важное значение для обеспечения справедливости в практике наблюдения. Соответствующий и достаточно репрезентативный ввод данных, например, в систему подбора персонала на основе ИИ, которая поддерживает выбор подходящих кандидатов.
5️⃣Соразмерность и необходимость: мониторинг должен быть соразмерен его цели. Например, отслеживание производительности может быть оправдано, но постоянное наблюдение без четкой, необходимой цели неэтично и потенциально незаконно.
6️⃣Проведение DPIA. Определить обязательства путем соблюдения подхода, основанного на оценке риска, как для уже используемых систем ИИ, так и для планирования и внедрения новых систем.
7️⃣ Установить правила использования ИИ на рабочем месте и предложить обучение по базовому техническому пониманию ИИ.
8️⃣ Назначить должностное лицо по внедрению и использованию ИИ в рабочих процессах/человеческий надзор.
9️⃣ Использование и мониторинг высокорисковых систем ИИ в соответствии с инструкциями по использованию и немедленное сообщение об обнаруженных рисках.
1️⃣0️⃣ Участие представителей сотрудников (это обязательство уже применяется в некоторых государствах-членах, например, в Германии).
1️⃣1️⃣Если работодатель классифицируется как поставщик - обеспечить, чтобы система ИИ с высоким риском соответствовала общим требованиям к надежному ИИ, пройти процедуру оценки соответствия и внедрить систему управления качеством, соблюдать строгие обязательства по регистрации, документированию и предоставлению информации.

Подробно в предыдущих постах про:
🔹ИИ для встреч (записи, саммари, заметки и черновики документов);
🔹ИИ-переводчики и защита персональных данных;
🔹ИИ-транскрипция голоса и персональные данные (позиция Испанского регулятора (AEPD));
🔹AI- транскрипция на собеседованиях и GDPR: разъяснения латвийского регулятора;
🔹Синтетические данные сотрудников: для чего нужны и какие риски использования;

Гайды регуляторов:
▪️Here’s what jobseekers need to know about automated recruitment decisions/ ICO;
▪️AI tools in recruitment, Audit outcomes report November 2024 by ICO;
▪️Recent policy developments on AI in the labour market;
▪️Navigating AI with Pestalozzi – Part 6: Employment;

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

В Польше подписан Закон об ИИ

Президентом подписан Закон от 3 июля 2026 года "О системах искусственного интеллекта" (o systemach sztucznej inteligencji) в развитие положений EU AI Act. Полный текст здесь.

👀 Разбираем ключевые пункты:

1️⃣Создается специализированный орган надзора за рынком ИИ - Комиссия по развитию и безопасности ИИ (Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji).
Компетенции (ст.6): контроль за соблюдением требований EU AI Act, проведение проверок и аудитов, наложение административных штрафов, а также ведение национального реестра, реализация образовательных программ и т.п.
Регулятор работает в контакте с UOKiK (защита конкуренции и потребителей), UKE, KNF и PUODO (защита персональных данных), что обеспечивает всесторонний контроль использования алгоритмов.
Состав комиссии: председатель, два заместителя председателя и четыре члена, назначенные органами, ответственными за конкуренцию и защиту прав потребителей, финансовый надзор, вещание и электронные коммуникации. Её члены должны действовать самостоятельно. Председатель назначается Сеймом с согласия Сената на пятилетний срок и может служить не более двух сроков.

Социальный совет по искусственному интеллекту будет работать вместе с Комиссией в качестве консультативного органа. В него войдут представители государственных учреждений, академических кругов, бизнеса, профсоюзов и гражданского общества. Совет сможет выносить мнения, формулировать собственные позиции и запрашивать инициирование процедур по исполнению исполнения.

2️⃣Процедура официальных запросов (ст. 9 -17).
Если у компании есть сомнения, относится ли её ИИ-решение к категории высокого риска (high-risk) или подпадает ли под ограничения, она может подать заявление в Комиссию на получение официального индивидуального заключения.
Запрос позволяет заранее прояснить позицию регулятора, зафиксировать правовой статус системы и сформировать доказательную базу на случай будущих проверок.

3️⃣ Вводятся правила проведения проверок.
Комиссия (плановые и внеплановые инспекции), Социальный совет (Rada Społeczna) или граждане/клиенты могут инициировать процесс через механизм официальных жалоб (например, при оспаривании автоматизированного отказа в найме или кредите).
При незначительных отклонениях Комиссия может выдать предписание с указанием конкретных мер для восстановления соответствия с требованиями закона без наложения штрафа.
В случае существенных нарушений регулятор уполномочен обязать компанию изменить алгоритм, приостановить его использование или полностью отозвать ИИ-систему с рынка.

Все решения Комиссии (включая штрафы и запреты) обжалуются в специализированном Суде по защите конкуренции и потребителей в Варшаве (SOKiK).

4️⃣ Вводится возможность досудебного урегулирования, заключив официальное соглашение с Комиссией и взяв на себя обязательства по устранению нарушений. В случае активного сотрудничества и полного устранения последствий соглашение позволяет существенно снизить размер штрафа или полностью освободить компанию от административной ответственности.

5️⃣ Вводится уголовная ответственность для должностных лиц (директоров, ответственных за комплаенс):
▪️за воспрепятствование или противодействие проведению проверки Комиссией;
▪️за непредоставление (или предоставление ложной) информации, необходимой для определения размера штрафа.

6️⃣Правовая база для регуляторных песочниц. Доступ будет предоставлен через конкурсную процедуру. Микро, малые и средние предприятия смогут участвовать бесплатно.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Доверие к ИИ важнее политики конфиденциальности

С 23 по 26 августа пройдет SOUPS 2026 (Symposium on Usable Privacy and Security), объединяющий экспертов в области взаимодействия человека с компьютером, информационной безопасности и психологии.

👀 Один из докладов посвящен вопросу: как пользователи оценивают существующие коммуникации в области безопасности и конфиденциальности? Препринт здесь.
Исследователи опросили 21 человек в США и выяснили, что большинство людей не читают политики конфиденциальности, описания безопасности или документацию. Вместо этого они судят о надежности сервиса по косвенным признакам:
▪️ насколько известна компания;
▪️ насколько популярен сервис;
▪️ пользуются ли им друзья и коллеги;
▪️ вызывает ли интерфейс ощущение доверия.

Если возникают сомнения, пользователи чаще отказываются использовать ИИ для работы с конфиденциальной информацией, чем пытаются разобраться в юридических документах.

При этом участники исследования достаточно четко сформулировали, какой прозрачности они ожидают. Вместо длинных политик они хотят:
▪️ безопасные настройки по умолчанию;
▪️ возможность получить более подробную информацию только при необходимости;
▪️ понятные сведения о том, какие данные собираются и как используются;
▪️ независимые оценки и сертификацию, которым можно доверять.

Авторы рекомендуют проектировать интерфейсы так, чтобы безопасность была обеспечена по умолчанию, предлагая при этом дополнительную детализацию по запросу. Такой подход снижает когнитивную нагрузку и помогает избежать ложного ощущения безопасности, которое может возникать при большом количестве настроек.
Также обращают внимание на то, что сегодня требования к прозрачности ИИ существенно различаются между странами. AI Act устанавливает обязательные требования к прозрачности для отдельных категорий ИИ-систем, тогда как многие другие международные инициативы, включая Singapore Model AI Governance Framework и OECD Hiroshima AI Process Reporting Framework, носят рекомендательный характер.

При этом большинство существующих требований сосредоточено на технической документации, управлении рисками и отчетности для регуляторов, а не на информации, понятной обычному пользователю

По мнению исследователей, следующим этапом развития регулирования должны стать обязательные механизмы прозрачности, ориентированные на потребителя:
▪️стандартизированные и сопоставимые раскрытия информации о работе ИИ;
▪️независимая сертификация, которой можно доверять;
▪️единые сигналы безопасности, понятные пользователям.

Одновременно регуляторам предстоит бороться с явлением, которое авторы называют transparency washing, т.е. созданием ложного ощущения прозрачности с помощью расплывчатых обещаний, собственных «значков доверия» без независимой проверки или интерфейсов, которые побуждают пользователя раскрывать больше данных, скрывая при этом важные условия их обработки.

В программе конференции также исследования о совместном использовании устройств семьями, защите уязвимых групп пользователей, борьбе с цифровым мошенничеством, кибербезопасности и ИИ, уведомлениях о конфиденциальности, разрешениях и маркировке.
Про еще один доклад в следующем посте.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Чьи рекомендации важнее, человека или ИИ?

Недавно на Линкедине мне попался пост, как девушка не знала, радоваться, смеяться или плакать, потому что тезисы ее старого поста стали попадаться в обзор Google AI Overviews
и, соответственно, содержали ошибки и неточности, т.к. положения законодательства уже успели поменяться.

На конференции SOUPS 2026 исследователи представят результаты немного по другому вопросу в работе «Clear, Actionable and Confidence-Inspiring Recommendations? Comparative Study of AI-Generated and Human-Written Penetration Testing Reports». Она будет опубликована в сборнике после конференции.
Суть в том, что 600 специалистов по ИТ и кибербезопасности оценивали и сравнивали рекомендации по устранению уязвимостей, которые были написаны экспертами и сгенерированы ИИ.
Оценивались по трем критериям:
▪️насколько понятны рекомендации;
▪️насколько легко их выполнить;
▪️насколько они внушают уверенность в правильности действий.

Исследователи обнаружили, что происхождение текста ( человек или ИИ) само по себе не определяет его качество. Гораздо большее значение имеет структура рекомендации.
Наиболее высокие оценки получили рекомендации, которые:
▪️ разбиты на последовательные шаги;
▪️ содержат конкретные действия;
▪️ исключают двусмысленность;
▪️ помогают быстро понять, что именно нужно сделать.

❕Этот вывод хорошо отражает более широкий тренд в использовании генеративного ИИ. Пользователи оценивают прежде всего качество результата, а не то, кем он создан. И, возможно, именно поэтому хорошо структурированные материалы чаще становятся источниками для ИИ-сервисов. Но они не всегда актуальны или безошибочны. Если информация не обновляется, ИИ будет воспроизводить уже устаревшие выводы.

📌 Ошибки Google AI Overviews

#UXWatch
————
@pattern_ai | AI GDPR Navigator