Южная Корея хочет разрешить ИИ обучаться на персональных данных даже без согласия человека

В Южной Корее рассматриваются поправки к Закону о защите персональных данных (PIPA), которые могут существенно изменить правила использования ПД для разработки и совершенствования ИИ.
Сейчас законопроект предусматривает специальный режим для случаев, когда для разработки или улучшения ИИ недостаточно анонимизированных или псевдонимизированных данных.

👀 При соблюдении установленных условий ранее законно собранные персональные данные можно будет использовать для целей, отличающихся от первоначальной цели их сбора.
В определенных случаях предполагается возможность обработки исходных ПД.
▪️ анонимизация или псевдонимизация недостаточны для разработки ИИ;
▪️ обеспечены технические, организационные и физические меры безопасности;
▪️ использование данных связано с общественными интересами, защитой интересов субъекта данных или третьих лиц либо социальными интересами;
▪️ риск необоснованного нарушения прав и интересов субъектов данных является крайне низким;
▪️Personal Information Protection Commission (PIPC) предварительно рассмотрела вопрос и приняла решение.
▪️Для некоторых случаев потребуется также оценка факторов риска.
PIPC сможет устанавливать дополнительные условия обработки и впоследствии контролировать их выполнение. Информация о целях и категориях используемых данных должна раскрываться в политике обработки персональных данных. Если новый ИИ-сервис фактически такой же или существенно похож на уже рассмотренный PIPC случай, процедура рассмотрения может быть упрощена.
После прохождения оставшихся парламентских процедур и обнародования закон должен вступить в силу через шесть месяцев.

❕Южная Корея фактически предлагает перенести решение о допустимости использования исходных ПД с уровня согласия конкретного человека на уровень предварительного контроля регулятора.
Как думаете, достаточно ли такого решения регулятора, чтобы заменить наш с вами контроль за своими ПД?

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ЕС готовит правила для облачных вычислений и ИИ

Еврокомиссия опубликовала исследование Cloud & AI Study, которое должно стать основой для оценки потенциальных законодательных инициатив и подготовки будущего EU Cloud and AI Development Act. Более 800 страниц💬

👀 Исследование оценивает существующие и будущие потребности ЕС в вычислительных мощностях, выявляет барьеры для компаний и рассматривает варианты государственной политики ( от минимального вмешательства до более активной роли ЕС).
Например:
▪️в 2025 году мощность дата-центров ЕС — около 12,4 ГВт, тогда как спрос уже составляет 15,3 ГВт;
▪️ к 2036 году спрос может превысить предложение на 12–23 ГВт;
▪️ сейчас только 12% мощностей дата-центров являются готовыми для ИИ. К 2036 году показатель может вырасти до 35–85% в зависимости от сценария.

Анализируются:
▪️проблемы строительства и получения разрешений для дата-центров;
▪️ барьеры для трансграничного предоставления облачных услуг;
▪️ зависимость от отдельных поставщиков на разных уровнях ИИ-стека и риски технологической привязки;
▪️ безопасность облачной инфраструктуры;
▪️ использование открытого программного обеспечения в государственном секторе;
▪️ доступ к финансированию, инвестиции и налоговые стимулы для строительства инфраструктуры.

Особое внимание уделяется доступу инновационных компаний к так называемому «вычислительному капиталу».

❕Европе необходимо одновременно наращивать инфраструктуру, упрощать её развитие и снижать зависимость от отдельных поставщиков технологий.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Human Oversight в AI Act: фразы «решение принимает человек» недостаточно

Испанский гайд по Human Oversight предназначен как практический инструмент для выполнения требований статьи 14 AI Act и был обновлен с учетом Digital Omnibus (здесь и остальные гайды).

👀 Три уровня человеческого контроля:
1️⃣ Human in Command (HIC) - базовый и самый общий уровень. Человек сохраняет конечную ответственность и принимает критические решения, связанные с работой ИИ-системы.
То есть вопрос не только в том, проверяет ли человек отдельный результат. Он должен иметь возможность решить, использовать ли систему вообще, когда и в каких пределах ее использовать.
2️⃣ Human-in-the-loop (HITL) - человек вмешивается до действия ИИ. ИИ может подготовить рекомендацию или решение, но перед совершением действия человек его проверяет и подтверждает.
Именно этот уровень обычно рекомендуется для высокорискового ИИ, когда необходимо валидировать каждое действие, даже если система обрабатывает большой объем операций.
3️⃣Human-on-the-loop (HOTL) - ИИ действует автоматически, а человек контролирует систему после совершения действия.
При этом должна существовать возможность вмешаться и отменить или исправить результат.
Для высокорисковых систем такой подход считается менее предпочтительным: если решение уже затронуло фундаментальные права человека, последующее исправление может оказаться невозможным или слишком поздним.

Развертыватель определяет необходимый уровень автономии исходя из конкретного use case и устанавливает соответствующую процедуру управления. Поставщик должен обеспечить технические механизмы, позволяющие реализовать выбранный уровень.

📝В гайде дается перечень технической документации, связанной с human oversight (всего 32 пункта):
▪️ по управлению рисками, управлению данными, прозрачности, точности, надежности и кибербезопасности;
▪️ технические руководства и руководства для пользователей от поставщика;
▪️ руководство по интерфейсу взаимодействия человека с системой для ее контроля (Human-Machine Interface);
▪️ модель управления системой со стороны разработчика и пользователя;
▪️ документация по выбранному уровню участия человека в принятии решений и соответствующей процедуре;
▪️ описание механизма или процедуры остановки системы. Возможность остановить систему должна существовать независимо от выбранного уровня автономии.
▪️документация по фиксации режима forced error для выявления автоматической предвзятости;
▪️ записи предложенных или выполненных системой действий и окончательных решений ответственного человека.
❗️Отдельно подчерикивается право человека не использовать ИИ, проигнорировать, изменить или отменить его результат, а также требование иметь механизм безопасной остановки системы.

❕Развертыватель определяет требования своего бизнес-процесса и уровень автономии, поставщик реализует необходимые технические механизмы, а после запуска развертыватель отвечает за соответствие поведения системы требованиям AI Act.


#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

AI slop в законопроектах

Офис Палаты представителей США, который готовит юридически точные тексты законопроектов, оказался буквально завален проектами, созданными с помощью ChatGPT и Claude.

👀 За первые 60 дней работы текущего Конгресса было получено 5 623 запроса на подготовку законопроектов, что на 72% больше, чем двумя годами ранее.
А в офисе всего 61 юрист и 19 сотрудников поддержки.

ИИ генерирует проекты с ошибками в ссылках на законодательство, юридических определениях и формулировках. Например, модель может не понять, должна ли предусмотренная законом мера оформляться как налоговый кредит, налоговый вычет, налоговое освобождение или грант.
Или неправильно сформулированное определение понятия «штат» потенциально может, например, исключить из действия федеральной программы Вашингтон, округ Колумбия, или территории коренных народов.

В результате вместо экономии времени ,сил и ресурсов юристы тратят на исправление ИИ-текста больше времени, чем потребовалось бы для написания документа с нуля.
Поэтому внедряют ответные инструменты для проверки, например, Comparative Print Suite, который анализирует законопроекты и визуально показывает, как предложенные поправки изменят действующий Кодекс США.

❕ Чем выше юридическая цена ошибки, тем опаснее....

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Почему AI-продуктам разрешили быть с плохими интерфейсами?

Мы десятилетиями учились проектировать интерфейсы так, чтобы пользователь понимал, что происходит, мог контролировать систему и исправлять ошибки.
С появлением ИИ эти принципы никуда не исчезли, но сама природа ошибок изменилась, и многие привычные UX-паттерны перестали справляться с ними.

👀 И когда мы добавляем к продукту слово ИИ, то многие из тех же проблем почему-то начинают восприниматься как «особенности технологии».

1️⃣ ИИ слишком уверенно говорит то, чего не знает.
Для пользователя интерфейс часто никак не различает «Я точно знаю» и
«Это наиболее вероятный вариант, который я сгенерировал».
Одинаковый шрифт. Одинаковый цвет. Одинаковая структура ответа.
Но природа информации совершенно разная.

2️⃣Пользователь гораздо быстрее разочаровывается в алгоритме.
После того как люди видели ошибку алгоритма, они быстрее теряли к нему доверие, чем к человеку, даже в ситуациях, где алгоритм в целом показывал более высокую точность.
И здесь UX может либо помочь восстановить доверие, либо окончательно его разрушить.

3️⃣ AI-интерфейсы плохо умеют говорить «я не смог»
При обработке запроса системой могут возникнуть три различных проблемы:
▪️техническая ошибка, такая как тайм-аут,
▪️отказ в соответствии с политикой контента,
▪️ фундаментальное непонимание запроса.
Большинство ИИ-продуктов объединяют все три в одно общее сообщение об ошибке. Это приучает
Для пользователя это нередко выглядит одинаково «Что-то пошло не так. Попробуйте еще раз».
Но это три разных проблемы и у каждой должен быть свой путь восстановления.
Нужно определить источник ошибки, объяснить пользователю, что произошло, и дать ему понятный путь вперед.

4️⃣ Цена плохого UX уже измеряется не только раздражением.
61% пользователей не доверяют AI-системам. 3 из 5 человек испытывают настороженность или прямое недоверие к интерфейсам AI, указывая на непрозрачность решений и риски безопасности данных.
44% сотрудников используют AI «вслепую» и без разрешения. Из-за отсутствия точного UX-контроля и понятной фильтрации данных 46% работников загружают чувствительную корпоративную информацию в публичные AI-сервисы.
58% слепо полагаются на выводы AI. Люди не проверяют результат работы нейросети, потому что интерфейсы не выводят метрики уверенности (confidence scores) или ссылки на первоисточники.
Можно сколько угодно писать пользователю в Terms of Use, что ИИ «может ошибаться».
Но если интерфейс визуально и поведенчески создает впечатление надежного эксперта, пользователь будет ориентироваться прежде всего на сам опыт взаимодействия, а не на юридический дисклеймер.

5️⃣А иногда плохой UX превращается в юридическую проблему.
Как, например, в известном кейсе Moffatt v. Air Canada, когда чат-бот Air Canada сообщил пассажиру неверную информацию о возможности получить компенсацию по тарифу для поездки в связи со смертью родственника. Когда пассажир попытался получить обещанную компенсацию, авиакомпания отказала. Air Canada, среди прочего, пыталась утверждать, что чат-бот является отдельной сущностью, ответственной за свои действия.
Суд указал, что чат-бот является частью сайта Air Canada и компания отвечает за информацию, которую предоставляет ее сайт независимо от того, находится она на обычной странице или поступает через чат-бот.

Если чат-бот выдал неправильный ответ, то пользователь может ошибиться.
Если ИИ-агент самостоятельно выполнил неправильное действие, то ошибка уже становится изменением реального мира. Агент, который забронировал не тот рейс или отправил неправильное сообщение, приводит к тому, что пользователь перестает предоставлять системе автономию. Восстановление требует не исправления, а перепроектирования модели взаимодействия, которая восстанавливает отозванные пользователем разрешения. Это более сложная задача, чем предполагают большинство команд.

📝Что делать:
▪️ Уберите антропоморфизм и «постфактум-рассуждения». Фразы вроде «Я подумал над вашей задачей...» или пошаговые «цепочки мыслей» часто создают лишь иллюзию человеческого разума и логики, маскируя ошибки модели. Используйте фактологический и нейтральный язык.
▪️Не прячьте дисклеймеры в футер. Предупреждения вида «AI может ошибаться» мелким серым шрифтом внизу страницы никто не читает. Размещайте их в фокусе внимания рядом с полем ввода и сопровождайте конкретным действием (например, «Перепроверьте цифры по ссылке»).
▪️Сделайте источники контекстными и интерактивными. Не закапывайте ссылки на источники внизу полотна текста. Размещайте интерактивные плашки с понятными названиями рядом со спорным утверждением.

❕ Но пока в этой гонке оценка происходит по критерию насколько впечатляюще ИИ умеет это делать, а не насколько хорошо человек понимает, что именно сейчас делает ИИ. А это уже совсем другой UX....

📌 Что почитать:

🔹The UX of AI Itself Is Broken/ Tushar Deshmukh
🔹The Complete List of AI Chatbot Failures (2025-2026)
🔹Human-Centered AI Guidebook, Google People + AI Research (PAIR).
🔹Trust, attitudes and use of artificial intelligence: A global study 2025
🔹Chatbot UI Design Patterns and Best Practices 2026, Fuselab Creative.
🔹Agent UX: Designing UI for AI Agents in 2026, Fuselab Creative
🔹Explainable AI in Chat Interfaces, 2025, Megan Chan|NN Group
🔹How AI Is Changing Search Behaviors/ NN Group
🔹Algorithm Aversion: People Erroneously Avoid Algorithms after Seeing Them Error

#UXWatch
————
@pattern_ai | AI GDPR Navigator