Южная Корея хочет разрешить ИИ обучаться на персональных данных даже без согласия человека

В Южной Корее рассматриваются поправки к Закону о защите персональных данных (PIPA), которые могут существенно изменить правила использования ПД для разработки и совершенствования ИИ.
Сейчас законопроект предусматривает специальный режим для случаев, когда для разработки или улучшения ИИ недостаточно анонимизированных или псевдонимизированных данных.

👀 При соблюдении установленных условий ранее законно собранные персональные данные можно будет использовать для целей, отличающихся от первоначальной цели их сбора.
В определенных случаях предполагается возможность обработки исходных ПД.
▪️ анонимизация или псевдонимизация недостаточны для разработки ИИ;
▪️ обеспечены технические, организационные и физические меры безопасности;
▪️ использование данных связано с общественными интересами, защитой интересов субъекта данных или третьих лиц либо социальными интересами;
▪️ риск необоснованного нарушения прав и интересов субъектов данных является крайне низким;
▪️Personal Information Protection Commission (PIPC) предварительно рассмотрела вопрос и приняла решение.
▪️Для некоторых случаев потребуется также оценка факторов риска.
PIPC сможет устанавливать дополнительные условия обработки и впоследствии контролировать их выполнение. Информация о целях и категориях используемых данных должна раскрываться в политике обработки персональных данных. Если новый ИИ-сервис фактически такой же или существенно похож на уже рассмотренный PIPC случай, процедура рассмотрения может быть упрощена.
После прохождения оставшихся парламентских процедур и обнародования закон должен вступить в силу через шесть месяцев.

❕Южная Корея фактически предлагает перенести решение о допустимости использования исходных ПД с уровня согласия конкретного человека на уровень предварительного контроля регулятора.
Как думаете, достаточно ли такого решения регулятора, чтобы заменить наш с вами контроль за своими ПД?

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ЕС готовит правила для облачных вычислений и ИИ

Еврокомиссия опубликовала исследование Cloud & AI Study, которое должно стать основой для оценки потенциальных законодательных инициатив и подготовки будущего EU Cloud and AI Development Act. Более 800 страниц💬

👀 Исследование оценивает существующие и будущие потребности ЕС в вычислительных мощностях, выявляет барьеры для компаний и рассматривает варианты государственной политики ( от минимального вмешательства до более активной роли ЕС).
Например:
▪️в 2025 году мощность дата-центров ЕС — около 12,4 ГВт, тогда как спрос уже составляет 15,3 ГВт;
▪️ к 2036 году спрос может превысить предложение на 12–23 ГВт;
▪️ сейчас только 12% мощностей дата-центров являются готовыми для ИИ. К 2036 году показатель может вырасти до 35–85% в зависимости от сценария.

Анализируются:
▪️проблемы строительства и получения разрешений для дата-центров;
▪️ барьеры для трансграничного предоставления облачных услуг;
▪️ зависимость от отдельных поставщиков на разных уровнях ИИ-стека и риски технологической привязки;
▪️ безопасность облачной инфраструктуры;
▪️ использование открытого программного обеспечения в государственном секторе;
▪️ доступ к финансированию, инвестиции и налоговые стимулы для строительства инфраструктуры.

Особое внимание уделяется доступу инновационных компаний к так называемому «вычислительному капиталу».

❕Европе необходимо одновременно наращивать инфраструктуру, упрощать её развитие и снижать зависимость от отдельных поставщиков технологий.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Human Oversight в AI Act: фразы «решение принимает человек» недостаточно

Испанский гайд по Human Oversight предназначен как практический инструмент для выполнения требований статьи 14 AI Act и был обновлен с учетом Digital Omnibus (здесь и остальные гайды).

👀 Три уровня человеческого контроля:
1️⃣ Human in Command (HIC) - базовый и самый общий уровень. Человек сохраняет конечную ответственность и принимает критические решения, связанные с работой ИИ-системы.
То есть вопрос не только в том, проверяет ли человек отдельный результат. Он должен иметь возможность решить, использовать ли систему вообще, когда и в каких пределах ее использовать.
2️⃣ Human-in-the-loop (HITL) - человек вмешивается до действия ИИ. ИИ может подготовить рекомендацию или решение, но перед совершением действия человек его проверяет и подтверждает.
Именно этот уровень обычно рекомендуется для высокорискового ИИ, когда необходимо валидировать каждое действие, даже если система обрабатывает большой объем операций.
3️⃣Human-on-the-loop (HOTL) - ИИ действует автоматически, а человек контролирует систему после совершения действия.
При этом должна существовать возможность вмешаться и отменить или исправить результат.
Для высокорисковых систем такой подход считается менее предпочтительным: если решение уже затронуло фундаментальные права человека, последующее исправление может оказаться невозможным или слишком поздним.

Развертыватель определяет необходимый уровень автономии исходя из конкретного use case и устанавливает соответствующую процедуру управления. Поставщик должен обеспечить технические механизмы, позволяющие реализовать выбранный уровень.

📝В гайде дается перечень технической документации, связанной с human oversight (всего 32 пункта):
▪️ по управлению рисками, управлению данными, прозрачности, точности, надежности и кибербезопасности;
▪️ технические руководства и руководства для пользователей от поставщика;
▪️ руководство по интерфейсу взаимодействия человека с системой для ее контроля (Human-Machine Interface);
▪️ модель управления системой со стороны разработчика и пользователя;
▪️ документация по выбранному уровню участия человека в принятии решений и соответствующей процедуре;
▪️ описание механизма или процедуры остановки системы. Возможность остановить систему должна существовать независимо от выбранного уровня автономии.
▪️документация по фиксации режима forced error для выявления автоматической предвзятости;
▪️ записи предложенных или выполненных системой действий и окончательных решений ответственного человека.
❗️Отдельно подчерикивается право человека не использовать ИИ, проигнорировать, изменить или отменить его результат, а также требование иметь механизм безопасной остановки системы.

❕Развертыватель определяет требования своего бизнес-процесса и уровень автономии, поставщик реализует необходимые технические механизмы, а после запуска развертыватель отвечает за соответствие поведения системы требованиям AI Act.


#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator