В России с 1 сентября вступит в силу Закон "О поддержке развития технологий ИИ в РФ"

Ключевые нормы вступают в силу с 1 марта 2027 года.
Полный разбор можно почитать у RKS Global здесь.
Текст закона здесь.

1️⃣Единых технических требований к маркировке нет, как нет и последствий ее отсутствия.
▪️Владельцы соц. сетей и иных информационных ресурсов (с аудиторией более 500 тысяч пользователей в сутки на территории РФ) обязаны обеспечить пользователям возможность разместить предупреждение о применении технологий ИИ. 
▪️Обязанность пользователя маркировать такой материал, как и ответственность за отсутствие предупреждения, или технические требования к предупреждению, закон не устанавливает.
▪️Лица, предоставляющие возможность применения моделей, должны уведомить пользователя о принадлежности прав на полученные с помощью модели результаты интеллектуальной.
деятельности, а также об условиях доступа к ним, их использования и сохранения при наличии технической возможности.

2️⃣Для обучения российских («суверенных» или «национальных») фундаментальных моделей ИИ разработчики смогут анализировать произведения, извлекать из них информацию, сравнивать, классифицировать, выявлять закономерности, тенденции и взаимосвязи, а также временно копировать их в память компьютера при одном из двух условий:
▪️разработчик получил экземпляр произведения законным способом (одной книги хватит); или
▪️произведение уже было опубликовано и доступно для анализа без технических ограничений (например, без защиты от доступа).

3️⃣Дан термин большой фундаментальной модели ИИ и категории.
Суверенная модель разрабатывается российским ЮЛ, которое обеспечивает полную техническую воспроизводимость всего цикла разработки, включая обучение. Национальная модель тоже создаётся российским ЮЛ, но может включать зарубежные компоненты, распространяемые на условиях открытой лицензии. Данные и ответы пользователям должны храниться в дата-центрах на территории России, принадлежащих российским ЮЛ, а также подтверждать соответствие модели рос. законодательству и традиционным духовно-нравственным ценностям.

Планируется разделить центры обработки данных для ИИ (ЦОД ИИ) и прочих ЦОДов

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Android вводит обязательную верификацию разработчиков

Google продолжает внедрение Android Developer Verification (системы обязательной проверки личности разработчиков). После волны критики компания смягчила некоторые требования, но от самой идеи не отказалась.
1️⃣Первые страны перейдут на новую систему уже в конце 2026 года, а затем она начнет распространяться на остальные регионы.
С 30 сентября 2026 обязательная верификация начинает применяться в:
▪️Бразилии,
▪️Индонезии,
▪️Сингапуре,
▪️Таиланде;
с 2027 года поэтапное распространение на остальные регионы мира.

2️⃣Google хочет, чтобы верифицированы были разработчики любых Android-приложений, включая распространяемые:
▪️через собственные сайты;
▪️сторонние магазины приложений;
▪️APK-файлы;
▪️корпоративные каналы распространения.
Пользователь должен знать, кто создал приложение, даже если оно установлено не из Google Play.
В первоначальной концепции предполагалось, что приложения от неверифицированных разработчиков практически невозможно будет установить.
Однако после критики со стороны сообщества Android, разработчиков независимых магазинов приложений, организаций EFF, FSFE, F-Droid, Proton, Tor Project и других Google пересмотрел подход.
Теперь появился Advanced Flow. Если разработчик не прошел верификацию, пользователь все равно сможет установить приложение, но только после дополнительной процедуры:
▪️включить режим разработчика;
▪️подтвердить, что устройство не находится под удаленным управлением мошенника;
▪️перезагрузить устройство;
▪️подождать 24 часа;
▪️подтвердить установку с помощью PIN-кода или биометрии.

3️⃣В июле Google запустил Android Developer ID Status API и ранний доступ к Android Developer Console API. Теперь магазины приложений и производители устройств могут автоматически проверять, зарегистрирован ли разработчик

4️⃣Google также представил Limited Distribution Account.
Такой режим предназначен для студентов, образовательных проектов и небольших проектов:
▪️не требуется оплачивать регистрационный сбор;
▪️не требуется проходить полную идентификацию;
▪️приложение можно распространять максимум на 20 заранее авторизованных устройств.

🔍 Кто сможет пройти проверки?
Google сообщает, что проверяет личность разработчика, а не его гражданство. Формально критериями являются:
▪️подтверждение личности или существования компании;
▪️действительные документы;
▪️возможность связаться с разработчиком;
▪️контроль над аккаунтом Google.
Однако компания не опубликовала, какие документы принимаются по каждой стране и как будут обрабатываться документы государств, находящихся под санкциями.

Европейская комиссия пока не начала отдельного разбирательства относительно Android Developer Verification.
В настоящее время основное внимание ЕС сосредоточено на исполнении Digital Markets Act (DMA), в рамках которого Google уже обязали открыть Android для сторонних ИИ-ассистентов, предоставить больше возможностей выбора сервисов и обеспечить доступ конкурентов к системным функциям (см пост здесь).

❕Если Google не изменит планы, то в 2027 году Android может стать первой массовой мобильной платформой, где для распространения приложений вне официального магазина также потребуется подтверждение личности разработчика.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Как компании будут бороться за рекомендации ИИ или почему SEO меняется

Еще недавно главной задачей маркетолога было оказаться на первой странице поисковой выдачи.
Сегодня у бизнеса появляется другой вопрос: «Что скажет нейросеть о моем бренде, когда пользователь спросит ее совета?»
Эта смена кажется небольшой, но она меняет модель цифрового маркетинга. С развитием ИИ-ассистентов путь клиента будет выглядеть, как пользователь → ChatGPT / Gemini / Алиса → рекомендация → покупка.

👀 А значит появляется новое направление Generative Engine Optimization (GEO) или попытка сделать так, чтобы ИИ чаще упоминал бренд в своих ответах.
Например, если пользователь спрашивает: «Какие сервисы подходят для автоматизации бухгалтерии?», то в поиске он получает список ссылок. ИИ может сразу сказать: «Для малого бизнеса можно рассмотреть X, Y и Z».

Сервисы вроде brandfound уже предлагают мониторинг того, как бренды представлены в ChatGPT, Gemini, Claude, Perplexity, Алисе и других системах, анализируя запросы пользователей и ответы нейросетей. Компания задает вопросы, которые реальные пользователи могут задавать нейросетям (например, какой банк выбрать для бизнеса в Европе). Дальше сервис проверяет ответы разных ИИ ( упоминается ли бренд, как часто он появляется, с кем его сравнивают, какие преимущества или недостатки ему приписывают) и создает аналитики для управления присутствием бренда в ответах ИИ.

Фактически появляется новая аналитика не сколько людей увидели рекламу", а сколько раз ИИ рекомендовал бренд потенциальному клиенту.

🔍 Какие методы использовать:
1️⃣Структурированные данные. Разметка Schema.org позволяет указать поисковым системам, что именно находится на странице ( товар, цена, организация, отзывы, автор, дата публикации). Это помогает алгоритмам лучше понимать содержание сайта.
2️⃣Файл llms.txt как экспериментальный подход и машинно-читаемый контент. Его идея похожа на robots.txt, т.е. дать ИИ-системам краткое описание сайта, его структуры и важных материалов. Например, компания может указать, какие страницы являются основными, где находится документация, какие данные можно использовать.
3️⃣Авторитетность источников. ИИ-модели оценивают не только текст, а важны еще параметры, кто написал материал, насколько источник надежен, есть ли подтверждение информации, насколько давно обновлялись данные. Принцип E-E-A-T (опыт, экспертность, авторитетность, надежность), который Google использует в рекомендациях для качества контента, становится еще более важным.
4️⃣Качество данных становится конкурентным преимуществом. Если в интернете противоречивая информация, ИИ может сделать неправильный вывод.
5️⃣Учитывать контекст пользователя. Интеграции Google с собственными сервисами дают ИИ-помощникам возможности отвечать на вопрос "что важно именно для этого человека?". И тот же туристический сервис может быть рекомендован не просто потому, что у него хороший сайт, а потому что ИИ знает, что пользователь планирует поездку, у него есть определенные даты, он уже покупал похожие услуги.

❗️Пользователям в таком контексте остается:
▪️не воспринимать ответ ИИ как истину.
▪️понимать, что рекомендации могут стать новым видом рекламы.
▪️учиться задавать вопросы, т.к. качество ответа будет зависеть от запроса. Не спрашивать "какой лучший банк", а " сравни, какие банки подходят под такие-то задачи, какие есть ограничения, зак-во, тарифы, история клиентских отношения и т.п".
▪️проверять результаты.

📌 Разметка структурированных данных Google,
GEO: Generative Engine Optimization,
What is Generative Engine Optimization (GEO) and how does it differ from SEO?

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Синдром гиперопеки: как ИИ-ассистенты разрушают навыки долгосрочного обучения

Новое исследование Гарварда и Стенфорда показывает проблему современных ИИ-ассистентов: они мешают нам учиться, потому что помогают слишком быстро и слишком сильно.

Ученые представили бенчмарк INT-BENCH, который имитирует взаимодействие "ученика" и "учителя" в трех сферах: отладка кода, математика и логические задачи. Оценка происходит в области обучения по частоте и времени вмешательств, а также по влиянию на
как непосредственный успех в выполнении задачи, так и решения новых проблем.

Результаты сравнения ИИ-преподавателей с людьми оказались весьма показательными:
1️⃣Синдром гиперопеки (Overassisting)
ИИ вмешивается слишком рано. В 90% случаев модель встревает в процесс рассуждения на самых первых шагах (в среднем показав всего 18% текста).
ИИ вмешивается, даже когда всё хорошо. Такие модели, как GPT-5.2 и GPT-OSS-120B, давали подсказки в 98–100% случаев, когда «ученик» прекрасно справлялся сам и шёл к верному ответу.
2️⃣ Сливы решений вместо обучения
Вместо того чтобы натолкнуть на мысль (наводящие вопросы, намеки), ИИ в 58–65% случаев сразу выдает почти готовый ответ или прямую инструкцию.
Человек-преподаватель в аналогичных условиях чаще указывает на ошибку косвенно или предлагает перепроверить шаги, давая возможность додумать самостоятельно.
3️⃣ Ноль навыков в долгосрочной перспективе (Generalization)
Быстрая помощь ИИ дает иллюзию успеха, т.к. сиюминутная точность выполнения задачи действительно растет.
Однако обобщение знаний падает. Когда «ученику» дают аналогичную, но новую задачу, наличие предыдущих подсказок от ИИ вообще не улучшает результат. Ученик не усваивает принцип, так как за него проделали всю ментальную работу.

Авторы статьи предупреждают о риске постепенного выгорания самостоятельного мышления (gradual disempowerment). Когда нейросети оптимизированы на быстрый результат, они приучают пользователя к «когнитивной разгрузке». Мы теряем навык преодоления сложных задач (productive struggle), ведь проще сразу получить готовый ответ.
Разработчикам LLM нужно обучать ассистентов не просто реверсировать ошибки, а балансировать между краткосрочной помощью и долгосрочным обучением, т.е. давать пользователю совершать ошибки и доходить до сути своим умом.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Решение о получении визы помог оценить ИИ?

Кейс из Нидерландов помогает разобраться, может ли государство использовать алгоритм при принятии решения о выдаче шенгенской визы, но не сообщать заявителю, что алгоритм вообще применялся.

👀 Окружной суд Гааги рассмотрел дело об отказе в краткосрочной шенгенской визе.

В процессе рассмотрения заявлений Министерство иностранных дел Нидерландов использует алгоритм Information Supporting Decision (IOB), который:
▪️анализирует данные заявления и информацию из других источников,
▪️формирует профили и рассчитывает показатель, на основании которого заявлению присваивается один из трёх треков обработки: fast, regular или intensive.
Система IOB не принимает решение о выдаче или отказе в визе, но должна помочь сотруднику определить, насколько интенсивно необходимо рассматривать конкретное заявление. Окончательное решение принимает человек.
Но именно здесь и возникает проблема.

Заявительница утверждала, что использование IOB может приводить к неправомерной дифференциации по национальности, расовому или этническому происхождению. В частности, она ссылалась на исследования, указывавшие на риск алгоритмического этнического профилирования.

Суд сначала в 2025 г. в отдельном решении впервые потребовал от Министерства иностранных дел подробно раскрыть, как используется IOB, включая обработку данных, профилирование и влияние алгоритма на конкретную заявку.

Нидерланды используют Impact Assessment Human Rights and Algorithms (IAMA) (специальный инструмент для оценки того, как алгоритм может затрагивать основные права человека), который было обновлен в феврале 2026г.
Для IOB такое исследование было проведено в декабре 2025, где были выявлены отклонения модели и ситуации, когда сотрудник мог чрезмерно полагаться на подсказку алгоритма.
После этого процесс был скорректирован, были изменены данные и элементы BAO, система была перекалибрована, а также введён отдельный протокол постоянного мониторинга bias.

Суд установил, что IOB в данном деле не повлиял на итоговое решение, заявительница получила regular track и итоговый score составил 0. Поэтому суд не увидел доказательств того, что алгоритмическая классификация определила результат её дела.

✏️Проблемой стала прозрачность использования алгоритма. В решении об отказе Министерство не указало, что IOB применялся к заявлению и какой результат он дал.

Суд подчеркнул, что даже если алгоритм не повлиял на содержание окончательного решения, информация о его использовании может быть необходима для того, чтобы человек мог понять, как рассматривалось его заявление, и эффективно оспорить решение.
Поэтому суд признал нарушенными принципы обоснованности и прозрачности.

В итоге суд отменил оспариваемое административное решение, поскольку были нарушены требования к мотивировке и заявительницу также неправомерно лишили возможности быть заслушанной.
Но одновременно сохранил юридические последствия этого решения, т. е. отказ в визе остался в силе.

❕Если алгоритм участвует в административной процедуре, государство не может просто сказать, что решение всё равно принимает человек, поэтому алгоритм юридически не важен, даже вспомогательная алгоритмическая система может иметь значение для права человека понять и оспорить решение.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Южная Корея хочет разрешить ИИ обучаться на персональных данных даже без согласия человека

В Южной Корее рассматриваются поправки к Закону о защите персональных данных (PIPA), которые могут существенно изменить правила использования ПД для разработки и совершенствования ИИ.
Сейчас законопроект предусматривает специальный режим для случаев, когда для разработки или улучшения ИИ недостаточно анонимизированных или псевдонимизированных данных.

👀 При соблюдении установленных условий ранее законно собранные персональные данные можно будет использовать для целей, отличающихся от первоначальной цели их сбора.
В определенных случаях предполагается возможность обработки исходных ПД.
▪️ анонимизация или псевдонимизация недостаточны для разработки ИИ;
▪️ обеспечены технические, организационные и физические меры безопасности;
▪️ использование данных связано с общественными интересами, защитой интересов субъекта данных или третьих лиц либо социальными интересами;
▪️ риск необоснованного нарушения прав и интересов субъектов данных является крайне низким;
▪️Personal Information Protection Commission (PIPC) предварительно рассмотрела вопрос и приняла решение.
▪️Для некоторых случаев потребуется также оценка факторов риска.
PIPC сможет устанавливать дополнительные условия обработки и впоследствии контролировать их выполнение. Информация о целях и категориях используемых данных должна раскрываться в политике обработки персональных данных. Если новый ИИ-сервис фактически такой же или существенно похож на уже рассмотренный PIPC случай, процедура рассмотрения может быть упрощена.
После прохождения оставшихся парламентских процедур и обнародования закон должен вступить в силу через шесть месяцев.

❕Южная Корея фактически предлагает перенести решение о допустимости использования исходных ПД с уровня согласия конкретного человека на уровень предварительного контроля регулятора.
Как думаете, достаточно ли такого решения регулятора, чтобы заменить наш с вами контроль за своими ПД?

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ЕС готовит правила для облачных вычислений и ИИ

Еврокомиссия опубликовала исследование Cloud & AI Study, которое должно стать основой для оценки потенциальных законодательных инициатив и подготовки будущего EU Cloud and AI Development Act. Более 800 страниц💬

👀 Исследование оценивает существующие и будущие потребности ЕС в вычислительных мощностях, выявляет барьеры для компаний и рассматривает варианты государственной политики ( от минимального вмешательства до более активной роли ЕС).
Например:
▪️в 2025 году мощность дата-центров ЕС — около 12,4 ГВт, тогда как спрос уже составляет 15,3 ГВт;
▪️ к 2036 году спрос может превысить предложение на 12–23 ГВт;
▪️ сейчас только 12% мощностей дата-центров являются готовыми для ИИ. К 2036 году показатель может вырасти до 35–85% в зависимости от сценария.

Анализируются:
▪️проблемы строительства и получения разрешений для дата-центров;
▪️ барьеры для трансграничного предоставления облачных услуг;
▪️ зависимость от отдельных поставщиков на разных уровнях ИИ-стека и риски технологической привязки;
▪️ безопасность облачной инфраструктуры;
▪️ использование открытого программного обеспечения в государственном секторе;
▪️ доступ к финансированию, инвестиции и налоговые стимулы для строительства инфраструктуры.

Особое внимание уделяется доступу инновационных компаний к так называемому «вычислительному капиталу».

❕Европе необходимо одновременно наращивать инфраструктуру, упрощать её развитие и снижать зависимость от отдельных поставщиков технологий.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Human Oversight в AI Act: фразы «решение принимает человек» недостаточно

Испанский гайд по Human Oversight предназначен как практический инструмент для выполнения требований статьи 14 AI Act и был обновлен с учетом Digital Omnibus (здесь и остальные гайды).

👀 Три уровня человеческого контроля:
1️⃣ Human in Command (HIC) - базовый и самый общий уровень. Человек сохраняет конечную ответственность и принимает критические решения, связанные с работой ИИ-системы.
То есть вопрос не только в том, проверяет ли человек отдельный результат. Он должен иметь возможность решить, использовать ли систему вообще, когда и в каких пределах ее использовать.
2️⃣ Human-in-the-loop (HITL) - человек вмешивается до действия ИИ. ИИ может подготовить рекомендацию или решение, но перед совершением действия человек его проверяет и подтверждает.
Именно этот уровень обычно рекомендуется для высокорискового ИИ, когда необходимо валидировать каждое действие, даже если система обрабатывает большой объем операций.
3️⃣Human-on-the-loop (HOTL) - ИИ действует автоматически, а человек контролирует систему после совершения действия.
При этом должна существовать возможность вмешаться и отменить или исправить результат.
Для высокорисковых систем такой подход считается менее предпочтительным: если решение уже затронуло фундаментальные права человека, последующее исправление может оказаться невозможным или слишком поздним.

Развертыватель определяет необходимый уровень автономии исходя из конкретного use case и устанавливает соответствующую процедуру управления. Поставщик должен обеспечить технические механизмы, позволяющие реализовать выбранный уровень.

📝В гайде дается перечень технической документации, связанной с human oversight (всего 32 пункта):
▪️ по управлению рисками, управлению данными, прозрачности, точности, надежности и кибербезопасности;
▪️ технические руководства и руководства для пользователей от поставщика;
▪️ руководство по интерфейсу взаимодействия человека с системой для ее контроля (Human-Machine Interface);
▪️ модель управления системой со стороны разработчика и пользователя;
▪️ документация по выбранному уровню участия человека в принятии решений и соответствующей процедуре;
▪️ описание механизма или процедуры остановки системы. Возможность остановить систему должна существовать независимо от выбранного уровня автономии.
▪️документация по фиксации режима forced error для выявления автоматической предвзятости;
▪️ записи предложенных или выполненных системой действий и окончательных решений ответственного человека.
❗️Отдельно подчерикивается право человека не использовать ИИ, проигнорировать, изменить или отменить его результат, а также требование иметь механизм безопасной остановки системы.

❕Развертыватель определяет требования своего бизнес-процесса и уровень автономии, поставщик реализует необходимые технические механизмы, а после запуска развертыватель отвечает за соответствие поведения системы требованиям AI Act.


#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator