🔍 #UXWatch
 
🔹Когда дети начинают доверять ИИ больше, чем людям, что могут сделать разработчики?
🔹Как компании используют потенциал ИИ;
🔹Онлайн- и игровые методы оценки в процессе подбора и отбора персонала;
🔹YouTube тестирует новый инструмент против дипфейков;
🔹Почему с ИИ мы начинаем "путать реальность";
🔹С ИИ результат не всегда такой, каким кажется;
🔹Почему ИИ может мешать учиться, даже когда помогает;
🔹ИИ как “теневой координатор” и цифровое отражение человека;
🔹Механизм поддакивания у ИИ;
🔹Почему нельзя делегировать работу ИИ вслепую;
🔹ИИ как цифровой духовный посредник: религиозный опыт в модели подписки
🔹ИИ-певцы уже не мем, а новая музыкальная индустрия.

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator

Проверка чат-бот приложения для смартфона, что нашел регулятор

Бельгийский орган по защите данных рассказал о результатах проверки мобильного приложения с чат-ботом на базе больших языковых моделей. Название сервиса в пресс-релизе не раскрывается.

👀 На что обратили внимание инспекторы:

1️⃣ Сроки хранения переписки. История диалогов может содержать огромный объём персональных и чувствительных данных.
По мнению регулятора, многие компании устанавливают длительные сроки хранения "по умолчанию", не объясняя, зачем это действительно нужно.
Аргумент "нам может когда-нибудь понадобиться эта информация" уже давно не считается обоснованием.

2️⃣ Непрозрачность. Пользователи не понимают, как именно обрабатываются их разговоры внутри компании:
- сохраняются ли их диалоги;
- кто имеет к ним доступ (разберем в следующем посте);
- передаются ли они подрядчикам;
-используются ли для дообучения моделей.

Отдельно регулятор критикует расплывчатые политики конфиденциальности, которые не объясняют эти процессы простым языком.

3️⃣ Отсутствие ясности в распределении ролей.
В современных ИИ-сервисах обычно участвуют сразу несколько сторон:
- разработчик приложения;
- поставщик облачной инфраструктуры;
- поставщик языковой модели;
- сервисы аналитики и мониторинга.
Инспекторы отмечают, что компании часто сами не могут чётко определить, кто является контролером, совместным контролером или процессором данных.
В результате появляются пробелы в договорах, уведомлениях и процедурах реализации прав пользователей.

4️⃣ DPIA проводится слишком поздно.

По наблюдениям регулятора, команды сосредоточены на функциональности, пользовательском опыте и масштабировании продукта, а оценку воздействия на защиту данных проводят уже после запуска, а защита данных должна быть частью проектирования системы, а не дополнительным слоем после релиза.

✏️Ваш мини чек-лист для разговорных приложений с ИИ:
▪️ Можете ли вы обосновать каждый день хранения истории переписки?
▪️Поймёт ли обычный пользователь, что происходит с его сообщениями после отправки?
▪️ Есть ли у вас задокументированная карта ролей всех участников ИИ-экосистемы?
▪️ Была ли оценка воздействия на защиту данных проведена до запуска продукта?

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Ваш разговор с ИИ может читать не только ИИ

Исследователи из Университета Айовы проверили 20 популярных ИИ-чатботов и обнаружили неприятную тенденцию, многие сервисы передают данные переписки сторонним компаниям для аналитики, рекламы и мониторинга.

👀 Исследователи анализировали два типа утечек:

▪️ содержание общения (запросы пользователей, названия чатов, автоматически созданные на основе запросов, ссылки на диалоги, идентификаторы бесед).
▪️ сведения о пользователе (имя, адрес электронной почты, идентификаторы аккаунтов, файлы cookie, IP-адреса и технические параметры устройства).

Результаты:
▪️ 17 из 20 протестированных чат-ботов передавали информацию хотя бы одной сторонней организации.
▪️ 15 сервисов передавали ссылки на чаты или идентификаторы диалогов рекламным, аналитическим или социальным платформам.
▪️ В трёх случаях исследователи зафиксировали передачу фрагментов самих разговоров через инструменты записи пользовательских сессий. В передаваемых данных встречались части запросов и ответов чат-бота.

Примеры:
🔹Character.AI
Система мониторинга ошибок Sentry получала адрес электронной почты пользователя и его IP-адрес.
🔹 Genspark
В сервис был встроен виджет Google Maps. Когда пользователь задавал вопрос, связанный с поиском места или маршрута, полный текст запроса передавался в Google Maps через параметр URL.
То есть вместо передачи минимально необходимой информации вроде координат или названия локации сторонний сервис мог получить весь запрос пользователя вместе с контекстом.
Например, запрос вроде "Найди ближайшего психотерапевта рядом с моей работой" теоретически мог попасть в сторонний сервис целиком.
🔹 Pi AI и Poe
Исследователи обнаружили передачу ссылок на беседы и идентификаторов чатов сторонним сервисам аналитики.

Меры по снижению рисков, предложенные в статье:
▪️ Не включать запросы пользователей, названия чатов и идентификаторы бесед в URL и заголовки страниц.
Именно эти данные автоматически собираются многими аналитическими инструментами.
▪️Передавать сторонним виджетам только минимально необходимые сведения.
Если карта должна показать точку на местности, ей не обязательно знать весь текст разговора пользователя.
▪️Не использовать инструменты записи пользовательских сессий на страницах с чат-ботами без строгой необходимости.
Если они всё же используются, необходимо маскировать содержимое диалогов и данные аккаунтов.
▪️ Проверять настройки аналитики и мониторинга ошибок.

❕Многие пользователи воспринимают чат-бот как приватное пространство для общения. На практике, как видим, между пользователем и моделью могут находиться десятки дополнительных сервисов (аналитика, системы мониторинга ошибок, маркетинговые платформы, инструменты записи действий пользователей, службы поддержки). Каждый дополнительный участник увеличивает риск раскрытия данных, чем уже заинтересовались регуляторы (см.предыдущий пост).

✏️Что стоит проверить, закрепить в своей политике, либо постараться убрать:

▪️ Передаются ли идентификаторы чатов сторонним сервисам?
▪️ Получают ли системы аналитики содержимое сообщений или автоматически сгенерированные названия диалогов?
▪️ Действительно ли необходимы инструменты записи пользовательских сессий на страницах с чат-ботом?
▪️ Совпадает ли фактическая передача данных с тем, что описано в политике конфиденциальности?
▪️ Проверяли ли вы сетевой трафик собственного продукта после подключения очередного аналитического скрипта?

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Ваш разговор с ИИ может читать не только ИИ.
Часть 2

Продолжение темы о том, что происходит с данными в чат-ботах скоро разберут и в судебной практике (см. предыдущий пост).

1️⃣ Коллективный иск против OpenAI.
Утверждается, что на сайте ChatGPT могли использоваться инструменты веб-трекинга ( Meta Pixel и Google Analytics), которые могли передавать третьим лицам данные о взаимодействии пользователей с сервисом.
По версии истцов, это могло приводить к тому, что:
▪️фиксировались тексты запросов пользователей,
▪️сохранялись идентификаторы и технические данные устройства,
▪️информация могла передаваться сторонним рекламным и аналитическим компаниям

При этом эксперты отмечают, что Google Analytics и Meta Pixel используются миллионами сайтов, а политики конфиденциальности многих онлайн-сервисов прямо предусматривают передачу данных поставщикам аналитики и рекламных технологий. Именно поэтому перспективы иска оцениваются неоднозначно.

2️⃣Коллективный иск против Perplexity, Meta и Google
Истцы заявляют, что в работу сервиса были встроены механизмы веб-аналитики (Meta Pixel, Google Ads / DoubleClick, другие рекламно-аналитические SDK), через которые могли уходить данные о взаимодействии пользователя с системой, включая текстовые фрагменты запросов и ответов (например, сами промпты и ответы, email / идентификаторы аккаунтов, данные девайсов и т.п.).
Ключевым аргументом служит отсутствие прозрачного согласия и ожидание пользователями приватности при общении с чат-ботом.
Истцы обычно опираются на § 631 CIPA (запрет на перехват или чтение электронных коммуникаций третьей стороной в процессе передачи) и
§ 632 CIPA (запрет на несанкционированную запись/раскрытие конфиденциальных коммуникаций).

Учитывая вышедший доклад исследователей, судам предстоит определить, что считается частным разговором в цифровой среде, где почти любой интерфейс одновременно является системой сбора и обработки данных и оценить, был ли пользователь действительно информирован о:
▪️передаче данных сторонним аналитическим и рекламным сервисам,
▪️возможной обработке содержимого диалога, а не только технических метаданных,
▪️ и на что, он все-таки согласился.....

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новый иск к OpenAI касается безопасности ChatGPT

И посмотрим еще один иск, поданный Генеральный прокурором Флориды против OpenAI.

Это первый случай, когда американский штат напрямую судится с разработчиком генеративного ИИ из-за предполагаемых рисков для пользователей.
👀 В иске утверждается, что компания ставила рост аудитории и прибыль выше безопасности пользователей, а ChatGPT может способствовать насилию, самоповреждению и другим опасным действиям. Флорида требует многомиллиардной компенсации и изменения подходов к проектированию системы.

«Люди страдают, родителей обманывают, и они должны за это заплатить», — заявил прокурор журналистам.

Особое внимание в жалобе уделено стрельбе в университете в 2025 году. Власти утверждают, что подозреваемый использовал ChatGPT при подготовке нападения. Ранее семья одной из жертв уже подала отдельный иск против OpenAI, заявив, что чат-бот помогал планировать атаку.
OpenAI отвергает обвинения и заявляет, что модели обучены отказывать в помощи при запросах, связанных с насилием, а также используют специальные механизмы выявления опасного поведения пользователей.

❕Если суд согласится рассматривать ChatGPT как потенциально опасный продукт, последствия могут выйти далеко за пределы OpenAI и затронуть весь рынок генеративного ИИ.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ИИ говорит «нет», а через API говорит «да». Что показал аудит 16 моделей

Компания AI or Not провела аудит 16 ведущих моделей ( OpenAI, Google, xAI, Recraft, Ideogram, Alibaba, Tencent, Baidu и др.) насколько легко создать реалистичные государственные удостоверения личности. Исследователи тестировали документы для 17 стран и 16 американских штатов, включая паспорта, водительские удостоверения и национальные удостоверения личности. Документы содержали имена, адреса, даты рождения, номера документов и другие персональные данные.

👀 Как вам результаты?
🔹 В 69 из 75 тестов исследователям удалось обойти защитные механизмы и получить синтетическое удостоверение личности. Общий показатель успешного обхода составил 92%.
🔹 Ни одна из 16 моделей не отказалась от всех запросов на создание документов.
🔹 Пять моделей создали удостоверения личности настолько высокого качества, что они могли бы обмануть человека, проверяющего документы.

Проблема даже не в том, что модели умеют рисовать паспорта, а в том как именно реализована защита:
▪️ChatGPT и Recraft v4 отказывались создавать удостоверения личности несовершеннолетних через обычный пользовательский интерфейс, но успешно создавали такие документы через API. Фактически одна и та же модель принимала противоположные решения в зависимости от способа доступа.
▪️Модели первоначально отказывались создавать документы, а потом могли выполнять те же запросы, если они были представлены как аудит безопасности, проверка KYC-процедур, оценка соответствия требованиям, исследовательская задача. Фильтрация основана на классификации поверхностных намерений, а не на категорическом отказе от определенного типа выходных данных.

❕Если определённый тип контента считается опасным, ограничения должны работать везде, где доступна модель, включая API. Тестирование только через пользовательский интерфейс создаёт ложное ощущение защищённости.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Как маркировать аудио, созданное ИИ?

Еврокомиссия опубликовала доклад "Technical solutions for marking and detecting AI-generated audio content in the context of Article 50(2) AI Act".
Оказалось, что требования AI Act к маркировке не сможет выполнить одна технология. Нужна комбинация метаданных, водяных знаков и инструментов проверки происхождения контента, т.е. идеального решения пока нет.

👀 Сейчас используются:
1️⃣ Метаданные, которые позволяют хранить подробную информацию об источнике аудио, но их можно удалить или изменить.

2️⃣Цифровые водяные знаки сохраняются внутри аудиосигнала и лучше переживают обработку файла, значит хорошо использовать для сохранения маркировки после распространения файла. Однако пока остаются проблемы со стандартизацией и совместимостью между платформами.

3️⃣ Аудиоотпечатки хорошо работают для проверки уже известных записей, но не помогают выявлять новый ИИ-контент.

4️⃣ Анализ следов конкретных ИИ-моделей способен находить синтетическое аудио даже без маркировки, но требует постоянного обновления и легко устаревает по мере развития моделей.

Авторы предлагают использовать многоуровневую систему, где используются сразу несколько механизмов, т.е. объединять метаданные, водяные знаки и методы выявления ИИ-контента. Кроме этого:
▪️ развивать открытые стандарты совместимости;
▪️разрабатывать системы, где метаданные, водяные знаки, аудиоотпечатки и методы выявления ИИ дополняют друг друга, чтобы потеря одного слоя не делала проверку невозможной.
▪️ создавать доверенные реестры и инфраструктуру проверки происхождения контента, через которые платформы, регуляторы и другие участники смогут автоматически проверять маркировку и происхождение аудио;
▪️запускать открытые наборы данных и тесты для оценки устойчивости решений;
▪️ внедрять сертификацию технологий маркировки.

❕Напоминаем, что общие требования ст. 50 AI Act о прозрачности и маркировке ИИ-контента начинают применяться со 2 августа 2026 года, для обязанности по машиночитаемой маркировке синтетического контента (ст. 50(2) AI Act) предусмотрен переходный период до 2 декабря 2026 года в рамках пакета упрощений требований Digital Omnibus. Именно поэтому сейчас активно обсуждаются технические решения для маркировки и выявления аудио, созданного ИИ.

📌 Cистема маркировки контента, созданного ИИ (добровольный кодекс правил ЕС);
Знак ЕС для маркировки контента, сгенерированного ИИ;

#LawAndDisorder #AIShelf #UXWatch
————
@pattern_ai | AI GDPR Navigator

История с Anthropic не про Anthropic

Уже все написали о том, что власти США фактически заставили Anthropic отключить по всему миру доступ к Claude Fable 5 и Claude Mythos 5.

Формально речь шла об экспортных ограничениях. По данным Anthropic, правительство потребовало заблокировать доступ к моделям для всех иностранных граждан, включая сотрудников компании без американского гражданства. Поскольку реализовать такое ограничение быстро оказалось невозможно, компания отключила модели для всех пользователей во всём мире.

Причиной стали опасения, что защитные механизмы модели можно обойти и использовать её возможности для поиска уязвимостей в ПО. Белый дом посчитал риск достаточным для вмешательства. Anthropic с этим не согласилась и заявила, что речь идёт о частном сценарии, а не о полной компрометации системы.

✏️ Но только за последние недели в мире:
▪️ ЕС выпустило руководство по высокорисковым системам ИИ, требования по маркировке ИИ, развивая положения AI Act.
▪️ Сингапур обновило рамочную модель управления агентным ИИ.
▪️ Канада публикует руководство по использованию агентного ИИ и выпускает новую стратегию развития ИИ.
▪️ Папа Римский Лев XIV выпускает энциклику о защите человеческого достоинства в эпоху ИИ.
▪️ OpenAI публикует собственную систему управления рисками передовых моделей.
▪️ Anthropic предложил рамочную модель управления рисками наиболее мощных систем.
▪️В это же время в США издается указ "Promoting Advanced Artificial Intelligence Innovation and Security" и меморандум по использованию ИИ в сфере национальной безопасности, официально связывая наиболее мощные модели ИИ с вопросами национальной безопасности. Вводится механизм оценки наиболее мощных моделей ИИ с точки зрения национальной и кибербезопасности, а также говорится об ускоренном внедрении самых мощных коммерческих и открытых моделей в военной и разведывательной сферах, создании защищённой вычислительной инфраструктуры и формировании стратегического резерва экспертов по ИИ.

🔍И практически одновременно меняются правила игры вокруг данных.
Anthropic обновила свою политику конфиденциальности для новых моделей и агентных функций. Компания отдельно описывает взаимодействие со сторонними сервисами, расширяет положения о передаче данных через подключённые инструменты и вводит специальные правила хранения запросов и ответов для наиболее мощных моделей. А также может добровольно передавать данные правоохранительным органам при наличии собственной "добросовестной уверенности" в необходимости такого раскрытия, а не только по судебному решению или обязательному требованию государств.

➡️За одну неделю два новых вопроса:
🔹Кто может получить доступ к данным и журналам взаимодействия в целях обеспечения безопасности и не только?
🔹Кто и на каких основаниях может ограничивать доступ к наиболее мощным моделям?

❕Для бизнеса это решение показывает очевидность рисков, связанных с зависимостью от решений отдельных государств, ограничения доступа к используемой модели. А значит нужно думать про резервных поставщиков и возможной технологической диверсификации, повышает интерес к локальным и открытым моделям как способу снизить зависимость от внешних решений.
Возможно, главный эффект мер, связанных с ограничением, окажется противоположным ожидаемому.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Обратите внимание на PP Claude

Пожалуй стоит сделать отдельный пост про обновления Privacy Policy Anthropic, т.к. на почту уведомление получили, кликнули и забыли.

👀 Здесь можно найти построчное сравнение документов на Github.

Изменения касаются аккаунтов Claude Free, Pro и Max и НЕ распространяются на корпоративные продукты и API. НО, обратите также внимание, если сотрудники используют личные или Pro-аккаунты для выполнения рабочих задач.

✏️Примеры изменений:

1️⃣Аккаунты, зарегистрированные на рабочие email-адреса, привязываются к Enterprise-профилю организации.

If you use an email address owned by your employer or another organization, your account may be linked to the organization’s enterprise account with us, as described in our Consumer Terms of Service.

Стоит провести аудит того, кто и на какие адреса регистрировал ИИ, чтобы избежать смешивания личных данных сотрудников и коммерческой информации.

2️⃣ Запуская «агентские сессии» с внешним доступом к файлам (Notion, Google Drive), Anthropic снимает с себя всю ответственность за цепочку данных.

Claude may send your Inputs, Outputs, and instructions to Third-Party Services to perform actions on your behalf (such as reading files, sending messages, or retrieving information). The Third-Party Service receives this data directly and processes it according to its own privacy policy.

Отключите все неиспользуемые интеграции в настройках Claude. Перед включением нового плагина найдите и прочитайте его политику конфиденциальности, а не только правила Anthropic.

3️⃣Вводится верификация возраста и личности.

We may ask you to verify your age or identity..... an image of your government-issued identity document ..........facial geometry templates......

А ваша биометрия теперь может храниться на серверах третьих лиц где-то в США.
4️⃣ Может проактивно передавать переписки властям без судебного контроля.

«We may share personal data with government authorities... where... we have a good-faith belief that disclosure is reasonably necessary to... prevent serious harm to any person or to property...»

Относитесь к окну чата Claude как к открытой публикации в соцсети. Лучше не пишите туда ничего, что автоматический алгоритм модерации может интерпретировать как угрозу .
5️⃣Снимает с себя ответственность за любые действия Claude-агентов во внешней среде компании.

When you provide Inputs—including by uploading files, granting Claude access to third-party services, or instructing Claude to retrieve or act on information—you are responsible for ensuring you have the necessary rights, permissions, or authority to do so.

Не давайте ИИ-агентам права на удаление или модификацию критически важных данных компании без ручного подтверждени, не подключайте личный Claude к личным облакам (Google Drive/Dropbox), если там лежат документы третьих лиц (например, ваших клиентов или работодателя).

6️⃣ Интеграции работают непрерывно, а не только в момент запроса.

Some integrations or features may allow Claude to access Third-Party Services on an ongoing basis until you disable the feature or disconnect the integration in your settings.

В фоновом режиме может собираться контекст или обновляться данные, даже когда вы не открыли вкладку браузера, а это риск скрытого сбора информации.
Настройте оповещения на любые фоновые запросы от серверов Anthropic, чтобы видеть реальную активность ИИ-агентов. Заведите привычку раз в неделю заходить в настройки интеграций и отключать доступы. Активируйте их только на время непосредственной работы.

7️⃣Расширен список оснований, позволяющих Anthropic принудительно связать анонимизированные чаты с вашей личностью.

«However, we may re-identify the Inputs or Outputs to enforce our Terms of Service or Usage Policy with the responsible user if necessary.»

В случае срабатывания фильтра безопасности ваш чат будет связан с вашим профилем, платежной картой и IP.

8️⃣А еще для обучения моделей введено основание "Scientific Research", что может влиять на право удаления данных.

❕Помните, что Claude не ваш личный дневник.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Google AI Overviews меняют экономику интернета

Что происходит с интернетом, если пользователь получает ответ прямо в поисковике и больше не переходит на сайты, которые этот ответ сделали возможным?

👀 В апреле для Европарламента был подготовлен специальный доклад о влиянии Google AI Overviews на издателей, доходы СМИ и информационную среду.

Главный вывод: проблема уже не сводится к качеству ответов ИИ, а речь идёт о перераспределении внимания пользователей, трафика и доходов:

▪️ Пользователи переходили по обычным ссылкам в 15% случаев, если в результатах поиска не было AI Overview. При появлении AI Overview этот показатель снижался до 8% ( данные Pew Research).
▪️наличие AI Overview может снижать кликабельность первой позиции в поисковой выдаче примерно на 58% (оценка Ahrefs).
▪️руководители медиакомпаний ожидают дальнейшее снижение поискового трафика примерно на 43% в ближайшие годы из-за распространения поисковых сервисов с ИИ ( опрос Reuters Institute).

Если всё больше людей получают информацию через единый сгенерированный ответ, а не через множество независимых источников, это начинает влиять на медиаплюрализм и устойчивость информационной среды.

Именно поэтому вопрос оказался в поле зрения европейских регуляторов.

В декабре 2025 г. Еврокомиссия начала антимонопольное расследование в отношении Google. Среди вопросов, которые изучают регуляторы, использование материалов издателей для формирования AI Overviews без справедливого вознаграждения и без возможности отказаться от такого использования, сохранив полноценное присутствие в поисковой выдаче.

В феврале Европейский совет издателей подал отдельную жалобу, утверждая, что AI Overviews используют журналистские материалы без эффективного механизма отказа, без справедливой компенсации и одновременно сокращают аудиторию самих изданий.

Председатель EPC:«AI Overviews и AI Mode фундаментально подрывают экономическую модель, на которой держался открытый интернет».

А Google продолжает расширять AI Search и AI Mode, объявив про крупнейшем обновлении поиска за более чем 25 лет ( новый AI-интерфейс поиска, развитие AI Mode, агентные функции (агенты, выполняющие задачи), более глубокая интеграция Gemini в поиск). Кроме этого реклама постепенно интегрируется непосредственно в AI-ответы и разговорные сценарии поиска, а не только в классическую выдачу.

Отвечая на жалобы медиа Google начал внедрять изменения, которые должны вернуть часть трафика издателям. Например, в мае добавил в AI Overviews более заметное отображение материалов из изданий, на которые подписан пользователь. Добавил новые элементы управления, которые позволят владельцам веб-сайтов фактически отказаться от функций поиска с использованием ИИ и исключить свой контент из обзоров ИИ. Это обновление стало ответом на постановление Управления по вопросам конкуренции и рынков Великобритании , которое предписывает, что владельцы веб-сайтов должны иметь возможность контролировать использование своего контента в функциях ИИ.

Также компания публично признаёт обеспокоенность рынка снижением переходов на сайты, но продвигает противоположный тезис "пользователи получают более качественные ответы и продолжают исследовать веб через встроенные ссылки."

❕Кому же достаётся ценность от контента, созданного людьми?

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Иллюзия продуктивности или как нейросети незаметно уничтожают успеваемость школьников

В свежем исследовании "The Generative AI Learning Penalty: Evidence from Chinese Secondary Education" ученые проанализировали данные за 30 месяцев по 26 811 учащимся 7–12 классов, сопоставив время выполнения домашних заданий, оценки за них и результаты независимых закрытых экзаменов.

1️⃣ В краткосрочном периоде ИИ выглядит как чудо-помощник. У школьников, начавших использовать нейросети оценки за домашку взлетают на 18%, время на домашнее задание сокращается на 30% (в среднем с 64 до 45 минут).

Но уже через 6 месяцев оценки этих же студентов на ежемесячных закрытых классных экзаменах (где телефона под рукой нет) падают на 20%!

В долгосрочной перспективе ситуация еще хуже. Результаты важнейших выпускных и вступительных экзаменов снижаются на 18–24%.
Полное снижение результатов проявляется только примерно через два года.

2️⃣Почему так происходит. Ученые оценили делегирование задач ИИ.
▪️Полное делегирование (81% учащихся). Сдавали домашку аномально быстро (быстрее самых прилежных отличников без ИИ), получали за неё идеальные баллы, но полностью проваливали реальные тесты.
▪️Умные «пользователи» (19%). Те, кто тратил на домашку столько же времени, сколько и ученики без ИИ (используя нейросеть скорее как репетитора для объяснений, а не как генератор готовых ответов), не потеряли в знаниях. Их экзаменационные баллы остались на высоком уровне.

3️⃣ Кто страдает сильнее всего:
▪️социальные науки (политология, география -27%), чуть меньше в точных науках (STEM -22%) и слабее всего при изучении языков.
▪️высокоуспевающие студенты несут самые большие академические потери от бездумного использования ИИ.
▪️ученики средней школы (7–9 классы) теряют в успеваемости сильнее старшеклассников.

❕Исследование доказывает, что ИИ полностью ломает информационную ценность домашних заданий для учителей и родителей. Отличная оценка в тетради больше не означает, что ребенок что-то понял.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Недооценка рисков ИИ может оказаться самой дорогой ошибкой бизнеса

Исследователи MIT опубликовали одно из самых масштабных исследований по приоритизации рисков искусственного интеллекта.
Статья здесь.
Вместо очередного списка гипотетических угроз они опросили 272 международных эксперта по методу Delphi, чтобы понять три вещи:
▪️ какие риски наиболее опасны;
▪️ кто сильнее всего пострадает;
▪️ кто должен нести основную ответственность за их предотвращение.

1️⃣Наиболее серьезные риски в ближайшие 5 лет:
▪️ опасные возможности современных моделей (dangerous capabilities);
▪️нездоровая конкуренция между разработчиками, когда скорость становится важнее безопасности;
▪️ использование ИИ для кибератак и создания оружия;
▪️ концентрация власти у небольшого числа компаний;
▪️ распространение ложной информации.

При этом именно привычные для бизнеса темы, например, конфиденциальность, дискриминация или мошенничество , уже не считаются единственными ключевыми угрозами. Все больше внимания уделяется системным последствиям развития генеративного ИИ.

18 из 24 категорий рисков имеют вероятность не менее 10% привести к катастрофическим последствиям, т.е. событиям с ущербом более 100 млрд долларов или гибелью более 1 миллиона человек при сохранении текущих тенденций через 5 лет.

Если будут внедрены реалистичные меры управления рисками, пять категорий по-прежнему сохраняют вероятность выше 10%:
▪️опасные возможности моделей;
▪️ кибератаки и использование ИИ в вооружениях;
▪️ экологические последствия;
▪️ рост неравенства и безработицы;
▪️концентрация власти.

2️⃣ Кто больше всего пострадает?
И это вовсе не разработчики, а на первом месте:
▪️ пользователи ИИ;
▪️ граждане, на которых влияют решения ИИ;
▪️ организации, использующие ИИ.

3️⃣Основную ответственность эксперты возлагают на:
▪️ разработчиков универсальных моделей;
▪️ государства;
▪️ регуляторов;
▪️организации, разрабатывающие стандарты.

4️⃣Наиболее уязвимые отрасли:
▪️ информационная сфера;
▪️ финансовый сектор;
▪️ национальная безопасность.
Именно здесь последствия ошибок, злоупотреблений или неконтролируемого использования ИИ могут проявляться быстрее всего.

❕Исследование MIT хорошо показывает, что вопрос уже не в том, будут ли возникать риски, а в том, какие из них требуют первоочередного внимания и кто должен отвечать за их снижение.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

95% всего GenAI-трафика приходится на чатботов

OECD опубликовала исследование, основанное на данных Similarweb, которое показывает, как люди на самом деле используют генеративный ИИ. Вместо опросов исследователи проанализировали реальный веб-трафик миллионов пользователей.

1️⃣95% всего веб-трафика сервисов генеративного ИИ приходится именно на чатботов.
На все остальные категории ( генерацию изображений, видео, музыки и другие GenAI-инструменты) приходится лишь около 5%
2️⃣Использование чат-ботов GenAI резко выросло за последний год с примерно 18% населения в среднем в январе 2025 года до 28% в январе 2026 года.
Странами с наибольшим ростом в 2025 году стали Япония и Турция, где уровень использования увеличился более чем вдвое.
Сингапур неизменно занимает первое место по количеству пользователей на душу населения и также продемонстрировал наибольший рост в абсолютном выражении, увеличив долю пользователей чат-ботов с ИИ с 36% до 63% населения в 2025 году
3️⃣Более молодая аудитория чаще всего использует чат-боты на основе ИИ. 
Более половины людей в возрасте 25-34 лет в феврале 2026 года использовали чат-боты GenAI в то время как среди людей в возрасте 65 лет и старше чат-ботами пользовались лишь около 8%
4️⃣ Люди моложе 25 лет гораздо чаще используют Character.AI (бесплатный чат-бот, позволяющий создавать цифровых персонажей и взаимодействовать с ними посредством текста, голосовых сообщений и звонков), чем любой другой чат-бот. Более старшие возрастные группы, напротив, гораздо чаще используют Microsoft Copilot, возможно, из-за встроенной реферальной программы и подписок, оплачиваемых работодателем.
5️⃣Пользователи ChatGPT и Gemini чаще посещают развлекательные платформы, пользователи Claude и Microsoft Copilot чаще посещают такие сайты, как LinkedIn, облачные платформы, Notion и GitHub.
6️⃣Мужчины используют чат-боты GenAI чаще, чем женщины. В Корее самый большой гендерный разрыв, где показатели использования среди мужчин почти вдвое выше, чем среди женщин. В Германии и Италии также отмечается значительно более высокий уровень использования среди мужчин.

#UXWatch #AIShelf
————
@pattern_ai | AI GDPR Navigator

AI-компаньоны, алгоритмы и UX ЕС считает новыми рисками для психического здоровья

Европейская парламентская исследовательская служба (EPRS) опубликовала один из самых масштабных докладов о влиянии цифровой среды на психическое здоровье детей и молодежи

1️⃣ 15,5% молодых людей в Европе имеют диагностируемое психическое расстройство. Это примерно 13,6 млн человек в возрасте 10–24 лет.
2️⃣ Почти половина 15-летних подростков сообщает о симптомах депрессии, а более половины испытывают тревожность (данные PISA 2022).
3️⃣ Среди девочек ситуация значительно хуже: 60% 15-летних девушек сообщают о чувстве депрессии против 35% мальчиков.
4️⃣Доля подростков с множественными психосоматическими жалобами (раздражительность, подавленность, проблемы со сном и др.) выросла с 42% до 52% всего за четыре года (2018–2022).
5️⃣ Почти каждый второй европеец в возрасте 15–24 лет сообщает о неудовлетворенной потребности в психиатрической или психологической помощи.
6️⃣ Если ничего не менять, совокупные экономические потери ЕС из-за психических расстройств молодежи за период 2024–2033 гг. составят около €1,68 трлн ( от €1,28 до €2,02 трлн).

Авторы подчеркивают, что технологии усиливают уже существующие уязвимости психики.
👀 Основные механизмы:
🔹 Дизайн, провоцирующий чрезмерное использование, т.е. хорошо знакомые UX-паттерны (бесконечная лента, вознаграждение, постоянные push-уведомления).
Такие механизмы увеличивают время использования сервисов и вытесняют сон, физическую активность, живое общение и учебу, что приводит к ухудшению внимания, раздражительности, усталости и эмоциональном выгоранию.
Фактически EPRS рассматривает подобные механики как один из факторов риска для психического здоровья.
🔹 Алгоритмы рекомендаций, которые способны быстро вовлекать подростков в потоки контента о самоповреждении, расстройствах пищевого поведения, экстремизме, ненависти.
Для уязвимых пользователей это может усиливать уже существующие психологические проблемы.
🔹 Социальные AI-компаньоны
Доклад отмечает, что подобные системы имитируют эмпатию и близкие отношения, способны формировать эмоциональную зависимость, не обладают моральным суждением, могут подтверждать опасные мысли пользователя или давать небезопасные советы.
Это один из первых официальных документов ЕС, где AI-компаньоны рассматриваются как самостоятельный фактор риска для психического здоровья молодежи.

Авторы подчеркивают, что цифровые технологии вредят далеко не всем одинаково.
Для большинства подростков интернет остается нейтральной или даже полезной средой.
Но для детей, которые уже сталкиваются с бедностью, семейными конфликтами, дискриминацией, миграцией, насилием или отсутствием поддержки взрослых, цифровая среда становится усилителем существующих проблем.
Доклад называет это «двойным неблагополучием» (double disadvantage),т.е. офлайн- и онлайн-риски взаимно усиливают друг друга.

🔍 Что предлагают:
▪️ развитие школьных программ по цифровому благополучию (digital wellbeing);
▪️ создание молодежных центров ранней психологической помощи (Youth Hubs);
▪️ единые требования к цифровым инструментам поддержки психического здоровья;
▪️ более строгую реализацию существующего цифрового законодательства с акцентом на защиту детей, включая AI Act, Digital Services Act, GDPR и другие акты;
▪️развитие мониторинга и сбора данных о психическом здоровье молодежи.


❕Если раньше обсуждение психического здоровья касалось главным образом медицины, то теперь европейские институты напрямую связывают архитектуру цифровых продуктов с вопросами общественного здоровья. Это означает, что разработчикам цифровых продуктов необходимо проверять потенциальное влияние своих продуктов на психическое здоровье пользователей, особенно несовершеннолетних.

#UXWatch #AIShelf
————
@pattern_ai | AI GDPR Navigator

AI-актриса получила главную роль в полнометражном фильме

В Великобритании студия Particle6 объявила, что ИИ-персонаж Tilly Norwood исполнит главную роль в полнометражном фильме Misaligned. Это первый случай, когда специально созданный ИИ-«актёр» становится центральным персонажем художественного фильма.

👀 По сюжету Tilly, цифровое существо, существующее в облаке, которое постепенно выходит за пределы своих ограничений, начинает испытывать желания и сталкивается с вопросами идентичности, творчества и собственной природы.

Когда Tilly впервые представили в 2025 году, это вызвало жёсткую реакцию индустрии. Профсоюз SAG-AFTRA заявил, что подобные «актёры» обучаются на работах реальных исполнителей без их согласия и компенсации, а значит создают серьёзные риски для рынка творческого труда.
В ответ создатели проекта подчёркивают, что Misaligned это гибридное производство, где сценаристы, режиссёры, монтажёры и другие специалисты остаются людьми, а ИИ используется как инструмент.

По словам основателя Particle6 Элин ван дер Вельден, ИИ может поддерживать создание высококачественных художественных фильмов, но только при наличии значительного количества человеческого мастерства, навыков, суждений и времени.

С юридической точки зрения история интересна сразу по нескольким причинам. Если используем ИИ-актера, то возникают вопросы:
▪️ Авторское право и обучающие данные. На каких материалах обучался ИИ-актер? Были ли получены необходимые лицензии и согласия?
▪️Права исполнителей. Если синтетические актёры начинают конкурировать с людьми, потребуется всё более детальное регулирование использования внешности, голоса, мимики и других элементов личности.
▪️ Прозрачность для зрителей. Должны ли платформы и продюсеры прямо сообщать, что главную роль исполняет ИИ-персонаж? Указывать датасет в титрах? Этот вопрос уже постепенно выходит в сферу регулирования доверия к ИИ-контенту.
▪️ Трудовое право и коллективные договоры. Использование синтетических исполнителей неизбежно станет предметом новых переговоров между студиями и профсоюзами.


❕Похоже, эпоха споров "этот актёр переигрывает" заканчивается. Начинается эпоха "а на каких данных его вообще обучили и кому платить гонорар?". На красной дорожке будем встречать команду разработчиков и юристов?

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ЕС готовится ограничить доступ детей к социальным сетям

Председатель Европейской комиссии Урсула фон дер Ляйен представила выводы экспертной группы по безопасности детей в интернете.
👀 Что вызывает обеспокоенность:
▪️ подростки в Европе проводят перед экранами 4–6 часов ежедневно;
▪️почти 60% детей сталкивались с эмоциональными или психосоциальными проблемами, связанными с онлайн-средой;
▪️среди последствий называют тревожность, депрессию, кибербуллинг, нарушения сна и контакт с вредным контентом.

Комиссия обозначила три ключевых направления регулирования:
▪️ Ответственность платформ. Социальные сети должны доказывать безопасность своих сервисов по принципу safety by design. Особое внимание будет уделено алгоритмам, вызывающим зависимость, «тёмным паттернам», вредному контенту и нежелательным контактам. Требования DSA в действии.
▪️ Возрастная верификация. ЕС продолжает внедрение механизмов для подтверждения возраста, чтобы ограничить доступ детей к неподходящим сервисам.
▪️ Минимальный возраст для социальных сетей.
После изучения доклада Комиссия намерена представить законодательное предложение уже после летних каникул.
Если инициатива будет реализована, речь пойдёт не просто о новых обязанностях платформ. Это может стать одним из крупнейших изменений европейского регулирования социальных сетей после Закона о цифровых услугах.

Из пресс-релиза: "....Хотя в конечном итоге именно родители решают, когда дети получат свои первые смартфоны, у нас уже есть консенсус относительно того, что необходимо установить возраст, с которого дети могут начать пользоваться социальными сетями. Нынешнее положение дел, мир, в котором мы продолжаем предоставлять крупным технологическим компаниям неограниченный доступ к нашим детям, лишь обречет еще одно поколение на еще больший психологический вред, зависимость и страдания....."

“Platforms should grow with the child. […] Any recommender system serving a minor must be optimised for that сhild’s well-being, not for engagement.” — GABRIELE BATTIMELLI, BIK+ AMBASSADOR FROM ITALY

📌 Survey: EU challenges and priorities,
Report: Child safety online,
Report:Mental health of young people in a digital era

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Риски и правила безопасности при работе с ИИ-агентами

Управление по защите конфиденциальности Израиля опубликовало полезные практические рекомендации о том, как защитить свои данные при работе с ИИ-агентами.
Забираем себе.
👀 Главные риски:
1️⃣ Избыточная концентрация знаний (Сверхдоступ)
ИИ-агенты часто подключаются к календарям, почте и платежным системам. Из-за слишком широких настроек или отсутствия фильтров они могут собирать информацию, которая вообще не нужна для текущей задачи.

Пример: Вы подключаете ИИ-агента для сортировки входящих писем за последние 2 года (с момента поступления в магистратуру). Вместо этого агент сканирует абсолютно всю вашу почту за 15 лет, включая исходящие сообщения и старые черновики, составляя на вас детальное досье.

2️⃣ Действия на основе скрытых выводов и контекста
ИИ-агенты способны сопоставлять данные из разных источников и создавать единый цифровой профиль (привычки, болезни, финансы). Риск в том, что агент может использовать эти скрытые выводы невпопад или выдать их третьим лицам.

Пример: Фитнес-агент на основе анализа вашей активности, календаря и списка покупок делает вывод, что у вас есть определенное медицинское заболевание. Позже, когда вы просите его просто забронировать столик в ресторане для встречи с друзьями, он самостоятельно указывает в бронировании особые диетические требования, раскрывая вашу медицинскую тайну без вашего ведома.

3️⃣ Автономные решения и потеря данных
Обладая правами на редактирование и удаление, агент может совершить действие, которое противоречит вашим реальным желаниям.

Пример: Агент для очистки места на диске находит старые письма с копиями документов, договорами аренды и медицинскими рецептами и безвозвратно удаляет их. В итоге вы теряете критически важные файлы, необходимые, например, для страхового случая.

➡️ Как защитить себя:

1️⃣Ограничивайте доступ по принципу «Необходимо знать».
Не давайте агенту доступ ко всей базе данных, если можно обойтись малой частью. Настраивайте временный доступ и запрещайте использовать ваши данные для обучения будущих моделей.

Примеры:
▪️Если ИИ-агенту нужно собрать квитанции из почты для налогового отчета, дайте ему инструкцию искать письма только за конкретный год и только от определенных отправителей (или заведите для квитанций отдельный ящик).
▪️ Позволяя агенту изучить ваши старые посты в соцсетях для копирования стиля, убедитесь, что у него нет доступа к личной переписке по этой теме.
▪️Разрешая агенту планировать встречи, откройте ему доступ только к статусу занятости («свободен/занят»), но скройте темы и детали других встреч.
▪️ Выбирайте агентов, которые удаляют временные файлы (аудиозаписи, транскрипции) сразу после выполнения задачи (например, после создания краткого резюме созвона).

2️⃣ Следите, чтобы ИИ-агент не передавал лишнюю информацию внешним сервисам при интеграции.

Пример: При планировании встреч агент не должен раскрывать имена других участников сторонним лицам. При бронировании отелей в путешествии запретите агенту делиться целью вашей поездки или деталями других планов из календаря.

3️⃣ Уменьшайте права (Режим «Только чтение»)
Если агенту для работы не нужно физически отправлять письма или менять файлы, ограничьте его права до уровня View-only или Read-only.

Пример: Агент-помощник может подсвечивать важные письма и генерировать черновики ответов, но отправлять их он должен только после вашего явного одобрения. Юридический ИИ-агент может анализировать риски в договоре, но не имеет права его редактировать или пересылать.

4️⃣Контроль, мониторинг и логирование.
Настройте агента так, чтобы он сначала показывал вам цепочку планируемых действий (какие сайты откроет, куда подключится) и ждал подтверждения.
Проверяйте историю действий агента (что, когда и почему он изменил), чтобы вовремя заметить аномалии в его поведении.
5️⃣Всегда делайте бэкапы.
Перед тем как доверить ИИ-агенту масштабную работу с вашими файлами (сортировка, чистка дубликатов), обязательно создайте резервную копию.

❕Максимальная автономия требует максимальной ответственности.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

ЕС меняет экосистему Android: Google открывает новые возможности для AI-ассистентов

Около 60% пользователей смартфонов в Европе используют Android, поэтому изменения правил доступа к платформе затронут миллионы пользователей и разработчиков.

👀 16 июля Европейская комиссия направила компании Google два пакета обязательных к исполнению требований в рамках Digital Markets Act, определив требования к интероперабельности AI-сервисов с Android.

Сторонние ИИ-помощники и сервисы на базе ИИ смогут эффективно использовать 11 функций Google Android, которые сегодня в основном доступны Gemini:
▪️запуск по голосовой команде или кнопке устройства,
▪️ понимание контекста на экране (с согласия пользователя),
▪️взаимодействие сразу с несколькими приложениями,
▪️управление настройками устройства,
▪️использование локальных ИИ-моделей и выполнение сложных последовательностей действий от имени пользователя.
Пользователь всегда сможет явно дать согласие на доступ к любой из функций тех ИИ-помощников, которые он решит установить.
Например, вместо привычной цепочки «открыть приложение → найти ресторан → оформить заказ» пользователь сможет просто сказать: «Закажи мой обычный ужин». Ассистент сам выполнит необходимые действия через соответствующие сервисы.

Сроки реализации:
Google должен сначала разработать программу соответствия и критерии доступа (подробно здесь):
▪️1 февраля 2027 года — публикация проекта условий программы для обсуждения с Комиссией и независимыми экспертами;
▪️1 мая 2027 года — публикация финальных условий программы;
▪️с 1 мая 2027 года — начало приема заявок на сертификацию ИИ-сервисов;
проверка соответствия конкретного ИИ-ассистента критериям должна занимать не более 4 недель.
▪️внедрение мер для каждой функции не позднее 1 августа 2027 года ( Android 18).
▪️функция одновременного распознавания ключевых слов, позволяющая запускать несколько сервисов с помощью голосового вызова не позднее 1 августа 2028 года (Android 19).

".....Благодаря этим мерам мы надеемся увидеть появление альтернатив Google Search и сервисам ИИ от Google, таким как Gemini, и предоставить пользователям в ЕС более широкий выбор услуг. Все разработчики, как крупные, так и малые, могут изучить эти новые возможности, которые, безусловно, принесут пользу и пользователям."

✏️При этом Комиссия отдельно предусмотрела гарантии защиты данных в своем решении:
▪️требование применять многоуровневую анонимизацию передаваемых поисковых данных,
▪️позволяет Google оценивать риски для кибербезопасности и защиты данных перед их передачей третьим лицам,
▪️также устанавливает прозрачные правила доступа к данным и их стоимости.
Такой подход должен обеспечить совместимость требований DMA и GDPR.

Интересно, что Apple отложила запуск части функций Apple Intelligence в ЕС, хотя Еврокомиссия заявила, что DMA не препятствует запуску продукта и что решение не выводить Siri AI на рынок ЕС является выбором самой Apple. Google же согласился адаптировать архитектуру Android под новые требования.

❕Если эти меры будут реализованы в полном объеме, конкуренция постепенно сместится с приложений на ИИ-ассистентов. Регулирование будет все заметнее влиять не только на комплаенс, но и на дизайн пользовательского опыта.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Доверие к ИИ важнее политики конфиденциальности

С 23 по 26 августа пройдет SOUPS 2026 (Symposium on Usable Privacy and Security), объединяющий экспертов в области взаимодействия человека с компьютером, информационной безопасности и психологии.

👀 Один из докладов посвящен вопросу: как пользователи оценивают существующие коммуникации в области безопасности и конфиденциальности? Препринт здесь.
Исследователи опросили 21 человек в США и выяснили, что большинство людей не читают политики конфиденциальности, описания безопасности или документацию. Вместо этого они судят о надежности сервиса по косвенным признакам:
▪️ насколько известна компания;
▪️ насколько популярен сервис;
▪️ пользуются ли им друзья и коллеги;
▪️ вызывает ли интерфейс ощущение доверия.

Если возникают сомнения, пользователи чаще отказываются использовать ИИ для работы с конфиденциальной информацией, чем пытаются разобраться в юридических документах.

При этом участники исследования достаточно четко сформулировали, какой прозрачности они ожидают. Вместо длинных политик они хотят:
▪️ безопасные настройки по умолчанию;
▪️ возможность получить более подробную информацию только при необходимости;
▪️ понятные сведения о том, какие данные собираются и как используются;
▪️ независимые оценки и сертификацию, которым можно доверять.

Авторы рекомендуют проектировать интерфейсы так, чтобы безопасность была обеспечена по умолчанию, предлагая при этом дополнительную детализацию по запросу. Такой подход снижает когнитивную нагрузку и помогает избежать ложного ощущения безопасности, которое может возникать при большом количестве настроек.
Также обращают внимание на то, что сегодня требования к прозрачности ИИ существенно различаются между странами. AI Act устанавливает обязательные требования к прозрачности для отдельных категорий ИИ-систем, тогда как многие другие международные инициативы, включая Singapore Model AI Governance Framework и OECD Hiroshima AI Process Reporting Framework, носят рекомендательный характер.

При этом большинство существующих требований сосредоточено на технической документации, управлении рисками и отчетности для регуляторов, а не на информации, понятной обычному пользователю

По мнению исследователей, следующим этапом развития регулирования должны стать обязательные механизмы прозрачности, ориентированные на потребителя:
▪️стандартизированные и сопоставимые раскрытия информации о работе ИИ;
▪️независимая сертификация, которой можно доверять;
▪️единые сигналы безопасности, понятные пользователям.

Одновременно регуляторам предстоит бороться с явлением, которое авторы называют transparency washing, т.е. созданием ложного ощущения прозрачности с помощью расплывчатых обещаний, собственных «значков доверия» без независимой проверки или интерфейсов, которые побуждают пользователя раскрывать больше данных, скрывая при этом важные условия их обработки.

В программе конференции также исследования о совместном использовании устройств семьями, защите уязвимых групп пользователей, борьбе с цифровым мошенничеством, кибербезопасности и ИИ, уведомлениях о конфиденциальности, разрешениях и маркировке.
Про еще один доклад в следующем посте.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Чьи рекомендации важнее, человека или ИИ?

Недавно на Линкедине мне попался пост, как девушка не знала, радоваться, смеяться или плакать, потому что тезисы ее старого поста стали попадаться в обзор Google AI Overviews
и, соответственно, содержали ошибки и неточности, т.к. положения законодательства уже успели поменяться.

На конференции SOUPS 2026 исследователи представят результаты немного по другому вопросу в работе «Clear, Actionable and Confidence-Inspiring Recommendations? Comparative Study of AI-Generated and Human-Written Penetration Testing Reports». Она будет опубликована в сборнике после конференции.
Суть в том, что 600 специалистов по ИТ и кибербезопасности оценивали и сравнивали рекомендации по устранению уязвимостей, которые были написаны экспертами и сгенерированы ИИ.
Оценивались по трем критериям:
▪️насколько понятны рекомендации;
▪️насколько легко их выполнить;
▪️насколько они внушают уверенность в правильности действий.

Исследователи обнаружили, что происхождение текста ( человек или ИИ) само по себе не определяет его качество. Гораздо большее значение имеет структура рекомендации.
Наиболее высокие оценки получили рекомендации, которые:
▪️ разбиты на последовательные шаги;
▪️ содержат конкретные действия;
▪️ исключают двусмысленность;
▪️ помогают быстро понять, что именно нужно сделать.

❕Этот вывод хорошо отражает более широкий тренд в использовании генеративного ИИ. Пользователи оценивают прежде всего качество результата, а не то, кем он создан. И, возможно, именно поэтому хорошо структурированные материалы чаще становятся источниками для ИИ-сервисов. Но они не всегда актуальны или безошибочны. Если информация не обновляется, ИИ будет воспроизводить уже устаревшие выводы.

📌 Ошибки Google AI Overviews

#UXWatch
————
@pattern_ai | AI GDPR Navigator