Добро пожаловать на канал Pattern AI!
Здесь говорят про то, как технологии влияют на бизнес, поведение пользователей и правила игры.
ИИ давно вышел за рамки генерации текста и изображений (подборка нейросетей). Он помогает нанимать, оценивать, предлагать и управлять. Без громких пресс-релизов. Иногда — с нарушением закона ( IP кейсы, занижение оценок студентам, ограничение доступа пользователей к услугам, гендерная предвзятость). Часто — без понимания последствий.
ИИ внедряется в каждую сферу, меняя пользовательский опыт, структуру компаний и правила эффективности (FTSG Tech Trend Report):
- сокращает цикл принятия решений с недель до минут;
- снижает затрат на 30 – 40%;
- автоматизирует координацию, убирая прослойку «менеджеров-посредников»;
- переход на на диалоговые формы (chat/UI), т.к.привычные интерфейсы устаревают;
- скрытый налог на ИИ. Настоящие издержки — не покупка ИИ, а энергия и инфраструктура, чтобы его поддерживать. Поздний вход на рынок = более высокая цена для компании.
В Pattern AI, мы:
- отслеживаем, как ИИ внедряется в разные сферы и в нашу повседневную жизнь;
- даем практические советы по законному и этичному внедрению технологий;
- разбираем, где UX превращается в манипуляцию;
- следим за тем, как законы пытаются догнать технологии;
- делаем подборки полезных ресурсов.
В центре внимания — регулирование, этика, тёмные паттерны, невидимые интерфейсы, нейро-манипуляции и разборы о том, как работают технологии. С аналитикой, фактами и вниманием к деталям.
Материалы не являются юридической консультацией
Здесь говорят про то, как технологии влияют на бизнес, поведение пользователей и правила игры.
ИИ давно вышел за рамки генерации текста и изображений (подборка нейросетей). Он помогает нанимать, оценивать, предлагать и управлять. Без громких пресс-релизов. Иногда — с нарушением закона ( IP кейсы, занижение оценок студентам, ограничение доступа пользователей к услугам, гендерная предвзятость). Часто — без понимания последствий.
ИИ внедряется в каждую сферу, меняя пользовательский опыт, структуру компаний и правила эффективности (FTSG Tech Trend Report):
- сокращает цикл принятия решений с недель до минут;
- снижает затрат на 30 – 40%;
- автоматизирует координацию, убирая прослойку «менеджеров-посредников»;
- переход на на диалоговые формы (chat/UI), т.к.привычные интерфейсы устаревают;
- скрытый налог на ИИ. Настоящие издержки — не покупка ИИ, а энергия и инфраструктура, чтобы его поддерживать. Поздний вход на рынок = более высокая цена для компании.
В Pattern AI, мы:
- отслеживаем, как ИИ внедряется в разные сферы и в нашу повседневную жизнь;
- даем практические советы по законному и этичному внедрению технологий;
- разбираем, где UX превращается в манипуляцию;
- следим за тем, как законы пытаются догнать технологии;
- делаем подборки полезных ресурсов.
В центре внимания — регулирование, этика, тёмные паттерны, невидимые интерфейсы, нейро-манипуляции и разборы о том, как работают технологии. С аналитикой, фактами и вниманием к деталям.
Материалы не являются юридической консультацией
👍2
Законы против алгоритма: кто быстрее?
Если посмотреть статистику, то упоминания ИИ в законодательных инициативах выросли на 21,3% в 75 странах по сравнению с 2023 годом, что в 9 раз выше по сравнению с 2016 годом (Stanford AI Index Report).
Основные цели как международных (OECD AI Principles, G7 Code of Conduct, NIST,Council of Europe Framework Convention on AI, Global Partnership on Artificial Intelligence), так и национальных инициатив по регулированию:
▪️ Защита прав человека, недопущение дискриминации и манипуляций;
▪️Управление рисками ИИ систем;
▪️ Обеспечение прозрачности, объяснимости и безопасности систем;
▪️ Установление ответственности в цепочке создания и внедрения ИИ.
Если быстро пройтись по странам, то ЕС стал пионером. AI Act первый в мире закон по регулированию ИИ, задает тон остальным, имеет экстерриториальное действие, а несоблюдение грозит еще большими штрафами чем GDPR, до 7% мирового годового оборота компании или 35 млн евро.
В США пока нет единого федерального закона. Каждый штат действует по своей инициативе. Федеральные агентства (FTC, SEC, FDA, CFPB) ввели 59 нормативных актов, связанных с ИИ, что вдвое больше чем в 2023 году. Действуют также добровольные стандарты (NIST AI RMF, ISO/IEC Standards ( 42001), IEEE Standards (7000 series)) .
В Китае приняты правила для генеративного ИИ, дипфейков, регламент по идентификации синтетического контента.
Другие страны также в процессе разработки национальных стратегий и рамочных законов (Канада- AIDA, Бразилия -PL 21/2020, ОАЭ - AI Strategy 2031 и т.д.)
Что делать бизнесу в постоянно меняющемся регуляторном ландшафте?
- Идентифицировать и документировать ИИ-системы и GPAI-модели, которые разрабатывает или использует ваша компания, а также их целевое назначение.
- Классифицировать их по уровням риска и соответствующим требованиям национальных регуляторов.
- Провести аудит на предмет несоответствий и потенциальных рисков.
- Разработать стратегию управления ИИ и внедрить программу ИИ-комплаенса, включая обучение сотрудников основам регулирования ИИ.
- Пристально следить за изменениями законодательства. Полезный ресурс для этого Global AI Regulation Tracker.
#LawAndDisorder #ai #ии
Если посмотреть статистику, то упоминания ИИ в законодательных инициативах выросли на 21,3% в 75 странах по сравнению с 2023 годом, что в 9 раз выше по сравнению с 2016 годом (Stanford AI Index Report).
Основные цели как международных (OECD AI Principles, G7 Code of Conduct, NIST,Council of Europe Framework Convention on AI, Global Partnership on Artificial Intelligence), так и национальных инициатив по регулированию:
▪️ Защита прав человека, недопущение дискриминации и манипуляций;
▪️Управление рисками ИИ систем;
▪️ Обеспечение прозрачности, объяснимости и безопасности систем;
▪️ Установление ответственности в цепочке создания и внедрения ИИ.
Если быстро пройтись по странам, то ЕС стал пионером. AI Act первый в мире закон по регулированию ИИ, задает тон остальным, имеет экстерриториальное действие, а несоблюдение грозит еще большими штрафами чем GDPR, до 7% мирового годового оборота компании или 35 млн евро.
В США пока нет единого федерального закона. Каждый штат действует по своей инициативе. Федеральные агентства (FTC, SEC, FDA, CFPB) ввели 59 нормативных актов, связанных с ИИ, что вдвое больше чем в 2023 году. Действуют также добровольные стандарты (NIST AI RMF, ISO/IEC Standards ( 42001), IEEE Standards (7000 series)) .
В Китае приняты правила для генеративного ИИ, дипфейков, регламент по идентификации синтетического контента.
Другие страны также в процессе разработки национальных стратегий и рамочных законов (Канада- AIDA, Бразилия -PL 21/2020, ОАЭ - AI Strategy 2031 и т.д.)
Что делать бизнесу в постоянно меняющемся регуляторном ландшафте?
- Идентифицировать и документировать ИИ-системы и GPAI-модели, которые разрабатывает или использует ваша компания, а также их целевое назначение.
- Классифицировать их по уровням риска и соответствующим требованиям национальных регуляторов.
- Провести аудит на предмет несоответствий и потенциальных рисков.
- Разработать стратегию управления ИИ и внедрить программу ИИ-комплаенса, включая обучение сотрудников основам регулирования ИИ.
- Пристально следить за изменениями законодательства. Полезный ресурс для этого Global AI Regulation Tracker.
#LawAndDisorder #ai #ии
AI powered dark patterns: как ИИ учится управлять вашими решениями
Для начала - разберемся с определениями. Темные паттерны — это части интерфейса, направленные на манипуляцию поведением пользователя. OECD выделяет шесть темных паттернов, которые помогают заставить пользователя совершить действия, которые он не собирался делать.
История развития тёмных паттернов долгое время сопровождалась созданием стратегий и жёстко прописанных сценариев, разработанных людьми. Но с приходом ИИ, манипуляции стали развиваться благодаря самообучению на пользовательских данных и поведенческих реакциях.
Именно это и стало основой для нового витка развития: современные модели ИИ, такие как Claude, Gemini, Llama и GPT, теперь сканируют тысячи сайтов и приложений, анализируя, какие методы манипуляции работают лучше всего, и автоматически перенимают эти стратегии.
Результат — принципиально иной подход к манипуляциям: гораздо более персонализированный и незаметный. ИИ использует персональные данные, чтобы создавать «индивидуальные» сценарии давления на пользователей. Это уже не просто предложение товара, а специально настроенные ситуации, подталкивающие к подпискам, покупкам или другим действиям, которые выгодны бизнесу, но могут быть не в интересах пользователя.
Примеры:
- Сеть Target использовала ИИ для того, чтобы спрогнозировать беременность подростка по её покупательским паттернам, ещё до того, как она рассказала об этом своей семье.
- Ещё один пример: судья полагался на ИИ для продления заключения подсудимого, основываясь на усреднённой статистике для подобных людей, а не на индивидуальных данных.
Итого: от заранее прописанных сценариев мы пришли к адаптивным, скрытым и персонализированным манипуляциям, где основное давление оказывается не на "среднего" пользователя, а именно на вас, с учётом конкретных привычек, эмоций и данных.
Source картинки
#UXWatch
Для начала - разберемся с определениями. Темные паттерны — это части интерфейса, направленные на манипуляцию поведением пользователя. OECD выделяет шесть темных паттернов, которые помогают заставить пользователя совершить действия, которые он не собирался делать.
История развития тёмных паттернов долгое время сопровождалась созданием стратегий и жёстко прописанных сценариев, разработанных людьми. Но с приходом ИИ, манипуляции стали развиваться благодаря самообучению на пользовательских данных и поведенческих реакциях.
Именно это и стало основой для нового витка развития: современные модели ИИ, такие как Claude, Gemini, Llama и GPT, теперь сканируют тысячи сайтов и приложений, анализируя, какие методы манипуляции работают лучше всего, и автоматически перенимают эти стратегии.
Результат — принципиально иной подход к манипуляциям: гораздо более персонализированный и незаметный. ИИ использует персональные данные, чтобы создавать «индивидуальные» сценарии давления на пользователей. Это уже не просто предложение товара, а специально настроенные ситуации, подталкивающие к подпискам, покупкам или другим действиям, которые выгодны бизнесу, но могут быть не в интересах пользователя.
Примеры:
- Сеть Target использовала ИИ для того, чтобы спрогнозировать беременность подростка по её покупательским паттернам, ещё до того, как она рассказала об этом своей семье.
- Ещё один пример: судья полагался на ИИ для продления заключения подсудимого, основываясь на усреднённой статистике для подобных людей, а не на индивидуальных данных.
Итого: от заранее прописанных сценариев мы пришли к адаптивным, скрытым и персонализированным манипуляциям, где основное давление оказывается не на "среднего" пользователя, а именно на вас, с учётом конкретных привычек, эмоций и данных.
Source картинки
#UXWatch
👍5