Законы против алгоритма: кто быстрее?
Если посмотреть статистику, то упоминания ИИ в законодательных инициативах выросли на 21,3% в 75 странах по сравнению с 2023 годом, что в 9 раз выше по сравнению с 2016 годом (Stanford AI Index Report).
Основные цели как международных (OECD AI Principles, G7 Code of Conduct, NIST,Council of Europe Framework Convention on AI, Global Partnership on Artificial Intelligence), так и национальных инициатив по регулированию:
▪️ Защита прав человека, недопущение дискриминации и манипуляций;
▪️Управление рисками ИИ систем;
▪️ Обеспечение прозрачности, объяснимости и безопасности систем;
▪️ Установление ответственности в цепочке создания и внедрения ИИ.
Если быстро пройтись по странам, то ЕС стал пионером. AI Act первый в мире закон по регулированию ИИ, задает тон остальным, имеет экстерриториальное действие, а несоблюдение грозит еще большими штрафами чем GDPR, до 7% мирового годового оборота компании или 35 млн евро.
В США пока нет единого федерального закона. Каждый штат действует по своей инициативе. Федеральные агентства (FTC, SEC, FDA, CFPB) ввели 59 нормативных актов, связанных с ИИ, что вдвое больше чем в 2023 году. Действуют также добровольные стандарты (NIST AI RMF, ISO/IEC Standards ( 42001), IEEE Standards (7000 series)) .
В Китае приняты правила для генеративного ИИ, дипфейков, регламент по идентификации синтетического контента.
Другие страны также в процессе разработки национальных стратегий и рамочных законов (Канада- AIDA, Бразилия -PL 21/2020, ОАЭ - AI Strategy 2031 и т.д.)
Что делать бизнесу в постоянно меняющемся регуляторном ландшафте?
- Идентифицировать и документировать ИИ-системы и GPAI-модели, которые разрабатывает или использует ваша компания, а также их целевое назначение.
- Классифицировать их по уровням риска и соответствующим требованиям национальных регуляторов.
- Провести аудит на предмет несоответствий и потенциальных рисков.
- Разработать стратегию управления ИИ и внедрить программу ИИ-комплаенса, включая обучение сотрудников основам регулирования ИИ.
- Пристально следить за изменениями законодательства. Полезный ресурс для этого Global AI Regulation Tracker.
#LawAndDisorder #ai #ии
Если посмотреть статистику, то упоминания ИИ в законодательных инициативах выросли на 21,3% в 75 странах по сравнению с 2023 годом, что в 9 раз выше по сравнению с 2016 годом (Stanford AI Index Report).
Основные цели как международных (OECD AI Principles, G7 Code of Conduct, NIST,Council of Europe Framework Convention on AI, Global Partnership on Artificial Intelligence), так и национальных инициатив по регулированию:
▪️ Защита прав человека, недопущение дискриминации и манипуляций;
▪️Управление рисками ИИ систем;
▪️ Обеспечение прозрачности, объяснимости и безопасности систем;
▪️ Установление ответственности в цепочке создания и внедрения ИИ.
Если быстро пройтись по странам, то ЕС стал пионером. AI Act первый в мире закон по регулированию ИИ, задает тон остальным, имеет экстерриториальное действие, а несоблюдение грозит еще большими штрафами чем GDPR, до 7% мирового годового оборота компании или 35 млн евро.
В США пока нет единого федерального закона. Каждый штат действует по своей инициативе. Федеральные агентства (FTC, SEC, FDA, CFPB) ввели 59 нормативных актов, связанных с ИИ, что вдвое больше чем в 2023 году. Действуют также добровольные стандарты (NIST AI RMF, ISO/IEC Standards ( 42001), IEEE Standards (7000 series)) .
В Китае приняты правила для генеративного ИИ, дипфейков, регламент по идентификации синтетического контента.
Другие страны также в процессе разработки национальных стратегий и рамочных законов (Канада- AIDA, Бразилия -PL 21/2020, ОАЭ - AI Strategy 2031 и т.д.)
Что делать бизнесу в постоянно меняющемся регуляторном ландшафте?
- Идентифицировать и документировать ИИ-системы и GPAI-модели, которые разрабатывает или использует ваша компания, а также их целевое назначение.
- Классифицировать их по уровням риска и соответствующим требованиям национальных регуляторов.
- Провести аудит на предмет несоответствий и потенциальных рисков.
- Разработать стратегию управления ИИ и внедрить программу ИИ-комплаенса, включая обучение сотрудников основам регулирования ИИ.
- Пристально следить за изменениями законодательства. Полезный ресурс для этого Global AI Regulation Tracker.
#LawAndDisorder #ai #ии
Петля развития для моделей
В продолжение к теме галлюцинаций моделей и деградации тренировочных данных из предыдущего поста.
Есть мнение, что, в связи с увеличением роста использования AI агентов и пропорциональным снижением трафика на площадках для обсуждения кода (Stack Overflow), нейронки "замкнутся" в своем обучении. Под этим можно понимать момент, когда тренировочной базой для моделей станут уже не человеческий контент, а такие же сгенерированные результаты.
Если обратить внимание на недавний пейпер от Yale исследователей, к моменту, когда ии будет учиться на сгенерированном контенте (а скорее всего еще раньше), без должного набора ошибок (или алгоритма их определения) модель не может научиться отличать истину от лжи, так как ей не с чем сравнивать -> это неизбежно отразится на качестве ответов.
Невозможно выучить структуру языка, видя только его корректные примеры, а для модели все к тому моменту может стать "корректным".
Решение - обратная связь от человека (RLHF) - маркировка ответов на правильные и неправильные. Но из за реактивного поведения моделей (способности галлюцинировать на лету), о масштабировании такой ручной маркировки не может быть и речи, так как это не может покрыть всю бесконечную область возможных запросов и ответов.
Вывод можно сделать такой - ИИ не может отличить ложь от правды, если никто не говорит, где ошибка. А если такие данные начнут “саморазмножаться ”— ошибки станут нормой.
#BehindTheMachine
В продолжение к теме галлюцинаций моделей и деградации тренировочных данных из предыдущего поста.
Есть мнение, что, в связи с увеличением роста использования AI агентов и пропорциональным снижением трафика на площадках для обсуждения кода (Stack Overflow), нейронки "замкнутся" в своем обучении. Под этим можно понимать момент, когда тренировочной базой для моделей станут уже не человеческий контент, а такие же сгенерированные результаты.
Если обратить внимание на недавний пейпер от Yale исследователей, к моменту, когда ии будет учиться на сгенерированном контенте (а скорее всего еще раньше), без должного набора ошибок (или алгоритма их определения) модель не может научиться отличать истину от лжи, так как ей не с чем сравнивать -> это неизбежно отразится на качестве ответов.
Невозможно выучить структуру языка, видя только его корректные примеры, а для модели все к тому моменту может стать "корректным".
Решение - обратная связь от человека (RLHF) - маркировка ответов на правильные и неправильные. Но из за реактивного поведения моделей (способности галлюцинировать на лету), о масштабировании такой ручной маркировки не может быть и речи, так как это не может покрыть всю бесконечную область возможных запросов и ответов.
Вывод можно сделать такой - ИИ не может отличить ложь от правды, если никто не говорит, где ошибка. А если такие данные начнут “саморазмножаться ”— ошибки станут нормой.
#BehindTheMachine
Linkedin
LLMs can't detect hallucinations without errors | Denis O. posted on the topic | LinkedIn
There was a paper published in April 2025 by Yale researchers that says hallucination detection in LLMs is fundamentally impossible if the model is only trained on correct outputs. No matter how advanced the model is, without explicit examples of errors,…
🔥3
Emotion AI превратит ваши эмоции в + 20 CTR для компании
Emotion AI превращает ваши эмоции в метаданные и в живые деньги для компаний, поможет вас вылечить, спасти, обучить и что-нибудь вам продать. Посмотрим на примерах:
Вы устали и хотите отдохнуть - Skyscanner предложит персонализированные направления (тестировал Emotion AI от Sightcorp через веб-камеру, CTR вырос на 20%).
MetLife использовал Cogito для анализа тона и интонации клиентов в кол-центрах, +14 пунктов в NPS и снижение среднего времени звонка на 17%.
Вы не хотите покупать, заскучали на видеозвонке с менеджером, ИИ ему это подскажет, а заодно, что делать и как продать ( Uniphore: Q for Sales).
Emotion AI использует 65% розничных компаний, чтобы отслеживать удовлетворённость клиентов по выражению лиц. Конверсии на сайтах с эмоциональными подсказками выше на 22%. Даже виртуальный питомец, распознающий наши эмоции, становится роднее. Emotion AI тестируют и внедряют, во многих сферах, даже, когда вы обычный пассажир (метрополитен Сан-Паулу применил Emotion AI от AdMobilize для оптимизации интерактивной рекламы в метро на основе эмоций пассажиров, в Великобритании компания Network Rail тайно тестировала ИИ-камеры для анализа эмоций пассажиров без их согласия).
C другой стороны Emotion AI выявляет проблемы с психическим здоровьем с точностью 87%, помогая диагностировать такие состояния, как депрессия и тревожность, в 92% успешен в выявлении суицидальных мыслей, а время терапевтического реагирования в среднем на 25% и даже давление можно померить эффективнее, чем манжетой (больше статистики здесь).
А можно ли точно отследить эмоции человека? Обзор более 1 000 исследований, проведённый учёными из Ассоциации психологической науки, показал, что выражения эмоций не универсальны и зависят от контекста и культуры. Например, люди хмурятся менее чем в 30% случаев, когда злятся, и часто хмурятся без чувства гнева.
Исследование 2022 года выявило, что алгоритмы распознавания эмоций работают хуже для людей старше 34 лет и демонстрируют различную точность в зависимости от этнической принадлежности.
Работа Джой Буоламвини показала, что коммерческие ИИ-системы точнее распознают лица светлокожих мужчин, чем женщин с тёмной кожей, с ошибками до 34,7%.
Это ставит под сомнение надёжность ИИ в интерпретации эмоций.
Суммируем проблемные вопросы, с которыми сталкивается разработка Emotion AI:
- мы не можем однозначно сказать, что такое эмоции;
- качество наборов данных, используемых для обучения систем, что может потенциально приводить к неточным или несправедливым, предвзятым результатам;
- манипулирование людьми ради коммерческой или политической выгоды (кейс Cambridge Analytica);
- объяснимость используемой модели, количественная оценка неопределенности в распознавании эмоций;
- этические проблемы;
- защита персональных данных;
- при внедрении в образование необходимо не только распознавание, но и реагирование на различные эмоциональные состояния учащихся, что может привести к нарушению прав детей.
Что делать:
- учитывайте законодательные ограничения, стандарты, этические принципы;
- тестируйте систему на разных демографических группах;
- уведомляйте пользователя об использовании Emotion AI;
- дайте право отключить трекинг эмоций;
-не принимайте ключевые решения (например, ограничение функционала) исключительно на основании “распознанной” эмоции.
Что почитать:
- Комплексный анализ систем распознавания эмоций;
- Примеры, как Chat GPT анализирует отзывы покупателей;
- Список наборов данных для анализа настроений;
Source картинки
@pattern_ai
#UXWatch #ии #ai
Emotion AI превращает ваши эмоции в метаданные и в живые деньги для компаний, поможет вас вылечить, спасти, обучить и что-нибудь вам продать. Посмотрим на примерах:
Вы устали и хотите отдохнуть - Skyscanner предложит персонализированные направления (тестировал Emotion AI от Sightcorp через веб-камеру, CTR вырос на 20%).
MetLife использовал Cogito для анализа тона и интонации клиентов в кол-центрах, +14 пунктов в NPS и снижение среднего времени звонка на 17%.
Вы не хотите покупать, заскучали на видеозвонке с менеджером, ИИ ему это подскажет, а заодно, что делать и как продать ( Uniphore: Q for Sales).
Emotion AI использует 65% розничных компаний, чтобы отслеживать удовлетворённость клиентов по выражению лиц. Конверсии на сайтах с эмоциональными подсказками выше на 22%. Даже виртуальный питомец, распознающий наши эмоции, становится роднее. Emotion AI тестируют и внедряют, во многих сферах, даже, когда вы обычный пассажир (метрополитен Сан-Паулу применил Emotion AI от AdMobilize для оптимизации интерактивной рекламы в метро на основе эмоций пассажиров, в Великобритании компания Network Rail тайно тестировала ИИ-камеры для анализа эмоций пассажиров без их согласия).
C другой стороны Emotion AI выявляет проблемы с психическим здоровьем с точностью 87%, помогая диагностировать такие состояния, как депрессия и тревожность, в 92% успешен в выявлении суицидальных мыслей, а время терапевтического реагирования в среднем на 25% и даже давление можно померить эффективнее, чем манжетой (больше статистики здесь).
А можно ли точно отследить эмоции человека? Обзор более 1 000 исследований, проведённый учёными из Ассоциации психологической науки, показал, что выражения эмоций не универсальны и зависят от контекста и культуры. Например, люди хмурятся менее чем в 30% случаев, когда злятся, и часто хмурятся без чувства гнева.
Исследование 2022 года выявило, что алгоритмы распознавания эмоций работают хуже для людей старше 34 лет и демонстрируют различную точность в зависимости от этнической принадлежности.
Работа Джой Буоламвини показала, что коммерческие ИИ-системы точнее распознают лица светлокожих мужчин, чем женщин с тёмной кожей, с ошибками до 34,7%.
Это ставит под сомнение надёжность ИИ в интерпретации эмоций.
Суммируем проблемные вопросы, с которыми сталкивается разработка Emotion AI:
- мы не можем однозначно сказать, что такое эмоции;
- качество наборов данных, используемых для обучения систем, что может потенциально приводить к неточным или несправедливым, предвзятым результатам;
- манипулирование людьми ради коммерческой или политической выгоды (кейс Cambridge Analytica);
- объяснимость используемой модели, количественная оценка неопределенности в распознавании эмоций;
- этические проблемы;
- защита персональных данных;
- при внедрении в образование необходимо не только распознавание, но и реагирование на различные эмоциональные состояния учащихся, что может привести к нарушению прав детей.
Что делать:
- учитывайте законодательные ограничения, стандарты, этические принципы;
- тестируйте систему на разных демографических группах;
- уведомляйте пользователя об использовании Emotion AI;
- дайте право отключить трекинг эмоций;
-не принимайте ключевые решения (например, ограничение функционала) исключительно на основании “распознанной” эмоции.
Что почитать:
- Комплексный анализ систем распознавания эмоций;
- Примеры, как Chat GPT анализирует отзывы покупателей;
- Список наборов данных для анализа настроений;
Source картинки
@pattern_ai
#UXWatch #ии #ai
Как сделать озвучку с помощью ИИ
1. Генерируем текст в ChatGPT (другой, который используете), либо сочиняем сами;
2. Самый быстрый и простой способ, заходим в https://www.openai.fm/, загоняем текст, выбираем тон голоса и скачиваем. Полезен и тем, что можно посмотреть промт для другой нейросети.
На это аудио ушло пару минут....
3. Для подбора и создания голоса с нужными эмоциями подойдет Hume;
4. Если необходимо делать постоянные озвучки, клон своего голоса, то смотрим рейтинг топ-10 и выбираем в зависимости от цели и бюджета, например, Elevenlabs, Lovo и т.д.
Что послушать:
- Eye on AI (подкасты с ведущими исследователями и практиками);
- Practical AI (подкаст про то, как использовать ИИ продуктивно и в реальных сценариях);
- Machine Learning Podcast (о машинном обучении простыми словами на русском языке).
Делитесь опытом и интересными ресурсами в комментариях!
#TalkPrompty #ИИ #AI
@pattern_ai
1. Генерируем текст в ChatGPT (другой, который используете), либо сочиняем сами;
2. Самый быстрый и простой способ, заходим в https://www.openai.fm/, загоняем текст, выбираем тон голоса и скачиваем. Полезен и тем, что можно посмотреть промт для другой нейросети.
На это аудио ушло пару минут....
3. Для подбора и создания голоса с нужными эмоциями подойдет Hume;
4. Если необходимо делать постоянные озвучки, клон своего голоса, то смотрим рейтинг топ-10 и выбираем в зависимости от цели и бюджета, например, Elevenlabs, Lovo и т.д.
Что послушать:
- Eye on AI (подкасты с ведущими исследователями и практиками);
- Practical AI (подкаст про то, как использовать ИИ продуктивно и в реальных сценариях);
- Machine Learning Podcast (о машинном обучении простыми словами на русском языке).
Делитесь опытом и интересными ресурсами в комментариях!
#TalkPrompty #ИИ #AI
@pattern_ai
👍2