Robocounsel
1.91K subscribers
242 photos
17 videos
78 files
615 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Заканчивается регистрация на шестой поток курса по Регламенту ЕС по ИИ

Занятия начинаются в ноябре, и по сравнению с прошлыми потоками дополнительно включают:
— более детальный разбор технических стандартов по ИИ от СЕН-СЕНЭЛЕК и ИСО, без которых выполнить требования Регламента на практике будет проблематично;
— практическую информацию для тех, кто внедряет или использует ИИ в медицинских изделиях и фармацевтическом секторе.

Также затронем специфичные для ИИ аспекты кибербезопасности, учитывая все дополнительные риски, которые создают набирающие популярность ИИ-агенты.

🌟 Только у нас на курсе — новейший постатейный комментарий к регламенту — Annotated AI Act (Издание 2025/2026) Арнуда Энгельфрита в качестве обязательного чтения. Электронная версия в подарок, на бумажную — эксклюзивная скидка.

Почему этот курс особенный: у меня за плечами профильное образование (LL.M. in Innovation, Technology and the Law, Edinburgh) и десятилетие работы в профильной сфере, я участвую в разработке технических стандартов к Регламенту ЕС об ИИ в СЕН-СЕНЭЛЕК. Я не набираю большие группы, все задания (да, письменные работы, а не только тесты) проверяю лично я. Чтобы сохранить качество, количество мест строго ограничено.

🕒 Для работающих профессионалов: курс длится 4 недели, помимо 2 часов в Зуме вам потребуется около 6 часов в неделю в удобном для вас темпе, но со сроками сдачи заданий я достаточно гибок — понимаю, что работа может быть приоритетом. Занятия в зуме (2 часа в неделю) проходят по пятницам вечером, но вы можете смотреть записи, если так удобнее. Дополнительные часы для личного приёма помогут вам разобраться в конкретных вопросах, даже если вы не успеваете за группой.

⚡️ Регистрируйтесь сейчас, пока есть места. Подробности, отзывы и регистрация с оплатой в евро — на сайте курса. Для оплаты в рублях — оставьте заявку через бот.

💼 Дополнительные плюсы: работодатель может оплатить ваше обучение, а сертификат подходит для подтверждения CPD/CPE-кредитов в рамках обязательного повышения квалификации (но уточняйте у организации, которая предъявляет к вам требования, политика может различаться). Вам также будут предоставлены эксклюзивные условия для членства в AI Governance Community of Practice.
8🔥2
Проект европейского стандарта 18286 СМК для поставщиков ИИ-систем близится

В рабочей группе № 2 совместного комитета JTC 21 СЕН-СЕНЕЛЕК мы обработали все комментарии, поступившие на рабочий проект (working draft) этого стандарта, поэтому документ наконец-то вышел на стадию публичной консультации (enquiry).

Текст в ближайшие дни появится на сайтах национальных органов по стандартизации членов СЕН-СЕНЭЛЕК.

Напомню, что статьёй 17 Регламента ЕС по искусственному интеллекту предусмотрено, что поставщики ИИ-систем повышенной опасности обязаны внедрить систему менеджмента качества (СМК).

Статьёй определены базовые нормативные требования к такой СМК, в то время как порядок реализации этих требований закрепляется в европейском техническом стандарте.

Понять, относится ли ваша система к категории повышенно-опасных и актуален ли для вас этот стандарт вы можете по перечням из раздела А приложения I и из приложения III к Регламенту и правилам статьи 6 Регламента.
7👍2🥴1
This media is not supported in your browser
VIEW IN TELEGRAM
Хотите, чтобы ИИ-агент помог вам в бизнесе, чётко и автономно выполняя ваши инструкции?

Тогда агенты, имеющиеся в наличии сейчас — на базе больших языковых моделей (LLM) — вам не подойдут. Простая демонстрация от Ричарда Бурмана (отвечает за ИИ-гавернанс в Мастеркарде).

Мы даём агенту инструкцию: купить зерна по цене не более 9 фунтов за единицу. И он, поторговавшись, благополучно закрывает сделку... по цене 10 фунтов за единицу. Потому что какое дело модели до ваших инструкций...

В данном случае демонстрация сделана на Комет, но точно также (непредсказуемо-ненадёжно) себя будут вести любые иные ИИ-агенты на базе LLM. Это архитектурная особенность, устранить эту проблему, не меняя архитектуру, невозможно.

Удачных покупок!
2😁8👍3🤔1
prEN 18286 Artificial intelligence - Quality management system for EU AI Act regulatory purposes

Проект одного из стандартов в поддержку Регламента ЕС по ИИ, в разработке которого я принимал участие, перешёл в стадию публичной консультации до 23 декабря.

Стандарт покрывает требования ст. 17 Регламента (система менеджмента качества для поставщиков ИИ-систем повышенной опасности).

Посмотреть на английском можно — бесплатно зарегистрировавшись — здесь.
1🔥94👏1
Новомодные ИИ-браузеры опасны, но не бесполезны

Опасны для пользователей ввиду 100% уязвимости для промт-инъекций, но не бесполезны для ИИ-разработчиков.

Георг Золлер высказывает теорию: план ИИ-разработчиков в том, чтобы дотянуться до тех данных, которые сейчас скрыты за пейволлами или иным образом недоступны для обычной индексации поисковыми системами.

Если гора этих данных не идёт к Магомету, Магомет использует ИИ-браузер. Вы пускаете к себе этого троянского коня, и теперь всё содержимое браузера как на блюдечке.

Так это или нет — не знаю, но в любом случае ИИ-браузеры опасны ввиду избыточной уязвимости для кибератак, о чём многократно писал, и рекомендовать их сегодня никому невозможно.
4👍1
Что у вас там в Европах с ОРЗД и ИИ-Актом?

На прошлой неделе эта тема лихо вошла в тренды, так как где-то в среду сначала в прессу, а потом более широко, утекли предлагаемые поправки по "упрощению" цифрового законодательства, в частности ОРЗД (GDPR) и ИИ-Акта (AI Act). Все, кто хотел, обсудили это в Линкдине примерно в четверг-пятницу (я у себя в Линкдине тоже, но точечно), самые медленные на выходных, ну и к понедельнику новости добрались в искажённом виде до российской аудитории.

Что там на самом деле? Утекла какая-то ранняя версия, и, кажется, только составленная DG CNECT (но, например, не согласованная с DG JUST, который просто так не пропустит никакие поправки к GDPR). Утекла очевидно потому, что кому-то это было выгодно — так можно оказывать давление с целью продавить или заставить активнее публично обсуждать какие-то конкретные предложения, конкретные варианты решений развилок. Ещё даже до того, как они пройдут межведомственное согласование.

Все обсуждения текста должны это учитывать — вы видите раннюю версию проекта, ещё даже не согласованного внутри самой Еврокомиссии. Который затем должен быть опубликован, и пройти обычную законотворческую процедуру — через Совет и Европарламент. На этом пути возможны довольно значительные изменения.

Для тех, кому это реально интересно и нужно, в части поправок к Регламенту ЕС по ИИ у меня будет закрытая сессия на эту тему на Патреоне в эту среду.
👍3
This media is not supported in your browser
VIEW IN TELEGRAM
Еврокомиссия обдумывает сроки начала применения отдельных положений Регламента об ИИ

Заявление Тома Ренье, пресс-секретаря ЕК по вопросам технологического суверенитета, обороны, космоса, исследований и инноваций.

Упрощение [регулирования] является приоритетной задачей для нынешней Комиссии. В этом контексте обсуждаются сроки введения в действие Регламента об ИИ.

Официальное решение пока не принято.

Хочу подчеркнуть: эти размышления касаются придания практичности положениям Регламента, а не их ослабления.
👍1
Лекун уходит

Из Меты* в свой стартап, поговаривают в Файненшел таймс. Совсем разошлись в приоритетах с Цукербергом, кажется.

В отличие от господина Ц., Ян Лекун уже долгое время аргументирует, что большие языковые модели полезны, но не должны быть приоритетным направлением исследований в ИИ. Нужны новые архитектуры, которые будут уметь по-настоящему создавать внутреннюю модель мира и успешно планировать свои действия в нём.

* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
2👍2
Сэм Альтман — хронический лжец

Так считает Илья Суцкевер, соосновавший и работавший ранее в Оупен-Эй-Ай и подготовивший на эту тему мемо на полсотни страниц для прежнего совета директоров, когда Альтмана безуспешно пытались сместить.

Много интересного узнаём благодаря процессу Маска против Оупен-Эй-Ай (сколь бы ни сомнителен был сам иск).

Теперь вам есть что послушать за обедом — добрые (?) люди озвучили основное, что вы хотели бы (?) знать на эту тему.
1😁4🤔1
Еврокомиссия опубликовала проект поправок к Регламенту ЕС по ИИ

В следующую среду 26 ноября в 18:30 по Брюсселю / 20:30 по Москве проведу эфир с обзором ключевых предлагаемых изменений. Зарегистрироваться можно здесь.

Сразу отвечу на самые популярные вопросы:

Если Совет и Европарламент примут предложение Комиссии в текущем виде (что далеко не гарантировано):

1. HRAIS — дедлайн:

Требования Регламента по ИИ к поставщикам систем повышенной опасности из Приложения III начнут применяться через 6 месяцев после того, как Комиссия подтвердит, что в наличии все необходимые инструменты для реализации (гармонизированные стандарты СЕН-СЕНЭЛЕК, общие спецификации и (или) руководства самой Комиссии), но во всяком случае не позднее 2 декабря 2027 года.

Для систем из Приложения I соответствующие сроки — 12 месяцев после такого подтверждения, но во всяком случае не позднее 2 августа 2028 года.

2. HRAIS — исключение для легаси-систем:

В отступление от общего подхода Blue Guide льготный период будет распространяться не только на конкретные поставленные до дедлайна экземпляры системы ИИ, но и на все системы ИИ того же типа и модели, уже выведенные на рынок до дедлайна.

То есть если хотя бы один экземпляр системы ИИ повышенной опасности был правомерно выведен на рынок или введён в эксплуатацию до наступления HRAIS-дедлайна, другие экземпляры той же модели и типа освобождаются от требований Регламента по ИИ, пока дизайн соответствующей системы остаётся неизменным.

3. TRAIS — дедлайн:

Для требований Регламента по ИИ к маркировке синтетического контента по ст. 50(2): для систем, уже находящихся на рынке к 2 августа 2026 года, срок приведения в соответствие продлевается до 2 февраля 2027 года.

Об остальных предлагаемых изменениях расскажу на сессии.
7
🆕 💫 Вторая AMA-сессия в нашем сообществе AI Governance

📌Мы продолжаем серию открытых встреч с экспертами для живого диалога об AI Governance!

💫 Второй гость — Александр Тюльканов (LL.M., University of Edinburgh)

🔘 Один из самых влиятельных экспертов AI Governance
🔘 Преподаватель курса по EU AI Act
🔘 Сертифицированный эксперт по внедрению ИСО/МЭК 42001 и в области прайваси (CIPP/E)
🔘 Соразработчик технических стандартов СЕН-СЕНЭЛЕК в области ИИ
🔘 Автор канала Robocounsel
🔘 Консультирует бизнес и госсектор в ЕС и по всему миру, живёт в Страсбурге

💬О чём поговорим:

🔘 Путь эксперта: от договорного права до AI Governance
🔘 Опыт разработки технических стандартов и консультирования бизнеса
🔘 Как монетизировать свою экспертизу на международном рынке
🔘 LinkedIn как инструмент влияния: как построить экспертный бренд
🔘 Какие возможности открывает AI Governance
🔘 + ваши вопросы в прямом эфире!

💫 Когда: 26 ноября в 18.00 (МСК)

💫 Где: онлайн, Zoom

💫 Формат: интервью + открытая сессия Q&A

📎Регистрация: ссылка на встречу будет опубликована в закрытом чате нашего AIG-community (если тебя еще там нет, то пиши Марии (@yurovvaa), и тебя оперативно добавят)

⚡️ Редкая возможность поговорить с экспертом, который формирует правила игры в AI Governance!

✏️А в далеком 2021ом мы с Сашей встречались в рамках RadioGroot, можно послушать.

RPPA.pro | RPPAedu.pro | AI Governance
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥85
Мой проект в рамках StandICT

Чуть больше года я участвую и набираюсь опыта в разработке технических стандартов по управлению рисками ИИ (AI Risk Management, ИИ РМ, prEN 18228) и системе менеджмента качества для поставщиков ИИ-систем (Quality Management System, СМК, prEN 18286) в совместном техническом комитете CEN-CENELEC JTC 21, а также в зеркальной национальной работе во французской комиссии по стандартизации ИИ при АФНОР.

По мандату Еврокомиссии эти проекты должны поддержать внедрение Регламента ЕС по ИИ. Под руководством Джеймса Джили, Фредерика Кориво и Адама Смита, несмотря на все сложности, мы стараемся дать поставщикам ИИ-систем применимые на практике спецификации о том, как выполнить требования Регламента к системам повышенной опасности.

В этом контексте рад поделиться, что на этой неделе был утверждён и оплачен отчёт по моему участию в работе над стандартами ИИ РМ и СМК в рамках деятельности, поддержанной грантом из бюджета ЕС и администрируемой StandICT.eu.

В начале этого года я узнал об инициативе StandICT.eu, которая поддерживает экспертов, разрабатывающих технические стандарты с учётом интересов европейского малого и среднего бизнеса и общественно значимых эффектов (в том числе по ИИ), и подал предложение на 6-месячный проект — в итоге проект одобрили, и вот теперь приняли и финансово поддержали саму работу.

Благодарю европейских граждан (за счёт чьих налогов это всё стало возможно), а также европейские институты, должностных лиц и коллег из StandICT, СЕН-СЕНЭЛЕК и АФНОР за возможность внести свой вклад в эту работу в интересах европейского сообщества. Продолжу участвовать в наибольшей возможной для меня мере.
10🔥6
Маркировка ИИ
Дал комментарий Коммерсант-ФМ по новому законопроекту о маркировке ИИ-контента (с 2:40)
🔥62
This media is not supported in your browser
VIEW IN TELEGRAM
AI Governance 2025: посиделки под конец года

Поговорили с Патриком Салливаном (A-Lign) и Даницей Враньянин (JAGGAER), поделились впечатлениями о произошедшем за год в нашей сфере.
4🔥1
Stein Order.pdf
305.6 KB
Суд обязал Оупен-Эй-Ай раскрыть содержание 20 млн. пользовательских чатов

Судья Южного округа Нью-Йорка Стайн оставил в силе решение магистрата-судьи Ван: Оупен-Эй-Ай как ответчик по иску Нью-Йорк Таймс и других соистцов должен будет раскрыть 20 млн. протоколов чатов пользователей ЧатГПТ.

Цель раскрытия: дать истцам проверить, не воспроизвёл ли ЧатГПТ контент, исключительное право на который принадлежит истцам.

Первоначально истцы требовали раскрытия выборки из 120 млн. таких записей, а Оупен-Эй-Ай просил ограничиться лишь поиском по ключевым словам по 20 млн. записей.

В итоге истцы получат полный доступ к 20 млн. записей после удаления из них персональных данных и другой конфиденциальной информации с использованием специально разработанного Оупен-Эй-Ай средства по деидентификации.

На возражения компании о нарушении интересов пользователей судья-магистрат отметила, что уменьшение выборки со 120 до 20 млн. записей, их деидентификация и ранее принятые обеспечительные меры уже являются достаточным средством защиты этих интересов.

Судья округа с мотивировкой судьи-магистрата согласился.

В выборку попадут чаты, как содержащие фрагменты спорных произведений, так и вовсе не связанные с ними, так как они "могут всё ещё быть релевантными для оценки аргументов Оупен-Эй-Ай о добросовестном использовании (fair use)".
🤯8👍4
Курс по Регламенту ЕС по ИИ (и не только): седьмой поток

Начинаем в феврале. Будет много новых инсайтов из моей работы в CEN/CENELEC по проектам технических стандартов, разрабатываемых по заданию Еврокомиссии для того, чтобы помочь рынку выполнить нормативные требования.

И очень крутые слушатели курса: к примеру, у меня уже отучились коллеги из Правительства Нидерландов, а на этом потоке будет учиться инсайдер из Европарламента, участвовавший в разработке этого Регламента.

Также разбираем смежные вопросы и получаем знания по NLF, GPSR, регулированию аккредитации и CE маркировки, рыночного надзора, PLD2, Digital Services Act, пересечению с GDPR, ИСО/МЭК 42001:2023...

Бонусом постатейный комментарий к Регламенту и участие в ролевой игре по Регламенту (вы в совете директоров компании — приведут ли ваши решения к успеху или к трагическому финалу с штрафами, уходом клиентов и разорением компании).

О целевой аудитории и содержании см. мой пост ранее.

Отзывы — на странице курса. Там же можно записаться, если оплачиваете в евро.

Если вы хотите оплатить в рублях — пишите через бот.
🔥73👏3😍2