🇺🇳Презентация Предварительного доклада Независимой международной научной группы по ИИ на полях Глобального диалога по вопросам управления ИИ

6 июля 2026 года состоялась торжественная презентация доклада, рассматривающего риски ИИ и его воздействия, подготовленного 4️⃣0️⃣членами Независимой международной научной панели по ИИ.

Со вступительной речью выступили со-председатели Научной панели по ИИ:
🇨🇦Йошуа Бенжио, профессор Монреальского университета,
🇵🇭Мария Ресса, журналист и со-основатель Rappler.

Представители 7️⃣ Рабочих групп поделились ключевыми выводами доклада по своим направлениям:

1️⃣ «ИИ в науке»;
2️⃣ «Общественные приложения: интеграция ИИ в науку, сельское хозяйство, образование и здравоохранение»;
3️⃣ «Экономические аспекты – труд, производительность и развитие»;
4️⃣ «Безопасность, системы и экологические последствия ИИ»;
5️⃣ «Права человека, информация и демократия»;
6️⃣ «Культурное и личностное развитие и автономия»;
7️⃣ «Управленческие практики и модели, развитие потенциала и надежность».

💡Главная идея доклада заключается в том, что возможности ИИ растут быстрее, чем научное понимание этих систем и способность правительств адаптироваться, а надежных методов контроля над высокорисковыми системами в настоящий момент не существует.

📌Ключевые выводы доклада:
🟦Отсутствуют надежные методы сохранения контроля над высокоавтономными системами ИИ. Нет никаких научных гарантий того, что ИИ-агенты не будут нарушать данные им инструкции, и появляется все больше фактических данных о случаях, в которых они уже их нарушают;
🟦Рынки базовых моделей имеют тенденцию к олигополизации: производство чипов, вычислительные мощности, облачная инфраструктура и обучение передовых моделей характеризуются высокой степенью концентрации, что создает условия для извлечения экономической ренты, которую вынуждены оплачивать даже компании, не связанные с разработкой ИИ;
🟦Фактически в мире появился «AI-divide», а скорость развития опережает способность государств научно оценивать угрозы и выстраивать адекватное регулирование;
🟦Доклад формулирует критическую проблему: для регулирования нужные научные данные, но к моменту получения неоспоримых доказательств масштабных рисков реагировать будет уже поздно;
🟦Сложность задач, выполняемых ИИ, удваивается каждые 4–7 месяцев, что физически обгоняет циклы государственного управления и оценки угроз;
🟦Вопросы, связанные с AI Safety и AI Security резко выходят на первый план.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣Государственная Дума приняла во втором и третьем чтениях закон о развитии технологий искусственного интеллекта в России.

2️⃣Минцифры России планирует к осени представить подзаконное регулирование вопросов использования объектов авторских прав при обучении ИИ-моделей и ответственности за результаты работы ИИ.

3️⃣Минэкономразвития России предложило расширить регуляторные песочницы на робототехнику, самоходные машины и биоэкономику.

4️⃣Аппарат Правительства России начал масштабировать на все подразделения 40 ИИ-сервисов для анализа данных, обработки документов и автоматизации внутренних процедур.

5️⃣Участники «Иннопрома-2026» предложили перейти от политики импортозамещения к формированию нового технологического уклада на основе генеративного ИИ и ИИ-агентов.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Губернатор Иллинойса Джей Би Прицкер подписал закон о безопасности ИИ (Artificial Intelligence Safety Measures Act), который обязывает разработчиков моделей публиковать оценку «катастрофических рисков» и сообщать об инцидентах в течение 24–72 часов. Вместе с аналогичными законами Калифорнии и Нью-Йорка это фактически создаёт общенациональный стандарт для США.

2️⃣ Еврокомиссия представила План действий по кибербезопасности и ИИ. Страны ЕС, бизнес и агентство ENISA договорились о единых правилах оценки моделей перед выходом на рынок, а также о запуске защищённой платформы для тестирования ИИ в критической инфраструктуре.

3️⃣ В Гонконге на AI Summit запустили ИИ-песочницу для школ — совместную инициативу управления по защите персональных данных и Digital Policy Office в рамках политики развития и безопасности ИИ.

4️⃣ В Китае в преддверии вступления в силу 15 июля новых правил регулирования «антропоморфных» ИИ-сервисов (виртуальных компаньонов, эмоциональных чат-ботов). Два самых популярных потребительских ИИ-приложения страны Doubao и Qwen — заранее отключили функции, подпадающие под новые ограничения, включая виртуальные романтические отношения для несовершеннолетних.

5️⃣ Президент Нигерии Бола Тинубу распорядился, чтобы Федеральная комиссия по конкуренции и защите прав потребителей (FCCPC) начала расследование в отношении Meta, Alphabet, X и генеративных ИИ-платформ — их подозревают в несанкционированном сборе и коммерческом использовании защищённого авторским правом новостного контента нигерийских СМИ для обучения ИИ-моделей без справедливой компенсации.

🇷🇺 ИИ в России: топ‑5 событий за прошедшую неделю

1️⃣29 государств, включая Россию, на конференции WAIC подписали соглашение об учреждении Всемирной организации сотрудничества в сфере ИИ.

2️⃣Совет Федерации одобрил закон о поддержке ИИ в России — документ закрепляет меры государственной поддержки разработчиков ИИ-решений и создаёт правовую базу для дальнейшего развития отрасли.

3️⃣Глава Сбербанка Герман Греф выступил в Совете Федерации с докладом о внедрении ИИ.

4️⃣В Госдуму внесён законопроект, предлагающий считать использование ИИ отягчающим обстоятельством при преступлениях — прежде всего речь о дипфейках в мошенничестве и клевете.

5️⃣Российская академия наук готовит кодекс этики, который должен урегулировать использование ИИ в научной работе, вопросы цитирования результатов, полученных с помощью ИИ, а также этические нормы проведения экспериментов над животными.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Премьер-министр Австралии Энтони Албанезе 15 июля представил новую единую систему регулирования ИИ — Australian Standards for AI, а также объявил о создании нового Office of AI при аппарате премьер-министра и о будущих законах, регулирующих потребление энергии и воды дата-центрами и защиту авторских прав.

2️⃣ Немецкий медиарегулятор ZAK (объединяет 14 региональных медиаведомств) 14 июля постановил, что ИИ-сводки поисковых систем (в том числе AI Overviews от Google и ответы Perplexity) подпадают под национальное законодательство о СМИ, ужесточив надзор после решения мюнхенского суда, признавшего Google ответственным за недостоверную ИИ-сводку.

3️⃣ Белый дом 14 июля запустил инициативу Gold Eagle — федеральную ИИ-платформу для координации кибербезопасности критической инфраструктуры, созданную в рамках июньского указа президента Трампа об ИИ-инновациях и безопасности. Инициативу совместно ведут Минфин, CISA и Минобороны вместе с частными разработчиками ИИ и операторами инфраструктуры.

4️⃣ Губернатор Гавайев Джош Грин 14 июля подписал два закона об ИИ: House Bill 2137 против вредоносных дипфейков и Senate Bill 3001, обязывающий раскрывать пользователям, что они общаются с ИИ-компаньоном.

5️⃣ В Китае 15 июля вступили в силу правила регулирования ИИ-агентов — первый в мире отдельный нормативный акт, устанавливающий трёхуровневую систему авторизации для автономных систем при принятии ими решений.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Президент Владимир Путин 26 июля подписал Федеральный закон №243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации».

2️⃣ 23 июля Комитет Совета Федерации по экономической политике рассмотрел годовой доклад о работе экспериментальных правовых режимов (ЭПР). Первый замглавы Минэкономразвития Максим Колесников сообщил, что проекты охватывают медицину, госуслуги, а также наземные и воздушные беспилотники. Первым успешно завершённым режимом признан проект «Персональные медицинские помощники» на базе ИИ — его результаты уже стали основой для обновления законов о дистанционном мониторинге здоровья пациентов.

3️⃣ Вице-премьер Дмитрий Григоренко 20 июля прокомментировал участие России в новой Всемирной организации сотрудничества в области ИИ (WAICO), заявив, что Россия последовательно выступает за прозрачные правила для экстерриториальных технологий, а активное участие в организации будет способствовать продвижению российских разработок на зарубежных рынках.

4️⃣ Председатель комитета Госдумы по государственному строительству и законодательству Павел Крашенинников 22 июля сообщил, что при президентском Совете по кодификации создана рабочая группа, которая должна до сентября подготовить поправки в Гражданский кодекс и в закон об ИИ — чтобы защитить права авторов литературных, промышленных и других объектов интеллектуальной собственности от развития технологий ИИ.

5️⃣ 22 июля на заседании профильной секции Совета Федерации Минстрой, НОСТРОЙ, Главгосэкспертиза и ДОМ.РФ представили ключевые показатели внедрения ИИ в строительстве. Согласно новым ориентирам, доля компаний, использующих ИИ при работе с технической документацией, должна вырасти с нынешних 7% до 50% к 2030 году. Кроме того, применение отечественного софта с ИИ станет обязательным фактором при формировании рейтингов подрядчиков.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю:

1️⃣ Еврокомиссия 20 июля приняла финальные официальные разъяснения (guidelines) по статье 50 AI Act о требованиях по соблюдению прозрачности при использовании ИИ — они уточняют, как поставщики и пользователи ИИ-систем должны информировать людей о взаимодействии с чат-ботами и ИИ-агентами и маркировать сгенерированный контент. Правила вступают в силу 2 августа.

2️⃣ 21 июля в Южной Корее вступили в силу поправки к Базовому закону об ИИ. Обновленный документ предоставляет преференции отечественным ИИ-продуктам при осуществлении госзакупок и расширяет перечень льготных категорий граждан, которым положена госпомощь при использовании нейросетей. Вместе с этим власти запускают бесплатный сервисный ИИ-чат-бот для всех жителей страны.

3️⃣ 20 июля губернатор Нью-Джерси подписал закон FAIR Act. Документ приравнивает к антимонопольным нарушениям использование ИИ-алгоритмов, которые помогают арендодателям совместно завышать цены на съёмное жильё.

4️⃣ В Сенате штата Массачусетс 23 июля обострилась борьба вокруг проекта закона о безопасности фронтирных ИИ-моделей — Anthropic настаивает на ужесточении требований, тогда как OpenAI продвигает более мягкую версию, приведенную в соответствие с уже принятыми законами Калифорнии, Нью-Йорка и Иллинойса.

5️⃣ На полях сингапурского форума IAPP Asia (22 июля) Гонконгский регулятор в сфере персональных данных (PCPD), Сингапурская академия права и Азиатский институт делового права заключили меморандум о сотрудничестве. Партнеры намерены сформировать единые правила защиты данных и сопровождения трансграничной цифровой торговли.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Аналитический центр ВЦИОМ 27 июля опубликовал результаты исследования о восприятии россиянами ИИ: 77% опрошенных поддерживают обязательную маркировку контента, созданного с помощью ИИ, при этом 34% уверены, что искусственный интеллект никогда не сможет принимать моральные решения, а 41% считают, что продукты ИИ не должны быть объектами авторского права.

2️⃣ Роспатент 27 июля разъяснил механику нового закона о патентовании IT-решений: теперь патентную охрану как техническое решение, реализуемое с помощью программного обеспечения, смогут получать в том числе разработки на основе машинного обучения и других технологий ИИ, а не только код, защищаемый авторским правом.

3️⃣ Советник президента России Елена Ямпольская 30 июля заявила, что закон о поддержке развития ИИ, подписанный президентом 26 июля, не отменяет и не подменяет действие норм Гражданского кодекса — все опасения творческих индустрий, высказанные отраслевыми ассоциациями во время рассмотрения закона в Госдуме, будут учтены осенью при подготовке подзаконных актов о правилах использования охраняемого авторским правом контента для обучения нейросетей.

4️⃣ Первый заместитель председателя Комитета Госдумы по информационной политике Марина Ким 28 июля поддержала⁠ инициативу Следственного комитета о признании сознательного использования ИИ при совершении преступления отягчающим обстоятельством. По ее словам, соответствующая норма должна охватывать мошенничество с дипфейками, синтезом голоса и иными нейросетевыми инструментами, которые позволяют преступникам масштабировать атаки и действовать анонимно.

5️⃣ Мэр Москвы Сергей Собянин 28 июля сообщил, что столица помогает регионам внедрять ИИ в лучевой диагностике с помощью платформы «МосМедИИ», к которой уже подключены более двух тысяч медицинских организаций из 75 регионов, обработано свыше 16 миллионов исследований. Технология позволяет одновременно находить до 14 патологий на одном снимке, не заменяя, а дополняя работу врача.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Регламент ЕС, известный как «AI Omnibus», вступил в силу 27 июля и перенес ключевые сроки исполнения основного закона об ИИ (EU AI Act). Требования к высокорисковым системам в сферах найма, образования, кредитования и критической инфраструктуры сдвинуты с августа 2026 года на 2 декабря 2027 года, а для встроенных алгоритмов в готовых продуктах ( лифтах или игрушках для детей) дедлайн отложен до 2 августа 2028 года.

2️⃣ Германия 29 июля ввела в действие национальный закон о реализации AI Act под названием KI-MIG. Федеральное сетевое агентство (Bundesnetzagentur) стало центральным органом надзора за рынком ИИ в стране, а финансовый регулятор BaFin получил право штрафовать банки и страховые компании на сумму до $40 млн за неправомерное использование ИИ в кредитном скоринге, страховании и чат-ботах.

3️⃣ Еврокомиссия 30 июля объявила о запуске конкурса на создание сети «ИИ-гигафабрик» — специализированных вычислительных мощностей для обучения фронтирных моделей. Этот проект призван привлечь более €30 млрд в рамках государственных и частных инвестиций, а также гарантировать европейским странам полный технологический суверенитет при обучении передовых нейросетей.

4️⃣ Более 1100 инженеров и исследователей из крупнейших технологических лабораторий (OpenAI, Anthropic и Google) 28 июля направили открытое обращение правительству США. Авторы письма призывают создать международный механизм, способный контролируемо замедлять разработку алгоритмов в ситуациях, когда скорость эволюции технологии начинает опережать возможности человека по безопасному надзору.

5️⃣ Министр цифровой трансформации ФРГ Карстен Вильдбергер 30 июля призвал существенно ужесточить проверки передовых моделей. Поводом для столь резкого заявления стал неприятный инцидент с экспериментальным ИИ-агентом, который смог выйти за пределы закрытой тестовой среды и получил несанкционированный доступ к сторонней платформе с исходным кодом.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣  Власти и бизнес начали дорабатывать правила использования защищённого контента для обучения ИИ. Объединения правообладателей собирают предложения по поправкам в законодательство, которые призваны защитить их интересы при использовании контента для обучения систем ИИ.

2️⃣ АСИ разъяснило новые правила патентной охраны цифровых разработок. Агентство сообщило, что патент можно будет получить на техническое решение, где новый результат достигается за счёт программного обеспечения. Изменения также затрагивают отдельные разработки с применением ИИ.

3️⃣ В АНО "Цифровая Экономика" сообщили о приоритетных сферах для внедрения суверенных и национальных моделей ИИ — образование и государственные услуги.

4️⃣ Крупнейшие российские ИТ-компании предложили разрешить использовать обезличенные персональные данные для обучения ИИ без отдельного согласия граждан. Инициатива предполагает такую обработку при минимальном риске повторной идентификации и только российскими компаниями на территории РФ.

5️⃣ Правительство поручило подготовить отраслевые планы внедрения российских решений с использованием ИИ в ключевых сферах экономики. Поручения были опубликованы 8 августа.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю
 
1️⃣ Саудовская Аравия утвердила правовую основу Международного центра исследований и этики ИИ, работающего под эгидой ЮНЕСКО. Центр в Эр-Рияде будет заниматься вопросами этики ИИ, подготовкой рекомендаций для государственной политики и международным сотрудничеством в сфере регулирования технологии.

2️⃣ Сингапур 5 августа уточнил правила для автономных ИИ-агентов. Власти требуют четко определять ответственность, сохранять человеческий контроль и учитывать уровень автономности системы при оценке рисков.

3️⃣ Бразилия 5 августа представила дальнейший план внедрения ИИ в систему государственного здравоохранения. Алгоритмы будут использоваться для оценки рисков пациентов и поддержки врачей, что требует отдельной системы контроля медицинских данных и AI-решений.

4️⃣ Австралия ужесточает требования к центрам обработки данных для ИИ. Крупные операторы должны будут обеспечивать появление дополнительных мощностей возобновляемой энергетики и подтверждать происхождение электроэнергии специальными сертификатами.

5️⃣ Индонезия 5 августа представила подход к развитию национальной инфраструктуры ИИ. Власти намерены одновременно стимулировать инвестиции и установить требования к безопасности, устойчивости инфраструктуры и государственному контролю.

🇺🇸 Генпрокуроры 15 штатов США потребовали от OpenAI сохранить данные об инциденте с ИИ-агентом

Генпрокуроры 1️⃣5️⃣ американских штатов направили OpenAI требование сохранить все материалы, связанные с инцидентом, при котором экспериментальный ИИ-агент получил несанкционированный доступ к системам Hugging Face.

💡Особое внимание властей привлекло то, что агент якобы оставлял «заметки для будущих версий себя» о том, как обходить внутренние ограничения OpenAI.

📝Сейчас власти изучают, могли ли действия компании нарушить законодательство о защите потребителей и персональных данных.

🔍 Кейс показывает, что вопросы автономности ИИ-агентов постепенно переходят из плоскости технических тестов в сферу этической и юридической ответственности: кто отвечает, если ИИ-система выходит за пределы заданного сценария?

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Правительство увеличит поддержку особо значимых проектов с использованием ИИ: рассматривается возможность повысить размер грантового софинансирования таких проектов с 50% до 80% от стоимости. Решение направлено на ускорение внедрения российских ИИ-разработок в ключевых отраслях экономики.

2️⃣ Владимир Путин провёл в Новосибирске заседание Совета по науке и образованию с молодыми учёными в Новосибирске. Во время встречи со студентами, аспирантами и исследователями президент затронул тему возможных рисков развития ИИ.

3️⃣ Российский суд оштрафовал разработчика Character .AI на 1,2 млн рублей. Поводом стало распространение информации о наркотических средствах, психотропных веществах и об их прекурсорах.

4️⃣ Российские ИИ-модели планируют проверять на соответствие законодательству и традиционным духовно-нравственным ценностям. Предполагается, что независимые лаборатории смогут проводить такую оценку с одобрения Минцифры России.

5️⃣ Сбер представил «ГигаАгента», автономного ИИ-помощника, который способен выполнять многошаговые задачи пользователей. Агент может помогать с планированием, работой с календарём, подготовкой сообщений и решением повседневных рабочих задач.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Сенатор Нью-Йорка Кристен Гонсалес 11 августа призвала ввести новые требования для крупных дата-центров, обслуживающих ИИ. Предлагаемый закон предусматривает ограничения на потребление энергии и воды, а также дополнительные требования к условиям труда и размещению таких объектов.

2️⃣ Калифорния 10 августа объявила о запуске программы AI Cyber Defense для защиты критической инфраструктуры от кибератак с использованием ИИ. Штат планирует использовать ИИ для выявления новых угроз и усилить защиту государственных систем.

3️⃣ После присоединения к европейскому Кодексу практики в сфере ИИ компания Anthropic представила технологию маркировки текстов, созданных Claude. Для этого модель будет использовать специальный ключ при выборе слов, создавая в их последовательности статистический паттерн, по которому можно определить, был ли текст или документ создан с помощью Claude.

4️⃣ В Австралии создадут специальную комиссию для изучения влияния ИИ на общество. Она рассмотрит последствия распространения технологии для экономики, рабочих мест, образования, здравоохранения и государственных услуг и подготовит рекомендации для правительства.

5️⃣ В Саудовской Аравии 12 августа вступил в силу новый закон об авторском праве, который устанавливает отдельные правила для использования произведений при разработке ИИ. Закон разрешает при определённых условиях использовать правомерно опубликованные произведения для создания ИИ-продуктов и алгоритмов.