🤍ИСП РАН на Форуме ДИИ: фундаментальные вопросы доверенного искусственного интеллекта

13 мая 2026 года в рамках Форума «Технологии доверенного искусственного интеллекта» состоялась секция «Фундаментальные вопросы доверенного ИИ» — одно из ключевых научных мероприятий форума. В течение всего дня участники обсуждали фундаментальные и прикладные аспекты безопасности и доверия к современным ИИ-системам — от защиты больших языковых моделей и оценки достоверности контента до устойчивости нейросетей к состязательным атакам и применения ИИ в анализе кода.

Модераторами секции выступили Денис Турдаков, руководитель исследовательского центра доверенного ИИ ИСП РАН, и Андрей Коваленко, председатель комитета по проблемам ИБ НЭС Совета безопасности РФ.

Денис Турдаков для ИСП РАН:

Секция наглядно показала, что доверие к ИИ — это не маркетинговый лозунг, а строгая инженерная и математическая задача. В ИСП РАН мы исходим из того, что надёжные системы должны строиться на верифицируемых методах оценки, прозрачных бенчмарках и архитектурных ограничениях, которые проверяются на уровне фундаментальных принципов, а не исключительно эмпирически. Уверен, что только объединяя академическую глубину, экспертизу в машинном обучении и кибербезопасности, а также реальные индустриальные вызовы, мы сможем создать ИИ, который будет не просто „умным“, но и предсказуемым, устойчивым к состязательным воздействиям и готовым к ответственному применению в критически важных сферах.

Значительная часть докладов была представлена сотрудниками Исследовательского центра доверенного искусственного интеллекта ИСП РАН. На секции выступили Борис Добров, Максим Рындин, Михаил Паутов, Дмитрий Ковалев, Кирилл Лукьянов, Шамиль Курмангалеев, Валерий Игнатьев, Сергей Боловцов и Егор Аничков. Также среди докладчиков — сотрудники AIRI, МГУ, ННГУ, МФТИ, РАНХиГС; представители индустрии и экспертного сообщества в области информационной безопасности.

В ходе секции обсуждались:
▪️Подходы к оценке достоверности сгенерированного контента;
▪️Разработка guardrails для больших языковых моделей;
▪️Генерация бенчмарков LLM на основе достоверных источников;
▪️Методы обнаружения галлюцинаций и тестирования устойчивости нейросетей;
..и другие вопросы доверенного ИИ.

👉Материалы секции доступны на сайте форума.

🔘Фото предоставлены организаторами Форума

💬ИСП РАН в Telegram
💬ИСП РАН в МАКС

🧑‍⚖️Как меняется право в эпоху ИИ: Арутюн Аветисян выступил на международной школе-практикуме молодых ученых-юристов

22 мая директор Института системного программирования им. В. П. Иванникова РАН, академик РАН Арутюн Ишханович Аветисян принял участие в XXI Международной школе-практикуме молодых ученых-юристов «Искусственный интеллект, информация и право».

В этом году мероприятие прошло в инновационном научно-технологическом центре «Сколково» и объединило представителей науки, органов власти, ИТ-индустрии и юридического сообщества для обсуждения новых вызовов цифровой эпохи. Организатором школы-практикума выступил Институт законодательства и сравнительного правоведения при Правительстве РФ под руководством академика РАН Талии Ярулловны Хабриевой.

Директор ИСП РАН выступил в рамках двух пленарных сессий:
🟢«Право и новая технологическая реальность»;
🟢«Новые векторы развития информационного и цифрового законодательства».

🗣В центре обсуждения — развитие технологий искусственного интеллекта, вопросы доверия и безопасности ИИ-систем, а также необходимость синхронного развития технологий, права и механизмов регулирования в условиях стремительной цифровой трансформации.

💬ИСП РАН в Telegram
💬ИСП РАН в МАКС

🗣Эксперты обсудили угрозы ИИ и цифровых технологий на круглом столе Росфинмониторинга

26 мая в рамках Международного форума по безопасности в Москве состоялся круглый стол Росфинмониторинга «Роль цифровых технологий в финансировании запрещенной законом деятельности и их влияние на национальную безопасность». Директор ИСП РАН, академик РАН Арутюн Ишханович Аветисян выступил одним из спикеров.

В ходе дискуссии участники обсудили новые угрозы в сфере финансовой безопасности, связанные с использованием цифровых технологий, искусственного интеллекта и методов социальной инженерии, а также подходы к противодействию преступной деятельности в цифровой среде.

В своём выступлении директор ИСП РАН отметил:

Сегодня особенно важно найти баланс между развитием цифровых технологий и необходимыми мерами регулирования: с одной стороны — не останавливать развитие и внедрение технологий, с другой — нивелировать риски и убрать серые зоны.

При этом любые ограничительные меры важно обсуждать вместе с обществом и понятно объяснять, зачем они вводятся, какие риски снижают и от чего защищают конкретного человека. Потому что современными технологиями уже невозможно полностью управлять административными методами — они слишком быстро развиваются.

Мы боремся с одними схемами, например с дропперами, но появляются новые формы мошенничества, о которых сегодня мы ещё можем даже не знать. С развитием искусственного интеллекта этот процесс будет только ускоряться.

В кибербезопасности мы уже проходили похожий путь: если двадцать лет назад обнаружение серьёзной уязвимости было редким событием, то сегодня информация о ней практически мгновенно становится известна всему миру, и поэтому реагировать на новые угрозы нужно оперативно. Такой опыт у нас есть. Российские банки, включая Сбербанк и другие организации, создали сильные центры реагирования — одни из лучших в мире. И очень важно, что сегодня мы готовы транслировать и передавать этот опыт, в том числе международному сообществу.

💀Среди спикеров круглого стола — премьер-министр Республики Мадагаскар Мамитиана Радзаунарисун, статс-секретарь – заместитель директора Росфинмониторинга Герман Негляд, заместитель Председателя Правления ПАО «Сбербанк» Станислав Кузнецов, заместитель руководителя Службы финансового мониторинга Банка России Евгений Хомицкий и другие представители крупневших российских компаний.
Модератором дискуссии выступил заместитель председателя Государственной Думы Борис Чернышов.

✔️В рамках форума также была представлена выставочная экспозиция Росфинмониторинга, посвященная современным технологическим решениям в сфере финансовой безопасности.

⏺ Международный форум по безопасности проводится под эгидой Совета Безопасности Российской Федерации и объединяет представителей органов государственной власти, финансового сектора, научного и экспертного сообщества для обсуждения актуальных вызовов в сфере национальной и финансовой безопасности.

▶️Смотреть запись круглого стола

💬ИСП РАН в Telegram
💬ИСП РАН в МАКС