🤍На форуме «Технологии доверенного ИИ» обсудили безопасность и будущее интеллектуальных систем

Директор ИСП РАН, академик РАН, Арутюн Ишханович Аветисян принял участие в ключевой дискуссии «Доверенный безопасный ИИ: от теории к практике» в рамках IV Форума «Технологии доверенного искусственного интеллекта». Форум прошёл в Конгресс-центре МГТУ им. Н. Э. Баумана и собрал более 600 участников — представителей органов власти, науки, индустрии и экспертного сообщества.

В дискуссии также приняли участие начальник Управления Президента РФ по развитию ИКТ и инфраструктуры связи Татьяна Матвеева, заместитель министра цифрового развития РФ Александр Шойтов, первый заместитель директора ФСТЭК России Виталий Лютиков, Специальный представитель Президента РФ по вопросам международного сотрудничества в области информационной безопасности Артур Люкманов, заместитель директора по информационной инфраструктуре Госкорпорация «Росатом» Андрей Королев, управляющий директор Центра человекоцентричного AI Сбер Андрей Незнамов и другие эксперты. Модератором выступил генеральный директор АНО «НТЦ ЦК» Игорь Качалин.

👉Участники обсудили вопросы внедрения доверенного искусственного интеллекта в ключевые отрасли экономики, обеспечение технологического суверенитета, безопасность больших языковых моделей, развитие нормативной базы и подготовку специалистов на стыке ИИ и кибербезопасности. Отдельное внимание было уделено вопросам противодействия новым угрозам, связанным с генеративным ИИ и дипфейками.

✔️В рамках форума ИСП РАН также принял участие в научных и экспертных секциях, посвящённых фундаментальным вопросам доверенного ИИ и практическим аспектам обеспечения безопасности интеллектуальных систем.

➡️Фото предоставлены организаторами форума

💬ИСП РАН в Telegram
💬ИСП РАН в МАКС

🤍ИСП РАН на Форуме ДИИ: фундаментальные вопросы доверенного искусственного интеллекта

13 мая 2026 года в рамках Форума «Технологии доверенного искусственного интеллекта» состоялась секция «Фундаментальные вопросы доверенного ИИ» — одно из ключевых научных мероприятий форума. В течение всего дня участники обсуждали фундаментальные и прикладные аспекты безопасности и доверия к современным ИИ-системам — от защиты больших языковых моделей и оценки достоверности контента до устойчивости нейросетей к состязательным атакам и применения ИИ в анализе кода.

Модераторами секции выступили Денис Турдаков, руководитель исследовательского центра доверенного ИИ ИСП РАН, и Андрей Коваленко, председатель комитета по проблемам ИБ НЭС Совета безопасности РФ.

Денис Турдаков для ИСП РАН:

Секция наглядно показала, что доверие к ИИ — это не маркетинговый лозунг, а строгая инженерная и математическая задача. В ИСП РАН мы исходим из того, что надёжные системы должны строиться на верифицируемых методах оценки, прозрачных бенчмарках и архитектурных ограничениях, которые проверяются на уровне фундаментальных принципов, а не исключительно эмпирически. Уверен, что только объединяя академическую глубину, экспертизу в машинном обучении и кибербезопасности, а также реальные индустриальные вызовы, мы сможем создать ИИ, который будет не просто „умным“, но и предсказуемым, устойчивым к состязательным воздействиям и готовым к ответственному применению в критически важных сферах.

Значительная часть докладов была представлена сотрудниками Исследовательского центра доверенного искусственного интеллекта ИСП РАН. На секции выступили Борис Добров, Максим Рындин, Михаил Паутов, Дмитрий Ковалев, Кирилл Лукьянов, Шамиль Курмангалеев, Валерий Игнатьев, Сергей Боловцов и Егор Аничков. Также среди докладчиков — сотрудники AIRI, МГУ, ННГУ, МФТИ, РАНХиГС; представители индустрии и экспертного сообщества в области информационной безопасности.

В ходе секции обсуждались:
▪️Подходы к оценке достоверности сгенерированного контента;
▪️Разработка guardrails для больших языковых моделей;
▪️Генерация бенчмарков LLM на основе достоверных источников;
▪️Методы обнаружения галлюцинаций и тестирования устойчивости нейросетей;
..и другие вопросы доверенного ИИ.

👉Материалы секции доступны на сайте форума.

🔘Фото предоставлены организаторами Форума

💬ИСП РАН в Telegram
💬ИСП РАН в МАКС

🧑‍⚖️Как меняется право в эпоху ИИ: Арутюн Аветисян выступил на международной школе-практикуме молодых ученых-юристов

22 мая директор Института системного программирования им. В. П. Иванникова РАН, академик РАН Арутюн Ишханович Аветисян принял участие в XXI Международной школе-практикуме молодых ученых-юристов «Искусственный интеллект, информация и право».

В этом году мероприятие прошло в инновационном научно-технологическом центре «Сколково» и объединило представителей науки, органов власти, ИТ-индустрии и юридического сообщества для обсуждения новых вызовов цифровой эпохи. Организатором школы-практикума выступил Институт законодательства и сравнительного правоведения при Правительстве РФ под руководством академика РАН Талии Ярулловны Хабриевой.

Директор ИСП РАН выступил в рамках двух пленарных сессий:
🟢«Право и новая технологическая реальность»;
🟢«Новые векторы развития информационного и цифрового законодательства».

🗣В центре обсуждения — развитие технологий искусственного интеллекта, вопросы доверия и безопасности ИИ-систем, а также необходимость синхронного развития технологий, права и механизмов регулирования в условиях стремительной цифровой трансформации.

💬ИСП РАН в Telegram
💬ИСП РАН в МАКС