Как «думают» ИИ-системы и почему они обманывают — в новой статье для Сноба ⤵️

Руководитель группы «Интерпретируемый ИИ» лаборатории FusionBrain Института AIRI Антон Разжигаев рассказывает:

⚫️что на самом деле происходит «в голове» у ИИ-систем
⚫️почему им нельзя слепо доверять
⚫️как пользователям распознать «галлюцинации» и ошибки алгоритмов

📎Читайте материал по ссылке.

В сегодняшнем дайджесте — подборка свежих материалов с участием исследователей AIRI ⤵️

⚫️30 сентября в 17:00 старший научный сотрудник лаборатории искусственного интеллекта, анализа данных и моделирования им. А. Н. Горбаня Центрального университета и AIRI Глеб Рыжаков представит доклад «Проклятие размерности» на duck in ai: tech conf от К2Теch.

⚫️Андрей Кузнецов, директор лаборатории FusionBrain AIRI принял участие в подкасте «Говорит Россия. Как искусственный интеллект изменит все».

⚫️Хайлайты дискуссии об ИИ в науке и бизнесе управляющего директора по ИИ в компании «Авито» Андрея Рыбинцева и Ивана Оселедца представлены в «Коммерсантъ.Технологии».

⚫️Олег Рогов, руководитель научной группы «Доверенные и безопасные интеллектуальные системы» AIRI и лаборатории безопасного искусственного интеллекта SAIL AIRI-МТУСИ, рассказал каналу «Специально для RT» о том, как чат-боты на основе ИИ могут вводить людей в заблуждение и можно ли считать их ответы ложью.

⚫️Руководитель группы «Мультимодальные архитектуры ИИ» лаборатории «Сильный ИИ в медицине» AIRI Ярослав Беспалов рассказал о том, как айтишнику перейти в ИИ-профессию, в колонке для РБК.Про.

⚫️Андрей Галичин, младший научный сотрудник группы «Доверенные и безопасные интеллектуальные системы» AIRI и исследователь лаборатории Safe AI Lab AIRI-МТУСИ, поделился с изданием Ferra своим мнением о рисках использования неактуальных данных и способах их минимизации.

⚫️Запись программы «Физики и Лирики» радио Маяк с участием руководителя группы исследования биомаркеров лаборатории «Сильный ИИ в медицине» Института AIRI Дмитрия Крюкова о первой в мире открытой платформе для объективного сравнения алгоритмов выявления биологического возраста.

⚫️Запись лекции Ивана Бакулина, научного сотрудника группы «Мультимодальные архитектуры ИИ» лаборатории «Сильный ИИ в медицине» AIRI, для MedTech лектория.

⚫️Подкаст «Джентельмены предпочитают» телеканала 360 с участием Антона Конушина, руководителя группы «Пространственный интеллект» AIRI.

⚫️Старший юрисконсульт AIRI Оксана Фёдорова помогла изданию Ozon.Seller разобраться в вопросах коммерческого использования изображений, созданных нейросетью, правах на них и действиях при использовании конкурентами логотипов или слоганов, созданных с помощью ИИ.

⚫️Запись передачи «Разговор PRO» на телеканале РБК о новых технологиях и будущем школьного образования с участием Александра Панова, директора лаборатории когнитивных систем ИИ Института AIRI. Часть 1, часть 2.

#дайджест_AIRI

Приглашаем на следующий #AIRI_Seminars, который пройдёт 8 октября в 17:00⤵️

⚫️Тема: «Фундаментальные модели для графовых данных».

⚫️Докладчик: Дмитрий Еремеев, исследователь в Yandex Research.

⚫️Оппонент: Кузьма Храбров, научный сотрудник группы органической химии Института AIRI.

Подробное описание и регистрация на офлайн-формат на сайте.

YouTube | VK Видео

«Как бы чего не вышло»: кто отвечает за безопасность научных исследований — новая колонка в TechInsider ⤵️

Виктор Гомболевский, кандидат медицинских наук, председатель Независимого этического комитета Института AIRI, рассказывает:

⚫️почему этические комитеты — ключевой элемент безопасности биомедицинских исследований
⚫️как они оценивают риски, защищают права пациентов и контролируют работу с данными
⚫️зачем важно прозрачное и ответственное взаимодействие учёных, врачей, юристов и общества

📎Читайте материал по ссылке.

Издательство Elsevier опубликовало новую базу данных по публикационной активности самых успешных учёных мира 🔖

База содержит ключевые показатели: количество публикаций, число цитирований, индекс Хирша с учётом и без учёта самоцитирования, а также производные параметры. На основе этих данных каждому учёному присваивается ранг в общем рейтинге и в рейтинге по научным областям. База охватывает топ-2% исследователей по этим показателям в мире.

В этом году в этот список от AIRI были включены:
⚫️доктор физико-математических наук, профессор РАН, генеральный директор AIRI Иван Оселедец — 35 977-е место в общем рейтинге и 790-е в области Artificial Intelligence & Image Processing
⚫️доктор физико-математических наук, ведущий научный сотрудник AIRI, руководитель Центра искусственного интеллекта Сколтеха Евгений Бурнаев — 340 211-е место в общем рейтинге и 7 813-е в области Artificial Intelligence & Image Processing

Поздравляем коллег с этим достижением! 🎁

В эти выходные исследователи AIRI выступят на международном фестивале «Наука 0+» 💡

📆11 октября, 16:00–17:00
Лекция «ИИ-агенты»
Ярослав Беспалов, руководитель группы «Мультимодальные архитектуры ИИ» лаборатории «Сильный ИИ в медицине» Института AIRI

ИИ-агенты — интеллектуальные системы, которые самостоятельно взаимодействуют с окружающей средой, принимают решения и обучаются. Как они устроены? Чем отличаются от традиционных алгоритмов? Какие перспективы открываются в разных сферах?

Где: Кампус Центрального университета, ул. Гашека, 7 стр.1
Регистрация

📆12 октября, 12:15–13:15
Лекция «На пути к сильному ИИ»
Иван Оселедец, доктор физико-математических наук, профессор РАН, генеральный директор Института AIRI

Большие языковые модели уже решают сложные задачи и доказывают теоремы, но порой совершают ошибки. В лекции — обзор современных подходов к развитию сильного ИИ: рассуждения, мультиагентные системы, эволюция, а также главные вызовы, которые ещё предстоит преодолеть.

Где: Фундаментальная библиотека МГУ, Ломоносовский проспект, 27
Вход свободный или трансляция

📎Подробная программа фестиваля — на сайте.

Новый метод TLG позволяет выявлять нелепые изображения с точностью до 87,5% 🔖

Команда исследователей из группы «Вычислительная семантика» AIRI, Сколтеха, MWS AI и МФТИ представила инновационный подход к одной из сложных задач компьютерного зрения — определению того, нарушает ли изображение здравый смысл.

Люди мгновенно замечают нелепости на картинках, например, рыцаря с мобильным телефоном или пингвина на велосипеде. Искусственному интеллекту это даётся гораздо сложнее: существующие системы распознают объекты, но не всегда понимают их совместимость в рамках здравого смысла.

Новый метод TLG (Through the Looking Glass, «Сквозь зеркало» или «В Зазеркалье» — это отсылка к повести «Алиса в Зазеркалье» Льюиса Кэрролла) предлагает не анализировать само изображение, а исследовать, как большие мультимодальные языково-визуальные модели описывают картинку текстом. Противоречия и галлюцинации в таких описаниях указывают на «странность» изображения.

Для тестов учёные создали масштабный датасет WEIRD — 824 изображения с нелепыми ситуациями, значительно расширивший ранее использовавшийся в сообществе датасет WHOOPS!. Метод TLG превосходит более сложные и ресурсоёмкие системы, достигая до 87,5% точности.

Научная статья | Хабр | Известия