В свежем посте на Хабре Никита Драгунов из группы «Интерпретируемый ИИ» лаборатории FusionBrain AIRI рассказывает про новый способ обучения авторегрессионных LCM — SONAR-LLM⤵️
Современные большие языковые модели умеют создавать связные тексты, но делают это в потокенном режиме. Следствием этого является квадратичный рост вычислительной сложности с длиной текста и проблемы с пониманием глобальной структуры документа.
Одной из попыток справиться с этим стал предложенный в прошлом году подход на основе LCM (Large Concept Models), в котором от генерации токенов модели переходят к генерации целых предложений. Несмотря на интересную идею, авторегрессионная реализация LCM показала слабые результаты.
Исследователи из группы «Интерпретируемый ИИ» придумали способ улучшить такие модели, и назвали свой подход SONAR-LLM. С помощью серии экспериментов они показали, что генерация на уровне предложений вполне способна стать альтернативой традиционным LLM.
Научная статья | GitHub | Хабр
Современные большие языковые модели умеют создавать связные тексты, но делают это в потокенном режиме. Следствием этого является квадратичный рост вычислительной сложности с длиной текста и проблемы с пониманием глобальной структуры документа.
Одной из попыток справиться с этим стал предложенный в прошлом году подход на основе LCM (Large Concept Models), в котором от генерации токенов модели переходят к генерации целых предложений. Несмотря на интересную идею, авторегрессионная реализация LCM показала слабые результаты.
Исследователи из группы «Интерпретируемый ИИ» придумали способ улучшить такие модели, и назвали свой подход SONAR-LLM. С помощью серии экспериментов они показали, что генерация на уровне предложений вполне способна стать альтернативой традиционным LLM.
Научная статья | GitHub | Хабр
Please open Telegram to view this post
VIEW IN TELEGRAM
❤39
Сегодня делимся подборкой выступлений исследователей AIRI на этой неделе ⤵️
⚫️ 10 сентября в 18:40 Илья Макаров, PhD, ведущий научный сотрудник, руководитель группы «ИИ в промышленности» AIRI, выступит с докладом «GNN для транзакционных моделей в банках» на Data.Meetup. Регистрация открыта по ссылке.
⚫️ Также завтра, 10 сентября, пройдет AIRI Seminars в нашем офисе в Сити. Кандидат философских наук, доцент философского факультета МГУ, научный сотрудник Московского центра исследования сознания Антон Кузнецов прочитает лекцию о сознании искусственного интеллекта. Оппонентом выступит Пётр Анохин, кандидат биологических наук, руководитель группы «Нейрокогнитивные архитектуры» AIRI. Не забудьте пройти регистрацию, если планируете быть на семинаре очно.
⚫️ 12 сентября кандидат технических наук, директор лаборатории FusionBrain AIRI Андрей Кузнецов выступит с докладом про автоматизацию процессов через LLM и мультиагентные сценарии на big tech night. Подробная программа мероприятия на сайте.
Увидимся!💡
Увидимся!
Please open Telegram to view this post
VIEW IN TELEGRAM
❤36
Исследователи AIRI и Сколтеха создали первую в мире открытую платформу для объективного сравнения алгоритмов определения биологического возраста человека — так называемых «часов старения» ⤵️
Работа объединила крупнейший в мире открытый набор данных по метилированию ДНК и стандартизированную методологию оценки, что впервые позволило системно сравнить разные модели, для которых раньше не было единого эталона.
В исследовании были протестированы 13 ведущих моделей «часов старения» на основе унифицированного набора из более чем 17 000 образцов. По итогам сравнения лучшей была признана модель PhenoAge второго поколения (созданная под руководством Морган Левин, Йельский университет*), второе место заняла разработка GrimAge (Стив Хорват, Калифорнийский университет).
Биологические часы имеют широкую практическую ценность. Они могут использоваться для оценки эффективности антивозрастных препаратов, кластеризации пациентов по рискам заболеваний, мониторинга здоровья в клинических исследованиях, а также встраиваются в носимые устройства для расчета «индекса здоровья». Платформа и собранный массив данных с открытой лицензией (Creative Commons). Это позволяет исследователям со всего мира свободно использовать, проверять и совершенствовать инструменты для подсчета биологического возраста.
Подробнее читайте в материале Компьютерры.
Научная статья | GitHub | Hugging Face
*Йельский университет (США) — организация, деятельность которой признана нежелательной на территории России.
Работа объединила крупнейший в мире открытый набор данных по метилированию ДНК и стандартизированную методологию оценки, что впервые позволило системно сравнить разные модели, для которых раньше не было единого эталона.
В исследовании были протестированы 13 ведущих моделей «часов старения» на основе унифицированного набора из более чем 17 000 образцов. По итогам сравнения лучшей была признана модель PhenoAge второго поколения (созданная под руководством Морган Левин, Йельский университет*), второе место заняла разработка GrimAge (Стив Хорват, Калифорнийский университет).
Биологические часы имеют широкую практическую ценность. Они могут использоваться для оценки эффективности антивозрастных препаратов, кластеризации пациентов по рискам заболеваний, мониторинга здоровья в клинических исследованиях, а также встраиваются в носимые устройства для расчета «индекса здоровья». Платформа и собранный массив данных с открытой лицензией (Creative Commons). Это позволяет исследователям со всего мира свободно использовать, проверять и совершенствовать инструменты для подсчета биологического возраста.
Подробнее читайте в материале Компьютерры.
Научная статья | GitHub | Hugging Face
*Йельский университет (США) — организация, деятельность которой признана нежелательной на территории России.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤43
На этой неделе проходит конференция CLEF-2025 в Мадриде ⤵️
16-я по счёту конференция серии, которая посвящена планомерной оценке и улучшению систем доступа к информации, длилась четыре дня: с 9 по 12 сентября. В её рамках прошло несколько прикладных треков — воркшопов и лабораторий — в которых приняли участие наши исследователи.
⚫️ Руководитель группы «Вычислительная семантика» в AIRI и группы NLP в Сколтехе, доктор компьютерных наук Александр Панченко и его коллеги из Германии, Испании, Индии, Франции, Италии, Израиля, Эфиопии, ОАЭ в рамках лаборатории PAN подготовили задачу и датасет по мультиязычной детоксификации текстов, который включает в себя тексты на русском и татарском языках.
⚫️ Руководитель группы «Прикладное NLP» в AIRI, доктор компьютерных наук и старший научный сотрудник ИСП РАН Елена Тутубалина вместе с коллегами организовали соревнование BioNNE-L по нормализации биомедицинских именованных сущностей, которое является частью воркшопа BioASQ. Воркшоп сделан совместно с коллегами из Греции, Испании, США и Италии.
Больше атмосферы CLEF 2025 — на фото💡
16-я по счёту конференция серии, которая посвящена планомерной оценке и улучшению систем доступа к информации, длилась четыре дня: с 9 по 12 сентября. В её рамках прошло несколько прикладных треков — воркшопов и лабораторий — в которых приняли участие наши исследователи.
Больше атмосферы CLEF 2025 — на фото
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤44
Forwarded from N + 1
За несколько десятилетий в машинном обучении появился целый пласт цифрового фольклора. Некоторые мемы мгновенно превратились в своеобразные тесты качества для нейросетей — например, брейнрот с Уиллом Смитом, уплетающим спагетти. Другие же просто стали частью культурного кода ML-инженеров — среди них фото модели из Playboy или заголовок «Attention Is All You Need».
Научный писатель AIRI и наш постоянный автор, физик-теоретик Марат Хамадеев, вспоминает историю легендарных мемов, о которых наверняка слышал любой исследователь ИИ. Из этого материала вы узнаете, кого называют первой леди интернета, а кого — человеком, который изобрел все
#IT | *2.9
Научный писатель AIRI и наш постоянный автор, физик-теоретик Марат Хамадеев, вспоминает историю легендарных мемов, о которых наверняка слышал любой исследователь ИИ. Из этого материала вы узнаете, кого называют первой леди интернета, а кого — человеком, который изобрел все
#IT | *2.9
❤38
Приглашаем на следующий #AIRI_Seminars, который пройдет 24 сентября в 17:00 ⤵️
⚫️ Тема: «Мультимодальные модели с рассуждениями: принципы, конструирование данных и валидация результатов».
⚫️ Докладчик: Елизавета Гончарова, кандидат компьютерных наук, руководитель группы «Мультимодальный ИИ» Лаборатории FusionBrain AIRI.
⚫️ Оппонент: Владимир Иванов, руководитель Лаборатории методов обработки естественного языка в программной инженерии, доцент Университета Иннополис.
Подробное описание и регистрация на офлайн-формат на сайте.
YouTube | VK Видео
Подробное описание и регистрация на офлайн-формат на сайте.
YouTube | VK Видео
Please open Telegram to view this post
VIEW IN TELEGRAM
❤46
Подробнее о генеративных моделях для изображений — в новом Хабре⤵️
Нейросети для генерации изображений — это одно из самых горячих направлений в машинном обучении последних лет. Кандидат компьютерных наук, руководитель группы «Контролируемый генеративный ИИ» лаборатории FusionBrain AIRI, заведующий Центра глубинного обучения и байесовских методов ВШЭ Айбек Аланов прочитал о них лекцию на МТС True Tech Day, по мотивам которой написал статью на Хабре.
Айбек рассказал об истории генеративных моделей для изображений: как они развивались и в каком состоянии находятся сейчас. Он подробно остановился на основных типах моделей, а также объяснил, в каких практических задачах их можно использовать и как лучше выбрать подходящий вариант архитектуры.
Читайте по ссылке📎
Нейросети для генерации изображений — это одно из самых горячих направлений в машинном обучении последних лет. Кандидат компьютерных наук, руководитель группы «Контролируемый генеративный ИИ» лаборатории FusionBrain AIRI, заведующий Центра глубинного обучения и байесовских методов ВШЭ Айбек Аланов прочитал о них лекцию на МТС True Tech Day, по мотивам которой написал статью на Хабре.
Айбек рассказал об истории генеративных моделей для изображений: как они развивались и в каком состоянии находятся сейчас. Он подробно остановился на основных типах моделей, а также объяснил, в каких практических задачах их можно использовать и как лучше выбрать подходящий вариант архитектуры.
Читайте по ссылке
Please open Telegram to view this post
VIEW IN TELEGRAM
❤34
Сегодня рассказываем про сессии и выступления исследователей AIRI на международном форуме Kazan Digital Week 2025 💡
⚫️ 17 сентября пройдет конференция «ИИ–ЗАМАН», которую организовали Академия наук Республики Татарстан, Институт AIRI при поддержке Ассоциации содействия цифровому развитию Республики Татарстан и Авито, где выступят:
⚫️ 18 сентября в 15:20 на международном форуме в Казани состоится сессия AI Journey — крупнейшей в России международной конференции по искусственному интеллекту. С докладом «Искусственный интеллект в большой фарме» выступит Артур Кадурин, руководитель центра ИИ-разработки новых лекарственных препаратов AIDD Института AIRI.
⚫️ 18 сентября в 16:00 пройдёт сессия «Генеративный искусственный интеллект в государстве и в бизнесе», организованная MWS AI. Модератором дискуссии выступит Андрей Кузнецов, кандидат технических наук, директор лаборатории FusionBrain AIRI.
⚫️ В это же время на площадке дискуссии «Цифровой архив: ИИ как революция в сохранении документального наследия» с докладом выступит Вита Власова, патентный поверенный РФ, член Общественного совета Роспатента, руководитель направления по интеллектуальной собственности AIRI.
Всем, кто будет на форуме — до встречи!
— 10:50 – 11:50
Кандидат технических наук, директор лаборатории FusionBrain AIRI Андрей Кузнецов будет модератором сессии «Компьютерное зрение».
— 12:00 - 13:00
Руководитель группы «Прикладное NLP» в AIRI, доктор компьютерных наук и старший научный сотрудник ИСП РАН Елена Тутубалина выступит модератором сессии «Обработка естественного языка».
— 12:35 – 13:05
Руководитель группы, ведущий научный сотрудник, руководитель лаборатории Safe AI Lab AIRI-МТУСИ Олег Рогов представит доклад «Beyond the Hype of Advances in Adversarial Robustness for LLMs».
— 15:15 – 15:45
Доктор физико-математических наук, профессор РАН, генеральный директор AIRI Иван Оселедец выступит с докладом «Примеры применения ИИ в научных исследованиях».
— 16:30 – 16:40
Научный сотрудник группы «Воплощённые агенты» лаборатории когнитивных систем ИИ Татьяна Земскова представит доклад «Beyond Bare Queries: Open-Vocabulary Object Grounding with 3D Scene Graph».
— 17:00 – 17:30
Доктор физико-математических наук, директор лаборатории когнитивных систем ИИ Института AIRI и Центра когнитивного моделирования МФТИ Александр Панов выступит с докладом «Пространственные рассуждения в VLA моделях для робототехники».
Всем, кто будет на форуме — до встречи!
Please open Telegram to view this post
VIEW IN TELEGRAM
❤33
Провели «ИИ–ЗАМАН» в Казани, делимся впечатлениями ⤵️
Научная конференция стала частью форума Kazan Digital Week, деловая программа которого включает в себя более 160 секций, структурированных по 10 тематическим направлениям. В форуме приняли участие 1,2 тысячи спикеров из более, чем 70 стран. На «ИИ–ЗАМАН» были представлены участники практически из всех регионов России, где ведутся исследования в области ИИ. Есть и иностранные участники, среди которых представители США, Китая и Индии.
17 сентября на конференции «ИИ–ЗАМАН», которую мы организовали совместно с Академией наук Республики Татарстан при поддержке Ассоциации содействия цифровому развитию Республики Татарстан и Авито, выступили директор лаборатории FusionBrain Андрей Кузнецов, руководитель группы «Прикладное NLP» Елена Тутубалина, руководитель лаборатории Safe AI Lab AIRI-МТУСИ Олег Рогов, генеральный директор AIRI Иван Оселедец, научный сотрудник группы «Воплощённые агенты» Татьяна Земскова и директор лаборатории когнитивных систем ИИ Института AIRI Александр Панов. Также инженер-исследователь группы «Прикладное NLP» AIRI Михаил Чайчук представил проект «The Benefits of Query-Based KGQA Systems for Complex and Temporal Questions in LLM Era» на постерной сессии.
📎 Подробнее про конференцию «ИИ–ЗАМАН» читайте в материале по итогам пресс-конференции.
Делимся фотографиями из Казани!
Научная конференция стала частью форума Kazan Digital Week, деловая программа которого включает в себя более 160 секций, структурированных по 10 тематическим направлениям. В форуме приняли участие 1,2 тысячи спикеров из более, чем 70 стран. На «ИИ–ЗАМАН» были представлены участники практически из всех регионов России, где ведутся исследования в области ИИ. Есть и иностранные участники, среди которых представители США, Китая и Индии.
17 сентября на конференции «ИИ–ЗАМАН», которую мы организовали совместно с Академией наук Республики Татарстан при поддержке Ассоциации содействия цифровому развитию Республики Татарстан и Авито, выступили директор лаборатории FusionBrain Андрей Кузнецов, руководитель группы «Прикладное NLP» Елена Тутубалина, руководитель лаборатории Safe AI Lab AIRI-МТУСИ Олег Рогов, генеральный директор AIRI Иван Оселедец, научный сотрудник группы «Воплощённые агенты» Татьяна Земскова и директор лаборатории когнитивных систем ИИ Института AIRI Александр Панов. Также инженер-исследователь группы «Прикладное NLP» AIRI Михаил Чайчук представил проект «The Benefits of Query-Based KGQA Systems for Complex and Temporal Questions in LLM Era» на постерной сессии.
Делимся фотографиями из Казани!
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤47
С глубокой скорбью сообщаем, что ушёл из жизни выдающийся учёный, руководитель лаборатории искусственного интеллекта, анализа данных и моделирования Центрального университета и AIRI Александр Николаевич Горбань.
Александр Николаевич был великим учёным, чьи труды внесли значительный вклад в развитие современной науки. Его исследования охватывали широкий спектр областей — от статистической физики и неравновесной термодинамики до машинного обучения и математической биологии.
Доктор физико-математических наук, профессор, он являлся автором более 20 книг на русском и английском языках и около 300 научных статей. Александр Николаевич был основателем новых научных направлений и школ в области физической, химической и биологической кинетики, теории динамических систем и обучаемых нейронных сетей. Также он был членом правления Международной ассоциации нейроинформатики (International Neural Network Society, INNS) — крупнейшей и старейшей ассоциации исследователей в области нейросетей и организатором десятков российских и международных конференций, а также основателем нескольких физико-математических школ для одарённых и замотивированных детей.
Его уход — невосполнимая утрата для коллег и всего научного сообщества. Мы скорбим о потере Александра Николаевича Горбаня и сохраним светлую память о нём — в его трудах, в его наследии и в сердцах всех, кто имел честь работать и общаться с ним.
Официальное прощание с Александром Николаевичем Горбанем состоится 23 сентября в ЦКБ № 2 им. Н.А.Семашко в 17:00 (зал прощания РЖД Медицина, адрес: Будайская д. 2 стр. 13 / онлайн). По всем вопросам, связанным с прощанием и местом проведения похорон, можно позвонить: 8 (495) 741-18-42 (Алина).
Александр Николаевич был великим учёным, чьи труды внесли значительный вклад в развитие современной науки. Его исследования охватывали широкий спектр областей — от статистической физики и неравновесной термодинамики до машинного обучения и математической биологии.
Доктор физико-математических наук, профессор, он являлся автором более 20 книг на русском и английском языках и около 300 научных статей. Александр Николаевич был основателем новых научных направлений и школ в области физической, химической и биологической кинетики, теории динамических систем и обучаемых нейронных сетей. Также он был членом правления Международной ассоциации нейроинформатики (International Neural Network Society, INNS) — крупнейшей и старейшей ассоциации исследователей в области нейросетей и организатором десятков российских и международных конференций, а также основателем нескольких физико-математических школ для одарённых и замотивированных детей.
Его уход — невосполнимая утрата для коллег и всего научного сообщества. Мы скорбим о потере Александра Николаевича Горбаня и сохраним светлую память о нём — в его трудах, в его наследии и в сердцах всех, кто имел честь работать и общаться с ним.
Официальное прощание с Александром Николаевичем Горбанем состоится 23 сентября в ЦКБ № 2 им. Н.А.Семашко в 17:00 (зал прощания РЖД Медицина, адрес: Будайская д. 2 стр. 13 / онлайн). По всем вопросам, связанным с прощанием и местом проведения похорон, можно позвонить: 8 (495) 741-18-42 (Алина).
❤7