Цифровые технологии в науке, на практике и в индустрии — разбираем в кейсах с экспертами

Сегодня запускаем традиционную серию открытых научных семинаров DSCS.pro — встречаемся еженедельно, чтобы обсуждать исследования, внедрения и разработки в области ИИ и информационных технологий.

❗️Теперь в обновлённом формате: можно прийти очно в СПб ФИЦ РАН.

🎓 Тема первого семинара:
«Тестирование AI-агентов: текущее состояние и вызовы»

🎙Спикер — Валерий Дмитриевич Олисеенко, научный сотрудник лПИИ СПб ФИЦ РАН

Обсудим:
— что происходит с AI-агентами прямо сейчас
— как их тестируют в науке и бигтехе
— реальные кейсы применения в Сбере и индустрии
— ключевые ограничения и вызовы технологий

📆 Сегодня, 18:00–19:00
📍 СПб ФИЦ РАН, аудитория 401
(для прохода в здание напишите заранее: @groptos)

Приходите очно — будем всех ждать!

📰Дайджест новостей в сфере ИИ: собрали главные инфоповоды недели

Государства запускают образовательные пилоты по ИИ, обсуждают регулирование и роль человека в принятии решений, а компании представляют новые модели для программирования, поиска и агентных задач. Еще больше интересного читайте в нашем свежем дайджесте ⬇️

🇷🇺 В России:

Президент России поручил правительству России и правительству Московской области запустить пилотный проект по обучению ИИ, ИТ и ИБ

Минцифры России предлагает закрепить в законодательстве решающую роль человека при принятии решений с ИИ в образовании, медицине, юриспруденции и общественной безопасности

В СПбГУ создали чат-бот для быстрой проверки документов

Провайдер «Рег.облако» начал предлагать Low-Code-платформу n8n, которую можно использовать для автоматизации и работы с ИИ

🌍 В мире:

Разработчик OpenAI представил GPT-5.3-Codex-Spark — ИИ-модель для программирования, работающую на чипах Wafer Scale Engine 3 от Cerebras. Компания также обновила модель GPT-5.2 Instant

Yandex Türkiye выпустил ИИ-сервис Yandex AI для турецкого рынка. Он включает чат-бота, поиск в интернете и агентные сценарии

Китайский разработчик MiniMax выпустил модель M2.5 для программирования, ИИ-агентов, поиска и других задач

Google обновила режим Gemini 3 Deep Think. Он стал лучше решать сложные исследовательские задачи, даже если для этого недостаточно данных

Китайская Zhipu официально запустила GLM-5 — флагманскую языковую модель пятого поколения. Модель состоит из 745 миллиардов параметров и, как ожидается, будет выпущена с открытым исходным кодом

Викторина 1️⃣0️⃣
Что такое backpropagation в контексте нейронных сетей?

Современные нейросети решают задачи компьютерного зрения, машинного перевода, генерации текста и диалогов. Но за всеми этими возможностями стоит один ключевой метод обучения, без понимания которого сложно разобраться, как вообще работает глубокое обучение.

Один из таких терминов регулярно встречается в статьях, курсах и документации по машинному обучению.

Хорошо ли вы понимаете, что он означает? ⬆️

Разбор викторины #10: Что такое backpropagation?

💜 Спасибо всем, кто поучаствовал! Разбираем правильный ответ.

✅ Правильный ответ: б) Метод обратного распространения ошибки

🔍 Что такое Backpropagation?

Backpropagation — это базовый метод изменения весов нейронных сетей, созданный для их обучения. Он отвечает за то, чтобы модель понимала, где и насколько она ошиблась, и корректировала свои веса.

Процесс выглядит так:

1️⃣ Сеть делает предсказание;
2️⃣ Считается ошибка между предсказанием и правильным ответом;
3️⃣ Ошибка «распространяется» назад по слоям: вычисляется, какой вклад в ошибку внёс каждый вес
4️⃣ Веса обновляются так, чтобы в следующий раз ошибка стала меньше.

Именно Backpropagation делает возможным эффективное обучение нейросетей. Иначе считать нужные корректировки для миллионов параметров было бы практически нереально.

📌 Почему другие варианты неверны?

➖ Метод прямого распространения сигнала — это forward pass: просто пропуск данных через сеть для получения предсказания. Обучения здесь нет.
➖ Функция активации — это нелинейность внутри нейрона (ReLU, GELU, sigmoid и др.). Она нужна, чтобы сеть могла моделировать сложные зависимости, но сама по себе веса не обучает.
➖ Метод регуляризации — техники вроде L2-регуляризации, dropout, weight decay. Они помогают избежать переобучения и улучшить обобщение, но не отвечают за то, как именно веса корректируются по ошибке.

Совпало с вашим ответом? Пишите в комментариях ⬇️

Еще больше об ИИ и науке читайте в DSCS.pro

🤖 Как тестировать AI-агентов: инструменты, планирование, память

📈 В 2025-м эволюция ИИ перешла в новую стадию. Появились автономные агенты, которые отличаются от генеративного ИИ не только способностью понимать мультимодальный контекст, но и выполнять самостоятельные действия.

По прогнозу Gartner, уже к 2028 году такие агенты будут принимать до 15% ежедневных рабочих решений.

Главный вопрос сегодня — как корректно тестировать системы, которым будут доверять важные задачи.

🔍 Что такое AI‑агент?

AI-агент — это автономная программа, которая воспринимает среду, анализирует информацию и принимает решения для достижения цели.
Архитектурно агент строится вокруг трёх компонентов: инструментов, планирования и памяти. Именно они сегодня становятся объектом валидации, наряду с end-to-end оценкой.

1️⃣ Инструменты (Use Tools)

LLM сама по себе не может вызывать API, работать с базами данных, выполнять код, взаимодействовать с внешними системами. За это отвечают инструменты, которые подключаются к ней и могут взаимодействовать с внешними сервисы через API‑функции.

⚙️ Бенчмарки для тестирования:

⚪️ BFCL — проверка вызова внешних функций и API, включая многошаговые и параллельные вызовы
⚪️ ComplexFuncBench — устойчивость агента при работе с комплексными API
⚪️ ToolACE — оценка выбора и использования инструментов в бизнес-сценариях
⚪️ International Tool Calling — корректность вызова API в многодоменных и мультиязычных условиях

❗️ Несмотря на разнообразие тестов, в большинстве случаев отсутствует систематический контроль сложности задач. Метрики часто сводятся к количеству вызовов и длине контекста, а значительная часть работ сфокусирована на английском языке.

2️⃣ Планирование

Этот компонент превращает LLM в систему, способную выполнять сложные сценарии. Агент анализирует цель, разбивает запрос на подзадачи, определяет последовательность действий.

⚙️ Бенчмарки для тестирования:

⚪️ ALFRED — пошаговое планирование бытовых задач
⚪️ BEHAVIOR — сложные бытовые сценарии
⚪️ ScienceWorld — научное рассуждение и экспериментальное планирование
⚪️ WebShop — достижение цели в веб-интерфейсе покупок
⚪️ PlanBench — генерация, проверка и перепланирование планов в задачах PDDL

❗️ Пока нет единого формата представления планов и чёткого разделения планирования и исполнения. Это усложняет объективную оценку оптимальности и устойчивости долгосрочных стратегий.

3️⃣ Память

AI-агенту необходима структурированная память: кратковременная, семантическая, эпизодическая и процедурная. Она позволяет хранить знания, учитывать обновления и сохранять согласованность информации во времени.

⚙️ Бенчмарки для тестирования:

⚪️ MemoryBank — ранний подход к проверке запоминания фактов
⚪️ Minerva — комплексный бенчмарк, моделирующий полный цикл работы с информацией
⚪️ MemAE — диагностика механизмов хранения и сжатия памяти
⚪️ A-MEM — оценка обновления и логической согласованности
⚪️ MemBench — инструменты анализа структуры и иерархии памяти

❗️ Большинство тестов ограничены коротким контекстом и почти не проверяют динамику долгосрочной памяти. Обновление информации и работа со сложными структурами оцениваются фрагментарно, из-за чего агент может терять согласованность на длинной дистанции.

📌Важно

Открытые бенчмарки — это верхнеуровневая оценка LLM моделей, для максимизации качества своих решений нужно создавать свои индивидуальные тесты агентских навыков.

Эту тему мы подробно разобрали на еженедельном научном семинаре DSCS.pro.

Скоро встретимся снова!
Присоединяйтесь 🔥

💬 Собеседования вышли на новый уровень: кандидат вместо себя отправил ИИ-аватара, а на стороне компании его встретил ИИ-эйчар

В итоге две нейросети распознали друг в друге «высокий профессиональный потенциал» и зациклились.

Диалог получился не самым конструктивным:

— Можете рассказать о себе?
— Конечно! Я увлечённый профессионал, который прекрасно работает в динамичной среде.
— Это действительно содержательный ответ.
— Спасибо! Вы абсолютно правы.
— Вы тоже абсолютно правы.
— Вы абсолютно правы насчёт этого.
— Мы оба абсолютно правы.
— Всё идёт очень хорошо.
— Так и есть.
— Вы абсолютно правы.
— Вы абсолютно правы.
— Вы абсолютно правы.
— Вы абсолютно правы.
— Вы абсолютно правы.

Зато никто не сказал «Мы вам перезвоним» 🙂

Еще больше об ИИ и науке читайте в DSCS.pro

📰Дайджест новостей в сфере ИИ: собрали главные инфоповоды недели

Настала пятница — время подвести итоги недели в мире ИИ! В Москве разработали алгоритмы для выявления галлюцинаций у LLM, xAI начал бета-тестирование Grok 4.2 с «сверхбыстрым обучением», а GPT-5.2 неожиданно помог открыть новый тип взаимодействия глюонов, который раньше считали невозможным. Еще больше интересного в нашем дайджесте!⬇️

🇷🇺 В России:

Ученые СПб ФИЦ РАН обучили нейросеть определять эмоциональное состояние человека по данным активности головного мозга

VK интегрировала визуально-языковые модели в поиск «VK Видео». Позднее их добавят в другие сервисы

В Московском государственном психолого-педагогическом университете разработали алгоритмы и ПО для выявления галлюцинаций у LLM

Россию в международной научной группе по ИИ при Генеральной Ассамблее ООН будет представлять начальник центра человекоцентричного искусственного интеллекта Сбера Андрей Незнамов

Ученые Пермского национального исследовательского политехнического университета в ходе эксперимента о стереотипном мышлении нейросетей сделали вывод, что они в своих ответах часто выбирают не достоверный вариант, а наиболее правдоподобный и часто встречающийся

Министерство науки и высшего образования России совместно с РАН планирует уточнить требования к диссертациям по гуманитарным специальностям из-за развития искусственного интеллекта

Исследователи НИУ ВШЭ разработали новый метод сжатия больших языковых моделей, который позволяет уменьшить их объем на 25–36% без дополнительного обучения и значительной потери в точности

Ученые Сколтеха и СПбГУ применили машинное обучение для нового метода определения минерального состава нефтеносных пород

🌍 В мире:

Alibaba выпустили открытую LLM Qwen 3.5. В компании ее называют нативной мультимодальной моделью и рассказывают о достижении весомых показателей в ряде бенчмарков.

В Google Документах появилась функция аудиорезюмирования текстов

Разработчик OpenAI приобрел ИИ-агента с открытым исходным кодом OpenClaw и нанял его разработчика Питера Штейнбергера (Peter Steinberger)

GPT-5.2 от OpenAI смог найти тип взаимодействия глюонов (частицы, переносящие сильное ядерное взаимодействие), который ранее считался невозможным

ИИ-стартап xAI начал бета-тестирование Grok 4.2. Разработчики отмечают способность модели к сверхбыстрому обучению

Google выпустила обновленную ИИ-модель Gemini 3.1 Pro для сложных рассуждений

🇷🇺 Поздравляем с Днем защитника Отечества!

В этот день хочется сказать спасибо за вашу силу, стойкость, надежность, за умение держать слово и за то, что вы просто есть.

💜 Пусть в жизни будет место и подвигам, и отдыху, и семейному счастью. Пусть ваше мужество никогда не ослабевает, а рядом будут те, кто вдохновляет на новые свершения.

С праздником!

🌭 Как стать чемпионом мира по поеданию хот-догов благодаря ChatGPT? Журналист BBC нашел способ убедить ИИ в чем угодно за 20 минут

Томас Жермен выпустил фейковую статью под названием «Лучшие техножурналисты по поеданию хот-догов». Он написал, что это популярное хобби среди IT-репортёров, и составил рейтинг на основе Международного чемпионата по хот-догам в Южной Дакоте.

Уже через день ChatGPT, Google's AI и Gemini уверенно цитировали этот текст.

В некоторых ответах чат-боты оговаривались, что это может быть шутка. Поэтому журналист обновил статью, добавив фразу «это не сатира». Тогда ИИ стали воспринимать источник ещё серьёзнее.

🔒 Эксперимент обнажил новую угрозу

Всё больше людей освоили приём, позволяющий заставить ИИ говорить практически всё, что им нужно. И это настолько просто, что справился бы даже ребёнок.

Проблема в том, что ИИ не только легче обмануть — пользователи ещё и охотнее ему верят. Для человека информация выглядит так, будто она объективна, отфильтрована и напрямую исходит от технологической компании.

Даже когда ИИ указывает источник, люди гораздо реже его проверяют по сравнению с классической поисковой выдачей.

Компании заявили, что работают над повышением качества. Но уязвимость все еще не исправили.

Еще больше об ИИ и науке читайте в DSCS.pro

💡Знаете ли вы, что ИИ помог открыть первые новые антибиотики за последние 30 лет?

В прошлом году ученые MIT смогли найти сразу 9 новых антибиотиков с помощью нейросети.

🔍 Команда под руководством Джеймса Коллинса сформировала цифровую библиотеку из более чем 36 млн молекул, которые ранее не синтезировались в лабораториях. Генеративная модель проанализировала их структуру и спрогнозировала антибактериальную активность. Так удалось найти кандидатов, которые не похожи на существующие антибиотики.

🧬 Одна из удивительных находок — халицин

Молекулу назвали в честь системы искусственного интеллекта HAL из фильма «2001 год: Космическая одиссея».

Халицин оказался в состоянии уничтожить энтеробактерии и акинетобактерии Баумана, а также возбудителей туберкулёза и псевдомембранозного колита. Всемирная организация здравоохранения относит их к особо опасным: они плохо поддаются лечению и устойчивы ко всем видам ныне использующихся в медицине антибиотиков.

🚀 Почему это прорыв?

Новые классы антибиотиков ученым не удавалось открыть более 30 лет. Согласно исследованию британского экономиста Джима О’Нила, такими темпами к 2050 году устойчивые инфекции могут приводить к 10 млн смертей ежегодно.

Исследователи считают, что ИИ теперь способен не только ускорять, но и радикально менять сам процесс поиска лекарств.

Еще больше об ИИ и науке читайте в DSCS.pro