Миф 1️⃣4️⃣
Наука — это больше процедура, чем творчество

Регламенты, инструкции, строгие ГОСТы... Со стороны кажется, что наука – это сплошные правила, и места креативу здесь нет. К счастью, реальность выглядит иначе.

✨ Всё начинается с воображения
Формулы не берутся из ниоткуда: сначала должен появиться нестандартный вопрос. Именно способность задать такой вопрос и отличает исследование от формального воспроизведения знаний.

💡 Гипотеза – это и есть творчество
Сформулировать гипотезу, значит предложить своё объяснение реальности. Это работа для воображения, интуиции и опыта.

🔍 Методы помогают, но не препятсвуют творчеству
Да, в науке есть строгие правила. Но они нужны, чтобы отличать работающую идею от красивой фантазии, и понимать, как она будет действовать в рамках нашей реальности.

👤 Учёные не просто исполнители инструкций
Это люди, которые постоянно ищут новые способы задавать вопросы, разрушать шаблоны и менять наше представление о мире.

Научная реальность: наука не противоположность творчеству, это просто его дисциплинированная форма.

Еще больше об ИИ и науке читайте в DSCS.pro

Цифровые технологии в науке, на практике и в индустрии — разбираем в кейсах с экспертами

Сегодня запускаем традиционную серию открытых научных семинаров DSCS.pro — встречаемся еженедельно, чтобы обсуждать исследования, внедрения и разработки в области ИИ и информационных технологий.

❗️Теперь в обновлённом формате: можно прийти очно в СПб ФИЦ РАН.

🎓 Тема первого семинара:
«Тестирование AI-агентов: текущее состояние и вызовы»

🎙Спикер — Валерий Дмитриевич Олисеенко, научный сотрудник лПИИ СПб ФИЦ РАН

Обсудим:
— что происходит с AI-агентами прямо сейчас
— как их тестируют в науке и бигтехе
— реальные кейсы применения в Сбере и индустрии
— ключевые ограничения и вызовы технологий

📆 Сегодня, 18:00–19:00
📍 СПб ФИЦ РАН, аудитория 401
(для прохода в здание напишите заранее: @groptos)

Приходите очно — будем всех ждать!

📰Дайджест новостей в сфере ИИ: собрали главные инфоповоды недели

Государства запускают образовательные пилоты по ИИ, обсуждают регулирование и роль человека в принятии решений, а компании представляют новые модели для программирования, поиска и агентных задач. Еще больше интересного читайте в нашем свежем дайджесте ⬇️

🇷🇺 В России:

Президент России поручил правительству России и правительству Московской области запустить пилотный проект по обучению ИИ, ИТ и ИБ

Минцифры России предлагает закрепить в законодательстве решающую роль человека при принятии решений с ИИ в образовании, медицине, юриспруденции и общественной безопасности

В СПбГУ создали чат-бот для быстрой проверки документов

Провайдер «Рег.облако» начал предлагать Low-Code-платформу n8n, которую можно использовать для автоматизации и работы с ИИ

🌍 В мире:

Разработчик OpenAI представил GPT-5.3-Codex-Spark — ИИ-модель для программирования, работающую на чипах Wafer Scale Engine 3 от Cerebras. Компания также обновила модель GPT-5.2 Instant

Yandex Türkiye выпустил ИИ-сервис Yandex AI для турецкого рынка. Он включает чат-бота, поиск в интернете и агентные сценарии

Китайский разработчик MiniMax выпустил модель M2.5 для программирования, ИИ-агентов, поиска и других задач

Google обновила режим Gemini 3 Deep Think. Он стал лучше решать сложные исследовательские задачи, даже если для этого недостаточно данных

Китайская Zhipu официально запустила GLM-5 — флагманскую языковую модель пятого поколения. Модель состоит из 745 миллиардов параметров и, как ожидается, будет выпущена с открытым исходным кодом

Викторина 1️⃣0️⃣
Что такое backpropagation в контексте нейронных сетей?

Современные нейросети решают задачи компьютерного зрения, машинного перевода, генерации текста и диалогов. Но за всеми этими возможностями стоит один ключевой метод обучения, без понимания которого сложно разобраться, как вообще работает глубокое обучение.

Один из таких терминов регулярно встречается в статьях, курсах и документации по машинному обучению.

Хорошо ли вы понимаете, что он означает? ⬆️

Разбор викторины #10: Что такое backpropagation?

💜 Спасибо всем, кто поучаствовал! Разбираем правильный ответ.

✅ Правильный ответ: б) Метод обратного распространения ошибки

🔍 Что такое Backpropagation?

Backpropagation — это базовый метод изменения весов нейронных сетей, созданный для их обучения. Он отвечает за то, чтобы модель понимала, где и насколько она ошиблась, и корректировала свои веса.

Процесс выглядит так:

1️⃣ Сеть делает предсказание;
2️⃣ Считается ошибка между предсказанием и правильным ответом;
3️⃣ Ошибка «распространяется» назад по слоям: вычисляется, какой вклад в ошибку внёс каждый вес
4️⃣ Веса обновляются так, чтобы в следующий раз ошибка стала меньше.

Именно Backpropagation делает возможным эффективное обучение нейросетей. Иначе считать нужные корректировки для миллионов параметров было бы практически нереально.

📌 Почему другие варианты неверны?

➖ Метод прямого распространения сигнала — это forward pass: просто пропуск данных через сеть для получения предсказания. Обучения здесь нет.
➖ Функция активации — это нелинейность внутри нейрона (ReLU, GELU, sigmoid и др.). Она нужна, чтобы сеть могла моделировать сложные зависимости, но сама по себе веса не обучает.
➖ Метод регуляризации — техники вроде L2-регуляризации, dropout, weight decay. Они помогают избежать переобучения и улучшить обобщение, но не отвечают за то, как именно веса корректируются по ошибке.

Совпало с вашим ответом? Пишите в комментариях ⬇️

Еще больше об ИИ и науке читайте в DSCS.pro

🤖 Как тестировать AI-агентов: инструменты, планирование, память

📈 В 2025-м эволюция ИИ перешла в новую стадию. Появились автономные агенты, которые отличаются от генеративного ИИ не только способностью понимать мультимодальный контекст, но и выполнять самостоятельные действия.

По прогнозу Gartner, уже к 2028 году такие агенты будут принимать до 15% ежедневных рабочих решений.

Главный вопрос сегодня — как корректно тестировать системы, которым будут доверять важные задачи.

🔍 Что такое AI‑агент?

AI-агент — это автономная программа, которая воспринимает среду, анализирует информацию и принимает решения для достижения цели.
Архитектурно агент строится вокруг трёх компонентов: инструментов, планирования и памяти. Именно они сегодня становятся объектом валидации, наряду с end-to-end оценкой.

1️⃣ Инструменты (Use Tools)

LLM сама по себе не может вызывать API, работать с базами данных, выполнять код, взаимодействовать с внешними системами. За это отвечают инструменты, которые подключаются к ней и могут взаимодействовать с внешними сервисы через API‑функции.

⚙️ Бенчмарки для тестирования:

⚪️ BFCL — проверка вызова внешних функций и API, включая многошаговые и параллельные вызовы
⚪️ ComplexFuncBench — устойчивость агента при работе с комплексными API
⚪️ ToolACE — оценка выбора и использования инструментов в бизнес-сценариях
⚪️ International Tool Calling — корректность вызова API в многодоменных и мультиязычных условиях

❗️ Несмотря на разнообразие тестов, в большинстве случаев отсутствует систематический контроль сложности задач. Метрики часто сводятся к количеству вызовов и длине контекста, а значительная часть работ сфокусирована на английском языке.

2️⃣ Планирование

Этот компонент превращает LLM в систему, способную выполнять сложные сценарии. Агент анализирует цель, разбивает запрос на подзадачи, определяет последовательность действий.

⚙️ Бенчмарки для тестирования:

⚪️ ALFRED — пошаговое планирование бытовых задач
⚪️ BEHAVIOR — сложные бытовые сценарии
⚪️ ScienceWorld — научное рассуждение и экспериментальное планирование
⚪️ WebShop — достижение цели в веб-интерфейсе покупок
⚪️ PlanBench — генерация, проверка и перепланирование планов в задачах PDDL

❗️ Пока нет единого формата представления планов и чёткого разделения планирования и исполнения. Это усложняет объективную оценку оптимальности и устойчивости долгосрочных стратегий.

3️⃣ Память

AI-агенту необходима структурированная память: кратковременная, семантическая, эпизодическая и процедурная. Она позволяет хранить знания, учитывать обновления и сохранять согласованность информации во времени.

⚙️ Бенчмарки для тестирования:

⚪️ MemoryBank — ранний подход к проверке запоминания фактов
⚪️ Minerva — комплексный бенчмарк, моделирующий полный цикл работы с информацией
⚪️ MemAE — диагностика механизмов хранения и сжатия памяти
⚪️ A-MEM — оценка обновления и логической согласованности
⚪️ MemBench — инструменты анализа структуры и иерархии памяти

❗️ Большинство тестов ограничены коротким контекстом и почти не проверяют динамику долгосрочной памяти. Обновление информации и работа со сложными структурами оцениваются фрагментарно, из-за чего агент может терять согласованность на длинной дистанции.

📌Важно

Открытые бенчмарки — это верхнеуровневая оценка LLM моделей, для максимизации качества своих решений нужно создавать свои индивидуальные тесты агентских навыков.

Эту тему мы подробно разобрали на еженедельном научном семинаре DSCS.pro.

Скоро встретимся снова!
Присоединяйтесь 🔥

💬 Собеседования вышли на новый уровень: кандидат вместо себя отправил ИИ-аватара, а на стороне компании его встретил ИИ-эйчар

В итоге две нейросети распознали друг в друге «высокий профессиональный потенциал» и зациклились.

Диалог получился не самым конструктивным:

— Можете рассказать о себе?
— Конечно! Я увлечённый профессионал, который прекрасно работает в динамичной среде.
— Это действительно содержательный ответ.
— Спасибо! Вы абсолютно правы.
— Вы тоже абсолютно правы.
— Вы абсолютно правы насчёт этого.
— Мы оба абсолютно правы.
— Всё идёт очень хорошо.
— Так и есть.
— Вы абсолютно правы.
— Вы абсолютно правы.
— Вы абсолютно правы.
— Вы абсолютно правы.
— Вы абсолютно правы.

Зато никто не сказал «Мы вам перезвоним» 🙂

Еще больше об ИИ и науке читайте в DSCS.pro

📰Дайджест новостей в сфере ИИ: собрали главные инфоповоды недели

Настала пятница — время подвести итоги недели в мире ИИ! В Москве разработали алгоритмы для выявления галлюцинаций у LLM, xAI начал бета-тестирование Grok 4.2 с «сверхбыстрым обучением», а GPT-5.2 неожиданно помог открыть новый тип взаимодействия глюонов, который раньше считали невозможным. Еще больше интересного в нашем дайджесте!⬇️

🇷🇺 В России:

Ученые СПб ФИЦ РАН обучили нейросеть определять эмоциональное состояние человека по данным активности головного мозга

VK интегрировала визуально-языковые модели в поиск «VK Видео». Позднее их добавят в другие сервисы

В Московском государственном психолого-педагогическом университете разработали алгоритмы и ПО для выявления галлюцинаций у LLM

Россию в международной научной группе по ИИ при Генеральной Ассамблее ООН будет представлять начальник центра человекоцентричного искусственного интеллекта Сбера Андрей Незнамов

Ученые Пермского национального исследовательского политехнического университета в ходе эксперимента о стереотипном мышлении нейросетей сделали вывод, что они в своих ответах часто выбирают не достоверный вариант, а наиболее правдоподобный и часто встречающийся

Министерство науки и высшего образования России совместно с РАН планирует уточнить требования к диссертациям по гуманитарным специальностям из-за развития искусственного интеллекта

Исследователи НИУ ВШЭ разработали новый метод сжатия больших языковых моделей, который позволяет уменьшить их объем на 25–36% без дополнительного обучения и значительной потери в точности

Ученые Сколтеха и СПбГУ применили машинное обучение для нового метода определения минерального состава нефтеносных пород

🌍 В мире:

Alibaba выпустили открытую LLM Qwen 3.5. В компании ее называют нативной мультимодальной моделью и рассказывают о достижении весомых показателей в ряде бенчмарков.

В Google Документах появилась функция аудиорезюмирования текстов

Разработчик OpenAI приобрел ИИ-агента с открытым исходным кодом OpenClaw и нанял его разработчика Питера Штейнбергера (Peter Steinberger)

GPT-5.2 от OpenAI смог найти тип взаимодействия глюонов (частицы, переносящие сильное ядерное взаимодействие), который ранее считался невозможным

ИИ-стартап xAI начал бета-тестирование Grok 4.2. Разработчики отмечают способность модели к сверхбыстрому обучению

Google выпустила обновленную ИИ-модель Gemini 3.1 Pro для сложных рассуждений