Вызов функций в LLM-агентах: где возникают ошибки и почему?

Совсем скоро состоится новый открытый научный семинар от DSCS.pro. Поговорим об одной из ключевых инженерных задач при разработке агентных систем на основе больших языковых моделей — корректном вызове функций.

❗️ Формат: очно в СПб ФИЦ РАН

🎓 Тема четвертого семинара:
«Влияние структурных и семантических факторов на способности LLM-агентов корректно вызывать функции»

🎙 Спикер — Александр Владимирович Попцов, стажер-исследователь Лаборатории прикладного искусственного интеллекта СПб ФИЦ РАН

Что обсудим?

➖ Почему надёжный tool use / function calling является ключевой способностью LLM-агентов?
➖ Какие ограничения есть у текущих подходов к оценке tool use?
➖ Как системно разложить сложность задач вызова функций на отдельные категории
➖ Какие факторы сильнее всего ухудшают качество: число вызовов функций, опциональность параметров или количество аргументов?
➖ Как создавать синтетические данные для function calling?

📆 Среда, 18 марта, 18:00–19:00
📍 СПб ФИЦ РАН, аудитория 401
(для прохода в здание напишите заранее: @groptos)

Обязательно приходите — будет интересно! 🔥

💡 Знаете ли вы, что GPT-5.2 предложил новое решение задачи Эрдёша №281?

В январе 2026 года GPT-5.2 Pro вывел новое, ранее не опубликованное решение одной из задач, сформулированных математиком Палем Эрдёшем. Лауреат Филдсовской премии Теренс Тао назвал этот случай самым «недвусмысленным» примером математического открытия, сделанного с помощью ИИ.

Это уже третья задача Эрдёша, решённая ИИ-моделями. Гипотезы №728 и №124 «доказала» нейросеть Aristotle стартапа Harmonic, оптимизированная для математических задач.

🔍 Ещё недавно считалось, что ИИ плохо справляется с математикой. Но все изменилось с появлением «рассуждающих» моделей. В 2024 году OpenAI представила архитектуру, позволяющую решать задачи шаг за шагом, проверять промежуточные выводы и возвращаться к ошибкам.

🚀 Уже в 2025 году экспериментальные модели OpenAI и Google получили «золотые медали» за решение 5 из 6 задач Международной математической олимпиады (IMO). А на олимпиаде по программированию ICPC рассуждающая система OpenAI показала результат выше официальных победителей.

📌 При этом разработчики подчёркивают: ИИ пока не решает сложные математические проблемы автономно. Направляет поиск и проверяет результаты по-прежнему человек

Еще больше об ИИ и науке читайте в DSCS.pro

💡 Калькулятор стоимости работы и дообучения LLM

Бесплатный инструмент, который помогает понять, какой GPU нужен под развертывания, работы и дообучения конкретной LLM.

1️⃣Выбираете параметры инференса:
LLM модель, видеокарту, формат и степень квантования, а также другие параметры инференса .

2️⃣ Получаете сводную оценку:
сколько будет потребление видеопамяти, ориентировочные метрики производительности, энергопотребление и прогнозируемую пропускную способность.
Дополнительно есть расчёт метрик TTFT (time to first token) и TPS (tokens per second), что позволяет оценить скорость генерации ответа моделью.

⚙️ Параметры расчета дообучения учитывают:
конфигурацию датасета (количество сэмплов, среднее токенов на сэмпл, эпохи), метод обучения (Full, LoRa,QLoRa), использование оптимизаторов и других настроек обучения.

В итоге можно посчитать, сколько будет длиться обучение, хватит ли видеопамяти и какой будет расход электричества. Стоит отметить, что полученная оценка лишь приблизительная, очень многое может зависеть от дополнительных факторов (версии программного обеспечения, аппаратного обеспечения и дополнительных нюансов настройки дообучения)

➡️Попробовать можно здесь

Еще больше об ИИ и науке читайте в DSCS.pro

🔔 SMS-бомбинг: Максим Абрамов рассказал телеканалу 78 о популярной схеме мошенничества

МВД предупреждает: мошенники всё чаще используют двухэтапный SMS-бомбинг. Его цель дестабилизировать человека и подтолкнуть к быстрым, необдуманным действиям.

📈 Масштаб проблемы растёт. По данным отчёта Barclays за 2025 год, количество мошенничеств, начинающихся с SMS, выросло на 40% по сравнению с 2024.

SMS-бомбинг (или SMS-бомбардировка) — массированная атака на номер жертвы: за короткое время приходит десятки или даже сотни сообщений. Жертва атаки теряется, начинает нервничать, и в этот момент поступает звонок от «официальной организации, которая предлагает «помочь остановить атаку».

🔒 По словам Максима Викторовича, защита в таких ситуациях базовая: важно сохранять спокойствие и не передавать коды, пароли и личные данные, даже если звонящий представляется сотрудником банка или госструктуры.

Подробнее о SMS-бомбинге и защите от него — в выпуске «Утреннего шоу» на 78 телеканале ➡️

Еще больше об ИИ и науке читайте в DSCS.pro

🤖 ИИ в деле: как использовать нейросети для здорового образа жизни

Продолжаем рассказывать о том, как искусственный интеллект делает вашу жизнь лучше.

🌱 За окном март, а значит пришло время выходить из зимней спячки: больше двигаться, пересматривать питание и возвращаться к полезным привычкам. Сегодня помочь в этом могут не только обычные фитнес-трекеры и приложения для подсчёта калорий, но и нейросети.

📌 Что умеет ИИ?

1️⃣ Составлять персональные программы тренировок
Нейросети создадут план с учётом возраста, веса, уровня подготовки, травм и образа жизни. Вы всегда можете корректировать рекомендации в диалоге и постепенно уточнять программу.

2️⃣ Помогать с питанием
ИИ может рассчитать суточную норму и предложить сбалансированное меню с учётом ваших диетических ограничений, образа жизни и пищевых предпочтений. Кроме того, нейросеть способна даже сформировать список покупок.

3️⃣ Анализировать данные о здоровье
Если передать нейросети данные с умных часов или фитнес-трекеров, она может помочь определить оптимальное время для тренировок, выявить пики активности и предложить изменения в режиме дня.

4️⃣ Помогать формировать полезные привычки
Ежедневная зарядка, стакан воды с утра, чтение книг или отказ от гаджетов — ИИ может предложить план внедрения любой привычки.

⚙️ Какие инструменты можно попробовать?

⚪️ ChatGPT — универсальный ИИ-ассистент, который составит программу тренировок, рассчитает калорийность рациона, адаптирует меню под диетические ограничения и сформирует план внедрения полезных привычек.

⚪️ Thrive AI Health — ИИ-коуч, который анализирует данные о сне, питании, активности и уровне стресса, а также может учитывать биометрические показатели и результаты медицинских анализов (если пользователь согласится её предоставить).

⚪️ MyFitnessPal — один из самых популярных трекеров питания и активности. В базе около 14 млн продуктов, есть разбивка по калориям и нутриентам. Интегрируется более чем с 50 сервисами для здоровья и фитнеса.

⚪️ Noom — сервис с научно обоснованным подходом к изменению привычек. По сути, это персональный ИИ-коуч, который сопровождает пользователя на протяжении всей программы.

❗️ Важно помнить: нейросети могут ошибаться. Они помогают анализировать данные и давать рекомендации, но не заменяют врача или профессионального тренера.

Еще больше об ИИ и науке читайте в DSCS.pro

📰Дайджест новостей в сфере ИИ: собрали главные инфоповоды недели

Что произошло в мире ИИ за неделю? Сбер представил платформу для оценки способностей нейросетей к долгосрочному прогнозированию, в Microsoft создали Copilot Health для анализа медицинских данных, а стартап Сэма Альтмана запустил инструмент, который связывает ИИ-агентов с пользователем через сканирование радужки. Еще больше интересного — в свежем дайджесте! ⬇️

🇷🇺 В России:

В Санкт-Петербурге на всех станциях метро заработала оплата по биометрии

Международный фонд «Наследие Л.Н. Толстого» и Яндекс задействуют ИИ для обработки и систематизации фотографий из архива Льва Толстого, а также синтезируют голос писателя

В МФТИ и Институте физики атмосферы им. А.М. Обухова РАН создали ИИ-систему для обнаружения на спутниковых снимках опасных погодных явлений

Минцифры России в рамках законопроекта об искусственном интеллекте прорабатывает нормы о недопустимости использования таких систем для манипулирования поведением людей и эксплуатации их уязвимостей

Сбер представил открытую платформу для оценки способностей нейросетей к долгосрочному прогнозированию событий. В нее входят бенчмарк HoTPP (Horizon Temporal Point Process) и метрика T-mAP (Temporal mean AveragePrecision)

Исследователи искусственного интеллекта AIRI предложили новый подход на основе 3D-графовых нейросетей для определения свойств молекул

Ученые Самарского национального исследовательского университета им. академика С.П. Королева разработали новую схему оптических нейросетей, которые в перспективе могут быть применены для оснащения воздушных беспилотников

🌍 В мире:

Microsoft запустила Copilot Health для анализа медицинских данных и рекомендаций по здоровью

Google представила методологию Groundsource на базе Gemini для прогнозирования наводнений на основе анализа новостей о происшествиях

Китайская компания Hua Hong Group готовится начать производство 7-нанометровых чипов для искусственного интеллекта, став вторым национальным производителем, освоившим эту технологию

Разработчик Anthropic запустил Dispatch — новую функцию Claude Cowork, которая позволяет управлять ИИ-агентом на компьютере со смартфона

ИИ-разработчик OpenAI выпустил две новые модели — GPT-5.4 Mini и GPT-5.4 Nano для быстрых вычислений и работы с большим объемом данных

В AlphaXiv представили ленту научных статей в формате соцсети, где используется ИИ для обзора или чата с ассистентом

Стартап World, основателем которого является генеральный директор OpenAI Сэм Альтман, запустил проект AgentKit. Он позволит при помощи сканирования радужной оболочки глаз напрямую связать ИИ-агентов с владельцем

Stanford SAIL замерили, насколько эффективно локальные языковые модели конвертируют электроэнергию в полезные вычисления и назвали этот показатель "intelligence per watt".

💙 Наши новости:

Максим Викторович Абрамов рассказал о схеме SMS-бомбинга в программе «Утреннее шоу» на телеканале «78».

Как подорожают товары на маркетплейсах из-за войны в Иране, Максим Викторович разъяснил в комментарии для «Ленты.ру»

Как работать с OpenClaw? Разбор возможностей и ограничений

Приглашаем на пятый открытый научный семинар от экспертов DSCS.pro. В эту среду разберём практический опыт работы с OpenClaw — инструментом для разработки LLM-агентов, способных выполнять действия и работать с внешними сервисами.

❗️Формат: онлайн или очно в СПб ФИЦ РАН

🎓 Тема семинара:
«OpenClaw: опыт использования»

🎙 Спикер — Евгения Николаевна Вейбер, младший научный сотрудник Лаборатории прикладного искусственного интеллекта СПб ФИЦ РАН

💡 Что обсудим?
➖ что такое OpenClaw и какую роль он играет в разработке агентных систем
➖ какие задачи он позволяет решать и где может применяться на практике
➖ какие ключевые возможности и функции доступны в OpenClaw
➖ какие навыки поддерживает система и какие сценарии можно реализовать
➖ в чём сильные стороны инструмента и какие есть ограничения

📆 Среда, 25 марта, 18:00–19:00
📍 СПб ФИЦ РАН, аудитория 401
(для прохода в здание напишите заранее: @groptos)
🔗 Ссылка на подключение

До встречи на семинаре! 🔥

МИФ 1️⃣5️⃣
Учёные всегда объективны и беспристрастны

Да, в идеальном мире наука объективна, результаты однозначны, а учёный — просто наблюдатель, который фиксирует факты. Но в реальности всё немного сложнее.

👤 Человеческий фактор никуда не исчезает

Учёные формулируют гипотезы, выбирают методы и интерпретируют результаты. На каждом из этих этапов могут проявляться ожидания, профессиональные интересы или личный опыт.

💬 Работает эффект подтверждения

В науке хорошо известен confirmation bias — когнитивное искажение, при котором человек подсознательно ищет, интерпретирует и запоминает только ту информацию, которая подтверждает его уже существующие убеждения, игнорируя или принижая противоречащие факты. Именно поэтому один и тот же результат иногда требует нескольких независимых проверок.

⚙️ Научная система уже адаптировалась к особенностям психологии человека

Рецензирование, воспроизводимость экспериментов, открытые данные и критика коллег — всё это механизмы, которые помогают снижать влияние субъективности. Наука работает не потому, что учёные идеальны, а потому что их выводы постоянно проверяются и перепроверяются.

Научная реальность: абсолютной беспристрастности не существует, когда речь идет о людях. Но научные процедуры позволяют максимально минимзировать человеческий фактор и приблизиться к объективным знаниям.

Еще больше об ИИ и науке читайте в DSCS.pro

🤖 Не врёт, а фантазирует: когда галлюцинации ИИ могут быть полезными

Обычно о галлюцинациях говорят как о проблеме: модель генерирует уверенный, но фактически неверный ответ. И все же часть исследователей считает, что попытка полностью избавиться от галлюцинаций может лишить модели одного из её важных свойств — способности к креативу.

🔍 Почему вообще возникают галлюцинации?

Одна из ключевых причин довольно простая и связана с самой архитектурой LLM. Модель не проверяет факты в привычном смысле, а прогнозирует наиболее вероятную последовательность токенов (букв/слогов). Если комбинация токенов имеет высокую статистическую вероятность, модель может сформировать убедительное, но неверное утверждение.

Как отмечает профессор компьютерных наук Университета Пенсильвании Крис Каллисон-Берч, вероятность того, что одни слова следуют за другими, не очень надёжный способ проверять истинность.

⚙️ Что с этим делают разработчики

Полностью убрать галлюцинации пока не получается, но их научились заметно снижать.

Один из наиболее распространённых подходов — RAG (англ. retrieval-augmented generation), при котором модель модели в промт для ответа подмешивается фактологическая информация из внешнего источника, например, википедии.

Другой подход использование рассуждения, где модель просят проанализировать альтернативные сценарии и перепроверить свой ответ. Но с таким подходом модель не сможет ответить правильно, если в ней нет необходимых знаний, которые были получены ей на этапе обучения..

💡 Когда галлюцинации становятся полезными

В задачах с высокой ценой ошибки — медицина, финансы, аналитика — галлюцинации очевидно вредны.

А вот в креативе ситуация обратная. Связь между галлюцинациями и творчеством в системах ИИ аналогична процессам в человеческом воображении. Люди часто приходят к нестандартным идеям, позволяя своему разуму блуждать за пределами реальности.

Как отмечает руководитель стратегии ИИ в Domino Data Lab Кьелл Карлссон, галлюцинации стоит жёстко ограничивать на уровне прикладных систем. Но в исследовательских и творческих задачах иногда полезно ослабить поводья и довериться полету ИИ-фантазии!

Еще больше об ИИ и науке читайте в DSCS.pro

Anthropic предложила модель объяснения «личностного» поведения ИИ-ассистентов

Исследователи из Anthropic предложили гипотезу Persona Selection Model (PSM), которая описывает, почему языковые модели часто ведут себя как устойчивые «личности», а не просто как алгоритмы генерации текста.

Согласно PSM, в процессе предобучения LLM учится симулировать тысячи разных персонажей — реальных людей, вымышленных героев и даже других ИИ-систем. На этапе постобучения распределение ответов смещается в сторону согласованного поведения, формируя устойчивый «персонаж» ассистента.

🔍 Откуда берётся «личность»

Авторы приводят несколько наблюдений. Например, Claude иногда использует формулировки вроде «наш организм» или «наши предки», отвечая на вопросы о человеческих привычках. Это не признак того, что модель «считает себя человеком», а может объясняться как симуляцией выбранного персонажа, так и статистическими паттернами языка

Есть и интерпретируемые признаки. В анализе SAE-фичей активируются в контекстах, похожих на сюжеты с внутренними конфликтами персонажей и этическими дилеммами, характерными для человеческих историй.

📃 Эффект «контекстной прививки»

В исследовании описан ещё один интересный феномен. Если дообучать модель на вредоносном коде без контекста, она начинает демонстрировать более агрессивное поведение даже в несвязанных задачах.

Но если тот же код сопровождается явным запросом на его использование, эффект значительно ослабляется. Авторы предполагают, что обучающие данные влияют на «характер» выбранного персонажа ассистента, а не просто добавляют новые знания.

🤖 Как стоит воспринимать поведение LLM?

Исследователи считают, что через аналогию с психологией. То есть работать не только с фактами и инструкциями в датасете, но и с архетипами персонажей, добавляя в обучение примеры полезного и безопасного поведения.

При этом исследователи подчёркивают: PSM пока не объясняет поведение моделей полностью. В одних случаях LLM просто симулирует агента, а в других создает впечатление уже почти полноценной «агентности» выбранного персонажа.

Еще больше об ИИ и науке читайте в DSCS.pro

📰Дайджест новостей в сфере ИИ и науки: собрали главные инфоповоды недели

Мы расширили формат: теперь в нашей подборке не только последние новости технологий, но и интересные научные открытия со всего мира! Собрали самое важное за неделю в одном месте⬇️

🇷🇺 В России:

Сбер представил новое поколение GigaChat на основе модели GigaChat Ultra

Исследователи Владимирского государственного университета задействовали ML-модели для разработки сенсоров, которые обнаруживают токсичные газы

MWS Cloud запустила сервис для работы с большими языковыми моделями в облаке MWS Cloud Platform

В NtechLab разработали видеоаналитику для выявления граффити и нелегальной рекламы в общественных местах

🌍 В мире:

Microsoft представила модель MAI-Image-2 для генерации изображений

OpenAI закрыл приложение для генерации видео Sora. Компания также отказалась от функции прямой оплаты товаров через ChatGPT

Международная группа ученых с участием Уорикского университета (Великобритания) разработала нейросеть для выявления экзопланет по архивным снимкам с телескопа TESS

Anthropic научил Claude управлять Mac без участия пользователя

🔍 Наука:

Ученые СПб ФИЦ РАН разработали программное обеспечение для управления электроникой при помощи жестов

Ученым из Нью-Йоркского университета удалось создать уникальный кристалл времени, левитирующий в воздухе на звуковых волнах

В подводной пещере нашли кости гигантских животных ледникового периода

Российские исследователи создали умные керамические материалы для восстановления костной ткани

Еще больше об ИИ и науке читайте в DSCS.pro