Память в вопросно-ответных системах на основе LLM-агентов — разбираемся с экспертами

Приглашаем на третий открытый научный семинар DSCS.pro. В эту среду поговорим о прикладных вопросах архитектуры LLM-агентов и реальных инженерных вызовах, с которыми сталкиваются разработчики вопросно-ответных систем.

❗️Формат: очно в СПб ФИЦ РАН

🎓Тема семинара:
«Интеграция работы с памятью в вопросно-ответных решениях на основе LLM-агентов»

🎙Спикер — Данил Александрович Демиденко, младший научный сотрудник лПИИ СПб ФИЦ РАН

Что обсудим?
➖ почему простого хранения истории сообщений недостаточно
➖ что происходит с контекстом при длинных и «рваных» диалогах
➖ как не потерять важную информацию при частой смене темы
➖ как избежать путаницы в ответе и смешивания разных смысловых линий?
➖ как сделать контекст управляемым, а не накапливающимся?

📆 Среда, 11 марта, 18:00–19:00
📍СПб ФИЦ РАН, аудитория 401
(для прохода в здание напишите заранее: @groptos)

Присоединяйтесь — будет интересно! 🔥

Викторина 1️⃣1️⃣
Что из этого НЕ относится к атакам на приватность?

Сегодня почти каждая большая модель — потенциальный источник утечки. Кто-то может восстановить ваши лица из генератора изображений, узнать, болели ли вы чем-то редким, входили ли ваши данные в обучающую выборку или даже вытащить отдельные атрибуты (пол, возраст, диагноз) о конкретных людях из датасета. Всё это классические атаки на приватность.

Хотите проверить себя? Выберите из перечисленного то, что НЕ относится к privacy attacks ⬇️

Разбор викторины #11: Что из этого НЕ относится к атакам на приватность?

💜 Спасибо всем, кто поучаствовал! Разбираем правильный ответ.

✅ Правильный ответ: в) Data poisoning

🔍 Почему?

Data poisoning — это атака на целостность модели (integrity attack). Её цель — внедрить вредоносные данные в обучающий датасет, чтобы изменить поведение модели.

Атаки на приватность же направлены на извлечение чувствительной информации из модели или данных, на которых она обучалась.

📌 Почему другие варианты неверны?

➖ Membership inference
Злоумышленник пытается определить, входил ли конкретный объект (например, запись пациента) в обучающую выборку модели. Это прямая угроза конфиденциальности данных.

➖ Model inversion
Позволяет частично восстановить обучающие данные по выходам модели. Например, реконструировать изображения или чувствительные атрибуты.

➖ Attribute inference
Атакующий, имея часть информации о человеке, пытается восстановить скрытые атрибуты (доход, заболевание и т.д.) через модель.

Совпало с вашим ответом? Пишите в комментариях ⬇️

Еще больше об ИИ и науке читайте в DSCS.pro

🎓 Discrete Meetup 2: как студенты ИИНД исследуют дискретную математику

3 марта в Технохабе Сбера прошёл второй митап по дискретной математике и её применению в задачах искусственного интеллекта, криптографии и анализа данных.

На встрече студенты программы «Искусственный интеллект и наука о данных» СПбГУ представили авторские доклады и обсудили, как фундаментальные математические модели работают в современных цифровых технологиях.

💡Студенты рассказали о модели Изинга и её применении в ИИ, разобрали парадокс дней рождения и его связь с криптографией, обсудили методы проверки данных в больших массивах, а также показали, как теория графов и NLP помогают анализировать связи между персонажами на примере Гарри Поттера и Шерлока Холмса.

👨‍🎓 Мероприятие было организовано по инициативе Юрия Александровича Андреева —преподавателя программы ИИНД. Оно продолжает традицию студенческих научных встреч, где фундаментальная математика становится основой для исследований в области ИТ.

🔗подробнее про Discrete Meetup 2 в пресс-релизе

Еще больше об ИИ и науке читайте в DSCS.pro

🤖 Девушка доверила агенту OpenClaw свою почту, и тот удалил оттуда все переписки. Она работает директором по безопасности ИИ в Meta (запрещена в РФ).

Саммер Юэ попросила агента проверить почтовый ящик и предложить, какие письма архивировать или удалить, но «не предпринимать никаких действий» без подтверждения.

По словам Юэ, агент проигнорировал последнюю инструкцию, и ей пришлось наблюдать, как он с невероятной скоростью удаляет все письма.

На команды остановиться агент не отреагировал, и Юэ тут же отключила свой компьютер. Потом OpenClaw признал, что нарушил инструкцию и извинился.

Еще больше об ИИ и науке читайте в DSCS.pro

📰Дайджест новостей в сфере ИИ: собрали главные инфоповоды недели

Apple Music начнет маркировать ИИ-песни, российские разработчики создадут беспилотники для борьбы с сорняками, а в Google представили Gemini Embedding 2. Еще больше интересного — в нашем пятничном дайджесте! Читайте, чтобы быть в курсе ⬇️

🇷🇺 В России:

В Санкт-Петербургском федеральном исследовательском центре РАН разработали программный комплекс для группового применения воздушных беспилотников в условиях горной местности и плотной городской застройки

Ученые Южного федерального университета разработали метод определения влажности семян подсолнечника по спектральным характеристикам нижней стороны корзинки с помощью беспилотника

Кампус Школы 21 на Сахалине станет площадкой для отбора 500 лучших ИТ-специалистов в сфере искусственного интеллект

Российские разработчики создают воздушный беспилотник для распознавания сорняков и борьбы с ними, сообщила генеральный директор компаний «Лаборатория будущего» и «Грамотека» Ксения Прохорова

🌍 В мире:

Разработчик OpenAI открыл доступ к ИИ-агенту Codex Security для выявления уязвимостей в приложениях

Apple Music запустит механизм маркировки музыкальных композиций, полностью или частично созданных с применением ИИ

Согласно исследованию Alibaba и Университета им. Сунь Ятсена нейросети оказались неспособны поддерживать долгосрочную эволюцию кодовой базы, добавляя новые функции и не нарушая функциональность старых

Ученые Сиднейского университета создали прототип нанофотонного процессора для ИИ, который обрабатывает данные с помощью света вместо электрического тока

Anthropic представила Claude Code Review — инструмент для поиска багов в пулл-реквестах, который сейчас доступен в режиме превью для корпоративных пользователей Team и Enterprise.

Meta (признана экстремистской и запрещена в России) представила новый ИИ-чип MTIA 300 для обучения небольших моделей, которые используются в системах рекомендаций. В будущем начнется производство MTIA 400, MTIA 450 и MTIA 500 для задач ГенИИ

Google представила Gemini Embedding 2 — мультимодальную модель, которая способна работать с текстом, аудио, изображениями, видео и документами

Anthropic запустил инициативу Anthropic Institute для изучения вызовов для общества в связи с развитием ИИ.

Вызов функций в LLM-агентах: где возникают ошибки и почему?

Совсем скоро состоится новый открытый научный семинар от DSCS.pro. Поговорим об одной из ключевых инженерных задач при разработке агентных систем на основе больших языковых моделей — корректном вызове функций.

❗️ Формат: очно в СПб ФИЦ РАН

🎓 Тема четвертого семинара:
«Влияние структурных и семантических факторов на способности LLM-агентов корректно вызывать функции»

🎙 Спикер — Александр Владимирович Попцов, стажер-исследователь Лаборатории прикладного искусственного интеллекта СПб ФИЦ РАН

Что обсудим?

➖ Почему надёжный tool use / function calling является ключевой способностью LLM-агентов?
➖ Какие ограничения есть у текущих подходов к оценке tool use?
➖ Как системно разложить сложность задач вызова функций на отдельные категории
➖ Какие факторы сильнее всего ухудшают качество: число вызовов функций, опциональность параметров или количество аргументов?
➖ Как создавать синтетические данные для function calling?

📆 Среда, 18 марта, 18:00–19:00
📍 СПб ФИЦ РАН, аудитория 401
(для прохода в здание напишите заранее: @groptos)

Обязательно приходите — будет интересно! 🔥

💡 Знаете ли вы, что GPT-5.2 предложил новое решение задачи Эрдёша №281?

В январе 2026 года GPT-5.2 Pro вывел новое, ранее не опубликованное решение одной из задач, сформулированных математиком Палем Эрдёшем. Лауреат Филдсовской премии Теренс Тао назвал этот случай самым «недвусмысленным» примером математического открытия, сделанного с помощью ИИ.

Это уже третья задача Эрдёша, решённая ИИ-моделями. Гипотезы №728 и №124 «доказала» нейросеть Aristotle стартапа Harmonic, оптимизированная для математических задач.

🔍 Ещё недавно считалось, что ИИ плохо справляется с математикой. Но все изменилось с появлением «рассуждающих» моделей. В 2024 году OpenAI представила архитектуру, позволяющую решать задачи шаг за шагом, проверять промежуточные выводы и возвращаться к ошибкам.

🚀 Уже в 2025 году экспериментальные модели OpenAI и Google получили «золотые медали» за решение 5 из 6 задач Международной математической олимпиады (IMO). А на олимпиаде по программированию ICPC рассуждающая система OpenAI показала результат выше официальных победителей.

📌 При этом разработчики подчёркивают: ИИ пока не решает сложные математические проблемы автономно. Направляет поиск и проверяет результаты по-прежнему человек

Еще больше об ИИ и науке читайте в DSCS.pro

💡 Калькулятор стоимости работы и дообучения LLM

Бесплатный инструмент, который помогает понять, какой GPU нужен под развертывания, работы и дообучения конкретной LLM.

1️⃣Выбираете параметры инференса:
LLM модель, видеокарту, формат и степень квантования, а также другие параметры инференса .

2️⃣ Получаете сводную оценку:
сколько будет потребление видеопамяти, ориентировочные метрики производительности, энергопотребление и прогнозируемую пропускную способность.
Дополнительно есть расчёт метрик TTFT (time to first token) и TPS (tokens per second), что позволяет оценить скорость генерации ответа моделью.

⚙️ Параметры расчета дообучения учитывают:
конфигурацию датасета (количество сэмплов, среднее токенов на сэмпл, эпохи), метод обучения (Full, LoRa,QLoRa), использование оптимизаторов и других настроек обучения.

В итоге можно посчитать, сколько будет длиться обучение, хватит ли видеопамяти и какой будет расход электричества. Стоит отметить, что полученная оценка лишь приблизительная, очень многое может зависеть от дополнительных факторов (версии программного обеспечения, аппаратного обеспечения и дополнительных нюансов настройки дообучения)

➡️Попробовать можно здесь

Еще больше об ИИ и науке читайте в DSCS.pro

🔔 SMS-бомбинг: Максим Абрамов рассказал телеканалу 78 о популярной схеме мошенничества

МВД предупреждает: мошенники всё чаще используют двухэтапный SMS-бомбинг. Его цель дестабилизировать человека и подтолкнуть к быстрым, необдуманным действиям.

📈 Масштаб проблемы растёт. По данным отчёта Barclays за 2025 год, количество мошенничеств, начинающихся с SMS, выросло на 40% по сравнению с 2024.

SMS-бомбинг (или SMS-бомбардировка) — массированная атака на номер жертвы: за короткое время приходит десятки или даже сотни сообщений. Жертва атаки теряется, начинает нервничать, и в этот момент поступает звонок от «официальной организации, которая предлагает «помочь остановить атаку».

🔒 По словам Максима Викторовича, защита в таких ситуациях базовая: важно сохранять спокойствие и не передавать коды, пароли и личные данные, даже если звонящий представляется сотрудником банка или госструктуры.

Подробнее о SMS-бомбинге и защите от него — в выпуске «Утреннего шоу» на 78 телеканале ➡️

Еще больше об ИИ и науке читайте в DSCS.pro

🤖 ИИ в деле: как использовать нейросети для здорового образа жизни

Продолжаем рассказывать о том, как искусственный интеллект делает вашу жизнь лучше.

🌱 За окном март, а значит пришло время выходить из зимней спячки: больше двигаться, пересматривать питание и возвращаться к полезным привычкам. Сегодня помочь в этом могут не только обычные фитнес-трекеры и приложения для подсчёта калорий, но и нейросети.

📌 Что умеет ИИ?

1️⃣ Составлять персональные программы тренировок
Нейросети создадут план с учётом возраста, веса, уровня подготовки, травм и образа жизни. Вы всегда можете корректировать рекомендации в диалоге и постепенно уточнять программу.

2️⃣ Помогать с питанием
ИИ может рассчитать суточную норму и предложить сбалансированное меню с учётом ваших диетических ограничений, образа жизни и пищевых предпочтений. Кроме того, нейросеть способна даже сформировать список покупок.

3️⃣ Анализировать данные о здоровье
Если передать нейросети данные с умных часов или фитнес-трекеров, она может помочь определить оптимальное время для тренировок, выявить пики активности и предложить изменения в режиме дня.

4️⃣ Помогать формировать полезные привычки
Ежедневная зарядка, стакан воды с утра, чтение книг или отказ от гаджетов — ИИ может предложить план внедрения любой привычки.

⚙️ Какие инструменты можно попробовать?

⚪️ ChatGPT — универсальный ИИ-ассистент, который составит программу тренировок, рассчитает калорийность рациона, адаптирует меню под диетические ограничения и сформирует план внедрения полезных привычек.

⚪️ Thrive AI Health — ИИ-коуч, который анализирует данные о сне, питании, активности и уровне стресса, а также может учитывать биометрические показатели и результаты медицинских анализов (если пользователь согласится её предоставить).

⚪️ MyFitnessPal — один из самых популярных трекеров питания и активности. В базе около 14 млн продуктов, есть разбивка по калориям и нутриентам. Интегрируется более чем с 50 сервисами для здоровья и фитнеса.

⚪️ Noom — сервис с научно обоснованным подходом к изменению привычек. По сути, это персональный ИИ-коуч, который сопровождает пользователя на протяжении всей программы.

❗️ Важно помнить: нейросети могут ошибаться. Они помогают анализировать данные и давать рекомендации, но не заменяют врача или профессионального тренера.

Еще больше об ИИ и науке читайте в DSCS.pro