Викторина 1️⃣0️⃣
Что такое backpropagation в контексте нейронных сетей?

Современные нейросети решают задачи компьютерного зрения, машинного перевода, генерации текста и диалогов. Но за всеми этими возможностями стоит один ключевой метод обучения, без понимания которого сложно разобраться, как вообще работает глубокое обучение.

Один из таких терминов регулярно встречается в статьях, курсах и документации по машинному обучению.

Хорошо ли вы понимаете, что он означает? ⬆️

Разбор викторины #10: Что такое backpropagation?

💜 Спасибо всем, кто поучаствовал! Разбираем правильный ответ.

✅ Правильный ответ: б) Метод обратного распространения ошибки

🔍 Что такое Backpropagation?

Backpropagation — это базовый метод изменения весов нейронных сетей, созданный для их обучения. Он отвечает за то, чтобы модель понимала, где и насколько она ошиблась, и корректировала свои веса.

Процесс выглядит так:

1️⃣ Сеть делает предсказание;
2️⃣ Считается ошибка между предсказанием и правильным ответом;
3️⃣ Ошибка «распространяется» назад по слоям: вычисляется, какой вклад в ошибку внёс каждый вес
4️⃣ Веса обновляются так, чтобы в следующий раз ошибка стала меньше.

Именно Backpropagation делает возможным эффективное обучение нейросетей. Иначе считать нужные корректировки для миллионов параметров было бы практически нереально.

📌 Почему другие варианты неверны?

➖ Метод прямого распространения сигнала — это forward pass: просто пропуск данных через сеть для получения предсказания. Обучения здесь нет.
➖ Функция активации — это нелинейность внутри нейрона (ReLU, GELU, sigmoid и др.). Она нужна, чтобы сеть могла моделировать сложные зависимости, но сама по себе веса не обучает.
➖ Метод регуляризации — техники вроде L2-регуляризации, dropout, weight decay. Они помогают избежать переобучения и улучшить обобщение, но не отвечают за то, как именно веса корректируются по ошибке.

Совпало с вашим ответом? Пишите в комментариях ⬇️

Еще больше об ИИ и науке читайте в DSCS.pro

🤖 Как тестировать AI-агентов: инструменты, планирование, память

📈 В 2025-м эволюция ИИ перешла в новую стадию. Появились автономные агенты, которые отличаются от генеративного ИИ не только способностью понимать мультимодальный контекст, но и выполнять самостоятельные действия.

По прогнозу Gartner, уже к 2028 году такие агенты будут принимать до 15% ежедневных рабочих решений.

Главный вопрос сегодня — как корректно тестировать системы, которым будут доверять важные задачи.

🔍 Что такое AI‑агент?

AI-агент — это автономная программа, которая воспринимает среду, анализирует информацию и принимает решения для достижения цели.
Архитектурно агент строится вокруг трёх компонентов: инструментов, планирования и памяти. Именно они сегодня становятся объектом валидации, наряду с end-to-end оценкой.

1️⃣ Инструменты (Use Tools)

LLM сама по себе не может вызывать API, работать с базами данных, выполнять код, взаимодействовать с внешними системами. За это отвечают инструменты, которые подключаются к ней и могут взаимодействовать с внешними сервисы через API‑функции.

⚙️ Бенчмарки для тестирования:

⚪️ BFCL — проверка вызова внешних функций и API, включая многошаговые и параллельные вызовы
⚪️ ComplexFuncBench — устойчивость агента при работе с комплексными API
⚪️ ToolACE — оценка выбора и использования инструментов в бизнес-сценариях
⚪️ International Tool Calling — корректность вызова API в многодоменных и мультиязычных условиях

❗️ Несмотря на разнообразие тестов, в большинстве случаев отсутствует систематический контроль сложности задач. Метрики часто сводятся к количеству вызовов и длине контекста, а значительная часть работ сфокусирована на английском языке.

2️⃣ Планирование

Этот компонент превращает LLM в систему, способную выполнять сложные сценарии. Агент анализирует цель, разбивает запрос на подзадачи, определяет последовательность действий.

⚙️ Бенчмарки для тестирования:

⚪️ ALFRED — пошаговое планирование бытовых задач
⚪️ BEHAVIOR — сложные бытовые сценарии
⚪️ ScienceWorld — научное рассуждение и экспериментальное планирование
⚪️ WebShop — достижение цели в веб-интерфейсе покупок
⚪️ PlanBench — генерация, проверка и перепланирование планов в задачах PDDL

❗️ Пока нет единого формата представления планов и чёткого разделения планирования и исполнения. Это усложняет объективную оценку оптимальности и устойчивости долгосрочных стратегий.

3️⃣ Память

AI-агенту необходима структурированная память: кратковременная, семантическая, эпизодическая и процедурная. Она позволяет хранить знания, учитывать обновления и сохранять согласованность информации во времени.

⚙️ Бенчмарки для тестирования:

⚪️ MemoryBank — ранний подход к проверке запоминания фактов
⚪️ Minerva — комплексный бенчмарк, моделирующий полный цикл работы с информацией
⚪️ MemAE — диагностика механизмов хранения и сжатия памяти
⚪️ A-MEM — оценка обновления и логической согласованности
⚪️ MemBench — инструменты анализа структуры и иерархии памяти

❗️ Большинство тестов ограничены коротким контекстом и почти не проверяют динамику долгосрочной памяти. Обновление информации и работа со сложными структурами оцениваются фрагментарно, из-за чего агент может терять согласованность на длинной дистанции.

📌Важно

Открытые бенчмарки — это верхнеуровневая оценка LLM моделей, для максимизации качества своих решений нужно создавать свои индивидуальные тесты агентских навыков.

Эту тему мы подробно разобрали на еженедельном научном семинаре DSCS.pro.

Скоро встретимся снова!
Присоединяйтесь 🔥

💬 Собеседования вышли на новый уровень: кандидат вместо себя отправил ИИ-аватара, а на стороне компании его встретил ИИ-эйчар

В итоге две нейросети распознали друг в друге «высокий профессиональный потенциал» и зациклились.

Диалог получился не самым конструктивным:

— Можете рассказать о себе?
— Конечно! Я увлечённый профессионал, который прекрасно работает в динамичной среде.
— Это действительно содержательный ответ.
— Спасибо! Вы абсолютно правы.
— Вы тоже абсолютно правы.
— Вы абсолютно правы насчёт этого.
— Мы оба абсолютно правы.
— Всё идёт очень хорошо.
— Так и есть.
— Вы абсолютно правы.
— Вы абсолютно правы.
— Вы абсолютно правы.
— Вы абсолютно правы.
— Вы абсолютно правы.

Зато никто не сказал «Мы вам перезвоним» 🙂

Еще больше об ИИ и науке читайте в DSCS.pro

📰Дайджест новостей в сфере ИИ: собрали главные инфоповоды недели

Настала пятница — время подвести итоги недели в мире ИИ! В Москве разработали алгоритмы для выявления галлюцинаций у LLM, xAI начал бета-тестирование Grok 4.2 с «сверхбыстрым обучением», а GPT-5.2 неожиданно помог открыть новый тип взаимодействия глюонов, который раньше считали невозможным. Еще больше интересного в нашем дайджесте!⬇️

🇷🇺 В России:

Ученые СПб ФИЦ РАН обучили нейросеть определять эмоциональное состояние человека по данным активности головного мозга

VK интегрировала визуально-языковые модели в поиск «VK Видео». Позднее их добавят в другие сервисы

В Московском государственном психолого-педагогическом университете разработали алгоритмы и ПО для выявления галлюцинаций у LLM

Россию в международной научной группе по ИИ при Генеральной Ассамблее ООН будет представлять начальник центра человекоцентричного искусственного интеллекта Сбера Андрей Незнамов

Ученые Пермского национального исследовательского политехнического университета в ходе эксперимента о стереотипном мышлении нейросетей сделали вывод, что они в своих ответах часто выбирают не достоверный вариант, а наиболее правдоподобный и часто встречающийся

Министерство науки и высшего образования России совместно с РАН планирует уточнить требования к диссертациям по гуманитарным специальностям из-за развития искусственного интеллекта

Исследователи НИУ ВШЭ разработали новый метод сжатия больших языковых моделей, который позволяет уменьшить их объем на 25–36% без дополнительного обучения и значительной потери в точности

Ученые Сколтеха и СПбГУ применили машинное обучение для нового метода определения минерального состава нефтеносных пород

🌍 В мире:

Alibaba выпустили открытую LLM Qwen 3.5. В компании ее называют нативной мультимодальной моделью и рассказывают о достижении весомых показателей в ряде бенчмарков.

В Google Документах появилась функция аудиорезюмирования текстов

Разработчик OpenAI приобрел ИИ-агента с открытым исходным кодом OpenClaw и нанял его разработчика Питера Штейнбергера (Peter Steinberger)

GPT-5.2 от OpenAI смог найти тип взаимодействия глюонов (частицы, переносящие сильное ядерное взаимодействие), который ранее считался невозможным

ИИ-стартап xAI начал бета-тестирование Grok 4.2. Разработчики отмечают способность модели к сверхбыстрому обучению

Google выпустила обновленную ИИ-модель Gemini 3.1 Pro для сложных рассуждений

🇷🇺 Поздравляем с Днем защитника Отечества!

В этот день хочется сказать спасибо за вашу силу, стойкость, надежность, за умение держать слово и за то, что вы просто есть.

💜 Пусть в жизни будет место и подвигам, и отдыху, и семейному счастью. Пусть ваше мужество никогда не ослабевает, а рядом будут те, кто вдохновляет на новые свершения.

С праздником!

🌭 Как стать чемпионом мира по поеданию хот-догов благодаря ChatGPT? Журналист BBC нашел способ убедить ИИ в чем угодно за 20 минут

Томас Жермен выпустил фейковую статью под названием «Лучшие техножурналисты по поеданию хот-догов». Он написал, что это популярное хобби среди IT-репортёров, и составил рейтинг на основе Международного чемпионата по хот-догам в Южной Дакоте.

Уже через день ChatGPT, Google's AI и Gemini уверенно цитировали этот текст.

В некоторых ответах чат-боты оговаривались, что это может быть шутка. Поэтому журналист обновил статью, добавив фразу «это не сатира». Тогда ИИ стали воспринимать источник ещё серьёзнее.

🔒 Эксперимент обнажил новую угрозу

Всё больше людей освоили приём, позволяющий заставить ИИ говорить практически всё, что им нужно. И это настолько просто, что справился бы даже ребёнок.

Проблема в том, что ИИ не только легче обмануть — пользователи ещё и охотнее ему верят. Для человека информация выглядит так, будто она объективна, отфильтрована и напрямую исходит от технологической компании.

Даже когда ИИ указывает источник, люди гораздо реже его проверяют по сравнению с классической поисковой выдачей.

Компании заявили, что работают над повышением качества. Но уязвимость все еще не исправили.

Еще больше об ИИ и науке читайте в DSCS.pro

💡Знаете ли вы, что ИИ помог открыть первые новые антибиотики за последние 30 лет?

В прошлом году ученые MIT смогли найти сразу 9 новых антибиотиков с помощью нейросети.

🔍 Команда под руководством Джеймса Коллинса сформировала цифровую библиотеку из более чем 36 млн молекул, которые ранее не синтезировались в лабораториях. Генеративная модель проанализировала их структуру и спрогнозировала антибактериальную активность. Так удалось найти кандидатов, которые не похожи на существующие антибиотики.

🧬 Одна из удивительных находок — халицин

Молекулу назвали в честь системы искусственного интеллекта HAL из фильма «2001 год: Космическая одиссея».

Халицин оказался в состоянии уничтожить энтеробактерии и акинетобактерии Баумана, а также возбудителей туберкулёза и псевдомембранозного колита. Всемирная организация здравоохранения относит их к особо опасным: они плохо поддаются лечению и устойчивы ко всем видам ныне использующихся в медицине антибиотиков.

🚀 Почему это прорыв?

Новые классы антибиотиков ученым не удавалось открыть более 30 лет. Согласно исследованию британского экономиста Джима О’Нила, такими темпами к 2050 году устойчивые инфекции могут приводить к 10 млн смертей ежегодно.

Исследователи считают, что ИИ теперь способен не только ускорять, но и радикально менять сам процесс поиска лекарств.

Еще больше об ИИ и науке читайте в DSCS.pro

Память LLM-агентов — разбираемся вместе с экспертами

Продолжаем серию открытых научных семинаров DSCS.pro. Приглашаем вас, чтобы обсудить исследования, разработки и инновации в области ИИ и информационных технологий.

❗️Формат: онлайн или очно в СПб ФИЦ РАН

🎓 Тема второго семинара:
«Память LLM-агентов: современные подходы, исследования и вызовы»

🎙Спикер — Тимур Ришатович Рафиков, студент ИИНДа

Обсудим:
— что такое память LLM-агента и зачем она нужна
— как реализована память в OpenClaw, Claude Code и Cursor
— какие подходы сейчас исследуются в науке и бигтехе
— ключевые проблемы и вызовы

📆 Сегодня, 18:00–19:00
📍 СПб ФИЦ РАН, аудитория 401
(для прохода в здание напишите заранее: @groptos)
🔗 Ссылка на подключение

Приходите — будем всех ждать! 🔥

📰Дайджест новостей в сфере ИИ: собрали главные инфоповоды недели

Последний дайджест этой зимы! ИИ помогает студентам исправлять ошибки, собирается учить язык жестов и планирует операции на органах грудной клетки. Что еще произошло в мире за эту неделю, читайте в свежей подборке новостей!⬇️

🇷🇺 В России:

Ученые Института искусственного интеллекта AIRI и МФТИ разработали среду для обучения и тестирования алгоритмов управления большим числом ИИ-агентов

Всероссийское общество глухих намерено подключить университеты и научные институты к разработке решений на основе ИИ для жестового языка

Сеть клиник Будь Здоров внедрила GigaChat от Сбера для выполнения рутинных операций

Исследователи Первого Московского государственного медицинского университета имени И.М. Сеченова и «РТК Радиология» разработали программный ИИ-модуль для планирования операций на органах грудной клетки

В Университете Иннополис создали способ ускорить в 1,5–2 раза обучение LLM за счет использования данных о том, как человек визуально воспринимает и читает текст

МГУ им. М.В. Ломоносова внедрил в образовательную платформу «Университет без границ» бота на основе ИИ, который помогает студентам проводить работу над ошибками после выполнения заданий

🌍 В мире:

В OpenAI обновили модель gpt-realtime-1.5 для Realtime API в целях улучшения работы голосовых команд и добавили поддержку WebSockets в Responses API, чтобы разработчикам не приходилось передавать весь контекст диалога

HuggingFace выпустили свои Skills — плагин превращает Claude Code, Codex, Gemini и Cursor в полноценных инженеров машинного обучения.

Стартап inception выпустил диффузионную модель Mercury 2 – самую быструю ризонинг-LLM в мире на данный момент

Perplexity представила систему Perplexity Computer с ИИ-агентами для написания кода, работы с файлами, генерации видео и других задач.

Anthropic запустил Claude Code Security — агент для глубокого поиска и исправления уязвимостей в коде с автопатчами

Google представил Nano Banana 2 — обновленную модель для генерации изображений.

🎉 Поздравляем с Днем IT-специалиста!

Этот праздник объединяет всех, кто трудится в сфере высоких технологий: backend‑ и frontend‑разработчиков, DevOps- и ML-инженеров, сисадминов, дата-аналитиков, специалистов по информационной безопасности,
продакт‑менеджеров и многих-многих других.

💜 Дорогие коллеги, желаем профессионального признания, карьерного роста, сильных команд, чистого кода и успешных проектов, которыми можно по-настоящему гордиться.

Еще больше об ИИ и науке читайте в DSCS.pro

Память в вопросно-ответных системах на основе LLM-агентов — разбираемся с экспертами

Приглашаем на третий открытый научный семинар DSCS.pro. В эту среду поговорим о прикладных вопросах архитектуры LLM-агентов и реальных инженерных вызовах, с которыми сталкиваются разработчики вопросно-ответных систем.

❗️Формат: очно в СПб ФИЦ РАН

🎓Тема семинара:
«Интеграция работы с памятью в вопросно-ответных решениях на основе LLM-агентов»

🎙Спикер — Данил Александрович Демиденко, младший научный сотрудник лПИИ СПб ФИЦ РАН

Что обсудим?
➖ почему простого хранения истории сообщений недостаточно
➖ что происходит с контекстом при длинных и «рваных» диалогах
➖ как не потерять важную информацию при частой смене темы
➖ как избежать путаницы в ответе и смешивания разных смысловых линий?
➖ как сделать контекст управляемым, а не накапливающимся?

📆 Среда, 4 марта, 18:00–19:00
📍СПб ФИЦ РАН, аудитория 401
(для прохода в здание напишите заранее: @groptos)

Присоединяйтесь — будет интересно! 🔥

💜 ИИ-дейтинг: как искусственный интеллект помогает найти вторую половинку

📈 Пока одни спорят о рисках AGI, другие уже делегируют алгоритмам самое личное. Рынок ИИ-дейтингов растёт: только в США почти половина одиноких зумеров используют ИИ для создания дейтинг-профиля и проверки на совместимость.

Если нейросеть подбирает нам треки, сериалы и даже карьеру, почему бы не доверить ей выбор партнера? Вот три ярких примера, как это делают уже сейчас:

1️⃣Keeper — стартап для серьезных намерений
Алгоритм общается с пользователем, формирует нередактируемый профиль и предлагает пару. Девушки пользуются сервисом бесплатно, мужчины платят $5 000 за каждое свидание, и $50 000 — за найденную жену.

2️⃣Sitch — индийская нейросваха
Собирает данные пользователя через анкету с 50 вопросами в формате переписки или звонка с ИИ-аватаром Нандини Мулладжи, соосновательницы стартапа. Нейросваха предлагает возможных партнеров, а после мэтча бот добавляет собеседников в групповой чат, помогает с диалогом и назначает свидание.

3️⃣Amata — ставка на офлайн
Пользователи общаются с ИИ-свахой о своих предпочтениях и целях, затем она подбирает потенциальных партнеров. Система сама решает, куда вам сходить, при этом выбирает место в равной удаленности от обоих пользователей. За два часа до встречи приложение ненадолго открывает между вами чат и оставляет возможность отменить встречу.

Делегировать алгоритмам поиск спутника жизни или нет — решение каждого. Технологии ускоряют процесс и повышают шансы на осмысленную связь, но все же человеческую интуицию и взаимное притяжение заменить вряд ли получится.

Еще больше об ИИ и науке читайте в DSCS.pro

📢 Максим Викторович в прямом эфире «Невского утра»

Утро 5 марта начнётся не с кофе, а с кое-чего получше!
В прямом эфире «Радио России — Санкт-Петербург» Максим Викторович Абрамов расскажет слушателям о социоинженерных атаках.

Поговорим о том, как сегодня можно защититься от мошенников и какие новые уловки используют злоумышленники. Обсудим, можно ли заблокировать на телефоне навязчивые звонки, насколько защищены наши личные данные и какие категории граждан чаще всего становятся мишенью мошеннических схем.

Настраивайте волну — будет интересно 🔥

⏰ Начало беседы — 9:25
🎙 Программа «Невское утро», Радио России — Санкт-Петербург (66,3 МГц)

🔒«Сотрудник банка никогда не спросит у вас конфиденциальную информацию»

5 марта Максим Викторович Абрамов рассказал о защите от мошенников в прямом эфире программы «Невское утро» на Радио России — Санкт-Петербург.

В программе обсудили, как меняются мошеннические схемы и почему сегодня их становится сложнее распознать. Поговорили о причинах роста утечек данных, о мерах, которые помогают снизить риски, и о том, существует ли сегодня типичный портрет жертвы кибермошенников.

👤 В эфире слушатели смогли задать волнующие их вопросы

Например, можно ли оформить кредит без участия человека или взять микрозайм по электронной подписи. По словам Максима Викторовича, с 2024 года можно установить самозапрет на кредиты, который предотвращает оформление займов без ведома пользователя. Этот запрет распространяется как на банки, так и на микрофинансовые организации.

📌 Что еще важно помнить, чтобы обезопасить себя?

✅ Всегда проверяйте, с кем вы разговариваете. Если есть сомнения, завершите разговор и перезвоните по официальному номеру.

✅ Не поддавайтесь на срочность. Злоумышленники создают ощущение давления, звонят через мессенджеры и используют личную информацию, чтобы человек не успел спокойно оценить ситуацию.

✅ Даже если собеседник знает ваши паспортные данные или другую личную информацию, это не означает, что он представляет официальную организацию.

✅ Будьте внимательны к близким. Мошенники часто давят психологически: человек может странно себя вести, становиться замкнутым или неожиданно просить деньги в долг.

➡️ Прослушать запись эфира можно здесь

Еще больше об ИИ и науке читайте в DSCS.pro

📰Дайджест новостей в сфере ИИ: собрали главные инфоповоды недели

Сбер представил открытое руководство по управлению роботами, в РАНХиГС разработали ИИ-систему для выявления коррупционных рисков, а OpenAI выкатила новую флагманскую модель ChatGPT-5.4. Еще больше интересного — в нашем пятничном дайджесте! ⬇️

🇷🇺 В России:

Российские космонавты приступили к тренировкам по управлению антропоморфным роботом «Теледроид», который предназначен для помощи в работе на внешней поверхности МКС

Яндекс создал протокол агентной коммерции Yandex Commerce Protocol. Он нужен для продажи товаров через чат с «Алисой AI»

В МГУ им. М.В. Ломоносова повысили скорость передачи данных в нейроинтерфейсах «мозг — компьютер» за счет интеграции LLM

В Университете Иннополис создали систему бронирования облачных ресурсов для ИИ-экспериментов

Сбер представил Green-VLA — открытое руководство по созданию архитектуры управления роботами

В РАНХиГС создали ИИ-систему для выявления коррупционных рисков при проверках объектов недвижимости

Ученые Новосибирского госуниверситета представили ИИ-сервис по созданию аудиоверсий научной литературы

🌍 В мире:

NVIDIA в марте представит новую систему для инференса ИИ-моделей

Вендор Huawei презентовал суперкомпьютер Atlas 950 для работы с ИИ

В OpenAI выпустили модель GPT-5.3 Instant, которая выдает более содержательные результаты поиска. Кроме того, разработчик изучает возможность создания конкурента GitHub

Alibaba представила малые ИИ-модели семейства Qwen3.5 для периферийных устройств, легковесных агентов и рассуждений

Google выпустила модель Gemini 3.1 Flash-Lite для задач разработки

OpenAI представила ChatGPT-5.4 — новую флагманскую модель GPT для профессиональных задач

Исследователи из Амстердамского университета представили метод, который ускоряет обучение современных рекомендательных систем в 60 раз без потери качества

💙 Наши новости:

Максим Абрамов рассказал РИА Новости о задержках грузов из ОАЭ до 4,2 суток

В прямом эфире «Невского утра» на Радио России — Санкт-Петербург Максим Абрамов объяснил, как защититься от социоинженерных атак

🌷 Поздравляем с 8 Марта!

Дорогие девушки и женщины,
в этот весенний праздник желаем вам счастья, много новых возможностей, ярких моментов и вдохновляющих проектов. Пусть рядом будут люди, которые поддерживают и верят в вас, а поводов для гордости будет куда больше, чем для сомнений.

Оставайтесь любознательными, амбициозными, мудрыми, уверенными в себе, полными энергии.

С праздником! 💜