📘 На Stepik вышел курс — «LLM Security PRO: prompt injection • утечки • tool-abuse»

Если вы используете LLM в проде и в запросы/логи может попасть ПДн — вы рискуете комплаенсом (вплоть до штрафов на миллионы рублей, по отдельным нарушениям — до 6 млн ₽).
А если у вас нет инженерных контуров безопасности, то даже без “юристов” вы можете потерять проект: injection через пользователя/документ, утечки в ответы/логи, опасные tool-действия, cost-DoS и остановка релиза.

Этот курс — практический путь к безопасному LLM-продакшну:

• Prompt injection (direct) + indirect injection через RAG: как это ломает поведение и как закрывать
• Защита RAG: instruction hierarchy, grounded-режим, цитирование, контроль контекста
• Tool security: allowlist, scopes/permissions, approvals (human-in-the-loop), валидация параметров
• Output safety: строгий JSON-контракт (Schema/Pydantic) + safe parsing
• Leakage prevention: redaction, политика логов/ретеншн, memory hygiene
• Cost control: лимиты токенов/времени/tool-calls, anti-loop, quotas/rate limit, circuit breaker
• Red-team suite + security-gates в CI/CD: чтобы регрессы не уезжали в релиз

🎓 Сертификат Stepik — в резюме/LinkedIn

💻 Локальный стенд + реальный LLM (OpenAI API), код на GitHub, сервисы поднимать не нужно

🚀 Скидка 25%, действует 48 часов

👉 Пройти курс со скидкой

Авито внедряет ИИ-помощников для покупателей и продавцов
На технологической платформе началось тестирование двух новых ИИ-ассистентов: Ави для покупателей и Ави Pro для продавцов. На текущем этапе они доступны только ограниченной группе пользователей.

Функционал помощников различается. Ави помогает покупателям: подбирает варианты по описанию, сравнивает товары, выделяет их сильные и слабые стороны, а также предлагает сопутствующие продукты, даже если запрос сформулирован нечетко. Ави Pro, в свою очередь, предназначен для продавцов и работает в их личных кабинетах. Этот ассистент анализирует статистику, отслеживает изменения и даёт рекомендации для повышения эффективности продаж.

Управляющий директор по искусственному интеллекту Авито Андрей Рыбинцев пояснил, что для компании диалоговый интерфейс представляет собой новый этап в развитии пользовательского опыта. По его словам, это решение сократит число действий для решения задач, повысит конверсию в успешные сделки и позволит платформе лучше понимать намерения клиентов.

Запуск ИИ-помощников является ответом компании на запросы рынка. Согласно внутренним исследованиям Авито, 59% пользователей заходят на платформу без четкой цели, при этом 43% уже готовы доверить выбор искусственному интеллекту. На дальнейшее развитие этих технологий в следующем году компания планирует направить около миллиарда рублей.

INTELLECT-3: Technical Report

Read

@datascienceiot

Покажите свою научную работу экспертам: вдруг это прорыв года для российского ИИ 📢

Data Fusion Awards 2026 — конкурс, который запущен банком ВТБ и Институтом ИИ МГУ. Авторов трёх лучших работ ждёт призовой фонд 3 000 000 рублей, а также звание «Научный прорыв года в ИИ 2026».

Всё, что нужно, — показать свою научную работу на релевантную тему, связанную с развитием ИИ. Важно, чтобы в статье было место для аффиляции с одной из российских организаций. Если это так, а вы — первый в списке авторов работы, то можете смело подавать заявку.

Зарегистрироваться можно до 20 января 2026 года.