От требований до релиза: как QA помогает предотвращать ошибки и снижать риски в продукте

В ИТ-командах роль QA часто воспринимают как финальную проверку уже готового кода. Но на практике Quality Assurance начинается гораздо раньше и влияет не только на стабильность системы, но и на сам продукт.

В новой статье для TProger ведущий QA-инженер Embedika Екатерина Акименко рассказывает, почему QA должен участвовать в проекте на всех этапах жизненного цикла решения — от анализа требований до поддержки после релиза.

В материале разобрали:
▫️ почему ошибки, найденные на этапе требований, обходятся дешевле, чем исправление багов релиза;
▫️ как QA помогает проверять согласованность, техническую реализуемость и влияние новых функций на данные и процессы;
▫️ какие объективные критерии используются при проверке проектных решений и пользовательских сценариев;
▫️ что QA оценивает на этапе активного тестирования помимо базовой функциональности;
▫️ как QA участвует в сопровождении продукта после релиза, анализе инцидентов и доработке архитектуры.

🔗 Полная версия статьи доступна на сайте TProger

Как GenAI меняет правила ведения проектов и на что бизнесу стоит обращать внимание

В классическом ML ошибки контролируются через метрики качества. В GenAI полностью исключить ошибки невозможно, поэтому система требует дополнительных механизмов контроля. Если пытаться управлять генеративными проектами так же, как традиционными ML-решениями, проект с высокой вероятностью провалится.
В предыдущих постах мы уже разобрали, чем отличаются жизненные циклы классического ML и GenAI, а также их ключевые особенности. Теперь разберем главное: почему те же правила управления не работают для генеративных проектов.

Исследование Gartner показывает: 30% GenAI-инициатив прекращаются уже после проверки концепции. Основная причина кроется не в качестве модели, а в том, что системой сложно управлять в продакшене. Среди ключевых отличий, которые меняют логику:

🔹 В классическом ML ошибки обычно заметны через ухудшение метрик качества. В GenAI некорректный ответ может выглядеть правдоподобно и не содержать явных признаков ошибки. Для снижения подобных рисков используются валидация, Human-in-the-Loop и привязка к проверенным источникам данных (RAG).

🔹 В классическом ML основные риски — дрифт данных и деградация метрик. В GenAI добавляются новые категории:
— Безопасность данных — использование внешних LLM-сервисов требует контроля за тем, какие внутренние данные передаются модели и где они обрабатываются;
— Промпт-инъекции — специально сформулированный ввод может изменить поведение модели, обойти ограничения или привести к раскрытию конфиденциальной информации;
— Юридические риски — нарушение лицензий или генерация запрещенного контента;
— Операционные риски — общие затраты на генерацию растут вместе с объемом использования, а высокие задержки могут сделать систему непригодной для отдельных бизнес-сценариев.

🔹 В классическом ML качество модели обычно оценивается через фиксированный набор метрик. GenAI на один и тот же запрос может дать разные ответы, а метрики становятся контекстными: релевантность, корректность, уровень галлюцинаций. Их оценивают через вспомогательные модели (LLM-as-a-Judge) или экспертную оценку. Нельзя просто достичь целевых показателей, нужно калибровать качество под каждый кейс.

🔹 В ML основные затраты — на данные и обучение, инференс не требует больших вложений. В GenAI каждый запрос = токены = деньги. Даже успешные GenAI-продукты часто убыточны, т.к. затраты на инфраструктуру растут быстрее выручки. Некоторые проекты закрывают, потому что стоимость одного ответа превышает бизнес-ценность. Например, OpenAI Sora требовал около $1 млн в день на вычисления, что сделало его экономически нецелесообразным и привело к закрытию.

GenAI требует вероятностного мышления, встроенного риск-менеджмента и постоянного контроля экономики. Без этого даже технологически успешный проект может не принести бизнесу ожидаемого эффекта.

Data Place: о данных, AI и технологиях корпоративной аналитики

Продолжаем делиться каналами, посвященными практическому применению современных технологий. Один из них — Data Place. Канал рассказывает о работе с данными, аналитике и AI-инструментах, которые сегодня становятся частью корпоративных ИТ-систем.
Автор рассматривает не только технологические новинки, но и прикладные вопросы: как выстраивается работа с данными, какие подходы используются в аналитике и как ИИ внедряется в реальные бизнес-процессы.

В канале регулярно появляются материалы о:

◾️ Архитектуре data-платформ и организации работы с корпоративными данными;
◾️ Использовании AI и ML в аналитических и цифровых сервисах;
◾️ Практиках data governance и повышении качества данных;
◾️ Инструментах и подходах для построения современных аналитических систем;
◾️ Технологических трендах в области Data Science, BI и искусственного интеллекта.

Курс развития data-направлений, внедрении ИИ-решений и построении корпоративных аналитических систем – эти и многие другие экспертные материалы о работе с данными можно найти в канале @dataplace

Следующий этап цифровизации — прозрачность исполнения

10-15 лет назад главной задачей была оцифровка процессов. Компании внедрили ERP, BPM, BI и многие другие системы. Это решало вопрос учета и хранения данных, но также порождало новую проблему: систем стало много, а управляемости — не всегда.

Это происходит из-за того, что большинство enterprise-систем отвечают за процесс, но ни одна не отвечает за качество исполнения требований в масштабе компании:
➡️ ERP знает, что процесс существует, но не видит, где копится риск;
➡️ BPM/Workflow показывает, что задача закрыта, но не понимает, решена ли проблема реально;
➡️ BI показывает что произошло, но не объясняет системную причину и повторяемость нарушений.

В результате у компании копятся данные и отчеты, но нет прямого ответа на вопрос, что в действительности происходит на объектах. Масштаб данных уже превышает возможности ручного контроля.

Роль AI заключается в создании семантического слоя, который связывает требования, события, риски и корректирующие действия в единую логику.

Ограниченность традиционных BI и BPM систем проявляется в том, что после проверок нарушения часто устраняются только на бумаге. Акт сохраняется в архиве, поручения помечаются выполненными, а в аналитических отчетах отображается положительный статус, но через время та же проблема возникает снова уже на другом объекте. Это происходит потому, что системы фиксируют действия, но не видят связь между требованием, нарушением, подрядчиком и риском для актива. В итоге они показывают статус исполнения, но не отражают реальную картину процесса.

Слой прозрачности исполнения помогает не просто фиксировать статус, а получать ответы на ключевые вопросы:
➖ Устранена ли первопричина?
➖ Повторяется ли проблема системно?
➖ Где корректирующие действия выполняются формально?

Проблема кроется не в отсутствии ИТ-систем, а в отсутствии слоя, который понимает смысл исполнения. Именно этот слой становится фундаментом для перехода от оцифрованных процессов к реальному управлению эффективностью.

Подборка полезных и интересных материалов

Совместная работа команд с ИИ-агентами, финансовый пузырь на рынке технологий и корпоративная практика внедрения — в новой подборке собрали материалы о том, как искусственный интеллект меняет подходы к разработке и управлению.

Статьи:
📎 Колонка в Forbes от руководителя блока «Технологии» Сбербанка о моделях сотрудничества разработчиков и ИИ-агентов в перспективе ближайших лет.
📎 Интервью RT с генеральным директором AIRI Иваном Оселедцем — о финансовом пузыре на рынке ИИ и применении технологий в научной среде.
📎 Материал Ведомостей о том, чем формальное внедрение ИИ отличается от его полноценного встраивания в компанию.
📎 Интервью РБК с гендиректором «СберТеха» Максимом Тятюшевым о переходе на российские платформы и безопасной эксплуатации корпоративного ИИ.
📎 Статья директора по разработке Scalio Антона Букарева в ComNews — как инструменты на базе ИИ ускоряют процесс разработки ПО.

Заметки:
✍️ Заметка в Telegram-канале «Телекоммуналка»: опыт «Норникеля» по ускорению прототипирования с помощью ИИ — от недель до нескольких часов.
✍️ Кейс «Росгосстраха» об интеграции ИИ-инструментов в процессы тестирование.
✍️ Мнения участников ЦИПР-2026 в Telegram-канале Abloud62 — о стандартах 6G, ядром которых выступает ИИ.
✍️ Материал Wildberries & Russ на «Хабре» о том, как одиночные промпты эволюционировали в промпт-хабы.

Книги:
📚 «Искусственный интеллект и экономика. Работа, богатство и благополучие в эпоху мыслящих машин», Роджер Бутл — разбор того, как ИИ изменит рынок труда, доходы и повседневную жизнь.
📚 «Homo Roboticus? Люди и машины в поисках взаимопонимания», Джон Маркофф — взгляд на будущие отношения людей и роботов сквозь призму мнений инженеров, нейробиологов и программистов.

Подкасты:
🎤 Подкаст «Цифровая реальность»: выпуск «Новая эра данных».
🎤 Podlodka Podcast: выпуск о маленьких языковых моделях.

AI-агенты как новый этап автоматизации корпоративных процессов

Если copilots помогают человеку выполнять работу быстрее и точнее, то AI-агенты уже начинают брать на себя отдельные функции внутри процесса. Это важное отличие: речь идет не просто о поддержке пользователя в интерфейсе, а о переходе к более автономному исполнению задач.

Следующий этап развития enterprise-AI — это не отдельные сценарии с подсказками в чате, а промышленные агенты, встроенные в рабочие процессы компании. Они могут работать в нескольких направлениях одновременно:
➖ запускать автономные операции,
➖ поддерживать комплаенс,
➖ анализировать инциденты,
➖ формировать первичные выводы и инициировать дальнейшие действия.

Например, AI-агент может отслеживать изменения регуляторных требований, анализировать, какие внутренние процессы и документы они затрагивают, выявлять устаревшие материалы, формировать список корректирующих мероприятий и уведомлять ответственных сотрудников. Такой сценарий уже не ограничивается функцией чат-бота. Это элемент операционной модели компании.

Здесь меняется сам принцип автоматизации. Раньше системы помогали сотруднику быстрее найти информацию или подготовить ответ. Теперь AI-агент может участвовать в исполнении процесса: собирать данные, проверять условия, запускать следующие шаги и фиксировать результат.

Для enterprise это означает переход от интерфейсной автоматизации к автоматизации исполнения. И именно это делает AI-агентов одним из ключевых направлений развития корпоративных ИТ-систем.