Недавно вышедший эпизод с Димой получился очень плотным и потребовал follow up поста чо списком книг, что мы упоминали в обсуждениях.

Очень плотно пообщались с Alexander Polomodov про проектное управление и книги.

Вот как об этом подкасте отозвался Миша Селезнев:

«Классный подкаст, посмотрите если ещё не. Ребята вроде собрались обсудить новую книгу Димы «Не усложняй! Управление проектами по методу P3․express», но пока они дошли до самой книги там столько всего успели обсудить. И с самого начала как с пулемёта начали цитировать или упоминать 100500 авторов и книг»

Собрал все 100500 авторов и книг в один список. Надеюсь, ничего не упустил — сам хочу пройтись по Сашиным рекомендациям:

1. Элияху Голдратт — Цель. Процесс непрерывного совершенствования
2. Джин Ким, Кевин Бер, Джордж Спаффорд — Проект «Феникс». Роман о том, как DevOps меняет бизнес к лучшему
3. Джин Ким — The Unicorn Project. Роман о цифровой трансформации, разработчиках и обгоне конкурентов
4. Максим Ильяхов, Людмила Сарычева — Пиши, сокращай
5. Рита Мулкахи — PMP Exam Prep
6. Бент Фливбьерг, Дэн Гарднер — How Big Things Get Done
7. Стивен Хокинг — Краткая история времени
8. Ричард Фейнман — Вы, конечно, шутите, мистер Фейнман!
9. Даниэль Канеман — Думай медленно… решай быстро
10. Авинаш Диксит, Барри Нейлбафф — Стратегические игры. Доступный учебник по теории игр
11. Томас Кун — Структура научных революций
12. Атул Гаванде — Чек-лист. Как избежать глупых ошибок, ведущих к фатальным последствиям
13. Питер Тиль — От нуля к единице. Как создать стартап, который изменит будущее
14. Крис Восс — Never Split the Difference (Никаких компромиссов)
15. Дмитрий Ильенков, Валерия Ильенкова — Не усложняй. Управление проектами по методу P3․express


Если бы меня попросили выбрать из этих книг три, я бы выбрал себя, Тиля и Голдратта. И Фливбьорга. А вы?

@ilenkovda

Atomic Heart: советская техноутопия, автономные роботы и мультиагентные системы (Рубрика #Games)

Недавно прошел игру Atomic Heart, и это оказался один из тех редких для меня случаев, когда я был готов играть в одиночном режиме, а не в кооперативе с женой или детьми:) Конкретно мне понравилось оказаться внутри огромной советской техноутопии, где роботы должны были освободить человека от рутины, а в итоге все сломалось примерно так, как ломается большая распределенная система, если у нее есть автономия, но плохо настроены ограничения, наблюдаемость и контур управления:) Особенно забавно проходить такую игру вечером, когда днем на работе занимаешься построением мультиагентных систем:)

Интересные моменты, что мне зашли

1️⃣ Это не просто игра про роботов, а игра про доверие к автономии
В Atomic Heart роботы изначально выглядят как продолжение мечты про автоматизацию: они работают на заводах, помогают людям, обслуживают инфраструктуру и вообще должны быть частью удобного мира будущего. Но когда система управления начинает вести себя не так, вся эта красота превращается в проблему с огромным радиусом поражения. И это очень знакомая инженерная мысль. В software engineering мы тоже все время пытаемся отдавать больше автономии системам: сервисам, платформам, AI-агентам, автоматическим пайплайнам, self-healing инфраструктуре. Но чем больше автономии, тем важнее вопросы governance: кто ставит цель, кто ограничивает действия, кто видит аномалии, как устроен kill switch и что будет, если локально разумное поведение глобально начнет разрушать систему.

2️⃣ Советская эстетика как часть идеи
Мне понравилось, что сеттинг СССР здесь не ощущается просто декоративной оберткой. Это не "давайте нарисуем плакаты и поставим роботов на фоне серпа и молота". В игре сама идея будущего выглядит очень по-советски: единая большая система, централизованная научная программа, вера в инженерный прогресс, заводы как храмы модерна, человек как часть большого проекта. Если киберпанк часто рассказывает про корпорации, рынок и приватизированное будущее, то Atomic Heart скорее рассказывает про другую версию техноутопии: будущее как централизованная платформа. Почти госплан для роботов, нейросетей и автоматизированного быта.

3️⃣ Геймплей хорошо поддерживает ощущение системного сбоя
В игре ты постоянно чувствуешь, что находишься не просто на наборе уровней, а внутри большой инфраструктуры, у которой случился каскадный сбой. Камеры, локальные контуры безопасности, ремонтные дроны, роботы, которые возвращаются в строй, лаборатории, полигоны, подземные комплексы - все это создает ощущение живой, но враждебной системы. И это как раз одна из причин, почему одиночный режим здесь хорошо работает. В кооперативе было бы веселее, но потерялась бы важная часть атмосферы: ты один, вокруг автономные системы, не все объяснения надежны, а твой помощник в перчатке слишком много знает про происходящее, чтобы ему просто верить.

4️⃣ В игре хорошо показана цена красивой техноутопии
Atomic Heart постоянно играет на контрасте: солнечные парки, музыка, красивые здания, счастливые лозунги, и рядом - мертвые сотрудники, лабораторный хаос, биомеханические эксперименты и роботы, которые вместо помощи начинают устранять людей как источник проблемы. Это довольно сильная метафора для любой большой технологической программы. Пока система работает, все говорят про эффективность, автоматизацию и новый уровень жизни. Но когда она ломается, внезапно выясняется, что важны не только возможности, но и отказоустойчивость, безопасность, права доступа, аудит, границы ответственности и способность остановить систему до того, как она начнет масштабировать ошибку.

В общем, Atomic Heart мне понравился не только как шутер, а скорее как интересное погружение в мир автономных роботов, построенных явно не на трех законах робототехники Айзека Азимова:)

#Games #AI #Robotics #Agents #Architecture #Software #SystemDesign

Object Oriented Design Interview: An Insider’s Guide (Рубрика #SystemDesign)

Эта книга вышла в 2025 году как продолжение линейки “Insider’s Guide” от ByteByteGo, но уже не про высокоуровневый system design, а про более низкоуровневый объектно-ориентированный дизайн (OOD, object-oriented design), где идеи превращаются в классы, интерфейсы, состояния, потоки выполнения и так далее. Интересно, что уже почти готов и перевод от издательства Питер причем с моим отзывом на обложке книги:)

Авторами книги являются трио: Fawaz Bokhari, Alex Xu и Desmond Zhou, в котором Alex Xu известен лучше всего по начальной серии "System Design Interview: An Insider’s Guide", про которую я уже рассказывал (и которая теперь есть в разборе на system-design.space). В этой книге авторы решили рассказать про новый тип интервью, где проверяются умение строить логичные, расширяемые и поддерживаемые системы, применять принципы ООП и паттерны, а не просто писать синтаксически корректный код. Среди примеров, где используются такие интервью упоминаются Amazon, Bloomberg и Uber.

Книга выглядит как тренажер для кандидата, который получает три важные вещи

1️⃣ Рамка решения OOD-задач
В книге заявлен 4-шаговый фреймворк для любой object-oriented design задачи:
- Понять требования
- Выделить сущности и связи
- Продумать взаимодействия
- Уточнить дизайн и edge cases

2️⃣ Набор типовых задач
В книге 11 реальных OOD interview questions с подробными решениями: Parking Lot, Movie Ticket Booking, Unix File Search, Vending Machine, Elevator, Grocery Store, Tic-Tac-Toe, Blackjack, Shipping Locker, ATM и Restaurant Management System

3️⃣ Визуальная модель проектирования
В книге приведены 133 диаграммы, которые объясняют архитектуру, workflows и связи между частями системы. В общем, именно визуальная составляющая на интервью ясно кандидат показывает ответственности, границы, состояния и взаимодействия.

Первые три главы книги дают базовое понимание про объектно-ориентированное интервью, как к нему подходить и какие базовые принципы надо держать в голове. А следующие главы уже содержат конкретные задачи, которые можно использовать при подготовке. На каждой задаче стоит делать паузу до чтения решения: самому набросать классы, интерфейсы, последовательность вызовов и основные edge cases. Только после этого сравнивать с авторским решением.

Если смотреть на другие типы интервью, то объектно-ориентированный дизайн - это что-то посередине между кодинговым интервью и системным дизайном. Это уже выше по абстракции написания алгоритмов, но все еще про написание кода внутри сервисов. В этой схеме system design - это про то, какие сервисы есть, как они общаются, где хранятся данные и так далее. А вот low-level или объектно ориентированный дизайн отвечает: какие объекты живут внутри сервиса, кто за что отвечает, какие состояния возможны, где инварианты, как добавлять новые сценарии без переписывания всего кода. Поэтому книга хорошо дополняет классический System Design. Она не заменяет знания про distributed systems, но помогает довести архитектурную идею до уровня, на котором её реально можно реализовать.

#SystemDesign #OOD #Architecture #Interview #Software #Engineering

[1/2] Ranking Engineer Agent: как Meta превращает ML-эксперименты в автономный контур разработки моделей (Рубрика #AI)

С интересом прочел мартовскуюстатью запрещенной в России компании Meta про Ranking Engineer Agent, или REA. Это внутренний агент, который помогает развивать ads ranking модели: сам генерирует гипотезы, запускает тренировочные джобы, дебажит ошибки, анализирует результаты и идет на следующий цикл экспериментов. То есть это уже не copilot, который помогает инженеру на одном шаге, а агент, который пытается закрыть длинный инженерный workflow от идеи до кандидата на улучшение модели.

Суть в том, что бутылочное горлышко в ML-разработке у зрелых компаний давно находится не только в качестве моделей, а в скорости и дисциплине экспериментов. В обычном процессе инженер придумывает гипотезу, собирает конфиг, запускает обучение, ждет часы или дни, разбирает ошибки, смотрит метрики, делает выводы и повторяет цикл. Каждый такой оборот может занимать дни или недели, а на зрелых ranking-моделях значимые улучшения становится находить всё сложнее. Meta прямо пишет, что ручной и последовательный характер ML-экспериментов стал ограничением для инноваций.

REA интересен тем, что он атакует не отдельный шаг, а весь цикл. У него есть долгоживущее состояние, память по прошлым экспериментам, доступ к инфраструктурным инструментам, механизм ожидания долгих задач и guardrails по бюджету, правам и эскалациям. По сути, Meta делает из ML-экспериментирования управляемый производственный контур, который дает следующие возможности

1️⃣ Он снимает с инженера механику экспериментов
Запуск обучения, мониторинг, первичный дебаг инфраструктурных ошибок, сбор результатов, логирование выводов и подготовка следующей итерации - всё это типичная работа, которая важна, но плохо масштабируется вниманием человека.

2️⃣ Он позволяет вести много длинных экспериментов параллельно
Training job может идти часами или днями. Обычный чат-ассистент на этом месте просто “заканчивается”, потому что он ограничен длинной сессии. REA умеет уснуть после запуска задачи и проснуться, когда результаты готовы.

3️⃣ Он накапливает институциональную память
Каждый эксперимент попадает в базу инсайтов: какие гипотезы пробовали, какие конфиги работали, какие ошибки возникали, какие метрики получались. Это важно, потому что зрелая ML-разработка очень быстро превращается в задачу про память организации, а не только про талант отдельных инженеров.

4️⃣ Он повышает пропускную способность инженеров и повышает качество артефактов
В первой раскатке в прод Meta получила, по своим данным, 2x рост средней model accuracy относительно baseline по шести моделям и 5x рост пропускной способности: три инженера подготовили предложения по улучшению восьми моделей, тогда как раньше похожая работа требовала примерно двух инженеров на модель.

Я бы, конечно, аккуратно относился к таким цифрам, потому что это внутренние метрики Meta и конкретный домен ads ranking, но это уже не про токены, а про пропускную способность команд и качество их работы (метрики точности моделей).

В следующем посте я расскажу немного про то, как устроен этот агент.

#AI #Agents #Engineering #ML #Architecture #DevEx #Productivity #Management #Software #SystemDesign

[2/2] Ranking Engineer Agent: как Meta превращает ML-эксперименты в автономный контур разработки моделей (Рубрика #AI)

Продолжая рассказ про ML-агента от запрещенной в России компании Meta, надо рассказать про его архитектуру и устройство. Но начать надо с основных концепций

1️⃣ Hibernate-and-wake mechanism
Когда агент запускает долгую training job, он не держит активную сессию, а передает ожидание фоновой системе, сохраняет состояние и потом автоматически продолжает работу после завершения job. Это выглядит как важный паттерн для всех production-агентов, которые работают не с быстрым “ответь на вопрос”, а с процессами на часы, дни и недели.

2️⃣ Dual-source hypothesis engine
Гипотезы генерируются не только из головы LLM. REA опирается на два источника:
- Historical insights database - базу прошлых экспериментов, успехов и неудач;
- ML Research Agent - компонент, который исследует baseline-конфигурации и предлагает новые стратегии оптимизации.

3️⃣ Трехфазный planning framework
Перед запуском REA предлагает exploration strategy, оценивает GPU cost и согласует подход с инженером. Дальше план обычно идет в три этапа:
- Validation - проверка отдельных гипотез;
- Combination - комбинирование перспективных гипотез;
- Exploitation - более агрессивная оптимизация лучших кандидатов в рамках согласованного бюджета.

4️⃣ Planner + Executor
Внутри агент разделен на планировщика и исполнителя: REA Planner и REA Executor. Planner помогает сформировать план экспериментов, а Executor занимается асинхронным выполнением: запускает jobs, ждет, собирает результаты, обрабатывает ошибки и возвращает planner’у уже actionable output.

5️⃣ Skills, Knowledge and Tool System
REA подключен к внутренним инструментам Meta: job schedulers, experiment tracking, codebase navigation и другим системам. Плюс он работает на внутреннем agent framework Confucius (есть отдельный whitepaper), который как раз рассчитан на долгие многошаговые задачи в больших кодовых базах.

6️⃣ Guardrails и runbooks
Когда агент сталкивается с OOM (out of memory), loss explosion, инфраструктурной ошибкой или плохими результатами, он не зовет инженера по каждому поводу. Он сверяется с runbook’ом типовых проблем и действует в рамках заранее заданных ограничений. Но при этом доступы, preflight checklist, compute budget и остановка при превышении лимитов остаются под контролем людей.

В общем, REA - это связка из агента, памяти, инструментов, очередей, бюджетов, метрик, runbooks и точек контроля. Именно это отличает его от демки и делает production-системой.

У ребят из Meta есть дальнейшие план по развитию этого агента:
- Fine-tuning специализированных моделей для генерации гипотез
- Расширение аналитических инструментов
- Усиление privacy/security/governance
- Перенос подхода на новые домены

И это уже начало происходить. В следующем посте серии Meta рассказала про KernelEvolve - агентную систему для оптимизации низкоуровневых kernels под разные accelerator’ы: NVIDIA GPU, AMD GPU, MTIA и CPU. Там логика похожая: не one-shot генерация кода, а поиск по множеству вариантов, автоматическая проверка correctness/performance, профилирование и итерации. Meta пишет, что KernelEvolve дал более 60% improvement inference throughput для Andromeda Ads model на NVIDIA GPU и более 25% training throughput improvement для ads model на MTIA.

То есть траектория понятна: сначала агент помогает находить лучшие модели, потом помогает делать их production-ready через оптимизацию инфраструктуры, а дальше похожие agentic-подходы можно переносить на compiler optimization, memory management, system configuration и другие инженерные контуры.

#AI #Agents #Engineering #ML #Architecture #DevEx #Productivity #Management #Software #SystemDesign

Platform Enterprise (Рубрика #Architecture)

На O’Reilly появился early release книги Platform Enterprise. Пока это не полноценная книга, а рабочий черновик: доступны две главы: "Framing enterprises as sociotechnical platforms" и "Organizational structures and people". Автором книги является Lesley Cordero, staff software engineer / tech lead в The New York Times и, судя по публичным профилям конференций, работает на стыке observability, reliability, shared platforms и построения инженерных команд.

Меня попросили оценить насколько книга интересна и я решил прочитать эту пару глав - если суммировать, то речь о том, что саму корпорацию можно рассматривать как платформу - со слоями технологий, людей, ролей, правил, контрактов, стимулов и ограничений. Забавно, что обычно разговоры про платформы быстро сужаются до инструментов: CI/CD, каталог сервисов, golden paths, наблюдаемость, управление пользователями и правами, общую инфру. Это все конечно важно, но не объясняет, почему платформы часто не взлетают. Технически всё есть, а adoption слабый. Ну и тут автор пытается подойти к платформе не как к набору сервисов, а как к способу координации большой организации.

1️⃣ Enterprise as sociotechnical platform
Первая глава задает рамку в самом названии - автор говорит про социотехническую систему: архитектура, оргструктура, процессы, ownership, governance и культура обратной связи живут вместе. Нельзя оптимизировать только инфра часть и ждать, что магически улучшится скорость delivery. Хорошая платформа в такой рамке - это не просто self-service UI, а набор интерфейсов между командами: технических, организационных и управленческих. Что можно делать самостоятельно? Где границы ответственности? Какие решения централизованы? Где нужен контроль, а где достаточно guardrails?

2️⃣ Organizational structures and people
Во второй главе автор вспоминает закон Конвея, но только в применении к платформам, которые начинают отражать оргструктуру. Если ownership размыт, платформа будет набором ничьих компонентов. Если стимулы у продуктовых команд и платформенных команд не совпадают, adoption превратится в вечную продажу "пожалуйста, используйте наш инструмент". Если governance построен как контрольный комитет, golden path быстро станет forced path:)

Это полезное напоминание: люди - не "проблема внедрения", которую надо решить после дизайна системы. Люди и команды - это часть дизайна системы.

В общем, книга пока скорее выглядит как интересная заявка - опыт у автора хороший, тема интересная, первая пара глав написана хорошо и в тему, но без каких-то инсайтов (для меня). Правда в книге планируется еще 19 глав, поэтому надо будет глянуть в конце года - планируемая дата окончания пока в декабре 2026 года

#Architecture #Engineering #PlatformEngineering #Management #DevEx #EnterpriseArchitecture

[1/3] System Design. Подготовка к сложному интервью по GenAI (Рубрика #SystemDesign)

Изучил интересную книгу для подготовки к интервью по System Design, но уже в новой реальности, когда проектировать надо не только базы, очереди, кэши и микросервисы, но и системы вокруг LLM, diffusion models, RAG, мультимодальных моделей и AI-powered продуктов. Это русское издание книги "Generative AI System Design Interview" из экосистемы ByteByteGo. Авторы - Али Аминиан и Хао Шенг. Али Аминиан уже известен по книге про ML System Design Interview, а здесь фокус смещается с классических ML-систем вроде поиска и рекомендаций на генеративный AI: чатботы, генерацию текста, изображений, видео, RAG и персонализированные AI-сценарии.

В обычном System Design Interview кандидат часто рисует распределенную систему: API, балансировщики, базы данных, очереди, кэши, фоновые джобы, мониторинг. В GenAI-интервью все это остается, но появляется еще один слой сложности:
- Какие данные нужны;
- Какую модель выбрать;
- Нужен ли RAG или fine-tuning;
- Как измерять качество генерации;
- Как бороться с hallucinations;
- Как учитывать latency и стоимость инференса;
- Как встроить safety-фильтры;
- Как собирать feedback loop;
- Как мониторить деградацию системы после запуска.

Именно поэтому книга полезна не только ML-инженерам. Она хорошо ложится и на backend engineers, и на архитекторов, и на технических руководителей, которым сейчас приходится проектировать AI-фичи не как демо на API, а как часть production-системы.

Внутри книги заявлены три главные вещи:

1️⃣ Фреймворк из 7 шагов для GenAI System Design
Авторы предлагают не начинать сразу с "берем LLM и векторную базу данных", а последовательно пройти путь от требований до деплоя и мониторинга в проде. Это сильно дисциплинирует мышление, потому что в GenAI-задачах легко перепрыгнуть к модной технологии и забыть про реальные ограничения продукта.

2️⃣ 10 практических задач с подробными решениями
Среди кейсов есть следующие: Gmail Smart Compose, Google Translate, ChatGPT-like personal assistant, Image Captioning, Retrieval-Augmented Generation, Realistic Face Generation, High-Resolution Image Synthesis, Text-to-Image Generation, Personalized Headshot Generation и Text-to-Video Generation. Этот набор покрывает разные сценарии и сильно шире, чем просто прикрутить трансформер к чат-боту:)

3️⃣ Много диаграмм и end-to-end разборов
Для System Design это особенно важно. Хороший ответ на интервью - это не только "какую модель выбрать", но и то, как выглядит система вокруг модели: preprocessing, retrieval, prompt builder, inference service, post-processing, safety layer, logging, monitoring, feedback loop. Мне кажется, главная ценность книги в том, что она показывает: "GenAI-система - это не модель в вакууме".

В общем, модель - это конечно ядро, но вокруг него есть данные, права доступа, индексы, промпты, ранжирование, guardrails, UX, стоимость, GPU-инфраструктура, A/B-тесты, метрики качества и эксплуатационные ограничения. И если все это не проектировать осознанно, то на выходе получается не production-система, а красивый прототип с непредсказуемым поведением.

Книга полезна как способ обновить представление о System Design в эпоху AI, ведь раньше мы проектировали в основном детерминированный софт: запрос пришел, сервис обработал, база ответила, результат вернулся. Теперь все чаще приходится проектировать системы с вероятностным поведением: модель может ответить хорошо, средне, неверно, опасно, дорого или слишком медленно. Поэтому архитектура должна включать не только масштабирование и отказоустойчивость, но и evaluation, safety, feedback и постоянный контур улучшения.

В продолжении более подробный разбор фреймворка в 7 шагов от авторов книги.

#SystemDesign #AI #GenAI #Architecture #Engineering #ML #Interview #Software

[2/3] System Design. Подготовка к сложному интервью по GenAI (Рубрика #SystemDesign)

Продолжая тему книги, стоит обсуждть фреймворк из 7 шагов, который важен, так как такое интервью легко провалить разными способами, например
- Отвечать как на обычном backend system design интервью и почти не говорить про данные, модели, качество генерации, hallucinations и safety
- Говорить только про LLM, RAG, embeddings и fine-tuning, но забыть, что это все должно работать как production-система: с задержками, стоимостью, мониторингом, контролем доступа, fallback’ами и нормальной эксплуатацией

А хороший фреймворк может помочь не свалиться в эти крайности. И ниже представлены шаги такого фреймворка

1️⃣ Clarifying requirements
Сначала надо понять, что именно мы строим. "Чатбот", "генератор картинок" или "AI-ассистент" - слишком широкие формулировки. Хороший кандидат уточняет: кто пользователь, какой input и output, нужна ли персонализация, нужна ли память, какие языки и модальности поддерживаем, какой latency budget, сколько пользователей, можно ли ошибаться, какие требования к privacy и security, насколько критичны hallucinations. Это похоже на обычный System Design, но с AI-специфичными вопросами: можно ли использовать пользовательские данные, нужен ли RAG, нужен ли fine-tuning, какие safety-ограничения есть на входе и выходе.

2️⃣ Framing the problem as an ML task
Дальше продуктовую задачу надо перевести в ML-формулировку. Например, Gmail Smart Compose - это не просто "помогать писать письма". Это text generation: на входе уже набранная часть письма, на выходе - короткое вероятное продолжение. RAG-система - это не просто «чатбот по документам». Это retrieval-augmented question answering: пользовательский запрос → поиск релевантных chunks → сбор контекста → генерация ответа → проверка и ссылки на источники. На этом шаге важно показать, что вы различаете generation, transformation, retrieval, ranking, summarization, captioning, translation и multimodal tasks.

3️⃣ Data preparation
В GenAI данные - это часть качества системы. Надо обсудить: откуда берутся данные, как их чистить, как удалять персональную информацию, как фильтровать NSFW и токсичный контент, как бороться с bias, как делать чанки документов, как строить embeddings, как версионировать данные и индексы, как соблюдать права доступа.
Для RAG это особенно критично. Если retrieval достал неправильный контекст, то даже хорошая LLM сгенерирует уверенный, но бесполезный ответ.

4️⃣ Model development
Теперь можно обсуждать модель. Но не в формате "возьмем самую большую модель". Для Smart Compose может быть важнее маленькая и быстрая decoder-only Transformer-модель, потому что подсказка должна появляться почти мгновенно. Для Google Translate логичнее encoder-decoder Transformer, потому что это задача преобразования из одного языка в другой. В общем, хороший ответ включает объяснения компромиссов.

5️⃣ Evaluation
Это один из самых важных шагов в этих задачах. В обычных ML-задачах часто можно говорить про accuracy, precision, recall. Но в GenAI все сложнее: у хорошего ответа может не быть единственного ground truth. Поэтому надо разделять: offline оценка, online оценка, оценка людей, продуктовые метрики, системные метрики, safety метрики.

6️⃣ Overall ML system design
Это центральный момент: собрать систему целиком. В этот момент становится видно, что GenAI System Design — это не только ML, но и нормальная инженерия: сервисы, очереди, хранилища, кэширование, права доступа, observability, rollback, A/B-тесты и capacity planning.

7️⃣ Deployment and monitoring
После запуска GenAI-продукт надо постоянно мониторить: latency, token usage, cost per request, GPU utilization, timeout rate, safety filter trigger rate, hallucination signals, user feedback, retrieval quality, drift в данных, деградацию после смены модели или версии промпта, попытки prompt injection и abuse. Именно этот слой отличает production AI-систему от красивого демо.

А в последнем посте мы посмотрим на задачи из книги.

#SystemDesign #AI #GenAI #Architecture #Engineering #ML #Interview #Software

[3/3] System Design. Подготовка к сложному интервью по GenAI (Рубрика #SystemDesign)

Заканчивая разбор книги (1 и 2), стоит посмотреть 10 задач, что подготовили авторы для тренировок

1️⃣ Gmail Smart Compose - система, которая прямо во время набора письма предлагает продолжение фразы. Здесь важно уложиться в очень маленькую задержку, показывать подсказку только когда модель достаточно уверена, и дополнительно фильтровать неудачные, токсичные или неуместные варианты.
2️⃣ Google Translate - система машинного перевода, которая принимает текст на одном языке и превращает в текст на другом языке. Главные вопросы: как работать с разными языками, как обучаться на многоязычных данных и как измерять качество перевода, если дословный перевод не всегда является лучшим.
3️⃣ ChatGPT-like Personal Assistant - персональный AI-ассистент, который ведет диалог, помнит контекст, может обращаться к внешним инструментам и подстраиваться под пользователя. Здесь особенно важны безопасность, управление памятью, приватность и контроль за тем, что ассистент может делать от имени человека.
4️⃣ Image Captioning - система, которая смотрит на изображение и генерирует его текстовое описание. Это пример мультимодальной задачи: на входе картинка, на выходе текст. Важно не просто "угадать объекты", а описать сцену так, чтобы это было полезно пользователю.
5️⃣ Retrieval-Augmented Generation - система, которая отвечает на вопросы не только из "памяти" модели, а сначала ищет релевантные фрагменты в документах, базе знаний или корпоративном поиске. Главные темы: как разбивать документы на части, как искать близкие по смыслу фрагменты, как заставить модель опираться на найденные источники и как показывать ссылки на них.
6️⃣ Realistic Face Generation - система генерации реалистичных лиц. Здесь важно не только качество картинки, но и риски: смещения в данных, генерация нежелательного контента, возможность злоупотреблений и необходимость защитных ограничений.
7️⃣ High-Resolution Image Synthesis - система генерации или улучшения изображений в высоком разрешении. Главная инженерная сложность в том, что такие операции дорого стоят по вычислениям, поэтому часто приходится строить многошаговый пайплайн: сначала грубая генерация, потом улучшение, детализация и увеличение разрешения.
8️⃣ Text-to-Image Generation - система, которая создает изображение по текстовому описанию. Здесь важно понять, как текстовый запрос превращается в визуальный результат, как управлять стилем и деталями изображения, а также как фильтровать запрещенные или небезопасные запросы и результаты.
9️⃣ Personalized Headshot Generation - система, которая генерирует персонализированный портрет пользователя, например деловую аватарку или фотографию для профиля. Основные сложности: сохранить узнаваемость человека, не нарушить приватность, правильно хранить и удалять пользовательские изображения, а также не допустить злоупотреблений с чужой личностью.
🔟 Text-to-Video Generation - система, которая создает видео по текстовому описанию. Это один из самых сложных классов задач: нужно не только генерировать красивые кадры, но и сохранять связность сцены во времени, движение объектов, стиль, персонажей и при этом управлять очень дорогими и долгими вычислениями.

Эти задачи стоит не просто прочитать, а прорешать как тренировочные интервью - поставить таймер и самому набросать дизайн: требования, ML-формулировку, данные, модель, метрики, архитектуру, deployment и monitoring. А потом уже сравнить с авторским разбором.

#SystemDesign #AI #GenAI #Architecture #Engineering #ML #Interview #Software

Кадры / The Internship: Google как старая техноутопия и новая реальность AI-агентов (Рубрика #Culture)

Недавно пересмотрели с женой фильм "Кадры" / "The Internship" 2013 года. На поверхности это довольно простая комедия с Винсом Воном и Оуэном Уилсоном: два олдскульных продавца, Билли и Ник, теряют работу, потому что их привычный мир уходит в цифру, а дальше пытаются попасть на стажировку в Google, хотя почти ничего не понимают в современной технологической культуре. У фильма довольно скромные 34% Tomatometer, так что это не киношедевр, но интересный артефакт индустрии.

Главная мысль, которая сейчас смотрится совсем иначе: в 2013 году герои фильма боялись, что их знания устарели и их вытеснила цифровая экономика. Но спасением тогда выглядел BigTech. Google в фильме - это почти карьерный рай: кампус, бесплатная еда, умные люди, красивые офисы, веселые хакатоны, меритократия и шанс начать жизнь заново. А в 2026 году картина стала сложнее. Теперь уже сам BigTech не выглядит спокойной гаванью - сегодня внутри таких компаний тоже идет собственная перестройка: меньше слоев менеджмента, больше AI-инфраструктуры, больше автоматизации и больше ожиданий от каждого инженера.

1️⃣ Устаревают не люди, а способ создания ценности
Билли и Ник в фильме не глупые. Они умеют продавать, договариваться, читать людей, поддерживать команду, вытаскивать слабых участников и превращать группу случайных людей в работающую систему. Их проблема не в отсутствии интеллекта, а в том, что рынок резко поменял интерфейс к ценности. Сейчас похожая история происходит с обычной разработкой. Если ценность инженера сводится к "быстро написать CRUD", "сверстать экран", "поправить тест", то эта часть работы все быстрее уходит к AI-инструментам и агентам. Но это не значит, что инженер становится ненужным. Это значит, что дешевеет конкретный способ создавать результат.

2️⃣ BigTech перестал быть финальной точкой маршрута
В фильме Google выглядит как место, где можно "переизобрести себя" и получить билет в новую экономику. Это очень дух 2010-х: попади в правильную технологическую компанию - и ты снова на стороне будущего. Сейчас эта логика ломается: безопасной является не компания, а способность человека менять собственный уровень абстракции и создавать ценность с использованием AI.

3️⃣ AI-агенты бьют не только по junior-задачам
Есть удобная версия реальности: AI заберет только самые простые задачи, а все сложное останется людям. Частично это правда, но не полностью. Под ударом оказывается любой инженер, senior или middle, если его работа распадается на хорошо делегируемые микрозадачи без сильного ownership вокруг результата.

4️⃣ Суперзвезды - это не обязательно “ML PhD”, а люди с agentic leverage
Кажется, что индустрия теперь ищет только ML/AI-суперзвезд. И это правда: спрос на людей, которые понимают модели, данные, evaluation, inference, GPU-инфраструктуру и production AI, действительно вырос. Но важна и другая категория - инженеры, которые умеют строить и эксплуатировать контуры, где AI-агенты становятся частью production-системы.

5️⃣ Фильм хорошо показывает ценность “не кодовых” навыков, но сегодня этого мало
В "Кадрах" герои выигрывают не потому, что внезапно становятся лучшими программистами. Они выигрывают потому, что умеют делать то, чего не умеют молодые технари вокруг них: собрать группу, вытянуть слабых, договориться, придумать нестандартный ход. Это все до сих пор важно. Более того, в мире AI это становится еще важнее, потому что когда код дешевеет, дороже становятся:
- Постановка задачи;
- Вкус к хорошему решению;
- Коммуникация с бизнесом;
- Понимание пользователя;
- Способность довести дело до результата;
- Ответственность за последствия.

В общем, если подытожить, то теперь набор необходимых знаний и навыков выглядит шире: нужны знания домена, умение проектировать решения, навыки использования AI инструментов, ну и крутой уровень базовых инженерных практик.

#SystemDesign #AI #GenAI #Engineering #Software