Как правильно настроить запросы и лимиты CPU для контейнеров? Какие ошибки могут привести к снижению производительности приложений?

Джон Такер делится подробным анализом работы CPU в Kubernetes, включая базовые понятия, примеры настройки и рекомендации по оптимизации. Узнайте, как добиться стабильной работы ваших кластеров.

В начале апреля вышел 32-й выпуск технологического радара от компании Thoughtworks. На радаре упоминаются 22 практики, 28 платформ и более 50 инструментов и фреймворков. Что интересного мы отметили:
1. Развитие платформ и инструментов, связанных с CI/CD и Release Engineering:
- Платформа GitLab для автоматизации процессов CI/CD;
- Инструмент Nyx для автоматизации управления релизами;
- Инструмент OpenRewrite для рефакторинга кода;
- Инструмент Renovate для автоматизации обновления зависимостей;
- Инструмент Jujutsu для управления и контроля версий, работающий поверх Git;
- Инструмент Turborepo для сборки больших JavaScript или TypeScript проектов;
- Инструмент Mergiraf для разрешения конфликтов в Git.
2. Развитие Observability платформ и инструментов:
- Стандарт и набор инструментов OpenTelemetry для сбора, обработки и передачи данных телеметрии (метрик, логов, трассировок);
- Платформа Grafana Loki для агрегации и анализа логов;
- Платформа Grafana Tempo для распределенной трассировки;
- Инструмент Grafana Alloy для сбора, обработки и передачи телеметрии, поддерживающий OpenTelemetry.
3. Возникновение практик, платформ и инструментов для нового направления Observability for AI:
- Практика структурирования вывода LLM (Structured output from LLMs);
- Практика использование графов знаний для улучшения качества ответов LLM (GraphRAG)
- Платформа Weights & Biases для мониторинга и оценки производительности моделей;
- Платформа Arize Phoenix для наблюдаемости LLM;
- Платформа Helicone для мониторинга LLM;
- Платформа Humanloop для повышения надежности AI-систем;
- Инструменты Gemma Scope для наблюдаемости LLM;
- Инструменты NeMo Guardrails для обеспечения безопасности и наблюдаемости LLM.
4. Развитие практик и инструментов, связанных с Infrastructure as Code:
- Практика управление доступом для инфраструктуры (Just-in-time privileged access management);
- Платформа Railway для упрощения развертывания и управления инфраструктурой
- Инструмент System Initiative для визуального управления инфраструктурой;
5. Развитие практик и инструментов, связанных с Security Engineering:
- Практика тестирования приложений с использованием случайных данных (Fuzz testing);
- Практика обеспечения прозрачности цепочки поставок (Software Bill of Materials);
- Практика анализа угроз для проектирования безопасных систем (Threat modeling)
- Платформа Chainloop для обеспечения безопасности цепочки поставок;
- Платформа Plerion для анализа безопасности облачных рабочих нагрузок;
- Платформа Redactive для обработки конфиденциальных данных.
6. Развитие практик и инструментов, связанных с Data Engineering:
- Подход к данным как к продукту (Data product thinking);
- Платформа Synthesized для генерации синтетических данных;
- Платформа Tonic.ai для создания синтетических данных;
- Платформа Databricks Delta Live Tables для управления потоками данных;
- Инструмент Trino для распределенных SQL-запросов;
- Инструмент Metabase для визуализации и анализа данных.
7. Практика Architecture advice process для улучшения принятия решений по архитектуре и инструмент для создания диаграмм D2;
8. Применение модели Competence envelope для анализа системных сбоев, полезная для SRE (Competence envelope as a model for understanding system failures);
9. Упоминание Agile фреймворка SAFe в качестве антипаттерна;
10. Появление антипаттернов применения AI: AI-accelerated shadow IT, Complacency with AI-generated code, Local coding assistants, Replacing pair programming with AI;
11. Развитие практик, платформ и инструментов, связанных с AI и LLM: Model distillation, Prompt engineering, Small language models, Using GenAI to understand legacy codebases, AI-friendly code design, AI-powered UI testing, Unblocked, Deepseek R1, Model Context Protocol (MCP), Open WebUI, Reasoning models, Claude Sonnet, AnythingLLM, OpenRouter, LangGraph, Graphiti, turbopuffer, FastGraphRAG, Cursor, v0, Windsurf, Cline.