🚀 GPU-шаринг в Kubernetes: Project HAMi

Ранее уже писал про шаринг GPU в Kubernetes и репостил про сложности мониторинга. Сейчас наткнулся на более зрелый проект — k8s-vGPU-scheduler, который теперь называется Project HAMi (Heterogeneous AI Computing Virtualization Middleware).

💡 Почему вообще появился HAMi? По словам разработчиков, потому что ни одно из существующих решений не покрывает реальные потребности:

- Time slicing — просто в конфигурации, но нет изоляции и плохо с производительностью.
- MPS — поддерживает параллельные вычисления, но снова нет изоляции.
- MIG — есть изоляция, но нужна статичная конфигурация ноды, и работает только на дорогих картах.
- vGPU — платное, требует виртуализации, не вписывается в kubernetes-native подход.

🔧 Что умеет HAMi:
- Использование vGPU с любым значением памяти
- Гибкая конфигурация нагрузок: тип карты, affinity и т.д.
- Метрики GPU на уровне контейнеров с готовыми дашбордами
- Динамический MIG — без ребутов и статических настроек
- Работает с любыми видеокартами, не только A100
- Поддержка NVLink уже на подходе

👀 Выглядит как очень интересное решение для AI-нагрузок в Kubernetes.

🚀 Argo CD 3.0

🧱 Что изменилось:

– argocd-server теперь один бинарник
– убрали redis
– добавили lua-плагины
– много упрощений вокруг rbac

🏠 Проект становится проще и взрослее в плане архитектуры, но глобально — ничего не поменялось. Можно не спешить обновляться.

🚀 А вы знали, что Karpenter работает не только в AWS?

💡 Появился провайдер для GCP, добавляющий поддержку Karpenter в GKE — https://github.com/cloudpilot-ai/karpenter-provider-gcp
Также есть провайдер под Azure

Что умеет GCP-провайдер:
📦 Smart node provisioning and autoscaling
💸 Cost-optimized instance selection
🔌 Deep GCP service integration
⚡ Fast node startup and termination

🪣 Storadera — альтернатива S3 на Hetzner

🇪🇪 Собственное S3-совместимое хранилище на bare metal серверах Hetzner (Германия, Финляндия) и других площадках (например, в Эстонии — не на Hetzner).
Они пишут свой S3 backend, оптимизированный под HDD, и позиционируются как «простой и предсказуемый» сервис без лишних фич.

📦 Используется модель fair use — выкачка данных не должна превышать объём хранимых. Главное — не использовать как CDN.

🛡️ ModSecurity vs SaaS-WAF

❓ А может ли ModSecurity Web Application Firewall заменить SaaS WAF?

💡 Туда можно прикрутить OWASP CRS Actions, но что нужно, что защититься от DDoS и ботов?