⭐️ Инференс LLM в условиях дефицита памяти — как это возможно?

Рынок AI перешел от «эры тренировки» к «эре инференса». Главным вызовом для бизнеса стало не создание моделей, а быстрая адаптация открытых LLM. Теперь память — самое узкое место.

Мы запустили флагманский ускоритель NVIDIA H200 SXM, который потянет два с половиной Qwen-32B на максимальной мощности, и подготовили для вас детальный обзор.

В Академии Selectel рассказываем:

🔹 сколько памяти нужно для LLM с миллиардом параметров;
🔹 какими вышли практические результаты генерации 488 токенов в секунду;
🔹 почему серверы с 15 кВт мощности, 96‑ядерными Xeon и 2 ТБ DDR5 — это необходимый enterprise-уровень.

Когда убедитесь, что Н200 — это вариант для вас, переходите на сайт Selectel, чтобы оформить заказ ➡️

🧑‍🎄🦖 Тирекс Мороз объявляет итоги розыгрыша!

Готовы назвать счастливчиков, которые получат лимитированных Тирексов и боксы с мерчем 👇

🏆 Победители:
1. Андрей (@Andrej19_89)
2. Сергей (@Sega861)
3. Alexander (@Borgich)
4. Alexey (@alexeyb70)
5. Виктория (@kazak0va_v)
6. Anastasiya (@nyahaas)
7. Anastasia (@urstasia)
8. Alexey (@slivlen)
9. Егор (@proff_san)
10. Igor (@waspsl)
11. Виталий (@bvo09)
12. Сергей (@Indigo14)
13. Дмитрий (@dm_mash)
14. Olga (@Kelrit)
15. Ivan (@IvanShlygin)

✔️ Проверить результаты

Увидели себя в списке? Свяжитесь с нами по почте academy@selectel.ru, чтобы получить подарок.

Пожалуйста, будьте внимательны и помните, что мы не пишем в личные сообщения первыми.

Перенесите домены в Selectel за рубль 💰

Перейти в Selectel от другого регистратора стало проще и дешевле — миграция обойдется вам всего в один рубль.

Почему стоит переехать к нам?

✅ Вы бесплатно получаете SSL-сертификат и DNS-хостинг.

✅ Вы можете управлять всей IT-инфраструктурой и масштабировать ее в одной вкладке — в панели my.selectel.ru.

✅ Деятельность Selectel подтверждена лицензиями ФСТЭК и ФСБ, а сертификат PCI DSS позволяет хранить данные платежных карт в наших дата-центрах.

Переходите по ссылке, чтобы перенести домен в Selectel за рубль ➡️

Создавайте и настраивайте выделенные серверы через Terraform 🛠

Мы уже рассказывали, что теперь в Selectel доступен Terraform-провайдер для гибкого управления физическими серверами. С ним вы можете поднять сервер нужной конфигурации, прописать сетевую связность и внешние доступы, а еще гибко настроить ОС и сеть на сервере.

Terraform в Selectel также можно использовать для облачных ресурсов, а это значит, что вы можете создать гибридную инфраструктуру и легко управлять ей с помощью одного провайдера.

💯 Чтобы вы могли самостоятельно настроить сервер, мы подготовили подробную пошаговую инструкцию в Академии Selectel.

А чтобы получить 3 000 бонусов и протестировать Terraform бесплатно, зарегистрируйтесь в панели управления my․selectel․ru, оставьте в тикете кодовое слово «TERRAFORM» и дождитесь одобрения заявки ➡️

✅ Каждая нода под контролем
Отслеживайте состояние кластера облачных баз данных PostgreSQL в my․selectel․ru

Вы можете оценить производительность и состояние ваших кластеров в режиме реального времени. Встроенный мониторинг предоставляет детальный анализ метрик нод кластера, баз данных и пуллера соединений.

Отследите:

🔸 на сколько процентов заняты ядра нод кластера;
🔸 какой объем памяти занимают базы данных;
🔸 как загружена сеть, диски и другие параметры IT-инфраструктуры и приложения.

Часть метрик доступна в виде графиков в панели управления. Полный набор доступных метрик можно экспортировать в формате Prometheus.

Будьте уверены в стабильной работе облачных баз данных с Selectel. Создайте готовый к работе кластер в пару кликов ➡️

ИИ-агенты, ассистенты и Agentic AI — модно, но когда по-настоящему нужно? 🤔

Как не ошибиться с внедрением агентов и среди трендовых сценариев выбрать тот, что гарантирует рост бизнеса? В новом выпуске «Сегодня на ретро» на этот вопрос ответили наши гости — Александр Опрышко, сооснователь сервиса KTS, и Михаил Зайцев, владелец платформы Kolmogorov, компания Data Sapience.

Смотрите на удобной площадке:
🔹 YouTube,
🔹 VK Видео,
🔹 Rutube.

Запускаете ИИ-агентов? Selectel предоставит железо и надежную IT-инфраструктуру для AI-задач ➡️

👀 А вы видели, что в декабре мы:

✅ поддержали IaC для Глобального роутера в облаке, чтобы вам было проще управлять гибридной IT-инфраструктурой;

✅ добавили поддержку выделенных серверов с GPU в Kubernetes on BareMetal, чтобы вы могли управлять ресурсоемкими ML-проектами, сохраняя контроль над железом;

✅ представили AI-консультанта для Manpages в SelectOS, чтобы вы могли быстрее находить нужные опции в мануалах;

✅ запустили новую конфигурацию Mega в базах данных на выделенном облачном сервере, чтобы вы могли выполнять AI-эксперименты, где важны высокая производительность и предсказуемая экономика.

Что под капотом каждого продуктового обновления? Рассказали в дайджесте 💯