Вчера был на бесплатной конференции по машинному обучению и искусственному интеллекту от Селектел. Пока свежи воспоминания, поделюсь некоторыми мыслями на эту тему. Конфа была больше для руководителей и людей, принимающих решения. Было мало технических подробностей и много примеров внедрения в бизнесе для решения различных задач.

🔹Особенность ведения бизнеса в современных реалиях в РФ такова, что локальные нейросети, развёрнутые на своих или арендованных серверах - это повсеместная история. Доступ к технологическим мировым лидерам ограничен как технически (блокировки, санкции), так законодательно (персональные данные, трансграничная передача). Особых проблем в этом нет, так как многие задачи успешно решаются условно небольшими нейросетями, а сама технология ещё не оформилась в какую-то стабильную и понятную историю. Идут постоянные изменения, обновления, улучшения. Всё меняется очень быстро. Завязки на что-то одно крупное будут скорее вредить, чем помогать.

💡У меня в голове по этому проводу возникла мысль, что сейчас очень хорошее время зайти специалистом в эту область знаний. Я не про себя сейчас, а вообще. Технология развивается, всё постоянно меняется, устоявшихся практик и готовых специалистов нет или очень мало. Если вы ищите себя в IT и пока не знаете, на чём сфокусироваться, обратите внимание на ML и AI.

ML-инженеры уже давно сформировались, это не сказать, что что-то новое, а вот AI-инженеры, которые занимаются построением инфраструктуры для использования нейросетей, сейчас будут очень востребованы. Вокруг нейросети нужно построить масштабную и нагруженную технологическую платформу, чтобы всё это успешно работало. Она сейчас включает в себя как минимум сам движок LLM, RAG, векторную БД, MCP Server, агенты, LLM прокси для роутинга запросов. Наверняка появится какая-то платформа для управления всем этим. Сейчас каждый свою пишет так, как ему кажется удобнее.

🔹Вопреки расхожему мнению, что небольшие локальные модели на те же 30B не могут конкурировать с огромными облачными, это не так. Для многих локальных задач небольших моделей достаточно. Наиболее популярные модели от qwen, gemma, gpt-oss, minimax.

🔹Некоторые примеры решения задач с помощью ИИ:
◽️Рекрутёр обзвонщик разговаривает с кандидатами, ищет подходящих, передаёт дальше.
◽️Текстовая и голосовая работа операторов с базой знаний, которая постоянно обновляется. Популярная задача, актуальная почти для всех компаний.
◽️Изменение стоимости доставки в интернет-магазине в зависимости от нагрузки сервиса, чтобы снижать при нехватке водителей поток клиентов повышением цены.
◽️У банков иишки уже много лет решают кучу задач: предсказания по кредитам, выплатам, внутренняя база знаний, поддержка клиентов, антифрод, работа с документами и т.д.

Понравилась история с примером AI агента, который помогает операторам банка отвечать клиентам почему им не начислили тот или иной кэшбек. Банки настолько усложнили схему с кэшбеками, что без AI не разобраться. Я по этой причине вообще не пользуюсь никакими кэшбеками принципиально. Не хочу забивать себе этим голову.

🔹Несколько практических моментов, которые для себя вынес:
- MiniMax и OpenCode - ai ассистент в терминале и ide.
- LiteLLM Proxy - проксирование запросов в разные LLM.
- Модели нормально крутятся в Kubernetes.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#ai

Сейчас существует масса сервисов для видеозвонков, как платных, так и бесплатных. Такое разнообразие стало возможно с приходом технологии WebRTC. Практически каждый желающий может собрать себе свой сервис для онлайн бесед. Про один из таких я и расскажу. Много видел про него упоминаний, но сам не тестировал. Речь пойдёт про MiroTalk SFU. По возможностям, да и внешнему виду он очень похож на Яндекс Телемост

MiroTalk SFU полностью бесплатен, код открыт, можно развернуть у себя. Уже после того, как всё протестировал, заметил, что название как-будто знакомо, но сам продукт увидел впервые. Интерфейс знаком не был. Навёл справки и понял, что 3 года назад я писал про MiroTalk P2P. Это схожий продукт от того же автора, но совершенно другой архитектурно.

🔹MiroTalk P2P - mesh-архитектура, каждый участник подключается напрямую к другому участнику, для связи между участниками используются STUN или TURN сервер, который только устанавливает соединение, но не пропускает через себя медиапотоки. Для больших онлайн встреч такой формат не подходит, так как число видеопотоков от каждого клиента будет равно числу участников, минус ты сам. А вот двум людям поговорить с минимальной задержкой будет самое то.

🔹MiroTalk SFU - централизованная архитектура, все участники отправляют свой поток на сервер, который перенаправляет их остальным. Соответственно, на сервере можно выполнять обработку потоков, выравнивать битрейт.

Автор свои продукты продаёт за очень скромные деньги в интернете. По сути просто упаковывает в один архив сам продукт, документацию и даёт на какое-то время свою техподдержку. Я внимательно посмотрел, но так и не понял, чем отличается платная версия за 100$ от бесплатной, кроме техподдержки.

Я развернул у себя MiroTalk SFU и потестировал его. Работает нормально, завелось сразу. Те, кто пользовался Яндекс Телемостом представляют, как это выглядит.

Установка:

# git clone https://github.com/miroslavpejic85/mirotalksfu.git
# cd mirotalksfu
# cp app/src/config.template.js app/src/config.js
# cp .env.template .env
# cp docker-compose.template.yml docker-compose.yml
# docker-compose up -d

Из важных настроек в .env - имя домена в SERVER_HOST_URL. И очень желательно заранее получить для него валидные TLS сертификаты. Современные браузеры очень не любят работать по HTTP или HTTPS без доверенного сертификата, особенно с доступом к камере и микрофону.

Интерфейс MiroTalk полностью адаптивный. На смартфон не надо ставить никаких приложений. Заходим сразу браузером в комнату по ссылке и всё работает.

Каждый участник конференции может её записывать. Это отключается в настройках. Можно разрешить записывать конференцию только организатору. Сам интерфейс сервера по умолчанию полностью открыт, аутентификации нет, каждый желающий может создать конференцию. А вот саму конференцию можно закрыть паролем. Можно ограничить доступ к серверу списками IP, включить аутентификацию по OpenID Connect или насоздавать пользователей вручную в формате username:password:displayName:allowedRooms.

В MiroTalk SFU есть API для управления комнатами и готовая интеграция для этого с Slack, Mattermost и Discord. Также есть интеграция с ChatGPT, DeepSeek и сервисом Video AI. Указано, что возможно преобразование голоса в текст. Как на практике это работает, не знаю, не проверял. В конференции ИИшки выглядят как обычные участники, с которыми можно общаться.

Всю работу можно проверить на сайте - sfu.mirotalk.com. Мне в целом понравился продукт. Простой, добротный, сразу всё заработало. Каких-то особых возможностей нет, разве что встроенная интеграция с ИИ. На картинках ниже я зашёл в комнату с двух устройств - смартфон и компьютер, и расшарил с компьютера экран. Хорошее решение для простых видеоконференций, завязанных полностью на свою инфраструктуру с возможностью автоматической записи всех встреч.

❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#видеоконференции

Трачу сейчас всё доступное для обучения свободное время на взаимодействие с ИИ. Очень увлекает, трудно оторваться вечером и лечь спать. Мои публикации на этот счёт стоит воспринимать как заметки. Это не обучающий материал и не лучшие практики, которые стоит перенимать. Делюсь своими наблюдениями и опытом.

Поставил себе цель в первую очередь изучить работу агентов. Для этого на первом этапе сформулировал простую, но вполне прикладную для меня задачу, которую хочу решить полностью с помощью агентов. Основные вехи:

◽️Настроить ansible-контроллер и написать плейбуки для автоматической установки агента Zabbix под разные системы.
◽️Настроить автоматическое добавление узлов на сервер мониторинга и назначение шаблонов, внесение в них изменений.
◽️Настроить MCP-сервер и организовать взаимодействие с сервером Zabbix человеческим языком, чтобы можно было делать примерно такие запросы: "Назови мне узлы, где в течении ближайшей недели закончится свободное место на дисках", "Какие компьютеры остаются включёнными в выходные дни", "Какие виртуальные хосты веб серверов больше всего нагружены" и т.д.

Это основные тезисы, с которых я начал. Сейчас уже техзадание, доработанное самим агентом выглядит намного объёмнее и конкретнее.

Начал изучение агентов с OpenClaw и OpenCode. Они на слуху, я видел много материалов по ним. К сожалению, в основном видел какие-то бестолковые примеры, где просто всё устанавливают и делают какие-то условные задачи для демонстрации работы. Из-за этого я даже не понял, что это два совершенно разных инструмента.

Сначала установил OpenClaw. Это монстр, где куча функциональности. Он не просто агент, это - погонщик агентов. У него много настроек и возможностей. Он жрёт кучу токенов и на локальных моделях безбожно тормозит. Сделать что-то путное с ним без жирной подписки не получится. Начинать с него знакомство с агентами было ошибкой. Я только кучу времени потерял и не получил практического опыта.

Потом установил и настроил OpenCode на небольшой виртуалке (2CPU, 4GB RAM). С ним работать одно удовольствие. Без проблем во всём разобрался и начал вайбкодить 😁 Сразу покажу последовательность действий, чтобы можно было повторить.

# curl -fsSL https://opencode.ai/install | bash

Подключил к нему пару моделей из своей LM Studio:

# cat ~/.config/opencode/opencode.json

{
 "$schema": "https://opencode.ai/config.json",
 "provider": {
  "lmstudio": {
   "npm": "@ai-sdk/openai-compatible",
   "name": "LM Studio (local)",
   "options": {
    "baseURL": "http://192.168.137.200:1234/v1"
   },
   "models": {
    "qwen/qwen3.5-9b": {
     "name": "qwen3.5-9b"
    },
    "qwen/qwen3.6-35b-a3b": {
     "name": "qwen3.6-35b-a3b"
    }
   }
  }
 }
}

Добавил 2 модели: qwen3.5-9b и qwen3.6-35b-a3b. На первой с контекстом до 30к работает шустро, нет ощущения, что всё тормозит. Я даже удивился, что агент так бодро работает и вполне осмысленно. По строке в секунду появляется в чате. Удобно разрабатывать план, вносить уточнения.

Для работы с контекстом в 30к нужно сильно дробить задачи, иначе его не хватает. Плейбуки для ансибла пишутся нормально на модели qwen3.5-9b. Модель 35b-a3b подойдёт только для проработанного задания, чтобы запустить его и оставить думать на пару часов.

После настройки opencode, создаём каталог, инициализируем там git репозиторий и кладём в него файл с заданием, которое вы написали.

# mkdir zabbix-ai
# cd zabbix-ai/
# git init

Дальше можно работать тут же в консоли, но я для удобства открыл VSCode, подключился к серверу по SSH. Там более удобное окружение для одновременной работы с файлами и терминалом.

В каталоге с инструкцией запустил opencode:

# opencode

Открылся чат. Выбрал в нём режим Plan, модель qwen3.5-9b и стал командовать. Начал с того, что дал задание написать подробный план работ на основе инструкций из моего файла.

Ну а дальше пошёл бесценный опыт взаимодействия с агентом, который в двух словах не описать. Об этом напишу отдельно, когда задача будет решена.

❗️Если заметка вам полезна, не забудьте 👍 и забрать в закладки.

———
ServerAdmin: 📱 Telegram | 🌐 Сайт | 📲 MAX 😩

#ai