AI: що таке той MCP?

Щось всі навколо тільки і говорять що про море про MCP – тож прийшов час і самому розібратись в темі. Отже, сьогодні розберемося з основними поняттями – “що воно взагалі таке”, потім напишемо власний “мікро-MCP сервер”, а в наступному пості – щось більш реальне, про роботу з VictoriaLogs. Contents - Обмеження LLM - And so……

https://rtfm.co.ua/ai-shho-take-toj-mcp/

#AI #MCP #Python

AI: пишемо MCP-сервер для VictoriaLogs

В попередньому матеріалі розібрались з тим, що таке MCP взагалі, і створили дуже простенький сервер, який підключили до Windsurf – див. AI: що таке той MCP? Тепер – давайте спробуємо створити щось більш корисне, наприклад – MCP-сервер, який буде підключатись до VictoriaLogs та отримувати якісь дані. Насправді команда VictoriaMetrcis вже робить власний, тому тут ми…

https://rtfm.co.ua/ai-pishemo-mcp-server-dlya-victorialogs/

#AI #MCP #Python #VictoriaLogs

AI: знайомство з Ollama для локального запуску LLM

Дуже хочеться покрутити якісь LLM локально, бо це дасть змогу краще зрозуміти нюанси їхньої роботи Це як знайомитись з AWS до цього не мавши справу з хоча б VirutalBox – робота з AWs Console чи API не дасть розуміння того, що відбувається під капотом. До того ж локальна модель – це безкоштовно, дасть змогу потюнити…

https://rtfm.co.ua/ai-znajomstvo-z-ollama-dlya-lokalnogo-zapusku-llm/

#AI #LLM #Ollama

Arize Phoenix: сервіс моніторингу LLM – запуск в Kubernetes

Прийшла задачка підняти для проекту цікавий сервіс Arize Phoenix для моніторингу і тюнингу використання LLM. За сам сервіс багато не скажу, бо не користувався, але його запуск вийшов доволі цікавим. Що будемо робити – спочатку з Helm запустимо тестовий варіант, подивитись як воно взагалі виглядає, потім зробимо повноцінну автоматизацію – Terraform для всяких сікретів, Helm…

https://rtfm.co.ua/arize-phoenix-servis-monitoringu-llm-zapusk-v-kubernetes/

#AI #AWS #Helm #Terraform

Claude Code: створення Kubernetes debugging AI Agent для VictoriaMetrics

https://rtfm.co.ua/claude-code-stvorennya-kubernetes-debugging-ai-agent-dlya-victoriametrics/

#AI #Claude_Code #Kubernetes #VictoriaMetrics

Hermes Agent: запуск AI Agent у FreeBSD Jail з Bastille

https://rtfm.co.ua/hermes-agent-zapusk-ai-agent-u-freebsd-jail-z-bastille/

#AI #FreeBSD #FreeBSD_Jails #Hermes_Agent

LiteLLM: AI Gateway для LLM – overview можливостей

https://rtfm.co.ua/litellm-ai-gateway-for-llms-features-overview-2/

#AI #LiteLLM #LLM #monitoring #Security #VictoriaTraces

Claude Code: моніторинг з OpenTelemetry та VictoriaMetrics

https://rtfm.co.ua/v2draft-claude-telemetry/

#AI #Claude_Code #monitoring #VictoriaMetrics

LiteLLM: метрики, traces та інтеграція з VictoriaMetrics Stack

https://rtfm.co.ua/litellm-metrics-traces-victoriastack/

#AI #LiteLLM #monitoring #observability #VictoriaMetrics #VictoriaTraces

LiteLLM: моніторинг з VictoriaMetrics – алерти та Grafana

https://rtfm.co.ua/litellm-victoriastack-alerty-ta-grafana/

#AI #LiteLLM #monitoring #VictoriaMetrics

LiteLLM: OpenRouter та налаштування Fallbacks

https://rtfm.co.ua/litellm-openrouter-and-fallbacks/

#AI #LiteLLM

LiteLLM: метрики, traces та дебаг exception_class=”ValueError”

https://rtfm.co.ua/litellm-valueerror-victoriametrics/

#AI #LiteLLM #monitoring #observability #VictoriaMetrics

llama.cpp: метрики та моніторинг з VictoriaMetrics

https://rtfm.co.ua/llama-cpp-victoriametrics/

#AI #llama_cpp #monitoring #VictoriaMetrics

LiteLLM: Traffic Mirroring та Batch Completions і трафік до двох провайдерів

https://rtfm.co.ua/litellm-traffic-mirroring-and-batch-completions/

#AI #LiteLLM #observability #OpenTelemetry #VictoriaTraces

LiteLLM: Custom Callback для traffic mirroring та OTel tracing до VictoriaTraces

https://rtfm.co.ua/litellm-custom-callbacks-victoriatraces/

#AI #LiteLLM #LLM #LLMOps #monitoring #OpenTelemetry #Python #VictoriaTraces

LiteLLM: Custom Callback та LLM Evaluations з Judge LLM

https://rtfm.co.ua/llm-evaluation-with-judge-llm/

#AI #LiteLLM #LLM #LLMOps #observability #Python #VictoriaMetrics #VictoriaTraces

LiteLLM: дебаг AI Cost Monitoring з VictoriaMetrics

https://rtfm.co.ua/litellm-llm-costs-debugging/

#AI #LiteLLM #LLM #LLMOps #OpenAI #OpenRouter #VictoriaMetrics #VictoriaTraces