llama.cpp: метрики та моніторинг з VictoriaMetrics
https://rtfm.co.ua/llama-cpp-victoriametrics/
#AI #llama_cpp #monitoring #VictoriaMetrics
https://rtfm.co.ua/llama-cpp-victoriametrics/
#AI #llama_cpp #monitoring #VictoriaMetrics
RTFM: Linux, DevOps та системне адміністрування | DevOps-інжиніринг та системне адміністрування. Випадки з практики.
llama.cpp: метрики та моніторинг з VictoriaMetrics
Налаштування моніторинг llama.cpp та LLM з VictoriaMetrics - основні метрики та деталі роботи з llama.cpp і /metrics
🔥3