Useful Tools | Linux | GitOps | DevOps
6.61K subscribers
348 photos
8 videos
12 files
1.02K links
Полезные бесплатные opensource инструменты на все случаи жизни, а иногда и советы.

Понравился проект из поста - поддержи автора звездой!

Web: https://gitgate.d3.ru

Сотрудничество: @maxgrue
Download Telegram
Prometheus GitHub Exporter - предоставляет базовые метрики для ваших репозиториев из API GitHub в конечную точку, совместимую с Prometheus.

https://github.com/githubexporter/github-exporter

Описание отдаваемых метрик: https://github.com/githubexporter/github-exporter/blob/master/METRICS.md

Подсказал: Сергей - @snubats

Опубликовано в @gitgate

#moni #exporter #prometheus #github
1👍5🔥3
Glaber - система мониторинга, форк Zabbix оптимизированный по скорости и нагрузке.

Основная задача и цель Glaber - сделать так, чтобы пользователь (оператор) имел максимально быстро и оперативно понимание о состоянии домена мониторинга.

Оперативность и полнота понимания обеспечиваются двумя основными механизмами: - высокопроизводительные поллеры, способные собирать данные больших инфраструктур - создания в пользовательском интерфейсе графиков и визуальных представлений для быстрого понимания оператором точки отказа или проблемных зон, таких как динамические карты, графики, представление мониторинга в структурном виде

Оптимизация Glaber для высокой производительности обеспечила низкую ресурсоемкость.

Поддерживаемые протоколы съема данных

Поддерживается около двух десятков стандартных протоколов:
- SNMP, версии 1,2,3 в том числе с шифрованием, а также трапы
- агенты
- ODBC
- IPMI
- JMX
- HTTP
- TELNET
- SSH
- Кастомные скрипты
- веб-сценарии
- вычисляемые метрики
- SYSLOG

https://gitlab.com/mikler/glaber

Web: https://glaber.io
Doc: https://docs.glaber.io/ru/general/
Telegram: https://xn--r1a.website/glaber_group

Подсказал: Андрей - @egoza73

Опубликовано в @gitgate

#moni #zabix #fork
🔥10👍6
Useful Tools | Linux | GitOps | DevOps
Mosh (Mobile Shell) - надстройка над ssh, которая позволяет компортно работать на плохих каналах, например с большими потерями пакетов. Из особенностей: - сохраняет сессию между подключениями - сохраняет сессию при смене IP адреса (например вы отключились…
Nerdlog - быстрый, ориентированный на удаленное взаимодействие, многохостовый TUI-просмотрщик логов с временной гистограммой и без центрального сервера. Он создан по мотивам Graylog/Kibana, но без лишних функций. Практически не требует настройки.

Он ориентирован на высокую эффективность при одновременном запросе журналов с нескольких удаленных машин, фильтрации их по временному диапазону и шаблонам, а также построении интерактивной временной гистограммы для быстрого визуального анализа.

Основной сценарий использования: чтение системных журналов (из файлов /var/log/messages или /var/log/syslog, или непосредственно из journalctl) с одного или нескольких удаленных хостов. Очень эффективно даже при работе с большими файлами журналов (например, 1 ГБ и более).

Он поддерживает некоторые другие форматы логов и может использовать любые файлы логов, но именно это и стало основной причиной внедрения: наш бэкэнд веб-сервиса работал как службы systemd на множестве экземпляров Linux, выводя большое количество логов, и мы хотели иметь возможность эффективно читать эти логи и получать гистограмму временной шкалы, как это делают такие инструменты, как Graylog.

https://github.com/dimonomid/nerdlog

Подсказал: Eliot Spencer - @tehn0mad

Опубликовано в @gitgate

#moni #log #tui
🔥16👍11
PatchMon - обеспечивает централизованное управление обновлениями в различных серверных средах. Агенты обмениваются данными с сервером PatchMon только по исходящим каналам, исключая входящие порты на контролируемых хостах, обеспечивая при этом всестороннюю видимость и безопасную автоматизацию.

Возможности:
- настраиваемая панель управления с возможностью создания и упорядочивания карточек для каждого пользователя.
- многопользовательские учетные записи (администратор и обычные пользователи)
- роли, разрешения и RBAC
- список хостов/групп с ключевыми атрибутами и сведениями об операционной системе.
- группировка хостов (создание и управление группами хостов)
- инвентаризация пакетов на всех хостах
- обзор и количество устаревших пакетов.
- отслеживание количества репозиториев на хост
- управление версиями агента и хранение содержимого скриптов в базе данных.
- URL/протокол/хост/порт сервера
- переключатель регистрации и выбор роли пользователя по умолчанию
- REST API по адресу /api/v1 с аутентификацией JWT.
- автоматическая регистрация контейнеров LXC в Proxmox
- ограничение скорости запросов для общих, авторизационных и агентских конечных точек.
- модель агента, работающего только с исходящими трафиками, уменьшает поверхность атаки.
- установка Docker и однострочный установщик для самостоятельного размещения (Ubuntu/Debian)
- служба systemd для управления жизненным циклом бэкэнда
- виртуальный хост nginx для фронтенда + API-proxy; опциональная интеграция с Let's Encrypt.

https://github.com/PatchMon/PatchMon

Web: https://patchmon.net/

Опубликовано в @gitgate

#apt #update #packages #security #moni
👍10🔥7
btrfs_exporter - экспорт полезных счетчиков файловой системы btrfs в Prometheus. Запускается как systemd unit

https://github.com/cooperlees/btrfs_exporter

Опубликоввано в @gitgate

#moni #btrfs
👍10🔥6
picosnitch - мониторинг сетевого трафика по каждому исполняемому файлу, с прекрасной визуализацией.

Возможности:
- уведомления о подключении новых программ к сети или об их изменении.
- отслеживает вашу пропускную способность, анализируя трафик по исполняемым файлам, хешу, родительским файлам, доменам, портам или пользователям с течением времени.
- веб-интерфейс и интерфейс терминала с геолокацией по IP-адресу для каждого соединения (геолокация по IP-адресу с помощью DB-IP)
- можно проверить хеши или исполняемые файлы с помощью VirusTotal.
- хэши исполняемых файлов кэшируются на основе устройства и inode для повышения производительности.
- обнаруживает приложения, работающие внутри контейнеров; различаются несколько версий одного и того же приложения на основе их хеша.
- использует BPF для точного мониторинга полосы пропускания с низкими накладными расходами и fanotify для отслеживания изменений исполняемых файлов.
- для каждого соединения регистрируется родительский исполняемый файл и его хеш.
- минималистичный дизайн, ориентированный на точное обнаружение с четким и надежным сообщением об ошибках, когда это невозможно.

https://github.com/elesiuta/picosnitch

Подсказал: Elliot Spencer - @tehn0mad

Опубликоввано в @gitgate

#moni #ebpf #network #geoip #docker
1👍15🔥12
Valerter - получает логи из VictoriaLogs в режиме реального времени и отправляет уведомления, содержащие фактическую строку лога, а также извлеченный контекст (хост, сайт, служба, порт, пользователь и т. д.). Цель состоит в том, чтобы поместить ключевой контекст отладки в само оповещение (полная строка лога + поля), чтобы вы могли сразу же начать расследование.

Возможности:
- многоканальные уведомления: веб-перехватчики (PagerDuty, Slack, Discord), электронная почта SMTP, Mattermost
- полный контекст журнала: оповещения включают фактическую строку журнала и извлеченные поля.
- интеллектуальное регулирование: избегайте спама с оповещениями благодаря ограничению скорости запросов для каждого события.
- оповещения в режиме реального времени: менее 5 секунд от момента регистрации события до получения уведомления.
- декларативные правила: конфигурация YAML с использованием регулярных выражений/анализа JSON.
- многофайловая конфигурация: Разделение правил/шаблонов/уведомлений по папкам rules.d/, templates.d/ и notifiers.d/
- метрики Prometheus: Встроенные метрики для мониторинга

https://github.com/fxthiry/valerter

Опубликовано в @gitgate

#moni #logs #alerts #victorialogs #json
👍8🔥5
Healthchecks - служба мониторинга заданий cron. Она отслеживает HTTP-запросы и электронные письма («ping») от ваших заданий cron и запланированных задач («checks»). Если ping не приходит вовремя, Healthchecks отправляет оповещения.

Healthchecks включает в себя веб-панель управления, API, более 25 интеграций для отправки уведомлений, ежемесячные отчеты по электронной почте, поддержку двухфакторной аутентификации WebAuthn, функции управления командой: проекты, участники команды, доступ только для чтения.

Healthchecks распространяется под лицензией BSD 3-clause.

https://github.com/healthchecks/healthchecks

Web: https://healthchecks.io/.

Опубликовано в @gitgate

#moni #cron #webui
1👍10🔥4
pSyslog - клиент.сервер Syslog и ретранслятор UDP на основе класса System.Net.Sockets из .NET Framework для работы в фоновом режиме.

https://github.com/Lifailon/pSyslog

Опубликовано в @gitgate

#moni #logs #syslog
👍8🔥3
Netronome - комплексное решение для мониторинга производительности сети, которое помогает вам понимать и отслеживать состояние вашей сети. Независимо от того, отслеживаете ли вы домашнее интернет-соединение, управляете многосайтовой инфраструктурой или контролируете производительность серверов, Netronome предоставляет необходимую информацию через интуитивно понятный веб-интерфейс.

Созданный на Go и разработанный для простоты использования, Netronome объединяет фронтенд и бэкенд в один исполняемый файл для лёгкого развертывания. Благодаря минимальному объёму используемой оперативной памяти (всего около 35 МБ), он идеально подходит для сред с ограниченными ресурсами. Никаких сложных настроек — просто скачайте, настройте и запустите.

Основные возможности: тестирование скорости у разных провайдеров, непрерывный мониторинг потери пакетов, распределенный мониторинг серверов с помощью легковесных агентов и автоматическое оповещение — все это с красивой визуализацией и отслеживанием истории.

https://github.com/autobrr/netronome

Подсказал: Alex Kup - @Lifailon

Опубликовано в @gitgate

#moni #net #webui
👍15🔥7
MQTT-exporter - простой и универсальный экспортер Prometheus для MQTT. Протестировано с Mosquitto MQTT и датчиками Xiaomi.

Он предоставляет метрики из MQTT-сообщений «из коробки». По умолчанию будет доступно до 2000 метрик из MQTT. Это можно настроить с помощью параметра MAX_METRICS.

https://github.com/kpetremann/mqtt-exporter

Подсказал: Alex Kup - @Lifailon

Опубликовано в @gitgate

#moni #mqtt #exporter #prometheus
👍7🔥3
This media is not supported in your browser
VIEW IN TELEGRAM
Nerdlog - быстрый, ориентированный на удаленное взаимодействие, многохостовый TUI-просмотрщик логов с временной гистограммой и без центрального сервера. Он создан по мотивам Graylog/Kibana, но без лишних функций. Практически не требует настройки.

Он ориентирован на высокую эффективность при одновременном запросе журналов с нескольких удаленных машин, фильтрации их по временному диапазону и шаблонам, а также построении интерактивной временной гистограммы для быстрого визуального анализа.

Основной сценарий использования: чтение системных журналов (из файлов /var/log/messages или /var/log/syslog, или непосредственно из journalctl) с одного или нескольких удаленных хостов. Очень эффективно даже при работе с большими файлами журналов (например, 1 ГБ и более).

Он поддерживает некоторые другие форматы логов и может использовать любые файлы логов, но именно это и стало основной причиной внедрения: наш бэкэнд веб-сервиса работал как службы systemd на множестве экземпляров Linux, выводя большое количество логов, и мы хотели иметь возможность эффективно читать эти логи и получать гистограмму временной шкалы, как это делают такие инструменты, как Graylog.

https://github.com/dimonomid/nerdlog

Опубликовано в @gitgate

#moni #log #graylog #kibana #journalctl #journald
👍12🔥9
psi_exporter - экспортёр Prometheus для получения информации о Pressure Stall Information (PSI) из ядра Linux.

Ядро должно поддерживать PSI (CONFIG_PSI=y), для чего требуется как минимум Linux 4.20.

https://github.com/cloudflare/psi_exporter

Опубликовано в @gitgate

#moni #exporter #prometheus #psi #system
👍6🔥3
psistat - это программа на Python 3, предназначенная для отображения значений PSI и для захвата/отображения событий исключений.

psistat заполняет важный пробел в мониторинге Linux, предоставляя один простой пакет, который предлагает:

- высокоточные, рассчитанные средние значения: Предоставляет средние значения за 1 и 3 секунды - точки данных, которые более актуальны для отладки задержки в реальном времени, чем средние значения ядра за 60/300 секунд.
- интеллектуальная регистрация событий: она автоматически регистрирует инциденты, превышающие заданные пользователем пороговые значения (1), реализует период ожидания для предотвращения спама и предоставляет данные для анализа (порядковый номер, абсолютное время, использованный интервал).
- возможность мгновенного сохранения и копирования исторических журналов: это невероятно полезная функция для быстрого устранения неполадок и составления отчетов, которую не может предложить ни один другой простой инструмент.
- простота: это приложение на Python, устанавливаемое через pipx - легко устанавливается, легко запускается и не требует никакой настройки.

Хотя исходные данные PSI хранятся в ядре, в настоящее время ни один инструмент не предлагает такого сочетания мониторинга TUI в реальном времени, высокоточных вычислений и интеллектуальной регистрации событий, как psistat.

https://github.com/joedefen/psistat

Опубликовано в @gitgate

#moni #tui #system #psi
🔥8👍3
Pulse - современная, унифицированная панель мониторинга для отслеживания вашей инфраструктуры в средах Proxmox, Docker и Kubernetes. Она объединяет метрики, оповещения и аналитические данные, полученные с помощью ИИ, из всех ваших систем в единый, удобный интерфейс.

Разработано для домашних лабораторий, системных администраторов и поставщиков управляемых услуг, которым необходим «единый интерфейс» без сложностей корпоративных систем мониторинга.

Возможности:
- единый мониторинг: просмотр состояния и метрик для PVE, PBS, PMG, Docker и Kubernetes в одном месте.
- eмные оповещения: получайте уведомления через Discord, Slack, Telegram, электронную почту и другие каналы.
- автоматическое обнаружение: автоматически находит узлы Proxmox в вашей сети.
- история метрик: Постоянное хранилище с настраиваемым сроком хранения.
- backup Explorer: визуализация заданий резервного копирования и использования хранилища.
- чат-помощник (BYOK): Задавайте вопросы о вашей инфраструктуре на естественном языке.
- патрулирование (BYOK): проверка состояния здоровья с предоставлением результатов в соответствии с графиком.
анализ оповещений (Pro): Дополнительный анализ с помощью ИИ при срабатывании оповещений.
- отслеживание затрат: отслеживание использования и затрат по каждому поставщику/модели.
- Proxmox VE/PBS/PMG: Полный мониторинг и управление
- Kubernetes: Полный мониторинг кластера K8s с помощью агентов.
- Docker/Podman: Мониторинг контейнеров и сервисов Swarm.
- контейнеры OCI: нативная поддержка контейнеров в Proxmox 9.1+
- безопасность по умолчанию: учетные данные шифруются в состоянии покоя, строгая область действия API.
- обновление в один клик: простое обновление для поддерживаемых развертываний.
- OIDC/SSO: Аутентификация с использованием единого входа.
- ориентация на конфиденциальность: никакой телеметрии, все данные остаются на вашем сервере.

https://github.com/rcourtman/pulse

Подсказал: Eliot Spencer - @tehn0mad

Опубликовано в @gitgate

#moni #pve #pbs #docker #k8s
👍25🔥8
This media is not supported in your browser
VIEW IN TELEGRAM
NetWatch - диагностика сети в реальном времени прямо в вашем терминале. Одна команда, никакой настройки, мгновенный обзор.

Большинство сетевых инструментов заставляют вас выбирать: наблюдать за происходящим (iftop, bandwhich) или анализировать пакеты (Wireshark, tshark). NetWatch делает и то, и другое в одном терминале - от общего обзора до анализа отдельных байтов пакетов.

https://github.com/matthart1983/netwatch

Подсказал: Eliot Spencer - @tehn0mad

Опубликовано в @gitgate

#moni #network #security
10👍23🔥11
This media is not supported in your browser
VIEW IN TELEGRAM
Pusk - self-hosted платформа для алертов и командной координации. Webhook из любого мониторинга, ACK одной кнопкой, push на телефон. Один бинарник, без внешних зависимостей.

Возможности:
- алерты из Grafana, Zabbix, Alertmanager, Uptime Kuma - в отдельные каналы
- ACK одной кнопкой - автоматический silence в Alertmanager
- Push-уведомления на телефон даже при закрытом браузере
- командный чат - каналы, @упоминания, файлы
- совместим с Telegram Bot API - существующие боты работают с заменой одной строки

https://github.com/getpusk/pusk

Опубликовано в @gitgate

#moni #alert #webhook #push #tg #telegram #bot
👍12🔥9
This media is not supported in your browser
VIEW IN TELEGRAM
LynxDB - schema-on-read база данных и аналитическая система для анализа логов.

Позволяет выполнять гибкий анализ без предварительного парсинга и жесткой схемы структура извлекается во время чтения

Lynx Flow язык запросов LynxDB,
По сути, это упрощённый и более интуитивный слой (синтаксический сахар) над Splunk SPL2, ориентированный на удобную работу с логами.

Возможности:
- режим конвейера - чтение из стандартного ввода или файлов, работает как grep. Нет сервера, нет конфигурации.
- Lynx Flow - group, let, parse, order by, join, CTE, доменные синтаксисы и многое другое. Частичная совместимость с SPL2.
- полнотекстовый поиск - инвертированный индекс FST + roaring bitmaps, фильтры Блума для пропуска сегментов.
- столбцовое хранение - пользовательский формат .lsg, временные метки с дельта-вариантами, кодирование по словарю, Gorilla XOR, LZ4
- материализованные представления - предварительно вычисленные агрегации с автоматической переадресацией запросов, ускорение до ~400 раз.
- кластерный режим - добавьте --cluster.seeds для распределенной работы; общее хранилище на основе S3.
- загрузка данных без предварительной обработки - Elasticsearch_bulk, OpenTelemetry OTLP, Splunk HEC

https://github.com/lynxbase/lynxdb

Поделился автор - @ourlove_e (просьба поддержать звездой в репку ! )


Опубликовано в @gitgate

#moni #logs #splunk
👍7🔥4
This media is not supported in your browser
VIEW IN TELEGRAM
Cardamon - аудитор метрик для Prometheus.

Он выявляет метрики, которые существуют в вашей базе данных временных рядов (TSDB), но никогда не запрашиваются панелями мониторинга, правилами оповещений, правилами записи или любыми другими потребителями. Затем вы можете сгенерировать правила удаления метрик Prometheus, чтобы удалить их и уменьшить потребность в хранилище.

Неиспользуемая метрика - это метрика, которую Prometheus собирает и сохраняет, но которую никто никогда не считывает. Она занимает память, дисковое пространство и бюджет на обработку данных, не принося никакой пользы. В больших масштабах такие метрики могут составлять значительную часть общего количества рядов данных.

Cardamon сопоставляет каждую метрику в вашей базе данных временных рядов со следующими параметрами:
- журналы запросов Prometheus отображают каждое выражение PromQL, вычисленное в течение настраиваемого окна ретроспективного анализа.
- правила оповещения и записи в Prometheus. Все выражения правил в вашем Prometheus.
- панели мониторинга Grafana. Все метрики на всех панелях мониторинга в вашем экземпляре Grafana.

Любой показатель, отсутствующий в этих источниках, помечается как неиспользуемый.

https://github.com/dominikhei/cardamon

Опубликовано в @gitgate

#moni #metrics #prometheus #grafana
👍15🔥2