Forwarded from Пятничный деплой
Тут мне написали что есть перевод https://habr.com/company/flant/blog/427283/
Habr
Как обеспечивается высокая доступность в Kubernetes
Прим. перев.: Оригинальная статья была написана техническим писателем из Google, работающим над документацией для Kubernetes (Andrew Chen), и директором по software engineering из SAP (Dominik...
Forwarded from Sergey Pechenkó
Вкратце: beats не нужны. Всё умеет искаропки rsyslog (https://www.rsyslog.com/), почти все надписи на картинке клибкабельны (блин, я только сегодня это обнаружил O_o)
rsyslog
rsyslog – the rocket-fast system for log processing pipelines
rsyslog – the rocket-fast system for log processing pipelines. Collect, parse, buffer, and route logs reliably at scale. Linux-first, container-ready.
Forwarded from Hastic
Привет. У нас релиз
https://github.com/hastic/hastic-server/releases/tag/0.2.5-alpha
https://github.com/hastic/hastic-grafana-graph-panel/releases/tag/0.2.5
Из интересного:
- Поддержка PostgreSQL / TimescaleDB
- Параллельный запуск "обучения"
https://github.com/hastic/hastic-server/releases/tag/0.2.5-alpha
https://github.com/hastic/hastic-grafana-graph-panel/releases/tag/0.2.5
Из интересного:
- Поддержка PostgreSQL / TimescaleDB
- Параллельный запуск "обучения"
GitHub
hastic/hastic-server
Server for managing data for analytics . Contribute to hastic/hastic-server development by creating an account on GitHub.
Forwarded from HighLoad++
Дмитрий Столяров из «Флант» в докладе «Базы данных и Kubernetes» поделился опытом и примерами баз данных в Kubernetes, а Nick Volynkin разобрал информацию на атомы и собрал все в конспект.
https://github.com/NickVolynkin/highload-2018/blob/master/1.4-bd-k8s.md?fbclid=IwAR2Hf36mEHcBrZnQxpz1yabW7Cm2wvM-cNAgtIyhoGyKJSt6Nn6ZS_4nWvQ
https://github.com/NickVolynkin/highload-2018/blob/master/1.4-bd-k8s.md?fbclid=IwAR2Hf36mEHcBrZnQxpz1yabW7Cm2wvM-cNAgtIyhoGyKJSt6Nn6ZS_4nWvQ
Forwarded from Записки админа
👨🏻💻 Attacking Kubernetes.
Про этот ваш kubernetes и его секурити...
https://www.youtube.com/watch?v=yl3la4zHou4
Ну и в принципе на плейлист Hacktivity2018 посмотрите, может быть что-то ещё заинтересует:
https://www.youtube.com/playlist?list=PLbrZ_OVEaffK2bi8mmSHAFiZ3YXUSktSO
#видео #security #kubernetes
Про этот ваш kubernetes и его секурити...
https://www.youtube.com/watch?v=yl3la4zHou4
Ну и в принципе на плейлист Hacktivity2018 посмотрите, может быть что-то ещё заинтересует:
https://www.youtube.com/playlist?list=PLbrZ_OVEaffK2bi8mmSHAFiZ3YXUSktSO
#видео #security #kubernetes
YouTube
Vincent Ruijter - ~Securing~ Attacking Kubernetes
This talks' focus lays on a popular containerization tool called Kubernetes. Common implementations of Kubernetes are not secure by default and a lot of information about hardening is not known to the public. Since version 1.7 the security level has increased…
Forwarded from HighLoad++
Что мы знаем о микросервисах? А что знает о микросервисах Авито? Какие «тайные знания» скрывают? Вадим Мадисон сорвал «покровы» и рассказал на HighLoad++ всё про микросервисы от сборки до продакшнена, про метрики и перебалансировку, а Ник Волынкин всё внимательно послушал и собрал в конспект.
https://github.com/NickVolynkin/highload-2018/blob/master/1.1-microservices.md
https://github.com/NickVolynkin/highload-2018/blob/master/1.1-microservices.md
Forwarded from HighLoad++
В 1818 году немецкий профессор и барон Карл фон Дрез запатентовал первый велосипед. Apache Kafka написали в LinkedIn, открыв исходный код в 2011.
Восьмого ноября 2018 года Николай Сивко провел доклад «Apache Kafka как основа для велосипедостроения» на конференции HighLoad++, а несколько минут спустя Ник Волынкин опубликовал конспект этого выступления. Даже если бы Кафка был жив, то не смог бы записать конспект этого отличного доклада лучше.
https://github.com/NickVolynkin/highload-2018/blob/master/1.5-kafka-bicycle.md
Восьмого ноября 2018 года Николай Сивко провел доклад «Apache Kafka как основа для велосипедостроения» на конференции HighLoad++, а несколько минут спустя Ник Волынкин опубликовал конспект этого выступления. Даже если бы Кафка был жив, то не смог бы записать конспект этого отличного доклада лучше.
https://github.com/NickVolynkin/highload-2018/blob/master/1.5-kafka-bicycle.md
GitHub
NickVolynkin/highload-2018
Конспекты докладов на Highload 2018. Contribute to NickVolynkin/highload-2018 development by creating an account on GitHub.
Forwarded from HighLoad++
Зачем в Badoo собирают статистику? Как её доставляют и обрабатывают? И о чем Александр Крашенинников из Badoo сказал: «Инструмент классный, документация ваще огонь, я сам туда писал» в конспекте от Ника Волынкина.
https://github.com/NickVolynkin/highload-2018/blob/master/1.6-accelerate-events.md
https://github.com/NickVolynkin/highload-2018/blob/master/1.6-accelerate-events.md
Forwarded from DataEng
Нашел на LinkedIn крутой пост про построение своего Data Warehouse на основе Open Source Software: Druid, Airflow и Superset BI: http://bit.ly/2EaCETX
LinkedIn
Open-Source Data Warehousing – Druid, Apache Airflow & Superset
These days everyone talks about open-source, however still not common in the Data Warehouse (DWH) field. Why is this? In my recent blog, I researched OLAP technologies and what’s coming next, in this blog I choose one of the open-source technologies and build…
Forwarded from HighLoad++
За последние 2,5 года Booking.com прошел через 3 поколения приватных облаков. Первое было построено на Mesos и Marathon. В активной фазе оно просуществовало около полугода. Решили отказаться. Второе - на OpenShift. Отказались через год. Сейчас Booking работает на чистом Kubernetes.
Иван Круглов в докладе на HighLoad++ рассказал про внедрение и проблемы всех трех платформ, про почти полную замену инфраструктуры и внедрение контейнеризованных приложений. Основные мысли и ключевые моменты в конспект доклада от Ника Волынкина. https://github.com/NickVolynkin/highload-2018/blob/master/1.2-per-aspera-ad-paas.md
Иван Круглов в докладе на HighLoad++ рассказал про внедрение и проблемы всех трех платформ, про почти полную замену инфраструктуры и внедрение контейнеризованных приложений. Основные мысли и ключевые моменты в конспект доклада от Ника Волынкина. https://github.com/NickVolynkin/highload-2018/blob/master/1.2-per-aspera-ad-paas.md
Forwarded from CatOps
Продолжаем рубрику от подписчиков:
@vxxtl про трейсинг – что такое трейсинг, кому полезен, зачем нам в секурити софте трейсинг, какой инструмент выбрали, как внедрили, с чем сложности, в чем польза.
@vxxtl про трейсинг – что такое трейсинг, кому полезен, зачем нам в секурити софте трейсинг, какой инструмент выбрали, как внедрили, с чем сложности, в чем польза.
Cossacklabs
How to Implement Tracing in a Modern Distributed Application
A story from the trenches of implementing distributed tracing in our Acra data security suite.
Forwarded from HighLoad++
Что мы знаем о микросервисах? А что знает о микросервисах Авито? Какие «тайные знания» скрывают? Вадим Мадисон сорвал «покровы» и рассказал на HighLoad++ всё про микросервисы от сборки до продакшнена, про метрики и перебалансировку, а Ник Волынкин всё внимательно послушал и собрал в конспект.
https://github.com/NickVolynkin/highload-2018/blob/master/1.1-microservices.md
https://github.com/NickVolynkin/highload-2018/blob/master/1.1-microservices.md
Forwarded from DevOps&SRE Library
Краткое описание как работает RabbitMQ и его ключевые метрики, которые стоит замониторить.
Part 1: Key metrics for RabbitMQ monitoring
https://www.datadoghq.com/blog/rabbitmq-monitoring
Part 2: Collecting metrics with RabbitMQ monitoring tools
https://www.datadoghq.com/blog/rabbitmq-monitoring-tools
Part 3: Monitoring RabbitMQ performance with Datadog
https://www.datadoghq.com/blog/monitoring-rabbitmq-performance-with-datadog
Part 1: Key metrics for RabbitMQ monitoring
https://www.datadoghq.com/blog/rabbitmq-monitoring
Part 2: Collecting metrics with RabbitMQ monitoring tools
https://www.datadoghq.com/blog/rabbitmq-monitoring-tools
Part 3: Monitoring RabbitMQ performance with Datadog
https://www.datadoghq.com/blog/monitoring-rabbitmq-performance-with-datadog
Forwarded from ДевОпс Інженер 🇺🇦 (devopsengineer bot)
Нативный Docker Compose on Kubernetes
Как-то пролетела новость, и никто не заметил. Раньше делали как: генерили кубер манифесты из компоуз файлов, с помощью, например, Kompose.
Наконец Docker расчехлились, и уже практически официально этим решением депрекейтнули Docker Swarm. Они напилили нативный контроллер, который позволяет применять compose манифесты в кубер.
Вот, смотрите:
https://blog.docker.com/2018/12/simplifying-kubernetes-with-docker-compose-and-friends/
Репа на гитхабе:
https://github.com/docker/compose-on-kubernetes
В общем, у кого compose (омг) или Swarm в проде - можно безболезненно пересесть в k8s как первый шаг в процессе миграции.
Это будет очень полезно ребятам, у которых мало инженерных ресурсов, но есть огромное желание в k8s.
Как новость?)
Как-то пролетела новость, и никто не заметил. Раньше делали как: генерили кубер манифесты из компоуз файлов, с помощью, например, Kompose.
Наконец Docker расчехлились, и уже практически официально этим решением депрекейтнули Docker Swarm. Они напилили нативный контроллер, который позволяет применять compose манифесты в кубер.
Вот, смотрите:
https://blog.docker.com/2018/12/simplifying-kubernetes-with-docker-compose-and-friends/
Репа на гитхабе:
https://github.com/docker/compose-on-kubernetes
В общем, у кого compose (омг) или Swarm в проде - можно безболезненно пересесть в k8s как первый шаг в процессе миграции.
Это будет очень полезно ребятам, у которых мало инженерных ресурсов, но есть огромное желание в k8s.
Как новость?)
Docker
Docker Blog | Docker
2025 was the year software teams stopped optimizing models and started optimizing systems. By December, a few truths were impossible to ignore. 1. Developer Productivity Became the Real Competitive Advantage By mid-year, every major AI lab had cleared the…
Forwarded from Пятничный деплой
Не устаю повторять - не бойтесь писать сами экспортеры для Prometeus! Это просто!
Вот еще две статьи, которые вам в этом помогут https://rsmitty.github.io/Prometheus-Exporters-Revamp/
https://rsmitty.github.io/Prometheus-Exporters/ #prometheus #exporter
Вот еще две статьи, которые вам в этом помогут https://rsmitty.github.io/Prometheus-Exporters-Revamp/
https://rsmitty.github.io/Prometheus-Exporters/ #prometheus #exporter
Spencer's Blog
A Noob's Guide to Custom Prometheus Exporters (Revamped!)
Thoughts and tutorials on Linux, Cloud, and Automation.
Forwarded from HighLoad++
Три года назад на Highload++ Александр Крашенинников рассказывал как в Badoo построили масштабируемую систему near-realtime обработки событий. С тех пор она эволюционировала, выросли объёмы и решены задачи масштабирования и отказоустойчивости. В определённый момент в Badoo достигли точки, когда потребовались радикальные меры — смена технологического стека на связку Spark + Hadoop на ClickHouse, что в три раза сэкономило железо и увеличило нагрузку с 300 000 событий в секунду до 1 600 000 в пике. В ноябре на Highload++ Александр рассказал о этом в своем докладе, а Ник Волынкин описал кратко в своем конспекте.
https://github.com/NickVolynkin/highload-2018/blob/master/1.6-accelerate-events.md
https://github.com/NickVolynkin/highload-2018/blob/master/1.6-accelerate-events.md
Forwarded from Пятничный деплой
Форкнул и реанимировал одну клевую репу с кодом, который ходит в куб и проверяет поды на соотвествие праавилам, которые удобно пишутся в ямлях, если кто-то потыкает - я буду благодарен
https://github.com/count0ru/kube-lint
https://github.com/count0ru/kube-lint
GitHub
count0ru/kube-lint
A linter for Kubernetes resources with a customizable rule set - count0ru/kube-lint
Forwarded from DataEng
Годный твиттер тред про проблемы в распределенных систем: https://twitter.com/janl/status/1072442448893358081?s=20
Twitter
Jan Lehnardt
A thread about handling deletes in distributed systems. You'd think that deleting a piece of data would be straightforward. As long as you're talking about deleting something on a single computer, it's not that hard. But once you add a network, the fun begins.
Forwarded from Пятничный деплой
Крутая ссылка от одного из читателей ;) https://sysadmincasts.com/ Много классных скринкастов и статей #screencast
Sysadmincasts
System Administration Screencasts
Short linux sysadmin screencasts containing tutorials, tips and tricks. Great for both novice and experienced Sysadmins.
Forwarded from Пятничный деплой
Ещё один интересный репозиторий от ms - оператор, который позволяет писать policy для деплойментов и запрещать их запуск при несоответствии https://github.com/Azure/kubernetes-policy-controller/blob/master/README.md #policy #k8s
GitHub
open-policy-agent/gatekeeper
Gatekeeper - Policy Controller for Kubernetes. Contribute to open-policy-agent/gatekeeper development by creating an account on GitHub.
Forwarded from Asgoret
Вот сайт, там чуть вниз мотнешь рассказано как в 3 шага (2 из которых скачать и разъархивировать) поднять тестовый кластер all-in-one
https://www.okd.io/
https://www.okd.io/
okd.io
Kubernetes at Scale on any Infrastructure | OKD Kubernetes Platform
Bringing together 100+ components to provide comprehensive tooling for administrators and developers, we've made choices so you don't have to. Deploy in-cloud or on-prem and join a community embracing the latest in cloud emerging technologies.