Forwarded from Українська девопсарня
Неплохая статья по лучшим практикам Настройки openssh
https://www.cyberciti.biz/tips/linux-unix-bsd-openssh-server-best-practices.html
https://www.cyberciti.biz/tips/linux-unix-bsd-openssh-server-best-practices.html
nixCraft
Top 20 OpenSSH Server Best Security Practices
OpenSSH server best security practices - protect your server from brute force attack on a UNIX / Linux / *BSD / Mac OS X operating systems.
Forwarded from DevOps drawer
Adaptivecapacitylabs
Some Observations On the Messy Realities of Incident Reviews
1) Incident reviews serve multiple purposes. Some of these purposes are overt and explicit but many are not. Some of these purposes cut across others in unproductive ways. Competing agendas reveal the power dynamics present in the organization. A manager…
Forwarded from Geeks (Aleksandr Mikheev)
LazyDocker - консольная утилита, которая даёт новый способ просмотра информации о контейнерах/томах/изображениях в docker. Самое главное тут - элегантность решения. Всё красиво, информация полная, но не чрезмерная, при этом работает всё очень быстро, что есть большой плюс по сравнению с аналогами. Устанавливается программа локально и работает как и стандартная утилита docker - через переменную DOCKER_HOST, что позволяет подключаться и к удалённым машинам, например, через docker machine, не требуя при этом установки программы на каждый сервер.
Вообще, всё это выглядит как Portainer, который просто сделали правильно - тут убран лишний веб-интерфейс, неиспользуемые элементы скрываются, настройки делаются через конфиги, а не танцы с поиском нужной кнопки, ну и даже есть графики - никто же не мешает их рисовать в консоли. Также есть управление как мышкой, так и полностью клавиатурой - всё скрывается за одним/двумя нажатиями, но при этом многие вещи можно настроить под себя: от доп. команд до дополнительных статистик, которые по-умолчанию не выводятся.
Конечно, тут ещё есть и баги и возможности доработки, даже сам автор говорит об этом, но в целом я уже поставил lazydocker как замену команде compose logs и в общем доволен результатом - информации больше, а действий меньше. https://github.com/jesseduffield/lazydocker
Вообще, всё это выглядит как Portainer, который просто сделали правильно - тут убран лишний веб-интерфейс, неиспользуемые элементы скрываются, настройки делаются через конфиги, а не танцы с поиском нужной кнопки, ну и даже есть графики - никто же не мешает их рисовать в консоли. Также есть управление как мышкой, так и полностью клавиатурой - всё скрывается за одним/двумя нажатиями, но при этом многие вещи можно настроить под себя: от доп. команд до дополнительных статистик, которые по-умолчанию не выводятся.
Конечно, тут ещё есть и баги и возможности доработки, даже сам автор говорит об этом, но в целом я уже поставил lazydocker как замену команде compose logs и в общем доволен результатом - информации больше, а действий меньше. https://github.com/jesseduffield/lazydocker
GitHub
GitHub - jesseduffield/lazydocker: The lazier way to manage everything docker
The lazier way to manage everything docker. Contribute to jesseduffield/lazydocker development by creating an account on GitHub.
Forwarded from Українська девопсарня
Dropbox заопеснсорсили либу для golang для работы с xdp и ebfp
https://github.com/dropbox/goebpf/blob/master/README.md
https://github.com/dropbox/goebpf/blob/master/README.md
GitHub
goebpf/README.md at master · dropbox/goebpf
Library to work with eBPF programs from Go. Contribute to dropbox/goebpf development by creating an account on GitHub.
Forwarded from DataEng
Хороший доклад про принципы построения пайплайнов без привязки к каким-либо инструментам: Data Engineering Principles - Build frameworks not pipelines
Forwarded from DataEng
Если вы пользуетесь Apache Airflow для построения batch-процессов и хотите знать тонкости его работы, то рекомендую к прочтению пост: How Apache Airflow Distributes Jobs on Celery workers
www.sicara.ai
How Apache Airflow Distributes Jobs on Celery workers
Discover what happens when Apache Airflow performs task distribution on Celery workers through RabbitMQ queues.
Forwarded from DataEng
В блоге AirBnB вышла полезная статья про идемпотентный фреймворк для построения распределенных систем.
В самой статье идёт речь про кейс реализации системы предотвращающей двойное списание денег у клиентов сервиса.
Читаем: https://medium.com/airbnb-engineering/avoiding-double-payments-in-a-distributed-payments-system-2981f6b070bb
В самой статье идёт речь про кейс реализации системы предотвращающей двойное списание денег у клиентов сервиса.
Читаем: https://medium.com/airbnb-engineering/avoiding-double-payments-in-a-distributed-payments-system-2981f6b070bb
Medium
Avoiding Double Payments in a Distributed Payments System
How we built a generic idempotency framework to achieve eventual consistency and correctness across our payments micro-service…
Forwarded from DataEng
Нашел очень интересный доклад от Chief Data Engineer компании Paypal Sid Anand про data инфраструктуру компании. К слову, Paypal ежедневно обрабатывает более 1 миллиарда долларов транзакций в 200 странах. Как всё это работает и не падает смотрите в докладе
YouTube
Enjoy the videos and music you love, upload original content, and share it all with friends, family, and the world on YouTube.
Forwarded from DataEng
Интересный кейс про построение дата пайплайна через Python и Celery для обновления Amazon Redshift - читать. Советую изучения ради. Если же у вас стоит подобная задача, то рекомендую использовать наиболее подходящие для этого инструменты, например, Luigi или Apache Airflow.
Как сделать pipeline на Luigi я писал ещё в 2017 году в блоге. Для любителей celery тоже есть интересная статейка.
Как сделать pipeline на Luigi я писал ещё в 2017 году в блоге. Для любителей celery тоже есть интересная статейка.
Forwarded from DevBrain
Появилось видео моей презентации на Kolesa Conf в Алматы, которая проходила 12 апреля. Тема моей презентации: ETL на Python. Видео
YouTube
ETL на Python, или Построение идемпотентных дата пайплайнов, Адиль Хаштамов
Forwarded from DataEng
Сейчас идёт конференция PyCon US 2019. Один туториал был посвящен построению пайплайнов на Apache Airflow: https://youtu.be/n9_JjmHRtys
YouTube
Tania Allard - Building data pipelines in Python: Airflow vs scripts soup - PyCon 2019
"Speaker: Tania AllardIn data science (in its all its variants) a significant part of an individual’s time is spent preparing data into a digestible format. ...
Forwarded from DataEng
Обзор архитектуры Apache Spark с "высоты птичьего полёта": https://hackernoon.com/high-level-overview-of-apache-spark-c225a0a162e9
Hackernoon
High Level Overview of Apache Spark | HackerNoon
In <a href="https://hackernoon.com/why-we-need-apache-spark-51c8a57aa57a">my last post </a>we introduced a problem: copious, never ending streams of data, and it’s solution: Apache Spark. Here in Part II we’ll focus on Spark’s internal architecture and data…
Forwarded from DataEng
Обзорная презентация с Google IO про сервисы Google Cloud Platform. Будет интересно начинающим: https://www.youtube.com/watch?v=h4NJdvUcq2c
YouTube
Google Cloud Platform (GCP) Essentials (Google I/O'19)
This session is your key to the Google Cloud Platform kingdom, covering compute options, storage and database solutions, container-driven runtimes, continuous integration tools, applied DevOps principles, fully-managed big data processing, and machine learning…
Forwarded from DataEng
Если вы у себя используете Airflow, то эта статейка может быть весьма к стати: https://medium.com/flatiron-engineering/upgrading-airflow-with-zero-downtime-8df303760c96
Medium
Upgrading Airflow with Zero Downtime
At Flatiron Health, we use Airflow to orchestrate the pipelines necessary to build the mission-critical datasets we use to accelerate…
Forwarded from DataEng
Нашел в сети интересный чеклист для подготовки к интервью на позицию Data Engineer - The Interview Study Guide For Data EngineersThe Interview Study Guide For Data Engineers