Forwarded from /usr/bin
How does Uber build real-time infrastructure to handle petabytes of data every day?
В статье рассказано как устроен стэк Uber, который обеспечивает аналитику, управление и хранение данных. В частности, ни используют Kafka, Flink, Pinot, HDFS и Presto. Читать статью.
❗️Статья на Медиум.
В статье рассказано как устроен стэк Uber, который обеспечивает аналитику, управление и хранение данных. В частности, ни используют Kafka, Flink, Pinot, HDFS и Presto. Читать статью.
❗️Статья на Медиум.
👍6❤1🤔1🥱1
👀 Подписан на канал Админим с Буквой: в целом чел пишет попсовую хуйню от «как сменить пароль в гитлабе локально» до рассказов «как он стал менеджером» с кучей ненужных вакансий, судя по позиции и описаниям, далеко не звездных.
Так вот, на днях публикует свой «инструмент» для проведения собеседований. Внимание ‼️ в гугол таблице :) я заитригован моментально, но чтобы не читать очередной чей-то высер, я ожидал полистать комментарии, которые были отключены по неясной сперва для меня причине.
И в последнем сообщении все становится ясно: челу накидали видимо в панамку вполне заслуженно, а он не выдержал критики, чтобы улучшать свой «инструмент», считая видимо его идеальным решением и гордость за свои рукоблудия не позволяет ему войти в конструктивную беседу.
Желание неудачи другим людям несогласным с твоим субъективным мнением это конечно круто… это первая ступень в походе за позицией СТО, я так понимаю. Какава профессиональность!
🤦♂️ И еще, как вы думаете почему в канале не было постов больше месяца? да потому что типок работает в консалтинге по секьюрити, клиента которого не так давно зашифровали к хуям.
Мне очень нравится читать советы и методики от людей которые хапают неудачи полной грудью, имея лишь цель поделиться своим мнением, о котором часто никто не спрашивал)
Ну и в довесок, кому нужен инструмент, если он не масштабируется и применим только к «твоей» компании, где ты лучше всех все знаешь? Зачем его тогда шерить? показать как ты умеешь таблицы составлять? чтобы более крутые менеджеры тебя заметили ?
💻 Как же меня заебали эти "недоайтишники", которые от осознания своей никчемности и неспособности развиваться и конкурировать, уходят в менеджеры, еще с таким скрипом, типо мы не хотели, у нас такая судьба. К сожалению, я тоже продолжаю встречать людей на выскоких позициях, которые в своей карьере палец о палец не ударили (кроме гугл-таблиц, есс-но), судя по их текущим навыкам.
Ну я бы прошел мимо, если бы не этот вброс про желание неудачи другим, но к сожалению нередко попадаются вакансии в эту конторку или их приближенных «друзьяшек», куда вполне могут попасть одаренные и хорошие специалисты, которые с такими менеджерами рискуют так и не раскрыть свой потенциал. Ведь как можно получать фидбек от руководства за качественно выполненную работу, если само руководство не вдупляет ничего.
Обходите идиотов стороной, друзья)
Так вот, на днях публикует свой «инструмент» для проведения собеседований. Внимание ‼️ в гугол таблице :) я заитригован моментально, но чтобы не читать очередной чей-то высер, я ожидал полистать комментарии, которые были отключены по неясной сперва для меня причине.
И в последнем сообщении все становится ясно: челу накидали видимо в панамку вполне заслуженно, а он не выдержал критики, чтобы улучшать свой «инструмент», считая видимо его идеальным решением и гордость за свои рукоблудия не позволяет ему войти в конструктивную беседу.
Для тех, кто не способен прочитать в оригинальном посте что вопросы - моя субъективная история, желаю чтобы вы никогда не попадали на руководящие должности.
Желание неудачи другим людям несогласным с твоим субъективным мнением это конечно круто… это первая ступень в походе за позицией СТО, я так понимаю. Какава профессиональность!
Мне очень нравится читать советы и методики от людей которые хапают неудачи полной грудью, имея лишь цель поделиться своим мнением, о котором часто никто не спрашивал)
Ну и в довесок, кому нужен инструмент, если он не масштабируется и применим только к «твоей» компании, где ты лучше всех все знаешь? Зачем его тогда шерить? показать как ты умеешь таблицы составлять? чтобы более крутые менеджеры тебя заметили ?
Ну я бы прошел мимо, если бы не этот вброс про желание неудачи другим, но к сожалению нередко попадаются вакансии в эту конторку или их приближенных «друзьяшек», куда вполне могут попасть одаренные и хорошие специалисты, которые с такими менеджерами рискуют так и не раскрыть свой потенциал. Ведь как можно получать фидбек от руководства за качественно выполненную работу, если само руководство не вдупляет ничего.
Обходите идиотов стороной, друзья)
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Админим с Буквой
Канал о системном администрировании, DevOps и немного Инфобеза.
По всем вопросам обращаться к @bykva. Рекламу не размещаю.
По всем вопросам обращаться к @bykva. Рекламу не размещаю.
👍10🔥3❤1👏1🥱1🤨1
DWH считается не совсем современным и трендовым решением: данные нужно хранить там, где они хранятся (Postgres, MySQL, Oracle, MongoDB, etc.)
Please open Telegram to view this post
VIEW IN TELEGRAM
trino.io
Distributed SQL query engine for big data
Trino is a high performance, distributed SQL query engine for big data.
❤3👎3🔥3👌1
Логическая репликация в PostgreSQL. Репликационные идентификаторы и популярные ошибки
Весь процесс логической репликации в PostgreSQL основан на использовании репликационных идентификаторов. 📋
Подготовка:
🔍 Проверка наличия в реплицируемых таблицах первичного ключа или индекса, соответствующего минимальным требованиям и задействованного в
🛠️ Репликационные идентификаторы необходимы для однозначной идентификации изменяемых или удаляемых строк при репликации команд
Репликационные идентификаторы:
🚫 Их можно не настраивать или отключить, если планируется реплицировать только команды
⚠️ Для актуальных данных из активно изменяющихся таблиц, где отсутствуют первичные ключи или уникальные
🗂️ Этот запрос поможет вам выявить таблицы без настроенных репликационных идентификаторов.
🦄 Не забывайте правильно настраивать репликационные идентификаторы для успешной работы логической репликации!
Весь процесс логической репликации в PostgreSQL основан на использовании репликационных идентификаторов. 📋
Подготовка:
REPLICA IDENTITY USING INDEX, либо назначение REPLICA IDENTITY FULL. UPDATE и DELETE. Репликационные идентификаторы:
INSERT. Главное — исключить из публикации команды UPDATE и DELETE. NOT NULL индексы, настройка репликационных идентификаторов обязательна. В противном случае UPDATE и DELETE могут привести к отмене транзакций на мастере, что является нежелательным на рабочей базе.
SELECT pgn.nspname || '.' || pgc.relname AS "Таблицы без репликационных идентификаторов"
FROM pg_class AS pgc,
pg_namespace AS pgn
WHERE pgn.nspname !~ '^(?:pg_.*|information_schema)$'
AND pgc.relreplident IN ('n', 'd')
AND pgc.relkind IN ('r', 'p')
AND pgc.oid NOT IN (SELECT pgi.indrelid FROM pg_index AS pgi WHERE pgi.indisprimary)
AND pgc.relnamespace = pgn.oid
ORDER BY 1;
---
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4👍4🔥2🌭1
Please open Telegram to view this post
VIEW IN TELEGRAM
Gist
Script for removing GitLab Job Artifacts.
Script for removing GitLab Job Artifacts. GitHub Gist: instantly share code, notes, and snippets.
🔥5❤2👌2
Forwarded from Кубернетичек
https://github.com/kubernetes-sigs/ingress2gateway
Мигратор для тех, кто собирается мигрировать с ingress на gateway api.
Мигратор для тех, кто собирается мигрировать с ingress на gateway api.
GitHub
GitHub - kubernetes-sigs/ingress2gateway: Convert Ingress resources to Gateway API resources
Convert Ingress resources to Gateway API resources - kubernetes-sigs/ingress2gateway
🔥4❤1👍1👌1🤗1
Istio: От А до Я Ю
Объясняются ключевые функции Istio, такие как балансировка нагрузки, маршрутизация запросов, мониторинг, и безопасность. Автор описывает процесс установки и настройки Istio, а также делится примерами использования для улучшения управляемости и надежности распределенных систем.
https://a-cup-of.coffee/blog/istio/
Объясняются ключевые функции Istio, такие как балансировка нагрузки, маршрутизация запросов, мониторинг, и безопасность. Автор описывает процесс установки и настройки Istio, а также делится примерами использования для улучшения управляемости и надежности распределенных систем.
https://a-cup-of.coffee/blog/istio/
a-cup-of.coffee
Istio from A to Y
Istio is an open-source service mesh that allows you to connect, secure, control, and observe the services of an application. We will see how to install Istio, and how to use it to secure and monitor our services.
👍4❤3🔥3👌1
This media is not supported in your browser
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥7👍4👎2❤1
Forwarded from Кубернетичек
https://github.com/kubernetes/kubernetes/issues/125463
Кажется скоро можно будет в кубе маунтить артефакты из oci регистри в поды (точнее в контейнеры). То есть сложили модельку в имидж и отправили в OCI регистри, а затем при деплое обновили версию OCI reference, без пересборки основного контейнера. Этакая замена работы с S3.
Кажется скоро можно будет в кубе маунтить артефакты из oci регистри в поды (точнее в контейнеры). То есть сложили модельку в имидж и отправили в OCI регистри, а затем при деплое обновили версию OCI reference, без пересборки основного контейнера. Этакая замена работы с S3.
---apiVersion: v1
kind: Pod
metadata:
name: pod
spec:
containers:
- name: test
image: busybox:1.28
command: ["tail", "-f", "/dev/null"]
volumeMounts:
- name: oci-volume
mountPath: /volume
volumes:
- name: oci-volume
oci:
reference: quay.io/saschagrunert/artifact:v1
GitHub
KEP-4639 OCI VolumeSource PoC · Issue #125463 · kubernetes/kubernetes
This issue is tracking a proof of concept (PoC) implementation for the OCI VolumeSource KEP: kubernetes/enhancements#4639 Kubernetes: master...saschagrunert:oci-volumesource-poc cri-api: kubernetes...
❤5👍2🔥2🥰1
Многие сталкиваются с серьёзными проблемами при масштабировании кластеров Kafka из-за миграции десятков терабайтов данных. Дополнительно, ежемесячные расходы на облачные кластеры Kafka могут достигать сотен тысяч долларов. Основная причина в том, что Apache Kafka был разработан десятилетие назад, без учета особенностей облачной инфраструктуры.
Open-source проект AutoMQ, который может сократить затраты на Kafka в облачных провайдерах, таких как AWS, и сделать Kafka Broker stateless, что позволяет масштабировать его за секунды.
Open-source проект AutoMQ, который может сократить затраты на Kafka в облачных провайдерах, таких как AWS, и сделать Kafka Broker stateless, что позволяет масштабировать его за секунды.
GitHub
GitHub - AutoMQ/automq: AutoMQ is a diskless Kafka® on S3. 10x Cost-Effective. No Cross-AZ Traffic Cost. Autoscale in seconds.…
AutoMQ is a diskless Kafka® on S3. 10x Cost-Effective. No Cross-AZ Traffic Cost. Autoscale in seconds. Single-digit ms latency. Multi-AZ Availability. - AutoMQ/automq
🔥4👍2👏2🤔2
CloudAMQP делится опытом запуска тысяч кластеров RabbitMQ.
Рекомендуется всем, кто крутит высоконагруженные кластера RabbitMQ.
Рекомендуется всем, кто крутит высоконагруженные кластера RabbitMQ.
CloudAMQP
RabbitMQ Summit talk recap: What we've learned from running thousands of production RabbitMQ clusters - CloudAMQP
CloudAMQP has been running dedicated and shared RabbitMQ clusters for customers around the world, in seven different clouds. In this talk Lovisa address tshe most common misconception, misconfigurations and anti-patterns in RabbitMQ usage.
✍2🔥2👏2
CrowdStrike на этой неделе поделился подробностями о том, что произошло 19 июля. Коротко говоря, возникло несоответствие в количестве аргументов, что привело к проблемам. Однако, как и в любых подобных ситуациях, было много факторов, которые на это повлияли.
Кроме того, отчет продолжает обсуждение использования режима ядра в продуктах, что приводит к публичному диалогу с Microsoft. За этим диалогом интересно наблюдать со стороны, учитывая важность затрагиваемых тем.
https://www.crowdstrike.com/wp-content/uploads/2024/08/Channel-File-291-Incident-Root-Cause-Analysis-08.06.2024.pdf
The new IPC Template Type defined 21 input parameter fields, but the integration code that
invoked the Content Interpreter with Channel File 291’s Template Instances supplied only 20
input values to match against
Кроме того, отчет продолжает обсуждение использования режима ядра в продуктах, что приводит к публичному диалогу с Microsoft. За этим диалогом интересно наблюдать со стороны, учитывая важность затрагиваемых тем.
https://www.crowdstrike.com/wp-content/uploads/2024/08/Channel-File-291-Incident-Root-Cause-Analysis-08.06.2024.pdf
✍1❤1👍1👌1
Теперь Spark Operator официально стал частью Kubeflow, что позволяет интегрировать его с остальными компонентами Kubeflow для упрощения работы с Apache Spark в Kubernetes.
- Документация: Spark Operator в Kubeflow
- Релизный пост: Читайте на блоге Kubeflow
- GitHub: Kubeflow Spark Operator
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5❤1✍1🔥1
В новом релизе Kubeflow 1.9 представлено множество улучшений, но самое важное — появление Model Registry. Это централизованное решение для управления моделями, версиями и артефактами, которое значительно упростит работу с машинным обучением и MLOps.
Please open Telegram to view this post
VIEW IN TELEGRAM
Kubeflow
Kubeflow 1.9: New Tools for Model Management and Training Optimization
Kubeflow 1.9 significantly simplifies the development, tuning and management of secure machine learning models and LLMs. Highlights include:
1👍3❤1🎉1
Кубертатный период
А вы знали, что можно поднять AWS EKS на спотовых инстансах и сэкономить приличное количество денег с помощью Karpenter “One things that make EKS really powerfull is when you use it with Karpenter. We have one big cluster running our CI/CD and some month…
https://aws.amazon.com/blogs/containers/announcing-karpenter-1-0/
https://karpenter.sh/v1.0/upgrading/v1-migration/
Please open Telegram to view this post
VIEW IN TELEGRAM
Amazon
Announcing Karpenter 1.0 | Amazon Web Services
Introduction In November 2021, AWS announced the launch of v0.5 of Karpenter, “a new open source Kubernetes cluster auto scaling project.” Originally conceived as a flexible, dynamic, and high-performance alternative to the Kubernetes Cluster Autoscaler,…
1❤3😁1🎉1😨1
Кубертатный период
Логическая репликация в PostgreSQL. Репликационные идентификаторы и популярные ошибки Весь процесс логической репликации в PostgreSQL основан на использовании репликационных идентификаторов. 📋 Подготовка: 🔍 Проверка наличия в реплицируемых таблицах первичного…
Для исправления последовательностей в PostgreSQL необходимо вручную обновить их с помощью команды setval() или использовать специальный скрипт.
Please open Telegram to view this post
VIEW IN TELEGRAM
7✍5👍4❤1
Kubernetes Guru
Очень интересный сервис: выдает достаточно точные ответы с примерами на вопросы про Kubernetes с помощью AI.
Этот сервис работает на основе подхода RAG и по результатам тестирования иногда дает более точные ответы, чем другие популярные AI, например ChatGPT.
Подробнее -- https://medium.com/@PlanB./kubernetes-guru-a-new-ai-tool-for-mastering-k8s-challenges-69bab4e57c84
Очень интересный сервис: выдает достаточно точные ответы с примерами на вопросы про Kubernetes с помощью AI.
Этот сервис работает на основе подхода RAG и по результатам тестирования иногда дает более точные ответы, чем другие популярные AI, например ChatGPT.
Подробнее -- https://medium.com/@PlanB./kubernetes-guru-a-new-ai-tool-for-mastering-k8s-challenges-69bab4e57c84
2👍6 2 1
- Публичное облако
- Частное облако
- Kubernetes
https://cozystack.io
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍6👎2 2