#Highload Роман Щербаков из Тинькофф. Пайплайны записи своими руками: думали — велосипед, оказалось — паттерны. Рассказ об организации высокой доступности для инфраструктурных потоков: логов, метрик, трейсов. 450 Мб/сек. Целевые хранилища там разные, а архитектура - общая. В докладе - много архитектурных схем, это надо смотреть презентацию. А тут мое краткое резюме принципов.
* Данные пишутся в том же дата-центре, в котором создаются, то есть в каждом - свой набор pipeline, и там же они остывают. А поиск - по всем датацентрам.
* Надо вести мониторинг обращений клиентов и уметь отделять тех, у кого особая нагрузка в отдельный pipeline, с которым отдельно разбираться.
* Worker записи от клиента пишет в Kafka, из которой читает Worker записи в хранилище. И worker записи работает в том темпе, в котором комфортно для БД. Kafka буферизует колебания нагрузки записи. А worker записи делает пакетную запись.
* Отказ операции - нормально. Особые случаи откидываем в отдельную retry-очередь, а если retry не проходит - в очередь ошибок, с которой разбираются вручную. Retry однократный, он на случай, если что-то моргнуло, а если что-то упало - то retry вреден. И такая схема обеспечивает оперативное поступление данных, с которыми все хорошо.
* Если база или узел деградировал - его надо отрубить, для этого фиксировать, что пошли массовые ошибки, для этого Circuit breaking pattern. Аналогично работает bulkhead pattern - ограничение на конкурентные обращения. Это бережет БД.
* Таймауты надо настраивать. Есть бюджет обработки от кафки - таймаут опроса очереди, при превышении которого она считает, что consumer отвалился, и в него надо укладываться, включая все таймауты. И для основного потока там жесткие настройки, а для retry и ошибок - свои.
* Для метрик основной поток пущен напрямую, без kafka, так как на стороне клиента обычно prometheus и у него есть свои буфера. И это экономит. Но при деградации - включается полная схема.

🖐 Друзья, в 15:10 приходите на следующие доклады:
⠀
🏰 «00 Зал - Башня». Как регулярно терять один ДЦ и не волноваться? Михаил Кабищев (Ozon)

Спикер расскажет историю о том, как они в Ozon превратили крайне неприятную ситуацию падения ДЦ в абсолютно спокойный и предсказуемый для них процесс.
⠀
🔘 Зал «08 Шатер Голубой». Go в умном доме: опыт успешной интеграции. Алексей Хить (@AlexxIT)

Узнайте, как расширить возможности Xiaomi Gateway 3 для Home Assistant с помощью Go. Доклад представит уникальный подход к интеграции, сохраняющий оригинальную прошивку устройства и добавляющий новые функции. Погрузитесь в мир open source и разработки embedded ПО.
⠀
🔹 «03 Зал Синий». Автоматизация сетевой инфраструктуры ЦОД. Анна Кошк (Ростелеком-ЦОД)

Увлекательное путешествие в топологию одного из старейших ЦОДов и всю ту программную автоматику, которая используется для конфигурирования «железа» и построения сетевой карты.
⠀
🟣 «04 Зал Красный». Как мы держим миллион RPS в рекламе, троттлим трафик и не теряем при этом деньги. Михаил Кириченко (VK, VK Реклама)

Вся (!) реклама всех (!!) сервисов VK обрабатывается системой, о которой пойдёт речь в докладе. Вот уж хайлоад так хайлоад — ни отнять, ни прибавить.
⠀
🟢 «06 Зал Зеленый». Быстрый поиск на Redisearch в ленте операций для миллионов пользователей. Илья Сиванев (Т-Банк)

Что приходит на ум первым, когда упоминают полнотекстовый поиск? ElasticSearch и Sphinx. Но как быть, когда они не могут решить ваших задач? Опыт Т-Банка в использовании поиска на базе Redis.
⠀
🔵 Зал «09 Шатер Фиолетовый». Особенности и вызовы реализации технологии создания готовых музыкальных произведений с применением ИИ. Максим Метальников, Максим Смоляков (SberDevices)

Генеративный AI достиг больших успехов в создании текстов и изображений, а вот с аудио дела обстоят не так радужно. Доклад затронет методы генерации музыки и то, как нейросети учатся выполнять работу композиторов, аранжировщиков и вокалистов.

🔸 Зал «07 Шатер Оранжевый». Переосмысление Picodata как cluster-first-СУБД. Ярослав Дынников (Picodata)

Ярослав много лет разрабатывал Tarantool, а теперь использует его в создании базы данных Picodata. Он расскажет, зачем бизнесу сейчас нужны распределенные OLTP-решения, как разные продукты реализуют «распределенность» и какими принципами руководствовалась компания, собирая свое решение в 2024 году.

Друзья, если кто-то из вас стал случайным обладателем этой полезной сумочки, просим вас помочь ей вернуться обратно — стенд СберАвтоТех 💚

🖐 Друзья, в 17:50 ждём вас на последних докладах первого дня Saint HighLoad++ 2024:
⠀
🏰 «00 Зал - Башня». Секретный доклад Александра Кибасова (Doctrina et Nobiles)
⠀
🔘 Зал «08 Шатер Голубой». Rock’n’roll — это не работа: пишем обработку звука на Go. Эмиль Шарифуллин (Т-Банк)

Go годится не только для крудошлепства и перекладывания json'ов. На нем можно делать музыку! Приходите послушать доклад под аккомпанемент электрогитары и, возможно, вскоре вы и сами захотите стать Rockstar-разработчиком и запилить собственную гитарную примочку на Go.
⠀
🔹 «03 Зал Синий». Из гадкого 1G в прекрасный 5G: эволюция безопасности мобильных сетей. Максим Башканков (YADRO)

В отличие от Интернета, в телефонных сетях защита информации скрыта от пользователя очень глубоко. В результате у многих возникает иллюзия, что с безопасностью там всё очень хорошо или же, наоборот, всё очень плохо. Реальность, как всегда, где-то посередине, где именно — нам расскажет Максим.
⠀
🟣 «04 Зал Красный». Реестр российского ПО. Кому он нужен и что учесть в разработке, чтобы туда попасть? Герман Ященко, Алиса Голенищева (AG-LEGAL)

Из этого доклада можно узнать, какие бонусы и льготы дает нахождение в реестре российского ПО, как туда попасть. А главное — какие новые рынки открываются для участников РРПО.
⠀
🟢 «06 Зал Зеленый». Fail-митап. Екатерина Фирсова (Altenar), Алексей Мерсон (Т-Банк), Даниил Подольский (YADRO), Олег Мифле (Altenar), Евгений Россинский (ИВИ), Мария Церетели (Т-Банк), Максим Ванюшкин (Т-Банк), Алексей Морозов (ecom.tech)

Конференции завалены историями успеха. Но путь к успеху всегда лежит через фейлы, о которых рассказывать не принято. Но только не на нашем fail-митапе! В своих коротких, но зажигательных выступлениях спикеры поделятся настоящими историями фейлов. Без записи, без трансляции, без комплексов.
⠀
🔵 Зал «09 Шатер Фиолетовый». Перспективы квантового компьютера в обозримое время. Михаил Ремнев (Cloud.ru)

Главный вопрос с квантами — как их применять в обычных задачах и бизнесе. Из доклада вы узнаете о том, что сегодня происходит, чем уникальны кванты на фоне остальных альтернативных вычислителей и как на практике помогают этому эмуляторы квантовых вычислителей, развернутые в облаке Cloud.ru.

🔸 Зал «07 Шатер Оранжевый». Зачем в Ozon понадобилось написать свой gRPC-клиент для нагрузочного тестирования, и как мы это сделали. Павел Грибанов (Ozon)

Написать свой gRPC-клиент, ну да, ну да... а зачем это нужно? А если действительно нужно, как быть? В своем докладе Павел расскажет, как он справился с этой задачей и в процессе решил один из вопросов нагрузочного тестирования.

#Highload Николай Никитин из ИТМО. Как обеспечить воспроизводимость научных исследований в AI/ML с помощью Open Source? Основной тезис доклада, на мой взгляд, остался за рамкой: смысл научного исследования в том, что его результаты могут быть использованы другими в своих разработках. Именно это подразумевается под воспроизводимостью, не ограничиваясь просто проверкой результатов. Для Николая это тезис очевиден, в то время, как в социальных реалиях современной науки это далеко не так. Если же принять этот тезис, то для современных исследований, особенно в области AI/ML, просто публикации статьи недостаточно, к статье должен прилагаться код и наборы данных, которые обеспечат легкое использование результатов, включая его проверку, но не ограничиваясь ей. В open source есть площадки для этого. Но ученые - не программисты, разработка и создание open source для них - не профильная работа, получается довольно высокий порог входа, который полезно снизить. Они в 2020 годы в ИТМО начали это делать, и сейчас у них 10+ различных проектов. Был более подробный рассказ про фреймворк FEDOT. Тут есть особенности, связанные с тем, что есть 2-3 человека в ядре команды и ассоциированные стажры, которые делают студенческие работы. Но для успеха ядро должно быть увлеченным, в том числе проводить менторинг для студентов - и административно это не масштабируется. Такие проекты делают пиар, показывают что университет способен достигать серьезных результатов. Однако, несмотря на это уровень энтузиазма довольно велик. Тут есть вопрос финансирования, если на новые версии его еще можно получить, то на поддержку - не получается. Но сейчас есть возможность получить гранты, и то, что продуктом будет не просто публикация. а open source эксперты оценивают. И коммерческие компании тоже становятся толерантными к выкладке результатов в open source, хотя тут это каждый раз вопрос переговоров. Лично я желаю ИТМО всяческих успехов, и надеюсь, что этот опыт будет распространяться.

Это нельзя пропустить!

Приходите прямо сейчас в Башню, секретный доклад уже начался 😎