При разработке продукта на компилируемом языке, таком как C или Rust, рано или поздно появляется необходимость разделения на несколько компонентов или расширения функциональности плагинами. А значит, появляется проблема прямой и обратной совместимости. Например, непонятно, что произойдёт при обновлении одного компонента независимо от другого?
Давайте разберёмся, как делать бинарно-совместимые API на С и других компилируемых языках. О проблематике, подходах к бинарной совместимости и проверке версий расскажет Евгений Левашов из VK Tech: https://habr.com/ru/companies/vk/articles/816493/
Давайте разберёмся, как делать бинарно-совместимые API на С и других компилируемых языках. О проблематике, подходах к бинарной совместимости и проверке версий расскажет Евгений Левашов из VK Tech: https://habr.com/ru/companies/vk/articles/816493/
⚡2 дня до повышения цены на Saint HighLoad++ 2024
⠀
Присоединяйтесь к нам, чтобы:
⠀
- узнать, как делают highload-системы ваши коллеги и конкуренты. Как они думают и смотрят на highload-мир;
- быть в тренде и двигаться дальше;
- познакомиться с технологиями, о которых, возможно, вы ещё не знаете;
- услышать сильные доклады с решением конкретных задач;
- круто провести время в IT-тусовке.
⠀
Также напоминаем, что вы можете забронировать билет до 1 июня, чтобы сохранить за собой текущую стоимость, а оплатить в течение нескольких дней после брони.
⠀
Мы встречаемся 24 и 25 июня в Санкт-Петербурге, ждём вас 🙌
⠀
✅ Ознакомиться с программой конференции и забронировать билет можно на сайте
⠀
Присоединяйтесь к нам, чтобы:
⠀
- узнать, как делают highload-системы ваши коллеги и конкуренты. Как они думают и смотрят на highload-мир;
- быть в тренде и двигаться дальше;
- познакомиться с технологиями, о которых, возможно, вы ещё не знаете;
- услышать сильные доклады с решением конкретных задач;
- круто провести время в IT-тусовке.
⠀
Также напоминаем, что вы можете забронировать билет до 1 июня, чтобы сохранить за собой текущую стоимость, а оплатить в течение нескольких дней после брони.
⠀
Мы встречаемся 24 и 25 июня в Санкт-Петербурге, ждём вас 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
🎟 Приглашаем на встречу с Программным комитетом Industrial++ 2024
6 июня в 13:00 в формате онлайн предлагаем вам узнать какие темы будут актуальны на Industrial++ - профессиональной конференции IT-сообщества в промышленности.
Программа конференции будет сосредоточена на самых актуальных темах:
- Масштабируемые и отказоустойчивые архитектуры
- Работа с данными, СУБД, системы хранения
- Инфраструктура производственной компании
- DevOps в производственной компании
- ML и AI в производственных компаниях
- Безопасность в производственной компании
- Интернет вещей, индустрия 4.0 в промышленности
- Российские разработки, импортозамещение
- Культура разработки в производственных компаниях, инженерная культура
- Продакт-менеджмент в производственной компании
- Сотрудничество производственных компаний
➡️ Чтобы принять участие, задать вопросы ПК или получить запись встречи, нужно зарегистрироваться на сайте
6 июня в 13:00 в формате онлайн предлагаем вам узнать какие темы будут актуальны на Industrial++ - профессиональной конференции IT-сообщества в промышленности.
Программа конференции будет сосредоточена на самых актуальных темах:
- Масштабируемые и отказоустойчивые архитектуры
- Работа с данными, СУБД, системы хранения
- Инфраструктура производственной компании
- DevOps в производственной компании
- ML и AI в производственных компаниях
- Безопасность в производственной компании
- Интернет вещей, индустрия 4.0 в промышленности
- Российские разработки, импортозамещение
- Культура разработки в производственных компаниях, инженерная культура
- Продакт-менеджмент в производственной компании
- Сотрудничество производственных компаний
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
В блоке «Кластеризация БД» собраны доклады о масштабировании баз данных – от бекапа до балансировки нагрузки. И новинка – cluster-first СУБД Picodata.
1) Переосмысление Picodata как cluster-first-СУБД. Ярослав Дынников (Picodata)
Ярослав много лет разрабатывал Tarantool, а теперь использует его в создании базы данных Picodata. Он расскажет, зачем бизнесу сейчас нужны распределенные OLTP-решения, как разные продукты реализуют «распределенность» и какими принципами руководствовалась компания, собирая свое решение в 2024 году.
2) Как мы монгу физически бэкапили. Владимир Гошев (Yandex Cloud)
Мы уже рассказывали вам о докладе Юрия Фролова про устройство MongoDB, а теперь подробнее поговорим о том, как Яндекс учился бэкапить кластеры MongoDB для своих клиентов: чтобы бэкапы занимали адекватное количество места, с ними было легко работать, а главное — чтобы из них можно было восстановить консистентный кластер!
3) Балансировка нагрузки шардированного PostgreSQL не своими руками. Денис Волков (Yandex Cloud)
Мы стараемся поддерживать Open Source, а в этом году SPQR (инструмент для шардирования PostgreSQL) научился менять количество шардов на лету. Из доклада вы узнаете о существующих подходах к решардингу, а также о том, что у команды SPQR получилось в результате.
Ждём вас 24 и 25 июня на Saint HighLoad++ 2024 🙌
✅ Программа конференции и билеты на сайте
1) Переосмысление Picodata как cluster-first-СУБД. Ярослав Дынников (Picodata)
Ярослав много лет разрабатывал Tarantool, а теперь использует его в создании базы данных Picodata. Он расскажет, зачем бизнесу сейчас нужны распределенные OLTP-решения, как разные продукты реализуют «распределенность» и какими принципами руководствовалась компания, собирая свое решение в 2024 году.
2) Как мы монгу физически бэкапили. Владимир Гошев (Yandex Cloud)
Мы уже рассказывали вам о докладе Юрия Фролова про устройство MongoDB, а теперь подробнее поговорим о том, как Яндекс учился бэкапить кластеры MongoDB для своих клиентов: чтобы бэкапы занимали адекватное количество места, с ними было легко работать, а главное — чтобы из них можно было восстановить консистентный кластер!
3) Балансировка нагрузки шардированного PostgreSQL не своими руками. Денис Волков (Yandex Cloud)
Мы стараемся поддерживать Open Source, а в этом году SPQR (инструмент для шардирования PostgreSQL) научился менять количество шардов на лету. Из доклада вы узнаете о существующих подходах к решардингу, а также о том, что у команды SPQR получилось в результате.
Ждём вас 24 и 25 июня на Saint HighLoad++ 2024 🙌
Please open Telegram to view this post
VIEW IN TELEGRAM
Друзья, ловите свежий выпуск подкаста The Art of Programming — «Когда все переписали и не только».
В этом выпуске члены Программного комитета Saint HighLoad++ 2024 Антон Черноусов и Юрий Бабак поделились закулисьем программы конференции и знакомят вас с рядом интересных и ожидаемых лично ими докладов. В фокусе выпуска:
➡️ Обсуждают то, когда и как все переписали в одном банке, а подробности в докладе Льва Осипова;
➡️ Касаются таксономии изоляции от легендарного дуэта Антона Жаболенко и Алексея Федулаева;
➡️ Подсвечивают работу по расписанию на бэкенде из уст Андрея Зарубина;
➡️ Облизываются на доклад Филиппа Бочарова на тему единого хранилища метрик экосистемы;
➡️ Задумываются о перспективах квантового компьютера и планируют посетить доклад Михаила Ремнева;
➡️ Посматривают на доклад Андрея Бородина про UUID v.7.
Подписаться в iTunes
Слушать ВКонтакте
Слушать на Яндекс Музыке
В этом выпуске члены Программного комитета Saint HighLoad++ 2024 Антон Черноусов и Юрий Бабак поделились закулисьем программы конференции и знакомят вас с рядом интересных и ожидаемых лично ими докладов. В фокусе выпуска:
➡️ Обсуждают то, когда и как все переписали в одном банке, а подробности в докладе Льва Осипова;
➡️ Касаются таксономии изоляции от легендарного дуэта Антона Жаболенко и Алексея Федулаева;
➡️ Подсвечивают работу по расписанию на бэкенде из уст Андрея Зарубина;
➡️ Облизываются на доклад Филиппа Бочарова на тему единого хранилища метрик экосистемы;
➡️ Задумываются о перспективах квантового компьютера и планируют посетить доклад Михаила Ремнева;
➡️ Посматривают на доклад Андрея Бородина про UUID v.7.
Подписаться в iTunes
Слушать ВКонтакте
Слушать на Яндекс Музыке
Yandex Music
The Art of Programming
Podcast about program development and management • Podcast • 3,290 subscribers
👍1
Сегодня рассказываем про доклады по базам данных, не вошедшие в блоки «Кластеризация СУБД» и «Внутрянка БД».
Здесь вы услышите честное сравнение GQL и OpenApi, увидите, что GQL — это не какая-то магия и что это не панацея, а технология со своими плюсами и минусами. А также узнаете опыт интегрирования ClickHouse в ядро BI-платформы Visiology для использования в кейсах Self-Service-аналитики и ad-hoc-запросов, где пользователи могут самостоятельно загружать и анализировать большие объемы данных, не привлекая разработчиков.
1) GraphQL: зачем на самом деле он нужен. Apollo Federation — дар бога. Олег Коровин (ecom.tech)
Множество больших систем создаются с оглядкой на GraphQL или OpenAPI. И в этом докладе вы сможете чуть глубже погрузиться в GraphQL с использованием Apollo Federation. Затронете вопросы безопасности и сможете на ранних стадиях внедрения решить ряд типовых вопросов со своим отделом ИБ.
2) ClickHouse не тормозит в Self-Service BI: как мы достигли этого в Visiology. Никита Ильин (Visiology)
Хайлоад — это не всегда миллионы запросов. Порой аналитик и один запрос может написать такой, что его обработка сожрёт все ресурсы. А если систему нужно сделать такой, чтобы эти запросы могли писать даже непрофессиональные аналитики, а обычные сотрудники? Об этом — в докладе Никиты.
Ждём вас 24 и 25 июня на Saint HighLoad++ 2024 🙌
✅ Программа конференции, расписание и билеты на сайте
Здесь вы услышите честное сравнение GQL и OpenApi, увидите, что GQL — это не какая-то магия и что это не панацея, а технология со своими плюсами и минусами. А также узнаете опыт интегрирования ClickHouse в ядро BI-платформы Visiology для использования в кейсах Self-Service-аналитики и ad-hoc-запросов, где пользователи могут самостоятельно загружать и анализировать большие объемы данных, не привлекая разработчиков.
1) GraphQL: зачем на самом деле он нужен. Apollo Federation — дар бога. Олег Коровин (ecom.tech)
Множество больших систем создаются с оглядкой на GraphQL или OpenAPI. И в этом докладе вы сможете чуть глубже погрузиться в GraphQL с использованием Apollo Federation. Затронете вопросы безопасности и сможете на ранних стадиях внедрения решить ряд типовых вопросов со своим отделом ИБ.
2) ClickHouse не тормозит в Self-Service BI: как мы достигли этого в Visiology. Никита Ильин (Visiology)
Хайлоад — это не всегда миллионы запросов. Порой аналитик и один запрос может написать такой, что его обработка сожрёт все ресурсы. А если систему нужно сделать такой, чтобы эти запросы могли писать даже непрофессиональные аналитики, а обычные сотрудники? Об этом — в докладе Никиты.
Ждём вас 24 и 25 июня на Saint HighLoad++ 2024 🙌
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2
Приглашаем спикеров на Industrial++ — первую профессиональную конференцию для разработчиков, инженеров и IT-экспертов всего реального сектора.
Если у вас есть опыт, который может быть полезен для участников конференции, но вы сомневаетесь в актуальности темы — подключайтесь на онлайн-встречу с Программным комитетом.
6 июня (четверг)
13:00 (МСК).
✅ Участие в онлайн-встрече свободное, нужно только зарегистрироваться здесь
На встрече обсудим потенциально интересные темы, новости и планы. Поговорим о том, что болит и волнует, обменяемся идеями. И конечно, участники ПК ответят на все ваши вопросы об участии и организации конференции
⠀
✅ Заявки на доклады принимаем до 30 июня на сайте
Мы определили перечень тем, которые считаем наиболее актуальными для сообщества. Конечно, мы ими не ограничимся при рассмотрении заявок, но предпочтение будет отдано докладам на эти темы:
- Масштабируемые и отказоустойчивые архитектуры.
- Работа с данными, СУБД, системы хранения.
- Инфраструктура производственной компании.
- DevOps в производственной компании.
- ML и AI в производственных компаниях.
- Безопасность в производственной компании.
- Интернет вещей, индустрия 4.0 в промышленности.
- Российские разработки, импортозамещение.
- Культура разработки в производственных компаниях, инженерная культура.
- Продакт-менеджмент в производственной компании
Ждём вас в онлайн 6 июня 🙌
Если у вас есть опыт, который может быть полезен для участников конференции, но вы сомневаетесь в актуальности темы — подключайтесь на онлайн-встречу с Программным комитетом.
6 июня (четверг)
13:00 (МСК).
На встрече обсудим потенциально интересные темы, новости и планы. Поговорим о том, что болит и волнует, обменяемся идеями. И конечно, участники ПК ответят на все ваши вопросы об участии и организации конференции
⠀
Мы определили перечень тем, которые считаем наиболее актуальными для сообщества. Конечно, мы ими не ограничимся при рассмотрении заявок, но предпочтение будет отдано докладам на эти темы:
- Масштабируемые и отказоустойчивые архитектуры.
- Работа с данными, СУБД, системы хранения.
- Инфраструктура производственной компании.
- DevOps в производственной компании.
- ML и AI в производственных компаниях.
- Безопасность в производственной компании.
- Интернет вещей, индустрия 4.0 в промышленности.
- Российские разработки, импортозамещение.
- Культура разработки в производственных компаниях, инженерная культура.
- Продакт-менеджмент в производственной компании
Ждём вас в онлайн 6 июня 🙌
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3
В докладах из сегодняшней подборки спикеры расскажут о построении инфраструктуры для работы высоконагруженной системы или команды, разрабатывающей такую систему. В блок "Инфраструктура" собраны доклады и о финансовой составляющей capacity planning, о построении хранилища метрик и даже о масштабировании системы хранения секретов.
1) Как мигрировать тысячи сервисов между любыми дистрибутивами Kubernetes без единой правки чего-либо. Максим Чудновский (АО "СберТех")
Постараемся обойтись без спойлеров: Максим и команда получили на вход очень сложную и тяжёлую задачу и успешно её решили, причём крайне остроумным способом. В конце доклада вас ждёт open source-анонс.
2) Масштабирование системы хранения секретов на базе HashiCorp Vault. Виктор Корейша (Ozon)
Чтобы отдавать сотни тысяч секретов и укладываться в SLA, ребятам из Ozon пришлось хорошенько поработать с Hashicorp Vault. Бэкендом выбрали etcd, словили проблемы из-за бага, поправили и законтрибьютили. Научили vault работать в режиме мультимастер — решили проблемы с кэшами и отмасштабировались.
3) Укрощаем хайлоад из тысячи разработчиков и разрабатываем управляемую систему деплоя. Павел Шерепо (VK, ВКонтакте)
Доклад о том, как построить релизный процесс в крупной компании. Пригодится всем, у кого высокая частота релизов или надо собирать большое количество MR (PR) кода в релизы. Еще всегда очень интересно посмотреть на опыт соседей — этот доклад дает такую возможность
4) Тернистый путь к единому хранилищу метрик экосистемы. Филипп Бочаров (МТС Digital)
Подробный технический доклад про построение высоконагруженной системы мониторинга в огромной продуктовой экосистеме (более 300 продуктов). Мы любим хайлоад за то, что он проверяет технические решения практикой. Если вы построите мониторинг у себя так же, то как минимум он будет работать.
5) Кластеризация с помощью etcd. Петр Растегаев (AGIMA)
Etcd является популярным инструментом при реализации распределённых кластерных приложений, и этот доклад поможет узнать, как правильно его использовать для подобных задач и чему стоит уделить особое внимание.
6) Capacity Planning в Ozon. Анатолий Межебицкий (Ozon)
Ozon построил достаточно точную систему прогнозирования потребностей в железе на основе предыдущего потребления, бизнес-метрик и продуктовых планов. Вы узнаете, как заказывать железо с минимальным запасом и не ошибаться.
Ждём вас 24 и 25 июня на Saint HighLoad++ 2024 🙌
✅ Программа конференции, расписание и билеты на сайте
1) Как мигрировать тысячи сервисов между любыми дистрибутивами Kubernetes без единой правки чего-либо. Максим Чудновский (АО "СберТех")
Постараемся обойтись без спойлеров: Максим и команда получили на вход очень сложную и тяжёлую задачу и успешно её решили, причём крайне остроумным способом. В конце доклада вас ждёт open source-анонс.
2) Масштабирование системы хранения секретов на базе HashiCorp Vault. Виктор Корейша (Ozon)
Чтобы отдавать сотни тысяч секретов и укладываться в SLA, ребятам из Ozon пришлось хорошенько поработать с Hashicorp Vault. Бэкендом выбрали etcd, словили проблемы из-за бага, поправили и законтрибьютили. Научили vault работать в режиме мультимастер — решили проблемы с кэшами и отмасштабировались.
3) Укрощаем хайлоад из тысячи разработчиков и разрабатываем управляемую систему деплоя. Павел Шерепо (VK, ВКонтакте)
Доклад о том, как построить релизный процесс в крупной компании. Пригодится всем, у кого высокая частота релизов или надо собирать большое количество MR (PR) кода в релизы. Еще всегда очень интересно посмотреть на опыт соседей — этот доклад дает такую возможность
4) Тернистый путь к единому хранилищу метрик экосистемы. Филипп Бочаров (МТС Digital)
Подробный технический доклад про построение высоконагруженной системы мониторинга в огромной продуктовой экосистеме (более 300 продуктов). Мы любим хайлоад за то, что он проверяет технические решения практикой. Если вы построите мониторинг у себя так же, то как минимум он будет работать.
5) Кластеризация с помощью etcd. Петр Растегаев (AGIMA)
Etcd является популярным инструментом при реализации распределённых кластерных приложений, и этот доклад поможет узнать, как правильно его использовать для подобных задач и чему стоит уделить особое внимание.
6) Capacity Planning в Ozon. Анатолий Межебицкий (Ozon)
Ozon построил достаточно точную систему прогнозирования потребностей в железе на основе предыдущего потребления, бизнес-метрик и продуктовых планов. Вы узнаете, как заказывать железо с минимальным запасом и не ошибаться.
Ждём вас 24 и 25 июня на Saint HighLoad++ 2024 🙌
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
Друзья, мы начинаем знакомить вас со спикерами конференции Golang Conf 2024, которая пройдёт в рамках Saint HighLoad++ 2024. Берите на заметку 📝
На докладах секции Инструменты на Go и для Go вы:
- рассмотрите задачу реализации ограничения количества запросов на бэкенд в промежуточном сервисе в условиях высокой нагрузки;
- узнаете почему SQLC бережет время и нервы разработчика за счет кодогенерации типобезопасного кода для работы с SQL;
- обсудите непривычный метод оптимизации производительности.
1) Быстро — не всегда хорошо: рейтлимиты в мультикластерном окружении. Дмитрий Виноградов (Wildberries)
Для контроля входящего RPS в сервисах применяют rate limit. Вот только он реализуется или как простой in-memory-счетчик, или более продвинуто — как счетчик во внешнем K/V. В докладе Дмитрий пошел в своей работе дальше — к более сложным решениям.
2) Как ускорить программу, не переписав ни строчки: PGO для Go-разработчиков. Кирилл Кузин (Vi.Tech)
Написание быстрого кода — это одна из самых сложных задач при создании высоконагруженного приложения. Кирилл покажет другой путь: используя автоматический анализ работы вашего приложения, Go может сам принять лучшие решения об оптимизации кода. И расскажет, как именно компилятор это делает.
3) Меньше кода, больше результата: применяем SQLC для работы с БД. Евгений Конечный (Uzum Tezkor)
Кодогенерация — как много скрыто в этом слове для разработчика. В своем докладе Евгений покажет, как, используя этот инструмент, можно облегчить боль при работе с БД. Возвращаясь к основам — к написанию SQL-запросов — можно получить производительный, корректный и типобезопасный код на Go.
До встречи 24 и 25 июня в Санкт-Петербурге 🖐️
✅ Программа конференции и билеты на сайте
На докладах секции Инструменты на Go и для Go вы:
- рассмотрите задачу реализации ограничения количества запросов на бэкенд в промежуточном сервисе в условиях высокой нагрузки;
- узнаете почему SQLC бережет время и нервы разработчика за счет кодогенерации типобезопасного кода для работы с SQL;
- обсудите непривычный метод оптимизации производительности.
1) Быстро — не всегда хорошо: рейтлимиты в мультикластерном окружении. Дмитрий Виноградов (Wildberries)
Для контроля входящего RPS в сервисах применяют rate limit. Вот только он реализуется или как простой in-memory-счетчик, или более продвинуто — как счетчик во внешнем K/V. В докладе Дмитрий пошел в своей работе дальше — к более сложным решениям.
2) Как ускорить программу, не переписав ни строчки: PGO для Go-разработчиков. Кирилл Кузин (Vi.Tech)
Написание быстрого кода — это одна из самых сложных задач при создании высоконагруженного приложения. Кирилл покажет другой путь: используя автоматический анализ работы вашего приложения, Go может сам принять лучшие решения об оптимизации кода. И расскажет, как именно компилятор это делает.
3) Меньше кода, больше результата: применяем SQLC для работы с БД. Евгений Конечный (Uzum Tezkor)
Кодогенерация — как много скрыто в этом слове для разработчика. В своем докладе Евгений покажет, как, используя этот инструмент, можно облегчить боль при работе с БД. Возвращаясь к основам — к написанию SQL-запросов — можно получить производительный, корректный и типобезопасный код на Go.
До встречи 24 и 25 июня в Санкт-Петербурге 🖐️
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4👍2❤🔥1
В докладах блока «Data Engineering» вас ждёт изнанка работы команд, работающих с огромным количеством данных: инфраструктура, работа в нескольких дата-центрах, построение платформ хранения данных.
1) Как мы сделали собственный Software-Defined Storage для публичного облака Cloud.ru. Сергей Лысанов (Cloud.ru)
Глубоко технический доклад про реализацию собственного хранилища в условиях больших нагрузок и критических систем вокруг. Если вам нравится разбираться во внутрянке таких систем и специфике хранения данных — этот доклад для вас.
2) Highload MLOPs: ускорение и автоматизация. Павел Николаев (Альфа-банк)
Доклад будет интересен широкой публике ML-разработчиков. Из доклада вы узнаете, как в условиях ограниченных вычислительных ресурсов может выживать большая DS-команда. Также вы узнаете, как на небольших серверах оптимально крутить не менее 300 моделей.
3) Опыт перевода банковского продукта в риалтайм. Владимир Ловцов, Владимир Аврамов (Холдинг Т1)
Доклад-исследование, доклад-детектив. Как на больших масштабах правильно принимать решения, правильно принимать технологии и справляться с рисками и интеграционными проблемами. Рекомендуется для тех, кто любит много технологий.
4) Streaming Processing на данных BigData для рекламных кампаний МТС. Евгений Ненахов (МТС Диджитал)
Вы узнаете, как делать процессинг очень больших потоков данных в режиме реального времени из Kafka на голой Java с использованием минимального количества железа.
5) Выбор стримингового фреймворка в 2024 году. Максим Буйлин (Т-Банк)
Spark, Flink, Nifi или что-то другое — какой стриминговый фреймворк выбрать в текущем году? Из доклада вы узнаете основные критерии для выбора, на что обращать особое внимание. И все это на основе практического опыта.
До скорой встречи на Saint HighLoad++ 2024 🙌
✅ Программа конференции и билеты на сайте
1) Как мы сделали собственный Software-Defined Storage для публичного облака Cloud.ru. Сергей Лысанов (Cloud.ru)
Глубоко технический доклад про реализацию собственного хранилища в условиях больших нагрузок и критических систем вокруг. Если вам нравится разбираться во внутрянке таких систем и специфике хранения данных — этот доклад для вас.
2) Highload MLOPs: ускорение и автоматизация. Павел Николаев (Альфа-банк)
Доклад будет интересен широкой публике ML-разработчиков. Из доклада вы узнаете, как в условиях ограниченных вычислительных ресурсов может выживать большая DS-команда. Также вы узнаете, как на небольших серверах оптимально крутить не менее 300 моделей.
3) Опыт перевода банковского продукта в риалтайм. Владимир Ловцов, Владимир Аврамов (Холдинг Т1)
Доклад-исследование, доклад-детектив. Как на больших масштабах правильно принимать решения, правильно принимать технологии и справляться с рисками и интеграционными проблемами. Рекомендуется для тех, кто любит много технологий.
4) Streaming Processing на данных BigData для рекламных кампаний МТС. Евгений Ненахов (МТС Диджитал)
Вы узнаете, как делать процессинг очень больших потоков данных в режиме реального времени из Kafka на голой Java с использованием минимального количества железа.
5) Выбор стримингового фреймворка в 2024 году. Максим Буйлин (Т-Банк)
Spark, Flink, Nifi или что-то другое — какой стриминговый фреймворк выбрать в текущем году? Из доклада вы узнаете основные критерии для выбора, на что обращать особое внимание. И все это на основе практического опыта.
До скорой встречи на Saint HighLoad++ 2024 🙌
Please open Telegram to view this post
VIEW IN TELEGRAM
Запись техтолка с Анастасией Павловской «Не таймспентом единым: как мы делаем ранжирующую систему» с конференции HighLoad++ 2023
Анастасия рассказала:
- как устроена рекомендательная система;
- зачем нужно переранжирование, если модель работает с хорошим качеством;
- как бороться с ситуацией, когда у модели есть перекос в популярных авторов;
- какие проблемы возникнут у бизнеса, если ничего не делать;
- как они в Дзене работают с этой проблемой.
Будет полезно посмотреть ML-разработчикам рекомендательных систем. Особенно интересно будет тем, кто занимается ранжирующими моделями на маркетплейсах.
Ведущий техтолка Валерий Котелов, СEO KOTELOV
Анастасия рассказала:
- как устроена рекомендательная система;
- зачем нужно переранжирование, если модель работает с хорошим качеством;
- как бороться с ситуацией, когда у модели есть перекос в популярных авторов;
- какие проблемы возникнут у бизнеса, если ничего не делать;
- как они в Дзене работают с этой проблемой.
Будет полезно посмотреть ML-разработчикам рекомендательных систем. Особенно интересно будет тем, кто занимается ранжирующими моделями на маркетплейсах.
Ведущий техтолка Валерий Котелов, СEO KOTELOV
YouTube
TechTalk "Не таймспентом единым: как мы делаем ранжирующую систему" / Анастасия Павловская
Приглашаем на конференцию HighLoad++ 2025, которая пройдет 6 и 7 ноября в Москве!
Программа, подробности и билеты по ссылке: https://highload.ru/moscow/2025
________
Крупнейшая профессиональная конференция для разработчиков высоконагруженных систем Highload++…
Программа, подробности и билеты по ссылке: https://highload.ru/moscow/2025
________
Крупнейшая профессиональная конференция для разработчиков высоконагруженных систем Highload++…
❤🔥5❤2🔥2
ML-модели требуют всё больше и больше ресурсов, и задача экономии железа (и батарейки) становится всё более и более актуальной. Об этом все пять докладов блока об экономии CPU/GPU.
1) Нейросети на китайских камерах: дешево и задорно. Максим Лапшин (erlyvideo)
Flussonic уже много лет строит решения видеоаналитики. С точки зрения программиста и продакта, Максим расскажет о своем опыте запуска нейросетей на камерах Rockchip. Это одни из первых доступных камер стандартного форм-фактора и доступной цены, пригодных для запуска нейросетей.
2) Мир будущего: управление устройствами с помощью жестов. Александр Нагаев (SberDevices)
Доклад Александра интересен тем, что обращается к корням. Из него вы узнаете, как в современнейшей задаче распознавания динамических жестов можно применить нейросеть, разработанную ещё в XX веке!
3) Эффективная ML-обработка видео в web-браузере для видеоконференций SberJazz. Дмитрий Балиев (SberDevices)
Работа в браузере — одна из самых сложных задач для нейросетей, работающих с медиаконтентом, особенно для сервиса видеоконференций, которому нужно справляться в real-time. Будет интересно узнать о движке инференса нейронок в SberJazz тем, кто занимается инференсом нейросетей и edge computing.
4) Как оптимизировать обработку звука на ограниченных в ресурсах устройствах и не потерять в качестве. Михаил Чуриков (SberDevices)
Умные колонки работают на экономных ARM-процессорах, поэтому код для них нужно писать аккуратно. Михаил расскажет, как на чистом Си написал библиотеку для работы со звуком, чтобы колонка могла одновременно быть и умной, и круто звучащей.
5) И не менее интересный доклад в рамках темы «Экономия CPU/GPU при инференсе DL-моделей» от Ольги Зайковой (Яндекс) про то, Как реклама Яндекса генерирует GPT-нейросетями заголовки для 3 миллиардов объявлений, используя 22 GPU.
Ольга расскажет, как они масштабировали ML-решение, генерирующее заголовки рекламных объявлений. Генерация одновременно использует тысячи процессорных ядер и десятки GPU, и нужно постараться, чтобы нигде не случился bottleneck.
Ждём вас 24 и 25 июня на Saint HighLoad++ 2024 🙌
✅ Программа конференции, расписание и билеты на сайте
1) Нейросети на китайских камерах: дешево и задорно. Максим Лапшин (erlyvideo)
Flussonic уже много лет строит решения видеоаналитики. С точки зрения программиста и продакта, Максим расскажет о своем опыте запуска нейросетей на камерах Rockchip. Это одни из первых доступных камер стандартного форм-фактора и доступной цены, пригодных для запуска нейросетей.
2) Мир будущего: управление устройствами с помощью жестов. Александр Нагаев (SberDevices)
Доклад Александра интересен тем, что обращается к корням. Из него вы узнаете, как в современнейшей задаче распознавания динамических жестов можно применить нейросеть, разработанную ещё в XX веке!
3) Эффективная ML-обработка видео в web-браузере для видеоконференций SberJazz. Дмитрий Балиев (SberDevices)
Работа в браузере — одна из самых сложных задач для нейросетей, работающих с медиаконтентом, особенно для сервиса видеоконференций, которому нужно справляться в real-time. Будет интересно узнать о движке инференса нейронок в SberJazz тем, кто занимается инференсом нейросетей и edge computing.
4) Как оптимизировать обработку звука на ограниченных в ресурсах устройствах и не потерять в качестве. Михаил Чуриков (SberDevices)
Умные колонки работают на экономных ARM-процессорах, поэтому код для них нужно писать аккуратно. Михаил расскажет, как на чистом Си написал библиотеку для работы со звуком, чтобы колонка могла одновременно быть и умной, и круто звучащей.
5) И не менее интересный доклад в рамках темы «Экономия CPU/GPU при инференсе DL-моделей» от Ольги Зайковой (Яндекс) про то, Как реклама Яндекса генерирует GPT-нейросетями заголовки для 3 миллиардов объявлений, используя 22 GPU.
Ольга расскажет, как они масштабировали ML-решение, генерирующее заголовки рекламных объявлений. Генерация одновременно использует тысячи процессорных ядер и десятки GPU, и нужно постараться, чтобы нигде не случился bottleneck.
Ждём вас 24 и 25 июня на Saint HighLoad++ 2024 🙌
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
Языки программирования бывают двух сортов: те, которые все ругают, и те, с которыми никто не работает. GO из тех, которые все ругают. Несмотря на то, что мы не можем контролировать процесс улучшения языка, потому что его изменениями занята Core Team, нам никто не запрещает подумать о том, как сделать GO лучше.
Секция докладов «Идеальный язык» предназначена для тех, кто ищет ответы на экзистенциальные вопросы бытия — какой язык окажется для нас самым лучшим?
1) В поисках идеального языка: чему Go стоит поучиться у Rust. Александр Кириллов (Evrone)
В отличие от Go, Rust — язык действительно новый. В первую очередь потому, что предлагает новые концепции, такие, например, как контроль владения. Вопрос: выиграл бы Go как инструмент, если бы эти концепции поддерживались и в нем? Поищем ответ вместе с Александром.
2) Мир Golang глазами C++-разработчика: так ли уж плох этот наш Go? Никита Деревянко (Яндекс Маркет)
Идеального языка программирования не существует, языки бывают плохие и очень плохие. И к какой категории относится конкретный язык, зависит от точки зрения. Давайте посмотрим на Go с точки зрения С++-разработчика — это будет интересно и наверняка поучительно.
3) Расширяем Go: зачем и как строить свое надмножество языка. Илья Горкун (Независимый эксперт), Эдгар Сипки (Ozon Банк)
Мы не просто рассмотрим синтаксические новшества и транспиляцию, но и откроем дверь в мир возможностей расширения вашего кода, а также узнаем, как новый инструментарий может обогатить вашу работу с Go, дав возможность внедрения «сахара» по вашему вкусу и без потери производительности.
Встречаемся на Saint HighLoad++ 2024, в рамках которой пройдёт Golang Conf 2024 🖐️
✅ Программа конференции и расписание на сайте
Секция докладов «Идеальный язык» предназначена для тех, кто ищет ответы на экзистенциальные вопросы бытия — какой язык окажется для нас самым лучшим?
1) В поисках идеального языка: чему Go стоит поучиться у Rust. Александр Кириллов (Evrone)
В отличие от Go, Rust — язык действительно новый. В первую очередь потому, что предлагает новые концепции, такие, например, как контроль владения. Вопрос: выиграл бы Go как инструмент, если бы эти концепции поддерживались и в нем? Поищем ответ вместе с Александром.
2) Мир Golang глазами C++-разработчика: так ли уж плох этот наш Go? Никита Деревянко (Яндекс Маркет)
Идеального языка программирования не существует, языки бывают плохие и очень плохие. И к какой категории относится конкретный язык, зависит от точки зрения. Давайте посмотрим на Go с точки зрения С++-разработчика — это будет интересно и наверняка поучительно.
3) Расширяем Go: зачем и как строить свое надмножество языка. Илья Горкун (Независимый эксперт), Эдгар Сипки (Ozon Банк)
Мы не просто рассмотрим синтаксические новшества и транспиляцию, но и откроем дверь в мир возможностей расширения вашего кода, а также узнаем, как новый инструментарий может обогатить вашу работу с Go, дав возможность внедрения «сахара» по вашему вкусу и без потери производительности.
Встречаемся на Saint HighLoad++ 2024, в рамках которой пройдёт Golang Conf 2024 🖐️
Please open Telegram to view this post
VIEW IN TELEGRAM
Что происходит с IT в промышленности? Как оно там развивается, какие задачи стоят перед инженерами, какие инструменты применяются? Есть ли отличия между привычной всем IT-тусовкой и тусовкой в реальном секторе?
⠀
Если вам интересно узнать про специфику реального сектора и про то, как в ней работается айтишнику, читайте интервью руководителя направления по развитию цифровых технологий ОМК-ИТ Михаила Митрофанова: https://habr.com/ru/companies/oleg-bunin/articles/821033/
⠀
Если вам интересно узнать про специфику реального сектора и про то, как в ней работается айтишнику, читайте интервью руководителя направления по развитию цифровых технологий ОМК-ИТ Михаила Митрофанова: https://habr.com/ru/companies/oleg-bunin/articles/821033/
Хабр
IT в промышленности: сходство и отличия
Михаил Митрофанов Давайте пообщаемся с ПК новой конференции Industrial++ 2024 и узнаем, что происходит с IT в промышленности. Как оно там развивается, какие задачи стоят перед инженерами, какие...
👍2🔥1
⠀
Для онлайн-участников будут доступны:
⠀
- Все презентации спикеров
- Видеозаписи всех докладов
- Трансляция всех докладов. Митапы и воркшопы не транслируются️
- Вопросы к спикерам в Telegram-чате
- Доступ к трансляции для одного пользователя
⠀
⠀
Ждем вас в эфире 24 и 25 июня 🙌
Please open Telegram to view this post
VIEW IN TELEGRAM
🎉3🔥2❤1
Сегодня рассказываем про доклады о построении сетевой инфраструктуры как в отдельно взятом дата-центре, так и во всём интернете в целом.
1) Ищем кратчайший путь в Интернете. Алексей Учакин (EdgeЦентр)
Как известно, в Интернете нет географии, зато есть топология. А это значит, что кратчайшим маршрутом между вашим приложением и пользователем вовсе не обязательно окажется прямая. На докладе Алексея будем разбираться: из чего складывается задержка и почему это важно; что влияет на путь трафика от клиента до приложения и обратно; при чём тут облака, DDoS-защита и CDN; что можно сделать, чтобы задержка стала меньше.
2) Автоматизация сетевой инфраструктуры ЦОД. Анна Кошк (Ростелеком-ЦОД)
Увлекательное путешествие в топологию одного из старейших ЦОДов и всю ту программную автоматику, которая используется для конфигурирования «железа» и построения сетевой карты.
До скорой встречи на Saint HighLoad++ 2024 🙌
✅ Программа конференции, расписание и онлайн-билеты на сайте
1) Ищем кратчайший путь в Интернете. Алексей Учакин (EdgeЦентр)
Как известно, в Интернете нет географии, зато есть топология. А это значит, что кратчайшим маршрутом между вашим приложением и пользователем вовсе не обязательно окажется прямая. На докладе Алексея будем разбираться: из чего складывается задержка и почему это важно; что влияет на путь трафика от клиента до приложения и обратно; при чём тут облака, DDoS-защита и CDN; что можно сделать, чтобы задержка стала меньше.
2) Автоматизация сетевой инфраструктуры ЦОД. Анна Кошк (Ростелеком-ЦОД)
Увлекательное путешествие в топологию одного из старейших ЦОДов и всю ту программную автоматику, которая используется для конфигурирования «железа» и построения сетевой карты.
До скорой встречи на Saint HighLoad++ 2024 🙌
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2