Скоро стартует курс «Ускорение нейросетей»

Если вы сталкивались в работе с оптимизацией инференса и ускорением нейросетей, пробовали фреймворки вроде ONNX, TensorRT, OpenVINO, знаете про квантование, прунинг и дистилляцию, но при этом:

— большинство решений приходится собирать на ощупь
— гайды не работают на ваших моделях
— не уверены, как сочетать методы без потери качества
— возникают сложности при деплое на CPU, мобильные устройства или одноплатники

Или если только начинаете погружаться в тему ускорения нейросетей и хотите в ней разобраться — тогда приходите на ближайший поток «Ускорения нейросетей», который стартует 11 июня! ⚡

На курсе вы научитесь:
- ускорять нейросети, понимая теорию каждого алгоритма
- комбинировать разные подходы: квантизацию, дистилляцию, прунинг
- оптимизировать инференс, сохраняя точность
- запускать сети на различных устройствах: как на GPU/CPU, так и на мобильных телефонах и одноплатниках
- использовать особенности железа и фреймворков OpenVino, TensorRT, RKNN

👨‍🏫 Лекции ведут опытные инженеры, а хэдлайнер курса — Александр Гончаренко, CTO ENOT.аi, стартапа по ускорению нейросетей.
📅 Обучение начинается 11 июня и продлится 4 месяца.

Изучайте подробности на сайте и записывайтесь в лист ожидания, чтобы первыми узнать подробности о курсе и получить самые большие скидки на обучение!

Как превратить текст в структурированные данные?

Распознавание именованных сущностей (Named Entity Recognition, NER) — ключ к превращению сырого текста в структурированные данные. Но как выбрать подходящий инструмент, когда вокруг десятки библиотек? Когда стоит брать готовое решение, а когда — учить свою модель? Правда ли, что LLM уже умеют всё сами?

В нашей новой статье разберём:

✔️ Постановку задачи NER
✔️ Существующие коробочные решения и их ограничения
✔️ Рецепты, когда и как стоит обучать свой NER
✔️ Применимость LLM для решения задачи

А также конкретные примеры и лайфхаки для тех, кто хочет выжать максимум из своих данных.

Читайте по ссылке и узнайте о современных подходах к решению задачи NER! 🙂

How to: детектор лиц на Android

Детекция лиц на смартфоне — популярная задача, для которой существует много решений «в пару кнопок». Но мы решили пойти по хардкору и показать, как запустить детектор лиц на Android, используя только C++ , OpenCV и NCNN.

Это видео поможет:

1. Узнать нюансы при деплое своих моделей на Android-устройстве.
2. Понять, как работают под капотом готовые решения.
3. Запустить свои кастомные модели на платформе Android.

Смотрите новый выпуск по ссылке!

А больше о том, как ускорять инференс моделей под различные устройства рассказываем на курсе «Ускорение нейросетей».

Данные важнее моделей? Подкаст «Под Капотом» c Дарьей Воронкиной

Мы приглашаем в подкаст экспертов из различных областей, чтобы понять, как работают сложные системы изнутри.
Гость этого выпуска Дарья Воронкина — тимлид в медицинском стартапе OneCell.ai и спикер курса «Computer Vision Rocket». В OneCell Дарья руководит построением и оптимизацией процесса разметки медицинских данных и аналитики вокруг них.

В этом выпуске мы обсуждаем:
- как создать масштабируемый процесс аннотации терабайтов гистологических данных для сотен задач
- почему подготовка датасета часто сложнее и интереснее обучения моделей
- как превратить хаотичную разметку в предсказуемый и воспроизводимый процесс

Смотрите выпуск по ссылке: https://youtu.be/4ufQITw-cOI

Осталось 3 часа до лекции по LLM

Сегодня Илья Димов на примере бизнес-кейсов разберёт подводные камни LLM!

На лекции вы узнаете:
- как устроена память у LLM, зачем она нужна и почему “погуляй с собакой в лесу” может звучать зловеще
- как построить рабочую RAG-систему, где LLM действительно извлекает нужное из базы знаний, а не галлюцинирует
- зачем разбивать задачу между несколькими LLM, что умеют агенты, и когда они начинают вредить
- как выбирать модель, если завтра выйдет новая и все побегут её катить — по каким метрикам, с какими ограничениями и как протестировать

В конце представим программу курса LLM и откроем запись со скидкой!

🕕 Регистрируйтесь и приходите сегодня в 19:00 МСК

Курс по LLM для разработчиков без опыта в Deep Learning

Если вы не знакомы с Deep Learning и хотите создать своё первое LLM-приложение при поддержке опытных инженеров, то именно для вас мы запускаем новую программу «‎LLM Start»‎!

Обычно мы создаём программы от DL-инженеров для DL-инженеров. Для этого мы ищем опытных специалистов по каждой теме, проводим собеседования, учим вести лекции и проводим ревью всех материалов, чтобы в итоге качественно передать многолетний опыт.

А теперь мы решили создать новую программу, где не требуем знаний в Deep Learning, но также серьёзно подходим к подготовке лекций и подбору спикеров, чтобы научить вас создавать и деплоить собственные LLM-сервисы.

На курсе «‎LLM Start» вы научитесь:
— выбирать модель под задачу
— дообучать модели под свои данные с помощью готовых инструментов и сервисов
— собирать RAG-системы из готовых частей
— создавать агентов
— поднимать свой сервис c open-source LLM
— и создавать свои LLM-приложения

Коротко о формате курса:
— вести лекции будут ведущие инженеры с опытом в DL от 5 лет
— вы сможете задавать свои вопросы спикерам на лекциях, QA-сессиях и в чате
— спикеры дадут обратную связь на ваши решения домашних заданий
— а в конце вы сдадите проект, чтобы закрепить знания с курса и получить фидбек

⚠️ Для старта обучения вы должны быть знакомы с Python и linux.

Старт в конце июля.

Переходите на страницу программы и оставляйте заявку в форме предзаписи, чтобы получить максимальную скидку на обучение!

Как LLM научились видеть?

Когда-то LLMs работали только с текстом и не обрабатывали входные данные других модальностей: изображения, видео и аудио. Но благодаря прогрессу архитектур и подходов к обучению сегодня они превратились в полноценные мультимодальные системы.

В новой статье рассказываем, какие подходы научили LLM понимать изображения и 3D-сцены.

Читайте новую статью по ссылке!

Кто за рулём?! Трансформер

Автономные автомобили — технология, в которой множество задач на уровне как софта, так и железа. В новой статье разбираем одну из ключевых задач — планирование движения, где на первый план выходит архитектура-трансформер.

Вы узнаете:
- какие существуют подходы к проектированию автономных автомобилей, их преимущества и недостатки
- как трансформеры обрабатывают дорожные сцены и предсказывают траектории
- какие ловушки подстерегают ML-планировщики — от «эффекта подражателя» до физической нереализуемости

Читайте статью по ссылке!

Новый формат в новом канале

В нашей школе преподаёт и учится много крутых инженеров с разной карьерой, интересами и опытом. Кто-то оптимизирует нейросети под мобилку, кто-то делает SLAM для автономных автомобилей, а кто-то занимается мультимодальными LLM . Для кого-то работа — написать статью, для кого-то — управлять краудом и собрать датасет, для кого-то — провести тысячу экспериментов, а для кого-то — вывести модель на пользователей и держать нагрузку. У каждого уникальные истории из опыта, свои радости и боли от работы, любимые книги и статьи. И мемы.

Поэтому мы запускаем новый формат, где инженеры из нашей школы расскажут о себе. Этот формат будет жить в отдельном телеграмм-канале. Каждую неделю ведущим канала становится один из инженеров. Каждую неделю: новый человек, новая область и домен, новые истории, наблюдения и рекомендации.

Первым ведущим будет Давид Свитов. Давид — CV-инженер и исследователь. Долго работал в индустрии, а затем перешёл в академию. Сейчас получает второе PhD в Италии в PAVIS@IIT: занимается 3D-аватарами, представлениями 3D-сцен и трёхмерной графикой.
Люди в индустрии на лето планируют отпуск, а учёные — летние школы. Давид на этой неделе будет аж на двух: в Сицилии и Китае. Будет делиться интересным оттуда.

Переходите в канал знакомиться с Давидом! @deepschool_underthehood

Как LLM научились слышать?

В одной из предыдущих статей мы разобрали, какие подходы научили LLM понимать изображения и 3D-сцены.

В новой статье мы поговорим о добавлении в LLM новой модальности — аудио. От идеи представления звука мел-спектрограммой до генерации музыки по текстовому описанию.

А бонусом станет краткий разбор анализа видео с помощью LLM — задачи, где нужно синхронизировать визуальные и аудиодорожки.

Читайте новую статью по ссылке!

Соберите первый LLM-прототип за 30 минут

Для разработки приложений с LLM важно освоить три ключевых навыка: дообучение модели на своих данных, подключение внешней базы (RAG), подключение к LLM сторонних инструментов.

Мы подготовили мини-курс, в котором за 4 коротких лекции вы узнаете, как создать работающее LLM-based приложение с агентом и долговременной памятью.

На лекциях мы рассказали:
- что важно, чтобы собрать первое приложение с LLM
- как выгодно использовать open-source модели и чем они отличаются от коммерческих
- из каких частей состоит RAG и как его можно улучшить
- как собрать первого агента с памятью и базой данных за 30 минут

Это мини-курс для разработчиков и it-специалистов без опыта в DL. Но мы рекомендуем посмотреть его и ML/DL-инженерам, чтобы узнать, как быстро собрать проект с LLM.

Переходите в бот и смотрите лекции!