Введение в рексистемы.
Сегодня прочитал студентам первого курса ПМИ ФКН ВШЭ вводную лекцию по рекомендательным системам.
Раньше никогда не делал такие вводные лекции — обычно ограничивался парой слайдов в начале каждого доклада в духе "есть множество пользователей, множество айтемов, информационная перегрузка, хотим рекомендации".
Здесь же выпала возможность максимально подробно рассказать, зачем нужны рекомендательные системы, а также показать пару простых, интуитивно понятных рекомендательных алгоритмов.
Так как лекция была для первокурсников, в ней было больше картинок и меньше математики :)
Прикладываю в посте пару слайдов, сама презентация — в комментариях.
Сегодня прочитал студентам первого курса ПМИ ФКН ВШЭ вводную лекцию по рекомендательным системам.
Раньше никогда не делал такие вводные лекции — обычно ограничивался парой слайдов в начале каждого доклада в духе "есть множество пользователей, множество айтемов, информационная перегрузка, хотим рекомендации".
Здесь же выпала возможность максимально подробно рассказать, зачем нужны рекомендательные системы, а также показать пару простых, интуитивно понятных рекомендательных алгоритмов.
Так как лекция была для первокурсников, в ней было больше картинок и меньше математики :)
Прикладываю в посте пару слайдов, сама презентация — в комментариях.
🔥69❤14👍7✍2👏2
Не могу не поделиться!
Я периодически пытаюсь генерировать полезные иллюстрации к лекциям и докладам, но обычно выходит плохо и непригодно. Приходится делать всё самому и ограничиваться простенькими минималистичными иллюстрациями.
А с помощью новой nanobanana сходу по заметкам к лекции сгенерировалось что-то очень даже прикольное.
Кажется, приближаемся к точке, когда лекции можно будет делать очень быстро :)
Я периодически пытаюсь генерировать полезные иллюстрации к лекциям и докладам, но обычно выходит плохо и непригодно. Приходится делать всё самому и ограничиваться простенькими минималистичными иллюстрациями.
А с помощью новой nanobanana сходу по заметкам к лекции сгенерировалось что-то очень даже прикольное.
Кажется, приближаемся к точке, когда лекции можно будет делать очень быстро :)
🔥40🤮12👎4🤔4😐2❤1
Нейросетевые рекомендательные системы.
А ещё я сегодня прочитал гостевую лекцию про нейросети в рекомендациях в рамках курса Deep Learning 2 на ФКН ВШЭ.
О чём говорили:
1. Зачем нужны рексистемы и как они устроены (слегка переписанный кусочек из моей лекции для первокурсников)
2. Почему в рекомендациях хороши нейросетевые модели
3. Классические нейросетевые архитектуры для генерации кандидатов и ранжирования
4. Frontier: трансформеры, масштабирование, RL, генеративные модели, semantic IDs
К лекции был семинар, который провёл Артём Матвеев — разобрали Unified Embeddings, PLE (Piecewise Linear Encoding) и DCN-v2. Показали, что на Yambda нейросеть выигрывает у катбуста в задаче ранжирования :)
У курса есть Git-репозиторий, куда выкладываются материалы занятий: https://github.com/thecrazymage/DL2_HSE.
Слайды лекции присылаю следующим сообщением; а запись занятия и семинар позже появятся в репозитории.
Курс выглядит прикольно — например, есть лекция про Bitter Lesson от Вани Рубачёва :)
Спасибо Мишану @ne_mishan за приглашение!
А ещё я сегодня прочитал гостевую лекцию про нейросети в рекомендациях в рамках курса Deep Learning 2 на ФКН ВШЭ.
О чём говорили:
1. Зачем нужны рексистемы и как они устроены (слегка переписанный кусочек из моей лекции для первокурсников)
2. Почему в рекомендациях хороши нейросетевые модели
3. Классические нейросетевые архитектуры для генерации кандидатов и ранжирования
4. Frontier: трансформеры, масштабирование, RL, генеративные модели, semantic IDs
К лекции был семинар, который провёл Артём Матвеев — разобрали Unified Embeddings, PLE (Piecewise Linear Encoding) и DCN-v2. Показали, что на Yambda нейросеть выигрывает у катбуста в задаче ранжирования :)
У курса есть Git-репозиторий, куда выкладываются материалы занятий: https://github.com/thecrazymage/DL2_HSE.
Слайды лекции присылаю следующим сообщением; а запись занятия и семинар позже появятся в репозитории.
Курс выглядит прикольно — например, есть лекция про Bitter Lesson от Вани Рубачёва :)
Спасибо Мишану @ne_mishan за приглашение!
🔥43❤6🎉3
В репозитории появилась запись нашего обзорного занятия про нейросетевой рексис из прошлых постов:
* лекция — тык
* семинар — тык
Надеюсь, наш будущий рексис курс тоже получится записать и выложить, но это мы узнаем уже в следующем полугодии :)
* лекция — тык
* семинар — тык
Надеюсь, наш будущий рексис курс тоже получится записать и выложить, но это мы узнаем уже в следующем полугодии :)
1🔥34❤11🎉8
Наткнулся на местечковый сайт (https://book.sv), на котором можно вбить последние 64 прочитанные книги и получить рекомендации для следующего прочтения.
Создатель сайта распарсил Goodreads, обучил улучшенный SASRec, поднял инференс на NVIDIA Triton. Отличный пример рекомендательного pet project'а.
На сайте есть секция "How it works", в которой автор подробно расписал, как делал модель — даже метрики приложил. А ещё очень приятно было обнаружить там упоминание нас с Сашей Петровым (@Recsys_IR_Travel). Ради такого статьи и пишем :)
Создатель сайта распарсил Goodreads, обучил улучшенный SASRec, поднял инференс на NVIDIA Triton. Отличный пример рекомендательного pet project'а.
На сайте есть секция "How it works", в которой автор подробно расписал, как делал модель — даже метрики приложил. А ещё очень приятно было обнаружить там упоминание нас с Сашей Петровым (@Recsys_IR_Travel). Ради такого статьи и пишем :)
3🔥55❤15❤🔥6👍1
graph_recsys.pdf
6.3 MB
Лекция про графовые модели для рекомендательных систем.
Прочитал сегодня гостевую лекцию про графовые модели для рекомендательных систем в рамках курса по графам в машинном обучении в ШАД.
Читал такую же лекцию в прошлой итерации курса, но тогда у меня было существенно меньше времени для подготовки. В этот раз и презентацию сделал нормально, и структуру лекции больше продумал, и ещё вставил свежий кусочек про гетерогенную графовую модель TTGL от TikTok.
Прочитал сегодня гостевую лекцию про графовые модели для рекомендательных систем в рамках курса по графам в машинном обучении в ШАД.
Читал такую же лекцию в прошлой итерации курса, но тогда у меня было существенно меньше времени для подготовки. В этот раз и презентацию сделал нормально, и структуру лекции больше продумал, и ещё вставил свежий кусочек про гетерогенную графовую модель TTGL от TikTok.
1👍20🔥14❤4
Немного картинок для тех, кому лень открывать презентацию :)
1🔥22❤6👍4👀1