Just links
6.58K subscribers
358 photos
39 videos
10 files
7.76K links
That's just link aggregator of everything I consider interesting, especially DL and topological condensed matter physics. @EvgeniyZh
Download Telegram
Deep neural networks are biased towards simple functions https://arxiv.org/abs/1812.10156
Forwarded from Alexander C
В слаке одс есть пост о победе на конкурсе где надо было писать говорящего бота. Никто не смотрел? Тут его нельзя ли зарустить? Незаметно для большей части ODS закончился ConvAI2 (http://convai.io/) от iPavlov и FB. Суть конкурса заключалась в том, что нужно было реализовать нецелевую диалоговую систему, которая может нормально вести разговор от лица заданной персоны.

Оценка моделей в конкурсе состояла из двух этапов:
1) Автоматическая оценка решений на основе метрик PPL, Hits@1 и F1;
2) Оценка людьми моделей, прошедших первый этап.

По факту, эти этапы - две совершенно разные задачи, и хороший скор на автоматических метриках не означает хорошую оценку людьми.

Результаты конкурса подвели на NeurIPS и наша команда, Lost in Conversation (@golovanov и @atselousov), неожиданно заняла первое место по итогам человеческой оценки в Amazon MT. Почему неожиданно? Потому что пилили решение мы лениво, ресурсов у нас особо не было, а на финальном LB первого этапа мы занимали 3е место по F1 скору (только его мы и старались оптимизировать + нашу личную оценку качества бота на основе ночных диалогов с ним) и предпоследнее (из 7 финальных команд) по общему скору.

Но, как я уже упомянул ранее, метрики - это хорошо, но диалог с человеком - совершенно другая задача. На человеческой оценке наш бот показал себя очень достойно. А победитель конкурса определялся как раз по ней. Т.к. никто из нас не смог поехать на NeurIPS, наше решение там презентовал @rauf, за что ему большое спасибо.

Подробнее про задачу и нашу историю можно прочесть тут https://medium.com/neuromation-io-blog/neuromation-researchers-won-the-neurips-convai2-competition-ae7375c5f9cf . @snikolenko очень круто написал про это, за что ему тоже большое спасибо. Так же можете там подписаться на NeuroNuggets. В них рассказывают об интересных диплернинг вещах простым и понятным языком.

Наши слайды, слайды других команд и организаторов с NeurIPS можно найти на сайте http://convai.io/.

Ну и, конечно же, репозиторий с решением: https://github.com/atselousov/transformer_chatbot.
👍1
Learn to Interpret Atari Agents https://arxiv.org/abs/1812.11276
An Experimental Course on Operating Systems https://web.stanford.edu/class/cs140e/
A fully web based simulator of Core War https://www.corewar.io/