NeurIPS реджектнул статьи, хотя бы один автор которых аффилиирован с Российской компанией/универом (вот, вот и вот). Вроде бы, реджект дают не прямо всем, а организациям из этого документа, но это не точно. Но, в любом случае, это точно пиздец, такие решения вообще не имеют ничего общего со словом "наука". Честно говоря, не думала, что до этого дойдет в мировой академической среде, но вот.
Очень обидно за классных людей и их статьи, которые вроде бы попали на NeurIPS, а вроде бы и нет(

Кажется, история с реджектом статей авторов с российскими аффилиациями — это часть более общей проблемы NeurIPS. Реджект от SAC (Senior Area Chairs) после приятия получили многие статьи и без российских авторов (вот, вот и вот форум даже есть). Насколько я поняла, это связывают с тем, что на NeurIPS оказалось очень много принятых статей, и event venue (место, где NeurIPS будет проводиться), не может вместить столько людей. И поэтому часть статей решили просто реджектнуть
Как именно выбирать статьи для финального реджекта, тоже не очень понятно, реджектнули много статей с очень хорошими оценками

Если это действительно так, то это вообще еще больший пиздец. Во-первых, это совершенно несправедливо к авторам хороших статей, которые должны были быть приятны по результатам процесса ревью. Во-вторых это, по сути, нивелирует работу ревьюеров и area chair, которые потратили силы и время на ревью этих статей только чтобы потом их просто так реджектнули. А в-третьих, это бредово тупо потому, что эту проблему можно было решить другими способами:
- NeurIPS проходит в США, и многие авторы принятых статей все равно не приехали бы из-за сложностей с визами. То есть, людей на venue было бы не так много, как, возможно, оргиназаторы ожидают
- еще несколько месяцев назад было понятно, что NeurIPS растет, и что у многих возникают проблемы с визами в Америку. Поэтому было предложение организовать европейский venue для NeirIPS — EurIPS. Этим спокойно можно было бы решить проблему с кучей народу в одном месте

Мне даже кажется, что история с реджектом статей авторов с российскими аффилиациями может быть связана с тем, что орги хотели реджектнуть N-ное количество статей, и начали с тех, для которых можно найти причину получше, чем "ну нам просто надо выдать кому-то реджект". Но это только мои домыслы, если что

Напомню, что через ~10 минут будет вебинар про IOAI и другие AI-олимпиады

Трансляция будет тут: https://vkvideo.ru/video-155161349_456239312 (да, понимаю, ВК 🥴, но нас просили сделать там из-за проблем с YouTube в России)

Напомню, что полторы недели назад у нас был вебинар по IOAI, где мы обсудили то, как была устроена олимпиада и какие были задачи. Мы, наконец, выложили запись вебинара на YouTube (в VK тоже осталась запись)

Мы еще сделали отдельный тг-канал IOAI Russia, где будем публиковать все новости/анонсы, связанные с IOAI и некоторыми другими AI-олимпиадами. Там же будет анонс второй части вебинара по IOAI (сюда тоже напишу, но все равно подписывайтесь, там все же будет больше информации, связанной с олимпиадами)

И еще про тему AI in Mathematics: кажется, эта тема в последнее время становится очень популярной. Хотя, наверное, неудивительно: прогресс в AI дошел до достаточного уровня, чтобы применениями AI заинтересовались в совершенно разных областях, и чтобы AI реально мог поспособствовать прогрессу в этих самых областях. Конкретно в математике, на мой взгляд, популярной тему AI делает еще то, что AI стал успешно решать математические задачи, и что известные математики вроде Terence Tao много стали говорить про применение AI в исследованиях.

Так вот. Есть такой проект — CayleyPy. Это библиотека с AI-методами для поиска путей в графах Кэли с огромным числом вершин. Проект существует около полутора лет, и у него уже есть три стати. Одна из них — про нахождение кратчайших путей в графе состояний кубика Рубика — недавно была принята на NeurIPS и получила spotlight — то есть, вошла в топ-3% принятых статей (честно — завидую прям). В статье авторы показали, что CayleyPy эффективно находит более короткие пути решения для кубика размеров 3x3x3, 4x4x4 и 5x5x5, чем любые другие существующие автоматические способы поиска решений . Две другие статьи проекта — вот и вот. В последней статье уже исследуются произвольные графы Кэли

CayleyPy делается отчасти краудсорсингом, и в проекте можно поучаствовать. Если вам интересно такое применение AI, и у вас есть знания Python и свобоодные хотя бы 2-3 часа в неделю — пишите Александру Червову, координатору проекта. Знания математики/RL/ML будут плюсом, но, говорят, не обязательно.
Более подробные вводные и общий роадмап проекта — в этом файле.

И еще пр AI в математике — у Nebius Academy на эту тему недавно вышел целый курс!
Курс был очно в США и Израиле, уже закончился, но, возможно, будет еще в Лондоне. Если будет, то обязательно напишу (и, если вдруг будет время, схожу на него сама, хотя в эт верить довольно наивно). Но материалы курса доступны на GitHub: там есть презентации к лекциям, семинарские ноутбуки с пояснениями и домашние задания. Стас еще обещал выложить туда же lecture notes, так что по такому набору вполне уже можно будет учиться.
Nebius вообще планируют предлагать материалы этого курса преподавателям ВУЗов, чтобы они у себя в университетах вели подобные курсы на основе этих материалов. Если вы хотели бы стать таким преподавателем — пишите Стасу)

Пока я тут зашиваюсь со статьями, сходите на хорошую лекцию от хороших ребят⬇️
За последний год уже пара моих знакомых вне-AI интересовались тем, как сделать LLM-систему, которая могла бы точно отвечать на вопросы на основе какого-то набора данных (например, LLM, которая выдавала бы инфу из базы данных email'ов). Насколько я понимаю, такие вещи можно сделать на основе RAG, но надо постараться, чтобы действительно хорошо работало

(а я скоро напишу про что-то связанное с рисерчем, обещаю, точно-точно)

Ванильный RAG не работает. Как исправить?

RAG — один из самых популярных подходов для интеграции LLM в реальные продукты. Его выбирают, когда нужно давать точные, верифицируемые ответы на основе собственной базы знаний. Но на практике такие решения почти никогда не работают «из коробки»: вместо полезных ответов — галлюцинации, поверхностные обобщения или просто тишина.

Причин много: эмбеддер не улавливает смысл запроса, поиск не находит нужные документы, генератор не может извлечь то, чего нет в извлеченном контексте. А когда всё ломается — непонятно, с чего начать: тюнить эмбеддер? дообучать генератор? улучшать данные?

В этот четверг команда Deepschool проведёт открытую лекцию, на которой разберёт, как в этой системе навести порядок: что действительно влияет на качество ответов, как выстроить пайплайн правильно и превратить RAG из хаотичного набора компонентов в надёжный рабочий инструмент.

На лекции расскажут:
- почему ванильная схема «ретривер + генератор» почти никогда не даёт нужного качества
- с чего начинать улучшения: эмбеддер, поиск, реранкер, генератор, данные или что-то ещё
- какие задачи приходится решать, чтобы RAG действительно работал
- как из разрозненных компонент собрать надежный RAG-продукт

Также на лекции мы представят курс LLM Pro — продвинутую программу, на которой вы научитесь строить системы, которые работают в реальном мире!
А участникам лекции подарят скидки на обучение 🎁

📅 Лекция пройдёт 6 ноября в 19:00 МСК

Регистрируйтесь по ссылке и до встречи на лекции в четверг!
#промо

Выше писала про то, что участвую в составлении ВсОШ по AI (а точнее, со стороны ML составлением задач занимается почти вся команда, которая тренировала школьников на межнар). Олимпиада новая, состоит аж из трех частей: математика, прога и ML, но стандартных протоколов подготовки к ней пока нет (а в некоторых школах/регионах и вообще никакой подготовки может не быть). И мы с другими тренерами подумали, что было бы неплохо организовать такую подготовку, которая была бы онлайн и открыта для всех желающих. Поэтому мы сделали онлайн-курс подготовки к ВсОШ по AI.

Как и олимпиада, курс состоит из трех частей: математика, прога и ML. Части по математике и проге были сделаны специально под ВсОШ (Саша Гущин очень постарался и нашел людей, которые помогли сделать хороший материал), а ML частично взят с нашего курса для подготовки к межнару + частично дозаписан, чтобы закрыть недостающие темы.

Курс уже начинается, так что приходите!

Пост Саши про курс
И еще раз ссылка на сам курс.

Летом мы возили сборную на межнар по AI, который называется IOAI. А кроме него, есть и другая международная школьная олимпиада по AI — IAIO (названия топ, да. Возьми AI, IO, OA, IA, OI, AO, и собери свою олимпиаду)

IAIO проходит 23-29 февраля в Словении, и туда мы тоже повезем команду. Изначально мы хотели сделать отбор в команду в конце декабря, но подача на Шенген теперь может занимать до 60 дней, поэтому отбор приходится делать срочно, уже в эти выходные.

Отбор будет проходить онлайн в 3 дня: 6, 7 и 8 декабря. Устройство этой олимпиады отличается от той, что была летом: в частности, на ней будут задачи на математику, поэтому и в отборе они тоже будут. Вот тут можно посмотреть вариант задач проглого года этой олимпиады, чтобы в целом понять, что примерно там будет. Подробную информацию про то, как проходит отбор и на что нужно обратить внимание, читайте в посте у Саши Гущина (как обычно, главного тренера сборной). Чтобы попасть на отбор, нужно зарегистрироваться тут, дедлайн регистрации — пятница 5 декабря 18:00 МСК