DLStories
15.5K subscribers
311 photos
41 videos
6 files
648 links
Что-то про AI Research и AI образование от Танечки

Сотрудничество/предложения: @atmyre
Download Telegram
Лекция: Как оптимизировать инференс на ноунейм-плате

Всё больше моделей запускаются на конечных устройствах: в телефонах, роботах, колонках, автомобилях, домофонах и т.д. — у всех разные ОС и архитектуры, а значит и свои нюансы инференса моделей. Команда DeepSchool на онлайн-лекции разберёт как раз такой случай из практики с кучей нюансов и их решениями!

Приходите, если вы:
— никогда не ускоряли модели
— ускоряли, но не для эдж-девайсов
— ускоряли для эджей и у вас есть вопросы

🗓 25 сентября, четверг, 18:00 МСК

На лекции узнаете:
① как снизить стоимость инференса на примере автономного автомобиля
② как запустить Vision transformer на плате Texas Instruments
③ о проблемах запуска трансформеров на кастомных платах с NPU
④ про применение прунинга к таким платам

На лекции авторы также представят программу курса "Ускорение нейросетей" и подарят скидки на обучение!

🙋‍♂️Спикеры лекции:
— Александр Гончаренко — CTO ENOT.аi, хэдлайнер курса Ускорение нейросетей
— Тимур Фатыхов — основатель DeepSchool, ex Lead CV Engineer KoronaPay

Регистрируйтесь на лекцию по ссылке!

🎁После регистрации вы получите туториал по использованию TensorRT и OpenVino.

Приходите 25 сентября в 18:00 МСК!
#промо
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1211👍5🤮3
Напомню, что полторы недели назад у нас был вебинар по IOAI, где мы обсудили то, как была устроена олимпиада и какие были задачи. Мы, наконец, выложили запись вебинара на YouTube (в VK тоже осталась запись)

Мы еще сделали отдельный тг-канал IOAI Russia, где будем публиковать все новости/анонсы, связанные с IOAI и некоторыми другими AI-олимпиадами. Там же будет анонс второй части вебинара по IOAI (сюда тоже напишу, но все равно подписывайтесь, там все же будет больше информации, связанной с олимпиадами)
13🥴2
Еще пара апдейтов по IOAI и всеросу по AI:

1. На IOAI открылся call for tasks — сбор задач в лонг-лист олимпиады на 2026 год. Присылать идеи задач может кто угодно, подробнее про то, какие должны быть задачи и куда писать — на официальном сайте. Еще с этого года в International Scientific Committee (комитет олимпиады, который отвечает за отбор задач) входит Александр Дьяконов, который когда-то в 2024 году организовал подготовку первой российской сборной на IOAI
Присылайте задачи, короче, сделайте так, чтобы они все в этот раз были интересные, а не вот это вот что было в 2025 🙃

2. CS Space совместно с ФКН и ШАД проводят турнир по математике и AI для школьников 9-11 классов. Если собираетесь участвовать во ВсОШ по AI, то этот турир — хорошая возможность потренироваться. Обещают задачи по теории вероятностей, теоретической информатике, программированию и машинному обучению.
Турнир командный (по 2 человека в команде), первый тур — онлайн (12 октября), второй — очно в Петербурге и Москве (19 октября). Обещают призы) Подробнее о турнире — в посте CS Space и на сайте. Регистрация тут.
Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥176😁1
DLStories
Наконец выложили лекцию Хинтона "Two paths to Intelligence", которая была в Royal Institution в Лондоне 30 мая (я ходила на нее и писала об этом посты вот тут). Напомню, что лекция была про две основные темы: цифровой vs аналоговый интеллект и риски AI Выложили…
Выложили лекцию про AI в математике от Yang-Hui He: Mathematics: The rise of the machines (название-то какое, а)

В качестве затравки к просмотру:
- Yang начинает с краткой истории AI, и рассказывает, как и когда вообще появился термин "Artificial Intelligence". Спойлер: термин "computational intelligence" просто не звучал достаточно круто 🙃
- Еще Янг рассказывает, как в мае 2025 года ездил в Berkeley, где собрали несколько ведущих математиков мира и предложили им собрать четвертую итерацию бенчмарка FrontierMath для LLM. Бенчмарк состоит из ~50 математических задач, которые составители "предложили бы решить коллеге, сильному PhD студенту или постдоку". Говорит, результаты LLMок оказались выше ожидаемых — GPT5 (которая сейчас лидирует в рейтинге) корректно решает уже 4 из них. 4/50 звучит, может, мало, но задачи действительно сложные и из самых разных разделов математики. Примеры задач из бенчмарка можно найти тут
Please open Telegram to view this post
VIEW IN TELEGRAM
12🔥8👍1
И еще про тему AI in Mathematics: кажется, эта тема в последнее время становится очень популярной. Хотя, наверное, неудивительно: прогресс в AI дошел до достаточного уровня, чтобы применениями AI заинтересовались в совершенно разных областях, и чтобы AI реально мог поспособствовать прогрессу в этих самых областях. Конкретно в математике, на мой взгляд, популярной тему AI делает еще то, что AI стал успешно решать математические задачи, и что известные математики вроде Terence Tao много стали говорить про применение AI в исследованиях.

Так вот. Есть такой проект — CayleyPy. Это библиотека с AI-методами для поиска путей в графах Кэли с огромным числом вершин. Проект существует около полутора лет, и у него уже есть три стати. Одна из них про нахождение кратчайших путей в графе состояний кубика Рубика недавно была принята на NeurIPS и получила spotlight — то есть, вошла в топ-3% принятых статей (честно — завидую прям). В статье авторы показали, что CayleyPy эффективно находит более короткие пути решения для кубика размеров 3x3x3, 4x4x4 и 5x5x5, чем любые другие существующие автоматические способы поиска решений . Две другие статьи проекта — вот и вот. В последней статье уже исследуются произвольные графы Кэли

CayleyPy делается отчасти краудсорсингом, и в проекте можно поучаствовать. Если вам интересно такое применение AI, и у вас есть знания Python и свобоодные хотя бы 2-3 часа в неделю — пишите Александру Червову, координатору проекта. Знания математики/RL/ML будут плюсом, но, говорят, не обязательно.
Более подробные вводные и общий роадмап проекта — в этом файле.
👍2314🔥74😍2
И еще пр AI в математике — у Nebius Academy на эту тему недавно вышел целый курс!
Курс был очно в США и Израиле, уже закончился, но, возможно, будет еще в Лондоне. Если будет, то обязательно напишу (и, если вдруг будет время, схожу на него сама, хотя в эт верить довольно наивно). Но материалы курса доступны на GitHub: там есть презентации к лекциям, семинарские ноутбуки с пояснениями и домашние задания. Стас еще обещал выложить туда же lecture notes, так что по такому набору вполне уже можно будет учиться.
Nebius вообще планируют предлагать материалы этого курса преподавателям ВУЗов, чтобы они у себя в университетах вели подобные курсы на основе этих материалов. Если вы хотели бы стать таким преподавателем — пишите Стасу)
50🤮9👍6🤡3
Пока я тут зашиваюсь со статьями, сходите на хорошую лекцию от хороших ребят⬇️
За последний год уже пара моих знакомых вне-AI интересовались тем, как сделать LLM-систему, которая могла бы точно отвечать на вопросы на основе какого-то набора данных (например, LLM, которая выдавала бы инфу из базы данных email'ов). Насколько я понимаю, такие вещи можно сделать на основе RAG, но надо постараться, чтобы действительно хорошо работало

(а я скоро напишу про что-то связанное с рисерчем, обещаю, точно-точно)
17👏2
Ванильный RAG не работает. Как исправить?

RAG — один из самых популярных подходов для интеграции LLM в реальные продукты. Его выбирают, когда нужно давать точные, верифицируемые ответы на основе собственной базы знаний. Но на практике такие решения почти никогда не работают «из коробки»: вместо полезных ответов — галлюцинации, поверхностные обобщения или просто тишина.

Причин много: эмбеддер не улавливает смысл запроса, поиск не находит нужные документы, генератор не может извлечь то, чего нет в извлеченном контексте. А когда всё ломается — непонятно, с чего начать: тюнить эмбеддер? дообучать генератор? улучшать данные?

В этот четверг команда Deepschool проведёт открытую лекцию, на которой разберёт, как в этой системе навести порядок: что действительно влияет на качество ответов, как выстроить пайплайн правильно и превратить RAG из хаотичного набора компонентов в надёжный рабочий инструмент.

На лекции расскажут:
- почему ванильная схема «ретривер + генератор» почти никогда не даёт нужного качества
- с чего начинать улучшения: эмбеддер, поиск, реранкер, генератор, данные или что-то ещё
- какие задачи приходится решать, чтобы RAG действительно работал
- как из разрозненных компонент собрать надежный RAG-продукт

Также на лекции мы представят курс LLM Pro — продвинутую программу, на которой вы научитесь строить системы, которые работают в реальном мире!
А участникам лекции подарят скидки на обучение 🎁

📅 Лекция пройдёт 6 ноября в 19:00 МСК

Регистрируйтесь по ссылке и до встречи на лекции в четверг!
#промо
24👏7👍4👎4🤡4
Написала выше, что "зашиваюсь со статьями", так вот. Дедлайн на CVPR — 13 ноября, и в середине октября я придумала идею статьи на основе своей прошлой статьи, которую, как мне казалось, будет несложно сделать за пару недель. Так как ту часть рисерча, когда надо ставить кучу экспериментов, писать код тестов, рисовать графики, писать текст статьи и делать картинки я не особо люблю, я продала идею статьи другому PhD студенту и мы стали ее делать

Теперь я чувствую себя прям как на этом меме 🫠 Когда начала идею реализовывать, выяснилось, что вот тут есть нюанс, а потом надо бы это все обобщить для вот этих разных случаев, а потом надо убедиться, что все работает для 4 разных моделей, а теперь почему-то не работает тут, хотя должно, поэтому надо два дня думать, тестировать гипотезы, и потом поменять в итоге кусок пайплайна, из-за которого перегенерировать все заново

К дедлайну я, вроде бы, успеваю, но мне потом надо будет неделю отпуска, видимо 🚬 За последние 2.5 недели я так упоролась по этой статье, что забила на практически все остальное в жизни. Продолбала пару дедлайнов, не выполнила пару обещаний.
Вообще я в таком режиме живу уже месяца три, до ICLR (дедлайн был в конце сентября) со статьями было примерно так же

Welcome to PhD research, когда ты еще и becomes easily obsessed (это я). Ну и я в последнее время уже очень хочу закончить, наконец, этот PhD, а для этого нужны хорошие статьи.

P.S. Все обещала написать про статьи, но напишу, когда (если) на них придут нормальные ревью
Please open Telegram to view this post
VIEW IN TELEGRAM
78👍22💯5🦄1💊1
Выше писала про то, что участвую в составлении ВсОШ по AI (а точнее, со стороны ML составлением задач занимается почти вся команда, которая тренировала школьников на межнар). Олимпиада новая, состоит аж из трех частей: математика, прога и ML, но стандартных протоколов подготовки к ней пока нет (а в некоторых школах/регионах и вообще никакой подготовки может не быть). И мы с другими тренерами подумали, что было бы неплохо организовать такую подготовку, которая была бы онлайн и открыта для всех желающих. Поэтому мы сделали онлайн-курс подготовки к ВсОШ по AI.

Как и олимпиада, курс состоит из трех частей: математика, прога и ML. Части по математике и проге были сделаны специально под ВсОШ (Саша Гущин очень постарался и нашел людей, которые помогли сделать хороший материал), а ML частично взят с нашего курса для подготовки к межнару + частично дозаписан, чтобы закрыть недостающие темы.

Курс уже начинается, так что приходите!

Пост Саши про курс
И еще раз ссылка на сам курс.
30🔥13❤‍🔥4
Летом мы возили сборную на межнар по AI, который называется IOAI. А кроме него, есть и другая международная школьная олимпиада по AI — IAIO (названия топ, да. Возьми AI, IO, OA, IA, OI, AO, и собери свою олимпиаду)

IAIO проходит 23-29 февраля в Словении, и туда мы тоже повезем команду. Изначально мы хотели сделать отбор в команду в конце декабря, но подача на Шенген теперь может занимать до 60 дней, поэтому отбор приходится делать срочно, уже в эти выходные.

Отбор будет проходить онлайн в 3 дня: 6, 7 и 8 декабря. Устройство этой олимпиады отличается от той, что была летом: в частности, на ней будут задачи на математику, поэтому и в отборе они тоже будут. Вот тут можно посмотреть вариант задач проглого года этой олимпиады, чтобы в целом понять, что примерно там будет. Подробную информацию про то, как проходит отбор и на что нужно обратить внимание, читайте в посте у Саши Гущина (как обычно, главного тренера сборной). Чтобы попасть на отбор, нужно зарегистрироваться тут, дедлайн регистрации — пятница 5 декабря 18:00 МСК
18😁8😱3
Сегодня я в Стамбуле, потому что меня позвали гостем на Yandex Cup. Не уверена, зачем именно я тут нужна, но слетать бесплатно в Стамбул я явно не против) Как дали бейдж, выяснилось, что я медиа (фото 5), и все коллеги по тг-каналам, которые тут, уже про ивент написали, поэтому решила вот тоже написать.

Отчёт, что произошло к этому часу: встретила тут нескольких знакомых (например, Лаиду), впервые увиделась с другими людьми, с которыми давно была знакома онлайн (Борис и Артем), встретила двух участников нашей команды с августовского межнара, и ещё несколько школьников, которые были весной не отборе (они пишут Yandex Cup по ML). Несколько раз вкусно поела (после Лондона — это прямо кайф), и успела пожалеть, что не взяла купальник, потому что тут есть бассейн с подогревом под открытым небом прямо у Босфора 😍
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
63👍14🔥6
This media is not supported in your browser
VIEW IN TELEGRAM
Первое и второе места в Junior ML треке — Костя Сигалов и Андрей Хлопотных — двое из членов нашей сборной на августовском межнаре IOAI 🎉

Я их учила, прикиньте! Хотя не уверена, что конкретно я научила их чему-то полезному)))
Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥9828❤‍🔥13🍾4
Один из главных смыслов конференций и митапов — это общение. На конференции всегда интересно поймать спикера и подробнее расспросить про слайды, попросить поделиться опытом. Иногда можно наткнуться на подход, о котором даже не думал, глубже заглянуть в тему, а иногда — разговориться и найти родную душу с теми же проблемами 🫂.

Выбраться на конференцию получается нечасто, а иметь возможность узнать и поспрашивать про опыт людей хотелось бы почаще. Поэтому ребята из DeepSchool сделали канал, который каждую неделю ведет новый человек из мира Data Science. Он рассказывает про свою область и домен, свой карьерный путь и интересные истории. А в комментариях можно обсуждать и спрашивать вопросы — почти как на конференции, только идти никуда не надо.

Уже больше 20 человек рассказало о своём опыте. Заглядывайте в канал!
#промо
Please open Telegram to view this post
VIEW IN TELEGRAM
19🔥5🍌1