Учёные из команды Yandex Research вместе с коллегами из австрийского института ISTA разработали новый способ сжатия и ускорения нейросетей: Additive Quantization of Large Language Models, или просто AQLM. А потом придумали алгоритм PV-Tuning, который помогает повысить качество работы сжатых моделей.
Комбинация этих технологий — первый шаг к тому, чтобы современные LLM помещались в непроизводительные устройства: смартфоны, умные колонки и другие гаджеты — даже без подключения к сети.
Как работают новые методы, обсудили с резидентами Yandex Research Ваге Егиазаряном, Денисом Кузнеделевым и Владимиром Малиновским — листайте карточки.
Подробное описание — в статьях:
Vage Egiazarian, Andrei Panferov, Denis Kuznedelev, Elias Frantar, Artem Babenko, Dan Alistarh
Vladimir Malinovskii, Denis Mazur, Ivan Ilin, Denis Kuznedelev, Konstantin Burlachenko, Kai Yi, Dan Alistarh, Peter Richtarik
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥30❤9👍8
Когда мы решили научить колонку лучше понимать людей с нарушениями речи, то оказалось, что датасетов для подобного обучения просто не существует! Для сбора данных пришлось запустить отдельный проект и позвать на помощь специалистов: команду инклюзии Яндекса, шесть профильных фондов и логопедов.
Благодаря их поддержке мы смогли собрать датасет из голосовых запросов более 330 людей с трудностями в речи, разметили его и в два этапа дообучили на нём модели. Теперь Алиса понимает речь с тяжёлой формой нарушения звукопроизношения даже лучше человека!
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
❤25👍11🔥8
Уже завтра — главная конференция Яндекса по плюсам. Практикующие разработчики прочитают доклады с реальными кейсами и метриками. Подключайтесь к трансляции:
Мы возвращаемся в самую карьерную соцсеть! Сосредоточимся на технических темах, продуктовых запусках, HR-кейсах, образовательных материалах и дайджестах с вакансиями.
Наше решение сокращает расходы на вычислительные ресурсы до восьми раз — и всё это без значимого снижения качества ответов. Вот здесь рассказываем в карточках, как всё устроено.
Это первая аспирантская программа по практическому применению ИИ. Каждый год студенты будут получать гранты по 800 тысяч рублей на создание и внедрение своих решений в индустрию.
Мы собрали сотни тысяч аудиозаписей людей с речевыми особенностями и дообучили на них нейросеть. Теперь Алиса лучше распознаёт запросы людей с заиканием, ДЦП, последствиями инсульта или травмы.
YTsaurus — наш внутренний инструмент, который в марте 2023 года вышел в опенсорс. Павел Сушин рассказал, какие ограничения архитектуры нужно преодолеть, чтобы вырасти с 200 до 20 000 хостов.
Дмитрий Баранчук из команды Yandex Research рассказал, как правильно искать и читать научные статьи. Какие инструменты использовать, что важно знать о структуре и как сравнивать публикации.
Руководитель блока «Интранет» Лёша Сидорин рассказал, как создавался Random Coffee в Яндексе. Обычно такие сервисы не взлетают, поэтому нужно было создать технологию, которая находит идеальный мэтч двух сотрудников.
В гостях Сергей Кольцов, руководитель core-команды Flutter-разработки в Яндекс Про. Поговорили с ним про догфудинг, виртуальный мир для тестирования автономных такси и будущее Flutter.
В Яндекс Образовании показали, как AI-тренеры улучшают нейросети. История о том, как Алиса научилась писать рэп про JavaScript, создавать фанфики про Гарри Поттера и элегантно отвечать на оскорбления.
В новом выпуске подкаста «Безопасно говоря» ребята обсуждают, как снизить риски атак через цепочки поставок и безопасно работать с опенсорсом и подрядчиками.
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
❤12👍9🔥2
Однажды Александр Кротов из поисковой инфраструктуры Яндекса увидел, как робот из MIT решает пазл за 0,38 секунды, — и понял, что может сделать устройство ещё быстрее. На тот момент Александр ничего не знал про моторы-сервоприводы, валы и редукторы, но так загорелся идеей, что принялся за работу. Спустя время и несколько неудачных прототипов у него всё получилось, даже несмотря на ошибки. А их было много. Очень много.
P. S. Иронично, но сам Александр всё ещё не умеет собирать кубик Рубика.
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
👍32🔥17❤15☃2
В программе — доклады экспертов о продуктовой разработке и нетворкинг с атмосферой гранжа. Более 10 интерактивных площадок, IT-казино и вечеринка с выступлениями победителей музыкального конкурса.
Разберём решения победителей ML-соревнований и попробуем справиться с парой задач на практике. Ждём начинающих и опытных ML- и DS-разработчиков и студентов профильных направлений.
Конференция по трём сферам: разработке, дизайну и управлению. Выступления на стыке профессий, нетворкинг, карьерные центры и афтерпати на крыше!
Мы научились использовать нашу нейросеть для реставрации архивной кинохроники. Уже есть первый кейс применения технологии: работа с видеоматериалами для нового сериала Кинопоиска «Игры».
Его разработал и собрал наш сотрудник Александр Кротов из поисковой инфраструктуры Яндекса. Он же написал всю программную часть. В статье на Хабре — история про робота, который стал почти в два раза быстрее аналогичного устройства из MIT.
Не могли обойти эту тему стороной. Это статья на Хабре от внешнего автора: в ней показывают, где прячется механизм замедления, и ищут способы его обхода. Конечно же, исключительно в исследовательских целях.
Это ещё один пост из серии рассказов о C++ в Яндексе. Мы поговорили с тимлидом команды почтовых сервисов Кириллом Григорьевым о метабазе, переходе с Perl и архитектуре. И собрали карточки из его ответов.
На канале Yandex for Products будут выходить подборки полезных лекций, мастер-классов и дискуссий с мероприятий прошлых лет. В первом выпуске собрали часть материалов со Школы менеджеров Яндекса 2023.
Это выступление Александра Афенова на Yet Another Level: TeamLead. Внутри — история о двух вымышленных персонажах, каждый из которых по‑своему решает типовые проблемы начинающего менеджера.
Это подкаст «Между строк кода», гостем которого стал Андрей Якушев. Сейчас он лид в одной из команд iOS-разработки приложений «Яндекс с Алисой» и «Яндекс Браузер», а когда-то строил собственный бизнес. Андрей рассказал, чем различаются управление в своём деле и в найме.
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
❤11👍6🔥3
Представьте: вам дали шанс перенестись на много лет назад и заново получить образование, пройти стажировку и податься на первую работу. И при этом сохранить все знания о жизни, индустрии и себе.
Кем бы вы были? Пишите в комментариях, чем занимаетесь сейчас и чем хотелось бы заниматься в параллельной вселенной в случае перезапуска своей карьеры (а то и вообще жизни) с нуля.
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
🗿14❤4👍4🔥3👾2☃1🦄1
This media is not supported in your browser
VIEW IN TELEGRAM
IT stand-up — место, где технари шутят над тем, от чего у них пригорает. И смеются над этим, потому что жиза. Руководители и специалисты из топовых IT-компаний становятся рок-звёздами и зажигают на сцене!
До этого наши герои не занимались стендапом, а в начале июля выступили перед аудиторией, большей, чем бывает у профессиональных комиков. Так что это не просто смело — это жесть как смело.
Своими историями поделились:
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥19🗿10❤8👍6
Как прошёл новый Yet Another Level? Отлично!
📎 О чём говорили:
В этот раз мы подготовили программу для начинающих тимлидов. Спикеры рассказали, как заслужить доверие команды, работать с ожиданиями руководителей и найти свой карьерный путь.
👀 Мы собрали:
🔴 Офлайн — 135 гостей
🔴 Онлайн — более 3500 просмотров
✅ Что ещё было:
🔴 Устроили розыгрыш среди участников: подарили им бесплатные онлайн-консультации от спикеров и другие памятные подарки от Яндекса
🔴 Провели несколько активностей: кроссворд с призами, бинго тимлида, Fruit Ninja с реальными фруктами и нетворкинг
➡️ Смотрите записи докладов с этого и прошлых Yet Another LeveL.
➡️ А если были офлайн, ищите себя на фоточках! (Бонусом слайды спикеров)
🎈 Рады видеть вас в нашем сообществе тимлидов!
⭐️ Если у вас оформлен Telegram Premium, поддержите наш канал по ссылке
Подписывайтесь:
💬 @Yandex4Developers
В этот раз мы подготовили программу для начинающих тимлидов. Спикеры рассказали, как заслужить доверие команды, работать с ожиданиями руководителей и найти свой карьерный путь.
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥15❤6👍6🗿1
14 сентября в Москве и онлайн пройдёт хардовая конференция для экспертов по машинному обучению. Внутри: качественные технические доклады от ключевых инженеров, максимум пользы и знаний о практическом применении ML в реальных продуктах.
Рассказываем о первых заявленных спикерах Practical ML Conf 2024:
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
❤15👍6🔥2🗿1
This media is not supported in your browser
VIEW IN TELEGRAM
Обсудили это в новом выпуске подкаста «Как мы делаем Yandex Cloud» с Андреем Фомичёвым, руководителем и одним из основателей проекта YDB.
Андрей рассказал, как ребята строили свою СУБД в период экспоненциального роста компании 10 лет назад и как встраивали её в Yandex Cloud, а главное, почему решили зарелизить исходный код в общий доступ.
Это подкаст о том, как мы делаем Yandex Cloud. Выпуск будет интересен инженерам и разработчикам, которых вдохновляет история создания системы управления базами данных с нуля. А ещё тем, кто ищет новые инструменты для своих задач.
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
❤11👍7🔥4
Multitrack — это наша программа адаптации для опытных разработчиков. Вот как она устроена:
Это отличная возможность познакомиться с технологиями, процессами и потенциальными коллегами — и выбрать команду, которая подходит именно вам.
Мы ищем:
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
❤13👍8🔥8👾2🦄1
Мы стали партнёром мероприятия и организуем там свою зону — Y-garden. Разные сервисы Яндекса представят свои технологии и разработки, а посетители смогут узнать о них больше в интерактивном формате.
Вот часть активностей в Y-garden:
Будут активности от Яндекс Погоды, а роботы-доставщики займутся развозом напитков и встретят гостей на входе!
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7❤5🔥5🗿3🐳1👾1
В подкасте I like techno сотрудники Яндекса рассказывают о технологиях в Такси, Маркете, Еде, Лавке, Доставке и Техплатформе.
В этот раз эпизод в необычном формате: это не просто разговор, а настоящее менеджерское интервью HRD Екома с СТО Еды и СТО Лавки. Выяснили, как развивать руководителей и увеличивать эффективность работы команды, с какими трудностями сталкиваются СТО и что учитывают в Яндексе при оценке сотрудников.
Эксперты эпизода:
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥13❤4👍3☃2
17 августа в Москве пройдёт семейный фестиваль для опытных ИТ-специалистов. На пикнике гостей ждут лекции, интерактивы для детей и взрослых и музыка. Если вы будете на пикнике — заглядывайте, мы приготовили для вас кое-что особенно!
🏖 Забегайте в Яндекс Песочницу — это шатёр неподалёку от нашего 6-метрового робота-доставщика, мимо не пройдёте! Здесь территория творчества и экспериментов: можно запустить сервисы Яндекса в песочном городе, заняться сёрфингом по Нейро, сыграть в сотки, раскрасить футболку. И это ещё далеко не все активности.
А среди выступающих будут и наши спикеры:
Кстати, в программном комитете пикника — Денис Озорнин, CPO Алисы в Яндексе.
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥22
Здесь обсудят главные новости конференции International Conference on Machine Learning, которая прошла в Вене в этом июле. Спикеры расскажут про компьютерное зрение, обучение с подкреплением, обработку естественного языка и рекомендательные системы.
Новая версия ПО будет полезна в первую очередь тем, кто подключает колонку к телевизору. Теперь Станция Макс работает на операционной системе YaOS X, имеет обновлённый интерфейс и новые возможности для поиска и просмотра видео.
Поиск и Браузер теперь могут распознавать ролики с медленной загрузкой и сразу предлагать посмотреть их на других сайтах. Если точно такого же видео нет, сервис предложит найти похожие ролики на разных площадках.
Это карточки по мотивам доклада Ильи Бирмана, арт-директора Бюро Горбунова, на «Я 💛 Фронтенд 2024». Илья показал, как кнопки, слайдеры, выпадайки и прочие контролы делать нужно, а как ни в коем случае нельзя — и в чём заключается разница.
Это статья Евгения Антонова, ведущего технического менеджера проектов в Yandex Infrastructure. В ней он делится основными трудностями онбординга, которые заметил на своём опыте, и предлагает варианты их решения.
В статье дан алгоритм для максимально быстрого вычисления безумно далёких позиций числа Фибоначчи с помощью кода на C++. Например, 10-миллиардное число авторское решение считает за 1 минуту и 12,879 секунды, а файл с ответом весит 1,7 Гб.
Михаил Дымсков совмещает должность тимлида в техподдержке Yandex Cloud и сан священнослужителя. Батюшка рассказал, как дружеский спор с женой привёл его в IT-сферу, а эмпатия и Linux помогли в ней остаться.
Евгения Куйда рассуждает о неизбежности эмоциональной привязанности к ИИ-существам, сфере применения чат-ботов и будущем понятий дружбы, любви и близости. I’m pretty sure that by 2025, we’ll see experiences that are very close to what we saw in the movie Her…
Это выступление Гагика Сукиасяна, Group Sr. Manager в Software Engineering Adobe, на митапе Change Matters от Armenian Code Academy в офисе Яндекса в Ереване. Гагик рассказал, как бороться с сопротивлением и стимулировать внедрение изменений.
Это интервью HRD Екома Олеси Гуржий с двумя СТО — Еды и Лавки. Выяснили, как развивать руководителей и увеличивать эффективность работы команды, с какими трудностями сталкиваются СТО и что учитывают в Яндексе при оценке сотрудников.
Здесь гости разобрали решения победителей ML-соревнований. А ещё послушали доклады о том, как доставать ответы из финансовой отчётности, обучать трансформеры и побеждать на соревнованиях, используя лик в данных.
Подписывайтесь:
Please open Telegram to view this post
VIEW IN TELEGRAM
❤12🔥5☃2👍2