Figure наконец анонсировали новое поколение своего робота: того самого, которого они разрабатывали совместно с OpenAI. Вот что пишут:

➡️Может свободно общаться в режиме speech2speech (спасибо gpt-4o)
➡️6 встроенных камер с системой компьютерного зрения
➡️Руки с 16 степенями свободы и силой, равной человеческой
➡️На 50% больше времени без зарядки за счет бодрого аккумулятора
➡️Вычисления в 3 раза быстрее, чем у прошлого поколения

Домой такого надо? 🤖

🤗 Вышла обновленная версия библиотеки transformers от HuggingFace

▪️Добавили Gemma 2, Codestral и Nemotron
▪️ Оптимизированный Supervised файнтюнинг
▪️ Наконец-то целостная сквозная компиляция, теперь от трех до пяти раз быстрее
▪️ Возможность выгружать кэш в процессор (для GPU poor 😋)
▪️ И torch export для статического кэша

Все подробности и примеры в репозитории

🚀 Теперь от API OpenAI можно получать нормальные структурированные JSON

Напоминаем, что режим JSON работает уже примерно год, однако заявленному формату выходы моделек соответствовали менее, чем в половине случаев. В обновленной версии gpt-4o-2024-08-06 такой проблемы больше нет: в 100% тестов ошибки в формате отсутствуют. Код и туториал по использованию фичи лежит тут.

Просто отличная новость для разработчиков и тех, кому нужна хорошая разметка данных

⚙️ Бум! PyTorch представил FlexAttention: новый API, который поможет реализовывать разные варианты внимания всего несколькими строками кода

Теперь можно реализовать, например, causal mask, AliBi или sliding window, просто изменяя параметр score_mod, который меняет скор перед софтмаксом.

Со стороны юзера – это несколько строк кода, но скомпилированы они так бодро, что по производительности сравнимы с кастомным ядром Triton.

Примеры кода и больше подробностей в блогпосте

Альтман подтвердил, что GPT-5 выйдет через месяц

Он запостил в твиттер фото ровно 5 клубник. А ведь Strawberry – это название того самого проекта OpenAI. Земляника созревает примерно 4 недели, значит все сходится. GPT-5 выйдет через месяц 😉

Инфа 100%

Любимое: исследователи из университета Джорджии и IBM подарили миру новый интерактивный Transformer Explainer

Это наглядная визуализация того, как работает трансформер под капотом, причем прямо в браузере. Можно менять входы и параметры и наблюдать поэтапно, как все это проходит через сеть. Короче, если до сих пор вы не понимали, как на самом деле предсказывается следующий токен, но с этой тулзой точно преисполнитесь. А заодно и позалипаете 😉

Поиграться с самим инструментом можно вот здесь. Кстати, ко всему прочему ресерчеры еще и статью про него выкатили.

Ну как же это красиво

Тем временем инженеры Google DeepMind в пятницу вечером играют в настольный теннис с роботом. А вы что делаете? 👀

А вот, кстати, только что вышедшая статья про то, как они этого робота в теннис играть учили. Спойлер: у людей он выигрывает уже больше половины матчей.

А вот вам еще одно развлечение на выходные: игра «Что изображено на графике» от Александра Дьяконова

Суть проста: на слайдах изображены графики, но без названий и подписей к осям. Нужно включить свое аналитическое мышление и угадать, что изображает диаграмма. Ответы и подсказки включены.

Всего таких головоломок 60 штук. Можно использовать с друзьями вместо настолок 🫠

OpenAI, возможно, запустила в Твиттер свою модель под видом живого человека, чтобы разжигать хайп вокруг своих новостей

Аккаунт называется @iruletheworldmo и пользователи уже давно подозревают, что с ним что-то неладное. Смотрите:

⚪️ Аккаунт всегда почти моментально реагирует на все новости от OpenAI, твиты об OpenAI, твиты Альтмана и тд,

⚪️ Даже оформление аккаунта меняется под новости. Например, сейчас в шапке стоит фото земляники, которое недавно твитнул Альтман, на аватарке кадр из фильма Она, а вместо имени – 🍓🍓🍓

⚪️ При этом на другие громкие новости аккаунт не реагирует, но зато часто отвечает на непопулярные твиты об OpenAI.

⚪️ Твиты у него без цензуры, но про политику он все равно не говорит, отшучивается. Кроме того, аккаунт всегда бездействует, если есть какие-то громкие новости, на которые все отвлечены.

⚪️ Иногда вбрасывает пасхалки прямо перед анонсами от OpenAI

⚪️ Самостоятельно, а не в ответ, твитит очень мало и невпопад.

⚪️ И что вообще обозначает это загадочное «mo» в конце ника? Не похоже ли это на то, как OpenAI шифрует свои свежие модели на LMSYS арене?

Если предположения верны, это действительно очень сильная по-человечески умная модель, а значит OpenAI опять обогнали время. Ну…. только если за аккаунтом не стоит какой-нибудь профессиональный троль 😁