Формат harmony для gpt-oss и с чем его едят

Мы тут на выходных продолжаем копаться в gpt-oss и решили рассказать вам о том, что такое harmony.

Во-первых, самое важное: без формата harmony gpt-oss работать не будет. Точнее будет, но выдаст белиберду, потому что обучен был только на harmony.

Во-вторых, harmony – это не совсем токенизация, как много где упоминается. Это именно формат сообщений, то есть структура с ролями, тегами и каналами.

Наверху пример того, как это выглядит.

⚪️ Есть роли (system, developer, user, assistant и tool). Например, system – это системный промпт. Tool – это результат вызова инструмента. Если возникает конфликт инструкций, то system > developer > user > assistant > tool.

⚪️ Есть каналы: final (основной ответ), analysis (цепочки мыслей), commentary (преамбулы к tool call’ам).

⚪️ Ну и теги (aka специальные токены) типа start, end, call, channel и др. Каждое сообщение структурируется примерно так:

<|start|>{роль}<|channel|>{канал}<|message|>{контент}<|end|>

Что касается токенизации: да, она должна быть совместима с harmony, но harmony – это не алгоритм токенизации. А в качестве алгоритма используется tiktoken. Для того, чтобы все работало правильно, OpenAI сделали для него специальный режим o200k_harmony. Разница только в лексемном словаре, но не в подходе.

На практике все очень просто. Проговорим кратко:

– Если запускаете модель через готовых интеграторов (HuggingFace, Ollama и тд), все форматирование будет выполнено автоматически

– Если запускаете через свои скрипты или торч, форматировать надо вручную. Для удобства OpenAI выпустили специальную либу openai-harmony

– С дообучением то же самое: датасет должен быть в формате harmony, здесь также используем openai-harmony

А теперь главное: зачем OpenAI harmony?

Тут все довольно очевидно. Это стратегический ход.

Если все в опенсорс сообществе перейдут на Harmony, он станет единым стандартом для диалогов и агентов, как когда‑то API OpenAI стало общим форматом работы с моделями.

А кто определяет формат — тот и заказывает музыку: все агенты пишутся под Harmony, OpenAI укрепляется на рынке даже за пределами своих моделей, а разработчиков легко переводить с open‑source на коммерческие продукты компании, потому что переписывать ничего не нужно.

Вот так как-то

Документация тут, если что

Осознали тут, что новый учебный год начинается уже через три недели 😎

Интересно, много среди нас тех, кто поступил в этом году в ШАД, AI Masters и ML магистратуры? Делитесь ожиданиями.

Если есть те, кто пока только собирается пробоваться – удачи! Сейчас самое время настроиться на следующий набор и спланировать подготовку на год вперед.

А как это правильно сделать – расскажет на бесплатном вебинаре лучшая школа по подготовку к ШАДу Shad Helper.

Они готовят студентов уже 6 лет, а ведут у них преподаватели из МГУ, МФТИ и ВШЭ. Главная ценность их курсов – в комплексной последовательной подготовке. И да, у них учиться тоже сложно. Зато вступительные куда угодно потом пройдете запросто.

Так вот, 13 числа они проведут вебинар и детально обсудят, что надо знать, как спланировать подготовку и обойти подводные камни. И, конечно, подробнее расскажут про свой новый курс по подготовке к ШАДу и другим программам.

Вишенка: нашим подписчикам на этот курс доступна скидка 30% на первоначальный взнос. Забирайте промокод: DS30.

➖ Регистрация на вебинар
➖ Больше информации про курс по подготовке к ШАД

Для студентов и начинающих ML/DS спецов (если планируете долгую успешную карьеру) – мастхэв.

Исследователи из Пекина предложили алгоритм поиска кратчайших путей, который обходит Дейкстру

Почти 70 лет ученые пытались сломать барьер сортировки для этой задачи. В данной работе это получилось впервые. Разбираемся ⬇️

Классический Дейкстра устроен так: мы храним вершины в приоритетной очереди и итеративно выбираем ближайшую, проверяя рёбра и обновляя расстояния, если путь через текущее ребро короче. Узкое место тут как раз в необходимости постоянно поддерживать упорядоченность большой очереди вершин.

Из-за этой упорядоченности и возник так называемый «барьер сортировки». Считалось, что перебить его невозможно.

Но вот, что сделали авторы тут:

1. Делим задачу на подзадачи с ограничением по максимальному расстоянию, до которого считаем пути.
2. Сжимаем «фронтир»: из вершин на границе уже найденных путей оставляем только небольшое число ключевых (пивотов).
3. Рекурсивно обрабатываем только пивоты и их ближайшие вершины, избегая полной сортировки.
4. Для остальных вершин добиваем расстояния несколькими шагами по всем рёбрам (метод в духе Беллмана–Форда).
5. Повторяем процесс, постепенно уточняя расстояния до всех вершин.

Итого, сложность Дейкстры – O(m + n log n), а BMSSP – O(m log^(2/3) n). Во втором случае логарифм растет заметно медленнее.

Что это все значит для ML? Может показаться, что ничего. Но на самом деле алгоритм Дейкстры вездесущий. Например:

– В графовых нейросетях на основе расстояний между вершинами часто вычисляются самые важные фичи.
– Для всяких ML-алгоритмов для логистики просто незаменимо.
– И даже в RL есть применение. Например, при обучении роботов среда может быть представлена как граф состояний, в котором оптимальная политика – это кратчайший путь.

Вот так как-то. Исторический день, получается.

Статья полностью тут, почитайте обязательно

Ну все, это кульминация: Nvidia и AMD будут платить Америке за то, чтобы продавать чипы в Китае

Компании пошли на беспрецедентное соглашение с правительством США. Согласно условиям сделки, они обязаны перечислять американским властям 15% своей выручки от продаж в Китае в обмен на получение экспортных лицензий.

Причем даже это – не для любых чипов, а для H20. Они специально были разработаны для китайского рынка и отличаются немного пониженными вычислительной мощностью и коммуникационной способностью.

Их запретили к поставке в апреле, но теперь лицензии снова будут выдавать, но уже за очень жирный процент. Кажется, это и был план Белого дома с самого начала.

За деньги – да 🤑

Исследователи из университета Карнеги-Меллона представили универсальную схему самообучения LLM

Ранее мы уже писали об «Absolute Zero Reasoner» — подходе, где модель сама придумывает себе задачи и решает их, но всё обучение шло только на коде, а проверка ответов была через запуск в интерпретаторе. Там роли Proposer и Solver были симметричны, и награды считались в рамках одного кастомного RL-подхода.

А теперь в свежей работе команда из CMU пошла дальше и предложила метод, который работает не только для кода, но и для задач без автоматической проверки.

Суть простая:
➖ Модель играет две роли — Proposer генерирует задачи, Solver их решает. Оба — это один и тот же LLM, дообучаемый через RL.

➖ В задачах с трудной верификацией (арифметика, алгебра) используется majority vote: модель решает задачу несколько раз, и правильным считается ответ, встречающийся чаще всего.

➖ В задачах с лёгкой автоматической верификацией (код) Proposer сразу генерирует юнит-тесты, а награда Solver определяется долей пройденных тестов.

➖ Proposer получает ревард только за задачи средней сложности — ни слишком лёгкие, ни совсем нерешаемые. Так сложность автоматически подстраивается под текущий уровень Solver'а.

Результат: всего с одной короткой темы в промпте, без единого готового вопроса или ответа, Qwen2.5-3B-Instruct получил +14% на арифметике, +16% на алгебре и +7% на кодинге на независимых тестах.

Сайт | Код | Статья