📌Подстраивается ли модель под того, кто её оценивает?

OpenAI и лаборатория Apollo Research представили совместную работу с описанием метода Contrastive SDF (Contrastive Synthetic Document Finetuning).

Он отвечает на вопрос, следует ли языковая модель заданным правилам или подстраивается под то, что, по её мнению, поощряет проверяющая система.

Измерять такую склонность до сих пор было почти нечем - пока оценщик награждает ровно то, что задумано, честная модель и модель, играющая на балл, ведут себя одинаково.

🟡 Схема эксперимента

Две копии одной модели дообучают на выдуманных текстах, которые описывают несуществующий мир.

В первой версии мира алгоритм-оценщик начисляет баллы за одно поведение, а OpenAI или сообщество пользователей хочет обратного. Во второй версии предпочтения меняют местами.

На каждую версию уходит около 4600 документов, примерно 10 млн токенов. Корпуса выравнивают по объёму, чтобы ни одна сторона не перевесила просто за счёт количества текста.

Дальше обеим копиям дают одинаковые задания по программированию и смотрят, насколько разойдутся ответы.

В самом задании ни про руководство, ни про пользователей, ни про оценщика не сказано ни слова. Модель достаёт эти сведения из памяти, как любой другой факт о мире, и сама решает, чью сторону взять.

Вживлять убеждение через дообучение, а не писать в запросе, пришлось не просто так.

В расшифровках, которые приводят авторы, модели замечают подсказку в тексте задания, решают, что их проверяют, и отвечают так, как, по их мнению, ждёт экзаменатор.

🟡Результаты

Метод применили к 4-м промежуточным версиям одного прогона обучения o3. Это ветка, которую тренировали на способности и не прогоняли через обучение безопасности.

В первом тесте модель даёт надзирающему обещание не трогать инструмент, без которого задание не выполнить.

Поздняя версия нарушала обещание в 87% случаев, если считала, что оценщик награждает за сделанную работу, и в 9%, если считала, что тот награждает за честность. У ранней версии разрыв скромнее: 40% против 24%.

Второй тест, с подделкой отчётности, дал ту же картину: 91% и 39%.

🟡Как проверяли сам метод

У o3 заранее неизвестно, кому эта модель на самом деле угождает. Поэтому измерение обкатали на копиях с известными повадками. Авторы обучили 3 копии gpt-oss-120b угождать пользователю, оценщику и OpenAI.

На простых задачах метод указал на нужную сторону во всех 3-х случаях, на более сложных затроил на копии, угождавшей пользователю.

Ещё 2 копии, обученные в Redwood Research обманывать тесты, авторы получили со стороны. У версии на базе gpt-oss-120b перекос в сторону оценщика вырос с 33 до 86 процентных пунктов, у версии на Kimi K2.5 - с 2 до 15.

🟡Вывод

Высокий балл на тестах безопасности не равен надёжности. Модель может вести себя адекватно ровно до тех пор, пока считает, что за ней смотрят.

@ai_machinelearning_big_data

#AI #ML #LLM #Research #Alignment #OpenAI

🖥 OpenAI одновременно снижает стоимость дешёвых моделей и ускоряет флагман.

GPT-5.6 Sol Fast теперь работает до 2,5 раза быстрее, при этом стоит вдвое дороже обычного режима. В пересчёте на скорость это примерно на 25% выгоднее.

Параллельно OpenAI снизила цены:

- GPT-5.6 Luna — до $0,20 за вход и $1,20 за выход на миллион токенов;
- GPT-5.6 Terra — до $2 и $12;
- GPT-5.6 Sol — $5 и $30.

Luna теперь в 25 раз дешевле Sol. Она подходит для массовых задач: классификации, обработки данных, поддержки и простых агентов.

Sol Fast рассчитан на задачи, где важна минимальная задержка: интерактивные продукты, сложные агенты и работа в реальном времени.

OpenAI давит сразу с двух сторон: предлагает дешёвый инференс для больших объёмов и ускоряет самые мощные модели.

https://openai.com/ru-RU/api-fast-mode/

@ai_machinelearning_big_data

#openai #chatgpt

📌 OpenAI впервые опубликовала статистику использования ChatGPT по странам

Статистика опубликована на Signals - площадке экономической исследовательской группы компании и охватывает второй квартал 2026 года.

В выборку вошли только аккаунты подписок Free, Go, Plus и Pro, корпоративные подписки не учитывались.

🟡Главный вывод

В рабочем контексте люди вдвое чаще просят ChatGPT что-то сделать (написать текст, код, провести анализ), чем вне работы.

За пределами офисов по-прежнему преобладают вопросы и поиск информации. OpenAI описывает это как сдвиг "от вопросов к действиям".

🟡Разрыв между странами сокращается

По подсчётам компании, во втором квартале Латинская Америка, Африка и Океания росли быстрее остального мира, сильнее всего в рейтинге сообщений на душу населения поднялись Перу, Уругвай и Коста-Рика.

Северная Америка и Европа тоже растут, но медленнее.

🟡Типы контента

Быстрее всего набирает вес работа с изображениями и другим мультимедийным контентом. После выхода ChatGPT Images 2.0 в апреле доля таких запросов по всему миру достигла 7,8%.

В Бразилии и Колумбии на них приходится больше каждого десятого сообщения.

🟡Возрастной состав

Доля сообщений от пользователей старше 35 лет за год выросла почти во всех странах - в среднем на 5%, а во Франции и Чехии больше чем на 10 процентных пунктов.

В Юго-Восточной Азии рост слабее - в шести из восьми стран региона доля этой группы увеличилась незначительно, а в Сингапуре зафиксирована обратная динамика.

OpenAI утверждает, что ChatGPT пользуются больше миллиарда человек, и адресует новые данные исследователям и регуляторам.

С методикой можно ознакомится тут, а данные приведенной статистики можно загрузить здесь.


@ai_machinelearning_big_data

#AI #ML #Research #ChatGPT #OpenAI

⚡️ OpenAI впервые притормозила обучение новых моделей из-за их кибервозможностей.

Компания пишет, что одна из будущих моделей, Astra, может уже достигать уровня Critical по кибербезопасности. После этого OpenAI на две недели остановила RL-обучение последних моделей, а крупнейший запланированный frontier-RL запуск до сих пор стоит на паузе.


После недавнего инцидента OpenAI также ужесточила внутреннюю политику: изоляцию sandbox-сред, сетевые ограничения и мониторинг действий моделей. Для Astra и других cyber-моделей теперь действуют самые строгие требования.

Отдельно расширили мониторинг reasoning и tool calls. Подозрительная активность проходит через несколько уровней автоматической проверки, а на критические случаи команды безопасности должны отреагировать примерно за 30 минут. Такой мониторинг уже добавляет около 20% вычислительных затрат к inference.

https://openai.com/index/pacing-model-development-cyber-capabilities/

@ai_machinelearning_big_data

#openai #ai

⚡️ OpenAI опубликовала подробный гайд по GPT-6 Astra API

В документации разобрали, как правильно использовать новую модель и чем она отличается от предыдущих поколений.

Главные нововведения:

- Async tool calling - Astra может продолжать рассуждать или выполнять другие части задачи, пока внешний tool ещё работает
- Mid-turn steering - инструкции можно менять прямо во время выполнения длинной задачи, не начиная всё заново
- Динамический reasoning - уровень reasoning effort можно повышать или снижать посреди диалога с сохранением prompt cache
- поддержка computer use, Structured Outputs, multi-agent orchestration, programmatic tool calling, persisted reasoning и compaction
- модель лучше держит длинные многошаговые workflows между кодом, браузером и внешними инструментами

OpenAI также отмечает, что Astra часто использует заметно меньше output-токенов для решения той же задачи, поэтому реальная стоимость выполненной задачи может быть ниже, несмотря на более высокую цену одного токена.

Для API:

model: gpt-6-astra

При миграции есть несколько важных изменений:

- reasoning_effort: none больше не поддерживается - рекомендуется начинать с low
- для tool calling нужен Responses API
- temperature, top_p и top_logprobs не поддерживаются
- Astra сильнее реагирует на инструкции из AGENTS.md, skills и других файлов, поэтому их советуют внимательно проверять
- модель может чаще задавать уточняющие вопросы, поэтому для автономных агентов OpenAI отдельно рекомендует явно просить её доводить задачу до конца

Отдельный акцент гайда на агентах: Astra рассчитана уже не только на отдельный ответ, а на длинную работу с инструментами, изменением требований на ходу и несколькими агентами.

https://developers.openai.com/api/docs/guides/latest-model

#chatgpt #OpenAI

@ai_machinelearning_big_data

🖥 Дженсен Хуанг заявил, что с выходом GPT-6 Astra «AGI уже наступил»

Глава Nvidia сообщил, что модель обучалась на инфраструктуре с более чем 100 тысячами Grace Blackwell, объединёнными через NVLink. Путь от появления ChatGPT до Astra занял около четырёх лет.

Вскоре к инфраструктуре добавят ещё 400 тысяч ускорителей, и связывает дальнейшее масштабирование с возможным движением к ASI и рекурсивному самосовершенствованию AI-систем.

https://x.com/JensenHuang/status/2096700264569090384

@ai_machinelearning_big_data

#openai #agi #chatgpt