Scaling AI уже не сводится к «давайте добавим ещё параметров»
Основатель Zhipu Тан Цзе хорошо сформулировал, куда движется масштабирование моделей.
Вопрос «сколько параметров?» становится всё менее полезным сам по себе.
Теперь у scaling есть несколько независимых рычагов:
— число параметров
— объём данных
— compute на один forward pass
— post-training и RL
И следующий прирост качества может выгоднее получить не увеличением модели, а, например, более долгим post-training.
По мысли Тан Цзе, общий размер модели важен до определённого порога - условно, пока ей хватает ёмкости «держать мир». Дальше больше пользы может давать увеличение эффективной глубины вычисления и особенно post-training.
GLM-5.3 — практический пример этой идеи: та же базовая архитектура и те же параметры, что у GLM-5.2, но ещё месяц long-horizon environments и RL.
Основатель Zhipu Тан Цзе хорошо сформулировал, куда движется масштабирование моделей.
Вопрос «сколько параметров?» становится всё менее полезным сам по себе.
Теперь у scaling есть несколько независимых рычагов:
— число параметров
— объём данных
— compute на один forward pass
— post-training и RL
И следующий прирост качества может выгоднее получить не увеличением модели, а, например, более долгим post-training.
По мысли Тан Цзе, общий размер модели важен до определённого порога - условно, пока ей хватает ёмкости «держать мир». Дальше больше пользы может давать увеличение эффективной глубины вычисления и особенно post-training.
GLM-5.3 — практический пример этой идеи: та же базовая архитектура и те же параметры, что у GLM-5.2, но ещё месяц long-horizon environments и RL.
❤7👍3🔥2
OpenCode появилась загадочная модель Ox Alpha - и первые тесты выглядят очень хорошо
Новая stealth-модель
В одном из первых небольших прогонов на 10 сложных DeepSWE-задачах ей приписывают около 80% успешных решений - выше Fable 5, GLM-5.3, Grok 4.6 и GPT-5.6 Sol в том же мини-тесте.
Важно не путать это с официальным DeepSWE leaderboard: полный бенчмарк содержит 113 задач, и публичного полноценного результата Ox Alpha пока нет. Сам DeepSWE сейчас возглавляют frontier-модели примерно в районе 70+% pass@1.
По сообщениям пользователей, Ox Alpha также идёт с большим контекстом и сейчас доступна бесплатно/в промо-режиме, поэтому её активно гоняют на coding и agentic-задачах.
В сообществе уже подозревают, что под капотом может скрываться одна из новых китайских моделей, но это пока лишь догадки.
@machinelearning_interview / Папка полезного по ML.
https://x.com/Machinelearrn/status/2090758575475794270
Новая stealth-модель
Ox Alpha уже появилась у пользователей OpenCode, но её происхождение пока официально не раскрыто.В одном из первых небольших прогонов на 10 сложных DeepSWE-задачах ей приписывают около 80% успешных решений - выше Fable 5, GLM-5.3, Grok 4.6 и GPT-5.6 Sol в том же мини-тесте.
Важно не путать это с официальным DeepSWE leaderboard: полный бенчмарк содержит 113 задач, и публичного полноценного результата Ox Alpha пока нет. Сам DeepSWE сейчас возглавляют frontier-модели примерно в районе 70+% pass@1.
По сообщениям пользователей, Ox Alpha также идёт с большим контекстом и сейчас доступна бесплатно/в промо-режиме, поэтому её активно гоняют на coding и agentic-задачах.
В сообществе уже подозревают, что под капотом может скрываться одна из новых китайских моделей, но это пока лишь догадки.
@machinelearning_interview / Папка полезного по ML.
https://x.com/Machinelearrn/status/2090758575475794270
👍9🔥8❤5
OpenAI обновила цены API
Для короткого контекста за 1 млн токенов:
— GPT-5.6 Sol: $4 input / $20 output
— GPT-5.6 Terra: $2 / $12
— GPT-5.6 Luna: $0.20 / $1.20
То есть Luna по output примерно в 17 раз дешевле Sol.
Для длинного контекста цены выше: Sol — $8/$30, Terra — $4/$18, Luna — $0.40/$1.80. При этом cached input стоит в 10 раз дешевле обычного input.
Отдельно появился
А web search стоит $10 за 1000 вызовов, контейнер с 1 GB памяти - $0.03 за 20 минут.
https://developers.openai.com/api/docs/pricing
Для короткого контекста за 1 млн токенов:
— GPT-5.6 Sol: $4 input / $20 output
— GPT-5.6 Terra: $2 / $12
— GPT-5.6 Luna: $0.20 / $1.20
То есть Luna по output примерно в 17 раз дешевле Sol.
Для длинного контекста цены выше: Sol — $8/$30, Terra — $4/$18, Luna — $0.40/$1.80. При этом cached input стоит в 10 раз дешевле обычного input.
Отдельно появился
gpt-5.6-cyber: $12.50 за input и $75 за output на 1 млн токенов — специализированная модель для security-задач.А web search стоит $10 за 1000 вызовов, контейнер с 1 GB памяти - $0.03 за 20 минут.
https://developers.openai.com/api/docs/pricing
🔥3👍2❤1✍1