🔶 Промпт-инжиниринг в ноябре 2025: что реально работает

Сегодня копался в свежих исследованиях по промптингу. Нашел три техники, которые выводят взаимодействие с LLM на принципиально другой уровень. Коротко о главном.

━━━━━━━━━━━━━━━

✔️ Verbalized Sampling
*решение проблемы mode collapse*

Вышла работа исследователей в 2025. Суть простая: модели выдают только топовый ответ, игнорируя альтернативы. Это называется mode collapse.

Новый подход: вместо обычного запроса просишь модель дать 5 вариантов с указанием вероятности каждого.

→ Результат: модель раскрывает весь спектр решений. Особенно заметно на творческих задачах.

🔗 [Verbalized Sampling на Hugging Face](https://huggingface.co/papers/2409.20449)

━━━━━━━━━━━━━━━━

✔️ Graph of Thoughts уничтожает Chain-of-Thought

Фундаментальное исследование. Цифры впечатляют по сравнению с традиционным CoT.

Логика простая: вместо линейной цепочки рассуждений используется граф с ветвлениями. Для сложных задач это принципиально другой уровень.

🔗 [Graph of Thoughts - arXiv](https://arxiv.org/abs/2308.09687)

━━━━━━━━━━━━━━━━

✔️ Парадокс reasoning-моделей

Тут самое интересное. Исследования показали, что для o1 и o3-mini сложные техники промптинга работают хуже простых.

Раньше писал:
*"Давай решим это пошагово, сначала определим переменные..."*

Теперь пишу:
*"Решите эту задачу."*

→ Модель умеет рассуждать сама. Не нужно её учить.

🔗 [Prompting o1 - VentureBeat](https://venturebeat.com/ai/how-to-prompt-on-openais-new-o1-models/)

━━━━━━━━━━━━━━━━

✔️ Sketch-of-Thought
*экономия токенов*

Метод сжимает рассуждения на 40-50% без потери качества. Вместо многословного Chain-of-Thought используются когнитивно-сжатые конструкции.

🔗 [Sketch-of-Thought - arXiv](https://arxiv.org/abs/2503.04139)

━━━━━━━━━━━━━━━

➤ Что делать:

1. Тестируйте Verbalized Sampling на задачах, где нужны варианты

2. Упростите промпты для o1. Удалите все "думай пошагово" и подобное

3. Для сложных многошаговых задач переходите на граф-структуры

━━━━━━━━━━━━━━━━

Промпт-инжиниринг из искусства превращается в науку. Появляются метрики, воспроизводимые эксперименты, понятные закономерности.

Веду ежедневный мониторинг таких исследований. Пишите в комментах, что разобрать подробнее.