Оркестрация ИИ оказалась важнее самих моделей
Когда гонка моделей приводит к тому, что у нас уже сотни моделей с примерно одинаковой производительностью, - на первый план выходит интеграция и создание комбинаций мульти-агентных систем с каскадом ИИ моделей.
Затраты на интеграцию иногда достигают $2.9 млн только на пилотных проектах.
Ключевым фактором становится оптимизация данных под работу моделей и RAG, миграция в облако и внедрение сценариев, где человек участвует в цепочках ИИ процессов.
#orchestration #CIO #multiagent #integration
-------
@tsingular
Когда гонка моделей приводит к тому, что у нас уже сотни моделей с примерно одинаковой производительностью, - на первый план выходит интеграция и создание комбинаций мульти-агентных систем с каскадом ИИ моделей.
Затраты на интеграцию иногда достигают $2.9 млн только на пилотных проектах.
Ключевым фактором становится оптимизация данных под работу моделей и RAG, миграция в облако и внедрение сценариев, где человек участвует в цепочках ИИ процессов.
#orchestration #CIO #multiagent #integration
-------
@tsingular
✍2🔥1
Обновился фреймворк AutoGen от Microsoft
Microsoft выпустила версию 0.4 программного фреймворка для разработки автономных многоагентных систем.
Платформа предоставляет возможность создавать быстрые прототипы интерактивных и независимых групп агентов на базе GPT-4.
Из инструментов уже доступны веб-поиск, исполнение кода и файловые операции.
Позволяет организовать групповые чаты с разными типами агентов для решения общей задачи.
Есть среда для настройки процессов без кода.
#Microsoft #AutoGen #MultiAgent
-------
@tsingular
Microsoft выпустила версию 0.4 программного фреймворка для разработки автономных многоагентных систем.
Платформа предоставляет возможность создавать быстрые прототипы интерактивных и независимых групп агентов на базе GPT-4.
Из инструментов уже доступны веб-поиск, исполнение кода и файловые операции.
Позволяет организовать групповые чаты с разными типами агентов для решения общей задачи.
Есть среда для настройки процессов без кода.
#Microsoft #AutoGen #MultiAgent
-------
@tsingular
👍8
Anthropic показали как создать мульти-агентную исследовательскую систему
Команда Anthropic опубликовала подробный разбор создания системы Research для Claude — мульти-агентной архитектуры для сложных исследовательских задач.
Система работает по принципу оркестратор-воркер: главный агент планирует стратегию и создает субагентов для параллельного поиска.
Результат — 90% прироста производительности по сравнению с одиночным агентом.
Основные рекомендации:
- мысли как агент - оптимизация промпта требует точного понимания как именно он работает
- учите оркестратор правильному делегированию задач.
- усилия на решение задачи должны соответствовать ее сложности
- организация инструментов важна и даже местами критична. Множество функций MCP серверов могут запутать агента, как и плохое описание тулов
- позвольте агентам улучшать себя, - например переписывать промпты.
- начинайте с общего и переходите к частному. Пусть агент сначала опишет задачу в целом и потом переходите к деталям
- управляйте процессом размышления. Режим размышления позволяет точнее планировать и раскрывает причины недоработок агента, которые можно исправить в следующих вызовах
- параллельные вызовы инструментов экономят время и повышают эффективность
Помните: мульти-агенты тратят в среднем в 15 раз больше токенов, поэтому использовать их нужно с умом.
Так же поделились промптами в Cookbook и детально описали проблемы деплоя в продакшн.
#MultiAgent #Claude #Anthropic #Research
———
@tsingular
Команда Anthropic опубликовала подробный разбор создания системы Research для Claude — мульти-агентной архитектуры для сложных исследовательских задач.
Система работает по принципу оркестратор-воркер: главный агент планирует стратегию и создает субагентов для параллельного поиска.
Результат — 90% прироста производительности по сравнению с одиночным агентом.
Основные рекомендации:
- мысли как агент - оптимизация промпта требует точного понимания как именно он работает
- учите оркестратор правильному делегированию задач.
- усилия на решение задачи должны соответствовать ее сложности
- организация инструментов важна и даже местами критична. Множество функций MCP серверов могут запутать агента, как и плохое описание тулов
- позвольте агентам улучшать себя, - например переписывать промпты.
- начинайте с общего и переходите к частному. Пусть агент сначала опишет задачу в целом и потом переходите к деталям
- управляйте процессом размышления. Режим размышления позволяет точнее планировать и раскрывает причины недоработок агента, которые можно исправить в следующих вызовах
- параллельные вызовы инструментов экономят время и повышают эффективность
Помните: мульти-агенты тратят в среднем в 15 раз больше токенов, поэтому использовать их нужно с умом.
Так же поделились промптами в Cookbook и детально описали проблемы деплоя в продакшн.
#MultiAgent #Claude #Anthropic #Research
———
@tsingular
✍6❤3⚡2
LangChain выпустил Open Deep Research — открытый мульти-агентный исследователь
Команда LangChain создала альтернативу исследовательским системам от OpenAI, Anthropic и Google. Архитектура построена на трёх этапах: сначала система уточняет контекст у пользователя и создаёт исследовательский бриф, затем супервайзер-агент делегирует подзадачи специализированным агентам, которые работают параллельно.
Основная проблема одноагентных систем — перегрузка контекста при многотемных запросах. Например, при сравнении подходов к ИИ-безопасности у трёх лабораторий система тратит токены на обработку всех тем одновременно. Мульти-агентный подход изолирует контекст каждого агента.
Интересная деталь: команда сначала пыталась распараллелить и написание отчёта, но столкнулась с проблемой координации — разделы получались разрозненными. В итоге исследование параллельное, а итоговый отчёт пишется одним агентом.
#LangChain #multiagent #deepresearch
------
@tsingular
Команда LangChain создала альтернативу исследовательским системам от OpenAI, Anthropic и Google. Архитектура построена на трёх этапах: сначала система уточняет контекст у пользователя и создаёт исследовательский бриф, затем супервайзер-агент делегирует подзадачи специализированным агентам, которые работают параллельно.
Основная проблема одноагентных систем — перегрузка контекста при многотемных запросах. Например, при сравнении подходов к ИИ-безопасности у трёх лабораторий система тратит токены на обработку всех тем одновременно. Мульти-агентный подход изолирует контекст каждого агента.
Интересная деталь: команда сначала пыталась распараллелить и написание отчёта, но столкнулась с проблемой координации — разделы получались разрозненными. В итоге исследование параллельное, а итоговый отчёт пишется одним агентом.
#LangChain #multiagent #deepresearch
------
@tsingular
🔥6✍3❤2⚡2👍1
This media is not supported in your browser
VIEW IN TELEGRAM
ROMA: фреймворк для рекурсивных мультиагентных систем
Sentient AGI выпустили ROMA — opensource фреймворк для построения мультиагентных систем.
Работает через рекурсивный цикл plan-execute: задача разбивается на параллельные подзадачи, каждая решается отдельным агентом, результаты собираются обратно.
В комплекте три демо-агента:
- поисковый на базе ChatGPT Search
- исследовательский для сложных запросов
- финансовый аналитик с фокусом на DeFi
Фреймворк работает с любыми моделями - с OpenAI, Anthropic, Google, локальными моделями.
Встроена интеграция с E2B песочницами для безопасного выполнения кода (~150ms старт).
Поисковый агент протестировали на бенчмарках SEAL-0, FRAMES и SimpleQA - показал сильные результаты, например на SEALQA - занял 1 место обойдя Кими Исследователя аж на 9.6% ( 45.6% vs 36%). это тест, в котом у гугла и грока и openai по 20% примерно!
см. таблицу
SIMPLE QA - 93.9% - SOTA
Лицензия Apache 2.0.
В общем рекурсивные агенты рулят.
Изучаем, ставим себе.
Китай и opensource уже слова-синонимы.
#ROMA #MultiAgent #рекурсия #Китай
———
@tsingular
Sentient AGI выпустили ROMA — opensource фреймворк для построения мультиагентных систем.
Работает через рекурсивный цикл plan-execute: задача разбивается на параллельные подзадачи, каждая решается отдельным агентом, результаты собираются обратно.
В комплекте три демо-агента:
- поисковый на базе ChatGPT Search
- исследовательский для сложных запросов
- финансовый аналитик с фокусом на DeFi
Фреймворк работает с любыми моделями - с OpenAI, Anthropic, Google, локальными моделями.
Встроена интеграция с E2B песочницами для безопасного выполнения кода (~150ms старт).
Поисковый агент протестировали на бенчмарках SEAL-0, FRAMES и SimpleQA - показал сильные результаты, например на SEALQA - занял 1 место обойдя Кими Исследователя аж на 9.6% ( 45.6% vs 36%). это тест, в котом у гугла и грока и openai по 20% примерно!
см. таблицу
SIMPLE QA - 93.9% - SOTA
Лицензия Apache 2.0.
В общем рекурсивные агенты рулят.
Изучаем, ставим себе.
Китай и opensource уже слова-синонимы.
#ROMA #MultiAgent #рекурсия #Китай
———
@tsingular
⚡6👍2🔥1