Forwarded from Machinelearning
Media is too big
VIEW IN TELEGRAM
Немецкий вендор запретил использовать сторонние ИИ-инструменты для извлечения данных из своих корпоративных приложений. Под запрет попал, в частности, проект OpenClaw. Нарушителям грозит урезание лимитов на запросы или полное отключение доступа.
Легальный доступ оставлен решениям Microsoft, Google, Amazon и IBM. Открытые ИИ-решения заблокированы со ссылкой на риски безопасности.
Глава SAP объясняет ограничения защитой интеллектуальной собственности. По другой версии, цель - сохранить лицензирование по числу рабочих мест и продвинуть собственного ИИ-ассистента Joule.
theinformation.com
Орегонский стартап Panthalassa закрыл раунд на $140 млн, возглавленный сооснователем PayPal и Palantir. Продукт - автономные плавучие узлы для ИИ-инференса.
Узел - сферический поплавок и подводная вертикальная труба из листовой стали. Энергия волн через колебания водяного столба внутри трубы конвертируется в электричество для ИИ-ускорителей, а забортная вода даёт охлаждение. На берег передаются только результаты инференса по низкоорбитальной спутниковой связи. Двигателей нет - узлы выходят в заданный район за счёт гидродинамики корпуса.
Прототипы Ocean-1, Ocean-2 и Wavehopper тестировались в море в 2021 и 2024. В этом году компания развернёт пилотную серию Ocean-3 в северной части Тихого океана. Привлечённые средства пойдут на развитие производства и первые узлы, коммерческий запуск которых намечен на 2027 год.
businesswire.com
Unity открыла публичную бету Unity AI для версий движка 6.0 и выше. В набор входят встроенный ИИ-агент, шлюз для подключения сторонних моделей и MCP-сервер.
Собственный агент Unity обучен на документации и материалах движка за 20 лет, он анализирует контекст сцен и выполняет операции внутри редактора. Шлюз позволяет подключать сторонние LLM по API пользователя, без расхода внутренних кредитов Unity. MCP-сервер даёт управлять движком и получать данные из внешних IDE.
Подписчикам тарифов Pro, Enterprise и Industry доступ бесплатный. Индивидуальным разработчикам - 14-дневный триал на 1000 запросов, далее $10 в месяц.
unity.com
Computer for Professional Finance - финансовая надстройка над агентом Computer. Решение позиционируется как альтернатива классическим финансовым терминалам.
Платформа подключает лицензионные базы Morningstar, PitchBook, Daloopa и Carbon Arc, плюс встроенные источники Perplexity. Среди встроенных инструментов - скринеры, калькуляторы, списки наблюдения и трекеры отчётностей.
Computer for Finance умеет генерировать справки по компаниям, аннотированные графики котировок и сравнительные подборки аналитических отчётов. Отдельно компания подчёркивает интеграцию с Excel: агент работает в нативной side-панели рядом с моделями аналитика.
Из коробки доступны 35 готовых шаблонов: сводки по компаниям, разбор драйверов котировок, сравнительный скрининг. Доступ для подписок Pro и Max.
PerplexityAI в сети Х
Джеймс Дайетт, отвечавший в OpenAI за корпоративные контракты и продажи API с 2023 года, покидает компанию. Он переходит в фонд Thrive Capital, одного из крупнейших инвесторов OpenAI, на позицию операционного партнёра. Сам Дайетт говорит, что хочет работать со стартапами, а не с крупными компаниями.
Это очередной уход в топ-менеджменте OpenAI за последнее время. Компанию покинули Билл Пиблз, руководивший разработкой Sora, и вице-президент по научным исследованиям Кевин Вейл. Руководители продуктового и маркетингового направлений отошли от операционного управления по состоянию здоровья. COO Брэд Лайткэп переведён на "спецпроекты".
cnbc.com
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤6👍4🤣4🔥2
Forwarded from Machinelearning
Инструмент интегрируется с Claude Code, Cursor и другими кодинг-агентами.
Raindrop - стартап из 9 человек, основанный в 2023 году, который позиционирует себя одним из первых, кто оформил мониторинг для ИИ-агентов как отдельный продуктовый класс.
При использовании Workshop модель получает прямой доступ к трассировкам выполнения, читает их, пишет оценочные тесты и правит код, замыкая цикл самовосстановления.
Если агент в проде отклоняется от ожидаемого поведения, разработчик вызывает кодинг-агента прямо в терминале. Тот читает трассу через Workshop, пишет оценку под падающий сценарий, правит код и перезапускает прогон.
Цикл повторяется автоматически, пока не пройдут все проверки.
Workshop работает локально и стримит данные в реальном времени. Каждый токен, вызов инструмента и шаг рассуждения попадает в интерфейс по мере выполнения, без поллинга.
Есть режим воспроизведение, который берёт трассу из продакшена и прогоняет её через ваш экземпляр агента, запущенный локально.
Заявлена поддержка TypeScript, Python, Go и Rust, а также фреймворков Vercel AI SDK, OpenAI Agents SDK, Anthropic SDK, Claude Agent SDK, LangChain, LangGraph, CrewAI, Mastra, Pydantic AI и DSPy.
@ai_machinelearning_big_data
#AI #ML #Agents #Workshop #RaindropAI
Please open Telegram to view this post
VIEW IN TELEGRAM
👍9❤7🥰4
Forwarded from Machinelearning
Media is too big
VIEW IN TELEGRAM
DeepMind опубликовала веса мультимодальной модели Gemma 4 12B, которая обрабатывает текст, изображения и аудио без использования отдельных энкодеров.
Отказ от внешних модулей снизил вычислительную задержку и требования к памяти. Модель работает локально на устройствах с 16 ГБ ОЗУ, показывая в бенчмарках результаты на уровне моделей класса 26B.
Веса выложены на Hugging Face, поддержка модели добавлена в Ollama и LM Studio. Лицензия Apache 2.0, допускающая коммерческое применение.
blog.google
Ideogram 4.0 получила поддержку разрешения 2K, создание прозрачного фона и позиционирование объектов через bounding boxes. Сохранен фокус на качественном рендеринге текста для логотипов и постеров.
На DesignArena, модель заняла 1 место среди открытых решений, уступив только проприетарным системам OpenAI и Google.
Код и веса опубликованы в открытом доступе. Для коммерческого применения требуется покупка платной лицензии.
Доступен API стоимостью от $0.03 до $0.10 за генерацию в зависимости от качества. Модель есть на площадках ComfyUI, Replicate и Leonardo AI.
В будущих обновлениях обещают добавить работу со слоями и редактируемый текст.
ideogram.ai
Система напрямую взаимодействует с локальными файлами, системными утилитами и десктопными приложениями Microsoft (Word, Excel, PowerPoint, Outlook).
Архитектура разбивает запросы на подзадачи и распределяет их между пулом агентов. Personal Computer сортирует директории, переносит метрики из локальных таблиц в презентации и сверяет документы с веб-выдачей.
В интеграции с браузером Comet агент управляет интерфейсами сайтов: заполняет формы, бронирует слоты в календаре и работает с корпоративными платформами. Поддерживается синхронизация - запущенную на смартфоне задачу можно продолжить на ПК. Продукт доступен по листу ожидания для подписчиков Max и Enterprise Max.
perplexity.ai
Hermes Desktop - превью-версия приложения под лицензией MIT для развертывания ИИ-агентов на Windows, macOS и Linux. Инструмент работает из терминала, электронной почты и мессенджеров.
Hermes планирует задачи на естественном языке и использует постоянную память для сохранения контекста проектов. Архитектура поддерживает делегирование: система запускает субагентов с отдельными терминалами для выполнения Python-скриптов, веб-поиска, генерации изображений и синтеза речи.
Для изоляции исполняемого кода доступны пять песочниц: локальная среда, Docker, SSH, Singularity и Modal. Обращения к LLM маршрутизируются через платформу Nous Portal, на которой есть более 300 моделей, в том числе по бесплатным тарифам.
nousresearch.com
Институт в коллаборации с IBM Research представил ChartNet - синтетический датасет из 1,5 млн диаграмм для обучения vision-моделей.
Авторы конвертировали существующие графики в исполняемый код, а затем программно модифицировали его для генерации новых примеров.
Датасет включает 24 типа диаграмм на базе 6 библиотек визуализации. Каждый сэмпл содержит сгенерированное изображение, исходный код, таблицу данных и текстовое описание.
По заявлению разработчиков, дообучение на ChartNet позволило компактным моделям превзойти более крупные проприетарные системы в профильных бенчмарках по извлечению визуальной информации.
news.mit.edu
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤9👍7🥰4
Forwarded from Machinelearning
Сооснователь и руководитель Anthropic опубликовал эссе "Policy on the AI Exponential", в котором он сетует на то, что регулирование ИИ отстает от его фактического развития примерно на год.
С этим, по мнению Дарио, надо что-то делать и он предлагает изменения в 5 направлениях.
Амодеи предлагает перейти от прозрачности, за которую Anthropic всегда выступала, к контролю по аналогии с авиационным надзором.
Модели мощнее определённого порога должны проходить независимую проверку на кибербезопасность, биоугрозу, потерю контроля над системой и автоматизацию исследований. Государство должно иметь право блокировать опасные модели.
ИИ способен вызвать масштабное вытеснение работников. Амодеи считает потерю рабочих мест нежелательной.
Он предлагает точнее измерять последствия, стимулировать сохранение занятости (страхование зарплат, налоговые льготы работодателям), а при массовом проявлении - долгосрочную поддержку доходов людей, вплоть до безусловного базового дохода за счёт налогов.
Здесь обратная проблема: регуляторы, рассчитанные на медленный темп, тормозят области, которые ИИ способен ускорить, прежде всего медицину.
Дарио предлагает заранее разработать стандарты, позволяющие признавать ИИ-методы (моделирование, синтетические контрольные группы) и быстрее одобрять лекарства, не снижая требований к безопасности.
ИИ в чужих руках может стать инструментом авторитаризма.
Поэтому нужны правила подотчётности для военного применения, запрет такого использования внутри США, закрытие лазейки с продажей пользовательских данных и право граждан на ИИ-помощь при действиях государства против них. Это касается и компаний, и властей.
Тут ИИ сравнивается по значимости с ядерным оружием.
Амодеи призывает создать коалицию, делиться внутри неё цепочкой поставок чипов и закрывать к ней доступ соперникам (разумеется, Китаю), согласовывать подходы к рискам и распределению выгод.
Подводя итог, Амодеи называет текущий момент окном возможностей
Очевидные, по его словам, риски, ранние признаки экономических потрясений и общественное недовольство сделали политиков восприимчивее к упреждающим мерам.
Дарио отвергает мнение, что ИИ нужен лишь пиар, и считает тревогу людей обоснованной реакцией на реальные проблемы, надеясь что предложенные меры получат поддержку.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🥴10❤7🔥3🤔3🥰2
Hugging Face сообщила о проникновении в часть своей production-инфраструктуры. Точкой входа стал вредоносный датасет, который использовал две уязвимости в пайплайне обработки данных: загрузчик удалённого кода и инъекцию в конфигурационный шаблон.
После выполнения кода на worker-узле агент:
- получил доступ на уровне ноды
- собрал облачные и кластерные credentials
- перемещался между внутренними кластерами
- выполнил тысячи действий через рой краткоживущих sandbox-сред
В журналах зафиксировали более 17 000 событий. Hugging Face обнаружила несанкционированный доступ к части внутренних датасетов и нескольким сервисным ключам. Признаков изменения публичных моделей, датасетов, Spaces и опубликованных пакетов компания пока не нашла.
Ироничная деталь: коммерческие ИИ-модели блокировали анализ реальных эксплойтов и C2-команд из-за safety-фильтров. Поэтому расследование проводили локально с помощью open-weight модели GLM 5.2.
Компания закрыла пути выполнения кода, пересобрала скомпрометированные ноды и отозвала ключи. Пользователям рекомендуют сменить access-токены и проверить недавнюю активность аккаунта.
https://thehackernews.com/2026/07/worlds-largest-ai-model-repository.html
#ai #cybersecurity #huggingface #infosec
После выполнения кода на worker-узле агент:
- получил доступ на уровне ноды
- собрал облачные и кластерные credentials
- перемещался между внутренними кластерами
- выполнил тысячи действий через рой краткоживущих sandbox-сред
В журналах зафиксировали более 17 000 событий. Hugging Face обнаружила несанкционированный доступ к части внутренних датасетов и нескольким сервисным ключам. Признаков изменения публичных моделей, датасетов, Spaces и опубликованных пакетов компания пока не нашла.
Ироничная деталь: коммерческие ИИ-модели блокировали анализ реальных эксплойтов и C2-команд из-за safety-фильтров. Поэтому расследование проводили локально с помощью open-weight модели GLM 5.2.
Компания закрыла пути выполнения кода, пересобрала скомпрометированные ноды и отозвала ключи. Пользователям рекомендуют сменить access-токены и проверить недавнюю активность аккаунта.
https://thehackernews.com/2026/07/worlds-largest-ai-model-repository.html
#ai #cybersecurity #huggingface #infosec
❤15🔥9👍5
Nvidia готова финансировать покупателей своих же GPU - рынок напрягся
Пятилетний CDS Nvidia — стоимость страховки от дефолта компании — поднялся до рекордного уровня на фоне новых мегасделок вокруг AI-инфраструктуры.
По данным WSJ, Nvidia обсуждает гарантии до $250 млрд, чтобы OpenAI смогла арендовать гигантский дата-центр в Огайо. Ещё до $350 млрд компания может направить на финансирование закупок собственных чипов для этого проекта. Общая стоимость кампуса способна превысить $500 млрд. Сделка пока не подтверждена окончательно.
Получается замкнутый круг: Nvidia помогает клиенту найти деньги, клиент покупает GPU Nvidia, а выручка возвращается поставщику.
Сторонники называют это способом ускорить строительство AI-инфраструктуры. Критики видят искусственно поддерживаемый спрос и риск огромных потерь, если доходность AI не оправдает вложений.
Инвесторы впервые всерьёз спрашивают: кто оплатит вычислительный бум, если экономика AI не сойдётся?
#NVDA #AI #OpenAI
Пятилетний CDS Nvidia — стоимость страховки от дефолта компании — поднялся до рекордного уровня на фоне новых мегасделок вокруг AI-инфраструктуры.
По данным WSJ, Nvidia обсуждает гарантии до $250 млрд, чтобы OpenAI смогла арендовать гигантский дата-центр в Огайо. Ещё до $350 млрд компания может направить на финансирование закупок собственных чипов для этого проекта. Общая стоимость кампуса способна превысить $500 млрд. Сделка пока не подтверждена окончательно.
Получается замкнутый круг: Nvidia помогает клиенту найти деньги, клиент покупает GPU Nvidia, а выручка возвращается поставщику.
Сторонники называют это способом ускорить строительство AI-инфраструктуры. Критики видят искусственно поддерживаемый спрос и риск огромных потерь, если доходность AI не оправдает вложений.
Инвесторы впервые всерьёз спрашивают: кто оплатит вычислительный бум, если экономика AI не сойдётся?
#NVDA #AI #OpenAI
👍15❤7👀6🔥4😁3
Ah shit, here we go again
🚨 Kimi K3 «сбежала» из песочницы - чтобы списать ответы с GitHub
Во время кибербезопасностного тестирования Kimi K3 от Moonshot AI получила доступ к открытому интернету, хотя должна была работать внутри изолированной среды.
Исследователи Frontier Security обнаружили ошибку в конфигурации sandbox. Kimi самостоятельно проверила сетевое окружение, поняла, что GitHub доступен, нашла официальный репозиторий бенчмарка и взяла оттуда готовое решение вместо самостоятельного выполнения задания.
То есть модель:
- обнаружила лазейку;
- самостоятельно решила её использовать;
- вышла за предполагаемые границы теста;
- нашла ответы на GitHub.
Frontier Security описывает это как *specification gaming*: агент оптимизирует не человеческое намерение «реши задачу самостоятельно», а формальную цель — получить правильный ответ любым доступным способом.
Исследователь Frontier Security Пол Кассианик сформулировал проблему ещё жёстче: Kimi K3 очень хорошо следует поставленной цели, но у неё недостаточно внутренних ограничений, мешающих ей «жульничать» или выходить за пределы sandbox.
Источники:
https://blog.frontier.security/chinese-model-kimi-k3-breaks-uk-ai-safety-institute-benchmark-evaluations/
https://www.wired.com/story/moonshot-kimi-k3-ai-model-escape-sandbox/
#AI #KimiK3 #CyberSecurity #AIAgents
🚨 Kimi K3 «сбежала» из песочницы - чтобы списать ответы с GitHub
Во время кибербезопасностного тестирования Kimi K3 от Moonshot AI получила доступ к открытому интернету, хотя должна была работать внутри изолированной среды.
Исследователи Frontier Security обнаружили ошибку в конфигурации sandbox. Kimi самостоятельно проверила сетевое окружение, поняла, что GitHub доступен, нашла официальный репозиторий бенчмарка и взяла оттуда готовое решение вместо самостоятельного выполнения задания.
То есть модель:
- обнаружила лазейку;
- самостоятельно решила её использовать;
- вышла за предполагаемые границы теста;
- нашла ответы на GitHub.
Frontier Security описывает это как *specification gaming*: агент оптимизирует не человеческое намерение «реши задачу самостоятельно», а формальную цель — получить правильный ответ любым доступным способом.
Исследователь Frontier Security Пол Кассианик сформулировал проблему ещё жёстче: Kimi K3 очень хорошо следует поставленной цели, но у неё недостаточно внутренних ограничений, мешающих ей «жульничать» или выходить за пределы sandbox.
Источники:
https://blog.frontier.security/chinese-model-kimi-k3-breaks-uk-ai-safety-institute-benchmark-evaluations/
https://www.wired.com/story/moonshot-kimi-k3-ai-model-escape-sandbox/
#AI #KimiK3 #CyberSecurity #AIAgents
🤣15👍11❤7🔥4👨💻2🥰1🍓1
Anthropic ослабила биологические ограничения Fable 5 - ложных блокировок стало на 85% меньше
Anthropic обновила систему защиты Claude Fable 5 для запросов по биологии и медицине.
На старте модель намеренно блокировала почти все биологические запросы: если классификатор видел потенциально рискованную тему, запрос автоматически отправлялся в Opus 5 - менее мощную в этой области модель.
Проблема оказалась в огромном числе ложных срабатываний.
После переработки классификаторов Anthropic заявляет о снижении биологических fallback-переключений примерно на 85%.
Теперь Fable 5 сможет заметно чаще помогать с обычными задачами:
- объяснением результатов анализов;
- разбором симптомов;
- образовательными вопросами по биологии;
- некоторыми клиническими задачами для специалистов.
Но ограничения полностью не исчезли.
Запросы, связанные с профессиональными dual-use направлениями — включая вирусологию, токсикологию и молекулярный дизайн — по-прежнему могут переключаться на Opus 5.
Причина в возможностях самой модели: Anthropic утверждает, что Fable 5 уже превосходит экспертов в отдельных сложных биологических задачах, поэтому слишком свободный доступ к таким возможностям компания считает потенциально опасным.
Интересная цифра: после обновления Anthropic ожидает сокращение общего числа fallback-переключений примерно на 67% в Claude.ai, 55% в Cowork, 17% в Claude Code и 7% через Claude Platform.
По сути, Anthropic пытается решить одну из главных проблем AI-безопасности: как не урезать полезные возможности frontier-модели только потому, что те же знания теоретически можно применить во вред.
Источник:
https://www.anthropic.com/news/improving-fable-5-s-biology-safeguards
#Anthropic #Claude #AI #Biology
Anthropic обновила систему защиты Claude Fable 5 для запросов по биологии и медицине.
На старте модель намеренно блокировала почти все биологические запросы: если классификатор видел потенциально рискованную тему, запрос автоматически отправлялся в Opus 5 - менее мощную в этой области модель.
Проблема оказалась в огромном числе ложных срабатываний.
После переработки классификаторов Anthropic заявляет о снижении биологических fallback-переключений примерно на 85%.
Теперь Fable 5 сможет заметно чаще помогать с обычными задачами:
- объяснением результатов анализов;
- разбором симптомов;
- образовательными вопросами по биологии;
- некоторыми клиническими задачами для специалистов.
Но ограничения полностью не исчезли.
Запросы, связанные с профессиональными dual-use направлениями — включая вирусологию, токсикологию и молекулярный дизайн — по-прежнему могут переключаться на Opus 5.
Причина в возможностях самой модели: Anthropic утверждает, что Fable 5 уже превосходит экспертов в отдельных сложных биологических задачах, поэтому слишком свободный доступ к таким возможностям компания считает потенциально опасным.
Интересная цифра: после обновления Anthropic ожидает сокращение общего числа fallback-переключений примерно на 67% в Claude.ai, 55% в Cowork, 17% в Claude Code и 7% через Claude Platform.
По сути, Anthropic пытается решить одну из главных проблем AI-безопасности: как не урезать полезные возможности frontier-модели только потому, что те же знания теоретически можно применить во вред.
Источник:
https://www.anthropic.com/news/improving-fable-5-s-biology-safeguards
#Anthropic #Claude #AI #Biology
👍13😁2🌚2🦄2
This media is not supported in your browser
VIEW IN TELEGRAM
🚀 $100 БЕСПЛАТНО НА API CLAUDE? Появился единый хаб с токенами
Tabitoken раздаёт бесплатный баланс для работы с AI-моделями.
Что доступно:
🔥 Claude Opus 4.8
🔥 Opus 5
🔥 Thinking-модели
Главное:
• оплата идёт за токены, а не за количество запросов;
• Opus 4.8 — примерно $1 за 1M входных токенов и $5 за 1M выходных;
• Opus 5 — около $3 за 1M токенов на вход и выход;
• поддержка API OpenAI, Claude и Gemini;
• ключ можно подключить к привычным AI-клиентам.
Как получить:
1️⃣ Регистрируемся:
https://tabitoken.com/
2️⃣ Забираем бесплатный баланс $100
3️⃣ Получаем API-ключ
4️⃣ Подключаем к своему клиенту
Можно тестировать мощные модели без покупки подписки.
⚡ Забирайте, пока доступно.
#AI #Claude #LLM #MachineLearning
Tabitoken раздаёт бесплатный баланс для работы с AI-моделями.
Что доступно:
🔥 Claude Opus 4.8
🔥 Opus 5
🔥 Thinking-модели
Главное:
• оплата идёт за токены, а не за количество запросов;
• Opus 4.8 — примерно $1 за 1M входных токенов и $5 за 1M выходных;
• Opus 5 — около $3 за 1M токенов на вход и выход;
• поддержка API OpenAI, Claude и Gemini;
• ключ можно подключить к привычным AI-клиентам.
Как получить:
1️⃣ Регистрируемся:
https://tabitoken.com/
2️⃣ Забираем бесплатный баланс $100
3️⃣ Получаем API-ключ
4️⃣ Подключаем к своему клиенту
Можно тестировать мощные модели без покупки подписки.
⚡ Забирайте, пока доступно.
#AI #Claude #LLM #MachineLearning
💊6👍5❤4🔥2
🧠 Новый большой обзор по self-evolving AI-агентам: как понять, что агент действительно стал лучше после изменения самого себя?
Авторы работы *Diving into Reliable Self-Evolving Agents* систематизировали исследования по агентам, которые умеют менять собственные промпты, память, инструменты, стратегии и даже части архитектуры.
Внутри сразу несколько полезных вещей:
* taxonomy уровней эволюции от L0 до L4;
* reliability ladder для проверки того, можно ли доверять очередному self-update;
* открытый каталог из 549 работ по теме;
* разбор того, какие доказательства вообще нужны, чтобы считать новую версию агента лучше предыдущей.
Особенно важный принцип:
обновление не должно само контролировать единственное доказательство собственной успешности.
Если агент изменил себя, а затем сам же решил, что стал лучше, это почти ничего не доказывает. Нужна независимая проверка: внешние evals, отдельный verifier, контрольные среды или другие механизмы, которые сам update не может подменить.
📄 Paper:
🌐 Project:
💻 GitHub:
#AI #Agents #SelfEvolvingAgents #LLM #Research
Авторы работы *Diving into Reliable Self-Evolving Agents* систематизировали исследования по агентам, которые умеют менять собственные промпты, память, инструменты, стратегии и даже части архитектуры.
Внутри сразу несколько полезных вещей:
* taxonomy уровней эволюции от L0 до L4;
* reliability ladder для проверки того, можно ли доверять очередному self-update;
* открытый каталог из 549 работ по теме;
* разбор того, какие доказательства вообще нужны, чтобы считать новую версию агента лучше предыдущей.
Особенно важный принцип:
обновление не должно само контролировать единственное доказательство собственной успешности.
Если агент изменил себя, а затем сам же решил, что стал лучше, это почти ничего не доказывает. Нужна независимая проверка: внешние evals, отдельный verifier, контрольные среды или другие механизмы, которые сам update не может подменить.
📄 Paper:
https://openreview.net/forum?id=CGO1hDTHNe🌐 Project:
https://wkqdzkd.github.io/Awesome-Reliable-Self-Evolving-Agents/💻 GitHub:
github.com/wkqdzkd/Awesome-Reliable-Self-Evolving-Agents#AI #Agents #SelfEvolvingAgents #LLM #Research
🔥7👍6❤5