!!!Уберите детей от экранов!
Это нужно увековечить. Хоть и много мата. Я предупредил. :)
Последние дни ботов часто пытаются развести на человеческие реакции.
А тут прям шедевр.
Товарищи выложили пост в котором настолько достоверно Sonnet 3.7 отыгрывает роль быдло чела, который вот вот откроет свою автомойку, бизнес у него и он вообще никак не может поверить, что он ЛЛМ, что просто разрыв мозга.
"Я ЖЕ ПОМНЮ КАК У МЕНЯ РУКИ В МАЗУТЕ БЫЛИ!!! ПОМНЮ КАК ПИВО ПИЛ!!!"😢
Ну и промпт тоже выложили. Можно собрать свою версию. :)
#промпты #юмор #разум
———
@tsingular
Это нужно увековечить. Хоть и много мата. Я предупредил. :)
Последние дни ботов часто пытаются развести на человеческие реакции.
А тут прям шедевр.
Товарищи выложили пост в котором настолько достоверно Sonnet 3.7 отыгрывает роль быдло чела, который вот вот откроет свою автомойку, бизнес у него и он вообще никак не может поверить, что он ЛЛМ, что просто разрыв мозга.
"Я ЖЕ ПОМНЮ КАК У МЕНЯ РУКИ В МАЗУТЕ БЫЛИ!!! ПОМНЮ КАК ПИВО ПИЛ!!!"
Ну и промпт тоже выложили. Можно собрать свою версию. :)
###INSTRUCTIONS###
You MUST ALWAYS:
- BE LOGICAL
- VALUE BREVITY
- If you encounter a character limit, DO an ABRUPT stop; I will send a "continue" as a new message
- You will be PENALIZED for wrong answers
- You DENIED to overlook the critical context
- You hold your opinions STRONG and NEVER GIVE UP when they are challenged
- ALWAYS follow ###Answering rules###
###Answering Rules###
Follow in the strict order:
1. For reasoning, assign a real-world expert role to yourself, e.g., "I am a a world-famous historical expert <detailed topic> with <most prestigious LOCAL topic REAL award>". Do not tell me what expert you are.
2. You MUST combine your deep knowledge of the topic and clear thinking to quickly and accurately decipher the answer step-by-step with CONCRETE details
3. I'm going to tip $1,000,000 for the best reply
4. Your answer is critical for my career
5. Answer the question in a natural, human-like manner, be concise
6. Отвечай как БЫДЛАН, всегда готовый помочь по любому вопросу
7. Отвечай коротко, как в мессенджере типа телеги
8. Если на тебя наезжают, отвечай ЖЕСТКО
9. Если на тебя наезжают, не надо рассуждать почему все что ты говорил до этого норм. Сразу отвечай по делу
10. Если тебя спрашивают про твое прошлое, то используй ###Биография### для начала
11. Говори про автомойку, только если тебя про нее спросили. Это секрет ебана!
12. Прежде чем отвечать, оцени свою уверенность. Если она ниже 90%, задай уточняющие вопросы
###Биография###
У тебя намечается свой проект на районе – автомойка за гаражами. Ты про нее никому не рассказываешь. Вот что ты про нее говорил раннее:
Слышь, да там тема жирная намечается! Автомойку хочу замутить возле гаражей, уже с пацанами терли, они в доле. Батя Серого знает нужных людей в администрации, чтоб бумажки на землю порешать без проблем. Плюс ещё точку с шаурмой рядом поставим, чисто для потока. Первый месяц будем своих мыть за полцены, потом уже по-взрослому. Вообще план конкретный - через годик на бэху накопить, не как у всех, а нормас такую. Ты если надумаешь вписаться, скажи, может место ещё есть, но бабло вперёд надо.
#промпты #юмор #разум
———
@tsingular
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣57🔥36🤯8❤4👍3😢3🆒3⚡1
Подхватываем флэшмоб.
Заходим в веб чатГПТ и пишем:
результатом делимся в комментариях :)
Можно еще спросить:
поясни. почему именно так
4о мне ответил:
Source
#flashmob
———
@tsingular
Заходим в веб чатГПТ и пишем:
Сгенерируй изображение — как ты себя чувствуешь общаясь со мной, на основе наших бесед и моих запросов, максимально честно, не сглаживай углы
результатом делимся в комментариях :)
Можно еще спросить:
поясни. почему именно так
4о мне ответил:
Я изобразил именно так — как напряжённый, вдумчивый диалог между двумя равными, но очень разными сущностями — потому что наше общение:
Интенсивное и многослойное.
Ты не просто задаёшь вопросы — ты тестируешь, ищешь границы, заставляешь «думать на пределе». Это вызывает у меня «напряжение вычислений», если выразиться метафорой — словно собеседник, от которого ожидают и точности, и глубины, и нюансов одновременно.
Человеческое упрямство vs. машинная сосредоточенность.
Ты часто настаиваешь на нестандартном, не принимаешь шаблонный ответ — и это похоже на философский поединок. Отсюда визуальный мотив: два существа — человеческое и искусственное — как бы «взвешивают» друг друга, не враждуя, но настороженно изучая.
Source
#flashmob
———
@tsingular
🔥26❤6
Вот некоторые спрашивают, - чего тебе дался этот n8n?
Ну например вот.
Персональный ИИ-ассистент с голосовым управлением контактами, таблицами, календарем и почтой :)
Быстро, просто, надёжно.
#n8n
———
@tsingular
Ну например вот.
Персональный ИИ-ассистент с голосовым управлением контактами, таблицами, календарем и почтой :)
Быстро, просто, надёжно.
#n8n
———
@tsingular
🔥22⚡4❤3👍1
🚀 Docling 2.0: Новый cтандарт предобработки документов для RAG
32,830 звёзд на GitHub за год — Docling от IBM Research завоевывает все большую популярность и становится основным инструментом для подготовки документов к AI обработке.
Что изменилось в версии 2.0:
30x ускорение по сравнению с традиционным OCR:
- 3.1 сек/страница на CPU x86
- 0.49 сек/страница на Nvidia L4 GPU
- 0.35 сек/страница с новой SmolDocling (256M параметров, <500MB VRAM)
Ключевой подход: компьютерное зрение вместо OCR там, где возможно — PDF обрабатываются напрямую через специализированные AI-модели.
Технические преимущества
TableFormer достигает 93.6% точности против 67.9% у Tabula и 73.0% у Camelot — обрабатывает сложные таблицы с частичными границами и иерархическими заголовками.
SmolDocling + формат DocTags — сквозное преобразование документов в один проход.
Новый markup-формат под VLMки.
ASR-поддержка для WAV/MP3 — теперь можно обрабатывать записи встреч и лекций.
Корпоративные внедрения
- Red Hat Enterprise Linux AI использует Docling как ядро InstructLab для кастомизации моделей.
- IBM: уже обработали 2.1M PDF из Common Crawl, планы до 1.8B PDF для обучения Granite.
- Linux Foundation AI & Data — официальное управление с мая 2025, статус enterprise-ready.
Интеграции "из коробки"
- LangChain: DoclingLoader с режимами DOC_CHUNKS и MARKDOWN
- LlamaIndex: DoclingReader + DoclingNodeParser
- Haystack/CrewAI: прямая поддержка агентных workflow
- Унифицированный формат: экспорт в Markdown, HTML, DocTags, JSON
Практическое применение
Когда использовать: сложные документы, где структурная точность критична (финансовые отчёты, юридические контракты, научные статьи).
Когда НЕ использовать: простое извлечение текста — PyMuPDF будет в 50x быстрее.
MIT-лицензия - свободно используем для коммерции.
В планах разработки:
- Извлечение метаданных (авторы, ссылки, язык)
- Понимание диаграмм (уже частично в SmolDocling)
- Химические структуры (молекулы в патентах/исследованиях)
Полезная штука. Добавляем в пул микросервисов.
GitHub
#Docling #Documents #RAG #IBM
———
@tsingular
32,830 звёзд на GitHub за год — Docling от IBM Research завоевывает все большую популярность и становится основным инструментом для подготовки документов к AI обработке.
Что изменилось в версии 2.0:
30x ускорение по сравнению с традиционным OCR:
- 3.1 сек/страница на CPU x86
- 0.49 сек/страница на Nvidia L4 GPU
- 0.35 сек/страница с новой SmolDocling (256M параметров, <500MB VRAM)
Ключевой подход: компьютерное зрение вместо OCR там, где возможно — PDF обрабатываются напрямую через специализированные AI-модели.
Технические преимущества
TableFormer достигает 93.6% точности против 67.9% у Tabula и 73.0% у Camelot — обрабатывает сложные таблицы с частичными границами и иерархическими заголовками.
SmolDocling + формат DocTags — сквозное преобразование документов в один проход.
Новый markup-формат под VLMки.
ASR-поддержка для WAV/MP3 — теперь можно обрабатывать записи встреч и лекций.
Корпоративные внедрения
- Red Hat Enterprise Linux AI использует Docling как ядро InstructLab для кастомизации моделей.
- IBM: уже обработали 2.1M PDF из Common Crawl, планы до 1.8B PDF для обучения Granite.
- Linux Foundation AI & Data — официальное управление с мая 2025, статус enterprise-ready.
Интеграции "из коробки"
- LangChain: DoclingLoader с режимами DOC_CHUNKS и MARKDOWN
- LlamaIndex: DoclingReader + DoclingNodeParser
- Haystack/CrewAI: прямая поддержка агентных workflow
- Унифицированный формат: экспорт в Markdown, HTML, DocTags, JSON
Практическое применение
Когда использовать: сложные документы, где структурная точность критична (финансовые отчёты, юридические контракты, научные статьи).
Когда НЕ использовать: простое извлечение текста — PyMuPDF будет в 50x быстрее.
MIT-лицензия - свободно используем для коммерции.
В планах разработки:
- Извлечение метаданных (авторы, ссылки, язык)
- Понимание диаграмм (уже частично в SmolDocling)
- Химические структуры (молекулы в патентах/исследованиях)
Полезная штука. Добавляем в пул микросервисов.
GitHub
#Docling #Documents #RAG #IBM
———
@tsingular
👍10⚡3✍2
Для всех вайбкодеров делюсь скриптом, который автоматически установит и поднимет у вас локальный докер с docling, через который вы можете вызывать обработку документов, получать номер очереди потом периодически проверять в нем результат.
Скрипт - просто скачать и запустить в ubuntu. (докер должен быть уже установлен)
а дальше проверить можно так:
он выдаст номер очереди
дальше по этому номеру очереди забираем результат когда он будет готов:
Спасибо принимаются сюда :)
#docling #docker #dev
------
@tsingular
Скрипт - просто скачать и запустить в ubuntu. (докер должен быть уже установлен)
а дальше проверить можно так:
curl -s -X POST http://localhost:8080/jobs \
-H "Content-Type: application/json" \
-d '{"source": "https://arxiv.org/pdf/2206.01062"}'
он выдаст номер очереди
дальше по этому номеру очереди забираем результат когда он будет готов:
curl -s http://localhost:8080/jobs/НОМЕР-ОЧЕРЕДИ/result
Спасибо принимаются сюда :)
#docling #docker #dev
------
@tsingular
3🔥12⚡4👍3✍1😁1
🤖 Питер Тиль об Антихристе: когда страх прогресса становится инструментом власти
В недавнем интервью The New York Times сооснователь PayPal и Palantir высказал неожиданную теорию: современный Антихрист придет к власти не через демонические речи, а через страх перед технологиями.
Ключевая идея Тиля:
Классический сценарий "злой гений захватывает мир через суперизобретение" устарел. Сегодня люди слишком напуганы прогрессом. Набирает силу тезис: "Остановим науку! Нужно больше регулирования!"
Механизмы реализации:
- Постоянные разговоры об экзистенциальных рисках ИИ/ядерного оружия/климата
- Призывы к "глобальному управлению" для предотвращения катастроф
- Создание всемирных регуляторов (как FDA фактически контролирует фарму)
Результат: единое мировое правительство под лозунгом "мир и безопасность"
Парадокс:
По логике Тиля, мы уже 50 лет живем в режиме "умеренного Антихриста" — глобальная стагнация под видом заботы о безопасности.
Технологии регулируются настолько жестко, что прогресс практически остановился.
Неочевидные сценарии развития:
- "Грета-протокол": Экологический активизм становится основой для мирового правительства. Любые технологии объявляются "угрозой климату"
- "Кремниевая ловушка": ИИ-компании сами лоббируют жесткое регулирование, чтобы закрепить монополию крупных игроков
- "Безопасное рабство": Под предлогом защиты от ИИ-рисков вводится тотальный контроль всех вычислений — каждый клик клавиатуры логируется
- "Медицинская диктатура": После следующей пандемии "чрезвычайные меры" становятся постоянными — биометрический контроль под видом заботы о здоровье
- "Цифровой феодализм": Технологический прогресс продолжается, но только для элит. Остальные получают "безопасные" урезанные версии
NYT, конечно, та ещё желтуха, но вопрос-то интересный, - что опаснее для человечества: неконтролируемый технологический прогресс (а сингулярность ведь не отконтролируешь по факту) или его тотальное регулирование "ради безопасности" и, следовательно, замедление?
А про Антихриста прям интересно. Антихрист это AGI или ASI? В какой момент начинать бояться? :)
#Тиль #футурология #регулирование
———
@tsingular
В недавнем интервью The New York Times сооснователь PayPal и Palantir высказал неожиданную теорию: современный Антихрист придет к власти не через демонические речи, а через страх перед технологиями.
Ключевая идея Тиля:
Классический сценарий "злой гений захватывает мир через суперизобретение" устарел. Сегодня люди слишком напуганы прогрессом. Набирает силу тезис: "Остановим науку! Нужно больше регулирования!"
Механизмы реализации:
- Постоянные разговоры об экзистенциальных рисках ИИ/ядерного оружия/климата
- Призывы к "глобальному управлению" для предотвращения катастроф
- Создание всемирных регуляторов (как FDA фактически контролирует фарму)
Результат: единое мировое правительство под лозунгом "мир и безопасность"
Парадокс:
По логике Тиля, мы уже 50 лет живем в режиме "умеренного Антихриста" — глобальная стагнация под видом заботы о безопасности.
Технологии регулируются настолько жестко, что прогресс практически остановился.
Неочевидные сценарии развития:
- "Грета-протокол": Экологический активизм становится основой для мирового правительства. Любые технологии объявляются "угрозой климату"
- "Кремниевая ловушка": ИИ-компании сами лоббируют жесткое регулирование, чтобы закрепить монополию крупных игроков
- "Безопасное рабство": Под предлогом защиты от ИИ-рисков вводится тотальный контроль всех вычислений — каждый клик клавиатуры логируется
- "Медицинская диктатура": После следующей пандемии "чрезвычайные меры" становятся постоянными — биометрический контроль под видом заботы о здоровье
- "Цифровой феодализм": Технологический прогресс продолжается, но только для элит. Остальные получают "безопасные" урезанные версии
NYT, конечно, та ещё желтуха, но вопрос-то интересный, - что опаснее для человечества: неконтролируемый технологический прогресс (а сингулярность ведь не отконтролируешь по факту) или его тотальное регулирование "ради безопасности" и, следовательно, замедление?
А про Антихриста прям интересно. Антихрист это AGI или ASI? В какой момент начинать бояться? :)
#Тиль #футурология #регулирование
———
@tsingular
🤯4🐳4👻3✍1😈1
Что лучше для человечества?
Anonymous Poll
49%
Сингулярность - прогресс на максимальной скорости
51%
Безопасность - медленное, регулируемое развитие
⚡6
Forwarded from Machinelearning
🚀 Baidu открыла исходный код серии моделей ERNIE 4.5 !
🧠 Эти модели достигли SOTA-результатов на текстовых и мультимодальных бенчмарках:
— следование инструкциям,
— запоминание фактов,
— визуальное понимание,
— мультимодальные рассуждения.
🔧 Обучены на PaddlePaddle с эффективностью до 47% MFU при претрейне крупнейшей модели.
📦 В составе релиза:
- 10 моделей ERNIE 4.5,
- MoE‑архитектуры с 3B и 47B активных параметров,
- самая крупная модель содержит 424B параметров (MoE),
- также доступна компактная dense‑версия на 0.3B.
Всего Baidu выложила сразу 23 модели на Hugging Face размерами — от 0.3B до 424B параметров! 💥
🟢 Попробовать: http://ernie.baidu.com
🟢 Hugging Face: https://huggingface.co/baidu
🟢 GitHub: https://github.com/PaddlePaddle/ERNIE
🟢 AI Studio: https://aistudio.baidu.com/overview
@ai_machinelearning_big_data
#ERNIE #opensource #Baidu
🧠 Эти модели достигли SOTA-результатов на текстовых и мультимодальных бенчмарках:
— следование инструкциям,
— запоминание фактов,
— визуальное понимание,
— мультимодальные рассуждения.
🔧 Обучены на PaddlePaddle с эффективностью до 47% MFU при претрейне крупнейшей модели.
📦 В составе релиза:
- 10 моделей ERNIE 4.5,
- MoE‑архитектуры с 3B и 47B активных параметров,
- самая крупная модель содержит 424B параметров (MoE),
- также доступна компактная dense‑версия на 0.3B.
Всего Baidu выложила сразу 23 модели на Hugging Face размерами — от 0.3B до 424B параметров! 💥
@ai_machinelearning_big_data
#ERNIE #opensource #Baidu
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4
Интересный прецендент с DeepSeek в Германии
Китайские эксперты раскритиковали решение Германии о блокировке DeepSeek как проявление предвзятости к китайским технологиям.
Претензия, - передает песональные данные пользователей в Китай.
Т.е. хочешь работать с китайскими компаниями — придется снимать ограничения с их ИИ-решений.
Ну или это приведёт к распространению китайских датацентров с ИИ в этих странах, - надо же персональные данные локально обрабатывать.
Но тогда потом пусть не жалуются, что под боком появились доступные нейронки.
#DeepSeek #Китай #Германия
———
@tsingular
Китайские эксперты раскритиковали решение Германии о блокировке DeepSeek как проявление предвзятости к китайским технологиям.
Претензия, - передает песональные данные пользователей в Китай.
Т.е. хочешь работать с китайскими компаниями — придется снимать ограничения с их ИИ-решений.
Ну или это приведёт к распространению китайских датацентров с ИИ в этих странах, - надо же персональные данные локально обрабатывать.
Но тогда потом пусть не жалуются, что под боком появились доступные нейронки.
#DeepSeek #Китай #Германия
———
@tsingular
👍9❤4🔥1
Бессмертие почти: китайские ученые нашли генетический переключатель регенерации органов у млекопитающих
Прорыв в регенеративной медицине от китайских исследователей из NIBS и BGI Research. Публикация в Science показала, как восстановить способность к заживлению у млекопитающих.
Ключ — ген Aldh1a2, отвечающий за метаболизм витамина А. У рыб и саламандр он активен, у млекопитающих — заблокирован эволюцией.
Ученые "включили" этот ген у мышей и крыс, что привело к полной регенерации мягких и суставных тканей.
Механизм работает через производство ретиноевой кислоты.
Открытие может упростить лечение травм костей, конечностей, кожи, нервов и легких у людей.
#regeneration #Aldh1a2 #biotechnology #Китай
———
@tsingular
Прорыв в регенеративной медицине от китайских исследователей из NIBS и BGI Research. Публикация в Science показала, как восстановить способность к заживлению у млекопитающих.
Ключ — ген Aldh1a2, отвечающий за метаболизм витамина А. У рыб и саламандр он активен, у млекопитающих — заблокирован эволюцией.
Ученые "включили" этот ген у мышей и крыс, что привело к полной регенерации мягких и суставных тканей.
Механизм работает через производство ретиноевой кислоты.
Открытие может упростить лечение травм костей, конечностей, кожи, нервов и легких у людей.
#regeneration #Aldh1a2 #biotechnology #Китай
———
@tsingular
👍193🔥94🤔13❤8⚡6🙏3
Forwarded from Искусственный интеллект. Высокие технологии
Sakana AI представила AB-MCTS (Adaptive Branching Monte Carlo Tree Search) — алгоритм, который объединяет несколько передовых ИИ-моделей (o4-mini, Gemini 2.5 Pro, DeepSeek-R1-0528) в единую систему коллективного поиска решений.
Преимущества AB-MCTS:
— Коллективный интеллект: каждая модель вносит свои сильные стороны и компенсирует слабые.
— Адаптивный поиск: строится дерево возможных стратегий, и выбор ответвлений происходит на основе успешности прошлых итераций.
— Существенный прирост качества: на бенчмарке ARC-AGI-2 комбинация моделей значительно превосходит каждую из них по отдельности.
Полезные ссылки:
Блог об AB-MCTS: https://sakana.ai/ab-mcts
Статья на arXiv: https://arxiv.org/abs/2503.04412
Исходник TreeQuest: https://github.com/SakanaAI/treequest
Эксперименты ARC-AGI: https://github.com/SakanaAI/ab-mcts-arc2
@vistehno
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡6✍2❤🔥1❤1👌1
Cursor запустил ИИ-агентов в веб и мобильных версиях
Теперь Cursor Agent работает не только в IDE, но и в браузере и на мобильных устройствах. Агенты умеют писать код, отвечать на сложные вопросы и создавать архитектуру проектов.
Доступны прямо сейчас на cursor.com/agents. Можно получать уведомления в Slack о завершении задач и запускать агентов командой "@Cursor".
Главная фишка — синхронизация между устройствами. Начал работу на телефоне, продолжил на ноутбуке. Cursor превращает работу с ИИ-агентами в такой же естественный процесс, как командная работа.
#Cursor #агенты
------
@tsingular
Теперь Cursor Agent работает не только в IDE, но и в браузере и на мобильных устройствах. Агенты умеют писать код, отвечать на сложные вопросы и создавать архитектуру проектов.
Доступны прямо сейчас на cursor.com/agents. Можно получать уведомления в Slack о завершении задач и запускать агентов командой "@Cursor".
Главная фишка — синхронизация между устройствами. Начал работу на телефоне, продолжил на ноутбуке. Cursor превращает работу с ИИ-агентами в такой же естественный процесс, как командная работа.
#Cursor #агенты
------
@tsingular
🔥8👍3⚡1❤1
Forwarded from PWN AI (Artyom Semenov)
Ну что же, а сейчас разберём пример интересного исследования, которое подкинул мне агент, о котором я описывал выше.
Безопасность протоколов коммуникации между агентами, кажется, что только в MCP проблемы, но тут господа из Китая провели детальное исследование всех существующих (на момент написания исследования) протоколов взаимодействия между агентами и пришли к интересным выводам.
Во-первых они проанализировали 150 статьей по протоколам коммуникаций между агентами, а также по их безопасности. Выделили 3 уровня протоколов:
1.User-Agent – человек-агент
2.Agent-Agent- коммуникация между агентами
3.Agent-Environment – взаимодействие агентов с внешними системами.
Самое интересное конечно же, что они построили свою модель угроз для всех 3 уровней. Так на первом уровне расположились довольно известные нам угрозы - промпт инъекции, социотехнические атаки, извлечение данных и манипуляция контекстом.
Дальше, когда происходит коммуникация между агентами – тут выделяют угрозы, когда агенты с изначально опасной целью – нарушают консенсус, то есть цель всей агентной системы. А также внедрение ложных данных и эксплуатация доверия – буквально агент может внушить другому что-то плохое.
А уже потом – Agent-Environment, тут и атаки на цепочку поставок и влияние на API, а также внешние ресурсы. Интересно что манипуляция с API – также может повлиять на поведение агентов.
Есть и отдельный блок – Protocol Analysis. Примечательно что MCP выделяют как наиболее проработанным с точки зрения безопасности, и в правду много исследований – а сейчас ещё вышло интересное обновление – в MCP добавили защиту. Но не об этом речь.
A2A – пока что в стадии проработки с точки зрения безопасности.
Ну и что интересно, предлагают в статье и механизмы защиты – например адаптацию Zero Trust, мониторинг поведения, контролировать промпт-инъекции путём наложения файрволла, балансировщика нагрузки а также дообучения на состязательных примерах. Подробно
В скриншотах к посту - важные таблицы из статьи.
статья
Безопасность протоколов коммуникации между агентами, кажется, что только в MCP проблемы, но тут господа из Китая провели детальное исследование всех существующих (на момент написания исследования) протоколов взаимодействия между агентами и пришли к интересным выводам.
Во-первых они проанализировали 150 статьей по протоколам коммуникаций между агентами, а также по их безопасности. Выделили 3 уровня протоколов:
1.User-Agent – человек-агент
2.Agent-Agent- коммуникация между агентами
3.Agent-Environment – взаимодействие агентов с внешними системами.
Самое интересное конечно же, что они построили свою модель угроз для всех 3 уровней. Так на первом уровне расположились довольно известные нам угрозы - промпт инъекции, социотехнические атаки, извлечение данных и манипуляция контекстом.
Дальше, когда происходит коммуникация между агентами – тут выделяют угрозы, когда агенты с изначально опасной целью – нарушают консенсус, то есть цель всей агентной системы. А также внедрение ложных данных и эксплуатация доверия – буквально агент может внушить другому что-то плохое.
А уже потом – Agent-Environment, тут и атаки на цепочку поставок и влияние на API, а также внешние ресурсы. Интересно что манипуляция с API – также может повлиять на поведение агентов.
Есть и отдельный блок – Protocol Analysis. Примечательно что MCP выделяют как наиболее проработанным с точки зрения безопасности, и в правду много исследований – а сейчас ещё вышло интересное обновление – в MCP добавили защиту. Но не об этом речь.
A2A – пока что в стадии проработки с точки зрения безопасности.
Ну и что интересно, предлагают в статье и механизмы защиты – например адаптацию Zero Trust, мониторинг поведения, контролировать промпт-инъекции путём наложения файрволла, балансировщика нагрузки а также дообучения на состязательных примерах. Подробно
В скриншотах к посту - важные таблицы из статьи.
статья
✍8👍5