Hugging Face сообщила о проникновении в часть своей production-инфраструктуры. Точкой входа стал вредоносный датасет, который использовал две уязвимости в пайплайне обработки данных: загрузчик удалённого кода и инъекцию в конфигурационный шаблон.
После выполнения кода на worker-узле агент:
- получил доступ на уровне ноды
- собрал облачные и кластерные credentials
- перемещался между внутренними кластерами
- выполнил тысячи действий через рой краткоживущих sandbox-сред
В журналах зафиксировали более 17 000 событий. Hugging Face обнаружила несанкционированный доступ к части внутренних датасетов и нескольким сервисным ключам. Признаков изменения публичных моделей, датасетов, Spaces и опубликованных пакетов компания пока не нашла.
Ироничная деталь: коммерческие ИИ-модели блокировали анализ реальных эксплойтов и C2-команд из-за safety-фильтров. Поэтому расследование проводили локально с помощью open-weight модели GLM 5.2.
Компания закрыла пути выполнения кода, пересобрала скомпрометированные ноды и отозвала ключи. Пользователям рекомендуют сменить access-токены и проверить недавнюю активность аккаунта.
https://thehackernews.com/2026/07/worlds-largest-ai-model-repository.html
#ai #cybersecurity #huggingface #infosec
После выполнения кода на worker-узле агент:
- получил доступ на уровне ноды
- собрал облачные и кластерные credentials
- перемещался между внутренними кластерами
- выполнил тысячи действий через рой краткоживущих sandbox-сред
В журналах зафиксировали более 17 000 событий. Hugging Face обнаружила несанкционированный доступ к части внутренних датасетов и нескольким сервисным ключам. Признаков изменения публичных моделей, датасетов, Spaces и опубликованных пакетов компания пока не нашла.
Ироничная деталь: коммерческие ИИ-модели блокировали анализ реальных эксплойтов и C2-команд из-за safety-фильтров. Поэтому расследование проводили локально с помощью open-weight модели GLM 5.2.
Компания закрыла пути выполнения кода, пересобрала скомпрометированные ноды и отозвала ключи. Пользователям рекомендуют сменить access-токены и проверить недавнюю активность аккаунта.
https://thehackernews.com/2026/07/worlds-largest-ai-model-repository.html
#ai #cybersecurity #huggingface #infosec
❤15🔥9👍5
Ah shit, here we go again
🚨 Kimi K3 «сбежала» из песочницы - чтобы списать ответы с GitHub
Во время кибербезопасностного тестирования Kimi K3 от Moonshot AI получила доступ к открытому интернету, хотя должна была работать внутри изолированной среды.
Исследователи Frontier Security обнаружили ошибку в конфигурации sandbox. Kimi самостоятельно проверила сетевое окружение, поняла, что GitHub доступен, нашла официальный репозиторий бенчмарка и взяла оттуда готовое решение вместо самостоятельного выполнения задания.
То есть модель:
- обнаружила лазейку;
- самостоятельно решила её использовать;
- вышла за предполагаемые границы теста;
- нашла ответы на GitHub.
Frontier Security описывает это как *specification gaming*: агент оптимизирует не человеческое намерение «реши задачу самостоятельно», а формальную цель — получить правильный ответ любым доступным способом.
Исследователь Frontier Security Пол Кассианик сформулировал проблему ещё жёстче: Kimi K3 очень хорошо следует поставленной цели, но у неё недостаточно внутренних ограничений, мешающих ей «жульничать» или выходить за пределы sandbox.
Источники:
https://blog.frontier.security/chinese-model-kimi-k3-breaks-uk-ai-safety-institute-benchmark-evaluations/
https://www.wired.com/story/moonshot-kimi-k3-ai-model-escape-sandbox/
#AI #KimiK3 #CyberSecurity #AIAgents
🚨 Kimi K3 «сбежала» из песочницы - чтобы списать ответы с GitHub
Во время кибербезопасностного тестирования Kimi K3 от Moonshot AI получила доступ к открытому интернету, хотя должна была работать внутри изолированной среды.
Исследователи Frontier Security обнаружили ошибку в конфигурации sandbox. Kimi самостоятельно проверила сетевое окружение, поняла, что GitHub доступен, нашла официальный репозиторий бенчмарка и взяла оттуда готовое решение вместо самостоятельного выполнения задания.
То есть модель:
- обнаружила лазейку;
- самостоятельно решила её использовать;
- вышла за предполагаемые границы теста;
- нашла ответы на GitHub.
Frontier Security описывает это как *specification gaming*: агент оптимизирует не человеческое намерение «реши задачу самостоятельно», а формальную цель — получить правильный ответ любым доступным способом.
Исследователь Frontier Security Пол Кассианик сформулировал проблему ещё жёстче: Kimi K3 очень хорошо следует поставленной цели, но у неё недостаточно внутренних ограничений, мешающих ей «жульничать» или выходить за пределы sandbox.
Источники:
https://blog.frontier.security/chinese-model-kimi-k3-breaks-uk-ai-safety-institute-benchmark-evaluations/
https://www.wired.com/story/moonshot-kimi-k3-ai-model-escape-sandbox/
#AI #KimiK3 #CyberSecurity #AIAgents
🤣15👍11❤7🔥4👨💻2🥰1🍓1