Открытие UIUC: АИ-агенты могут взломать веб-сайты без человеческого участия

🔍Исследователи из UIUC показали, что LLM-агенты могут самостоятельно находить и эксплуатировать уязвимости в веб-приложениях с помощью различных инструментов.

🧪 В эксперименте было протестировано 10 LLM, в том числе GPT-4, GPT-3,5 и LLaMA-2, на 15 типах уязвимостей, включая SQL-инъекции, XSS и CSRF 🕵️

🏆 GPT-4 от OpenAI показала наилучший результат, успешно взламывая веб-сайты в 73,3% случаев, что значительно выше, чем у других моделей.

#LLM #взлом #GPT @SecLabNews

🥹Анонимности больше нет. ИИ научился находить ваше реальное имя по случайным комментариям

Большие языковые модели вышли на новый уровень деанонимизации. Исследование Саймона Лермена показало, что современные ИИ-системы способны сопоставлять анонимные аккаунты с реальными людьми по нескольким разрозненным публикациям в интернете. Речь уже не о ручном OSINT-разборе отдельных случаев, а о масштабируемом подходе, который можно применять на уровне целых платформ.

В экспериментах использовали данные Hacker News, Reddit, LinkedIn и обезличенные интервью ученых. В одном из сценариев модель восстанавливала связь между профилем Hacker News и LinkedIn после удаления прямых идентификаторов: сначала отбирала 100 наиболее вероятных кандидатов, затем проводила дополнительную проверку и выбирала лучший вариант. В тестах с Reddit ИИ заново объединял искусственно разделенные фрагменты истории одного аккаунта, а при росте выборки до десятков тысяч кандидатов точность снижалась постепенно, без резкого падения.

Отдельно автор проверил метод на наборе Anthropic Interviewer: модель смогла установить личности 9 из 125 участников. Вывод исследования выглядит довольно прямолинейно: даже редкое хобби, город, место работы или участие в конференции уже формируют уникальный цифровой отпечаток. По мере развития ИИ стоимость такой идентификации будет снижаться, а риски для анонимности, целевого фишинга и других атак, наоборот, расти.

#кибербезопасность #анонимность #LLM

SecurityLab в Telegram | MAX | Поддержите нас «бустами»