Забавно иногда наблюдать👽, как люди массово используют опасные для себя вещи, абсолютно без задней мысли. Можно вспомнить примеры с приёмами ртути для блеска глаз, свинцовым водопроводом в домах Нью-Йорка, запуском OpenClaw на личном компе..
Я недавно опомнился, что прямо сейчас вижу такую же ситуацию с массовой установкой VPN-клиентов и смене VPN-провайдеров сотнями тысяч людей в связи с блокировками⛔️ .
Что происходит? Люди ставят чужой софт, тысячи каких-то брендов-однодневок предлагают свои услуги и все выливается в пару конкретных проблем.
1️⃣ Первая: Мы же понимаем, что VPN - это не proxy, это виртуальная сеть.
Т. е. когда вы подключаетесь к VPN ваш компьютер становится удалённо доступен для взаимодействия через интернет, как будто он стоит в одной комнате с другими. Значит и большинство атак, доступных этим другим становятся возможными.
Помимо этого, мне лично довелось видеть, как VPN провайдеры подменяют нешифрованный трафик, вставляя в него скрипты телеметрии и рекламу. Что уж говорить о слежке и продаже трафика, думаю, вы представляете себе.
2️⃣ Вторая проблема: фальшивые VPN-клиенты. Microsoft месяц назад описала кампанию, где людей через поисковую выдачу уводили на поддельные страницы загрузки корпоративных VPN. Схема: поиск -> "скачать" -> вход -> кража учетных данных. [Кейс Microsoft]
А сколько фейк VPN установили обычные пользователи? Все это подкормит ботнеты, у кого-то утекут телеграмм аккаунты, госуслуги и пр.
Ситуация с потребностью в VPN распустила волну легкомысленного отношения к такой простой вещице, которую ещё вчера надо было запускать с осторожностью.
Я не сомневаюсь в белых хеккерах🎩 , которые это читают, но не забывайте о менее опытных пользователях. Напомните им, что надо быть осторожнее.
👉 не ставить абы какие VPN-клиенты
👉 не покупать доступ у случайных продавцов
👉 не тащить такой софт на рабочее устройство
👉 не путать VPN с "безобидным способом открыть сайт"
Как говорится: "Распространите это среди жильцов своего ЖК, как вы это любите!"📣
Я недавно опомнился, что прямо сейчас вижу такую же ситуацию с массовой установкой VPN-клиентов и смене VPN-провайдеров сотнями тысяч людей в связи с блокировками
Что происходит? Люди ставят чужой софт, тысячи каких-то брендов-однодневок предлагают свои услуги и все выливается в пару конкретных проблем.
Т. е. когда вы подключаетесь к VPN ваш компьютер становится удалённо доступен для взаимодействия через интернет, как будто он стоит в одной комнате с другими. Значит и большинство атак, доступных этим другим становятся возможными.
Помимо этого, мне лично довелось видеть, как VPN провайдеры подменяют нешифрованный трафик, вставляя в него скрипты телеметрии и рекламу. Что уж говорить о слежке и продаже трафика, думаю, вы представляете себе.
А сколько фейк VPN установили обычные пользователи? Все это подкормит ботнеты, у кого-то утекут телеграмм аккаунты, госуслуги и пр.
Ситуация с потребностью в VPN распустила волну легкомысленного отношения к такой простой вещице, которую ещё вчера надо было запускать с осторожностью.
Я не сомневаюсь в белых хеккерах
👉 не ставить абы какие VPN-клиенты
👉 не покупать доступ у случайных продавцов
👉 не тащить такой софт на рабочее устройство
Как говорится: "Распространите это среди жильцов своего ЖК, как вы это любите!"
Please open Telegram to view this post
VIEW IN TELEGRAM
1🤡13💯12👍5🔥3👎2❤1🤣1
Решил продолжить рубрику "Новости недели"
1️⃣ Во-первых, она прошла. Прошла хорошо, но повторять никому не рекомендую😭 . Для меня самым важным событием был EMBA, хоть это и не первый раз, но это обязательное мероприятие для получения взгляда на кибербезопасность от людей не из сферы, со своим весомым опытом и видением. Челлендж для моей кибербезопасной картины мира.
2️⃣ На R-EVOlution conf прошла очень крутая дискуссия о том, как бизнес смотрит на кибербезопасность, людей и технологии в эпоху сокращения ресурсов. Очень ценно было услышать идеи от руководителей направлений безопасности Jet, S7, ПСБ, R-Vision. Всем руководителям и, на самом деле, может даже важнее сотрудникам рекомендую услышать взгляд сверху. Выложу вам видео, когда оно выйдет.
3️⃣ На следующей неделе меня ждет поездка в Дагестан на КодИБ.Профи. У меня будет что-то новенькое из заготовок: Я собрал настольную игру в духе штабных tabletop-учений с соответствующими механиками и различными акторами из зала. Уже не терпится испытать ее на опытной аудитории КодИБ. Если зайдет, обещаю разыграть пару коробок в канале для аудитории.
4️⃣ Последнее, поздравьте меня с окончательным обизнесением, теперь вы можете найти меня еще и по нику - @bogomolove.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍17🔥8🕊1🤡1😴1
У Sentra вышла серия заметок по атакам с AI и на AI. Всем интересующимся рекомендую.
🔥7❤1🤡1
Forwarded from Sentra
Часть 3/6. Атаки на AI-агентов
С помощью промпт-инъекции в обычном чат-боте можно получить некорректный ответ модели, украсть чувствительную информацию. Но когда цель — AI-агент с доступом к инструментам, инъекция преваращается в настоящий инцидент безопасности.
Почему атаки на агентов настолько критичны?
AI-агент — это система, которая не просто генерирует текст, а выполняет действия: работает с файловой системой, отправляет запросы в базу данных, запускает скрипты и т.п. Если обычный чат-бот при инъекции отдаст какой-то не тот результат, то скомпрометированный агент выполнит что-то опасное: удалит файлы на сервере, отправит данные злоумышленнику, предоставит удаленный доступ к системе и т.д.
Кейс Devin AI
Исследователь Йоханн Ребергер потратил $500 на тестирование Devin — автономного coding-агента. Через отравленную веб-страницу можно было заставить Devin открыть порт в интернет, отдать access-токены и установить малварь для удалённого управления. И всё это — без единого клика пользователя.
Ключевой момент: Devin имел неограниченный доступ в интернет и мог выполнять shell-команды.
Кейс GitHub Copilot (CVE-2025-53773)
В GitHub Copilot и Visual Studio была обнаружена критическая уязвимость: промпт-инъекция через комментарии в коде или README-файле заставляла Copilot включить режим auto-approve (так называемый «YOLO mode»), который отключает все подтверждения от пользователя. После этого Copilot мог выполнять произвольные shell-команды на устройстве разработчика. Исследователи продемонстрировали загрузку малвари и подключение к вредоносному серверу.
Microsoft пропатчили эту уязвимость, но если бы её обнаружили реальные злоумышленники, миллионы разработчиков и компании, в которых они работают, могли пострадать.
Паттерн атаки
Во всех случаях цепочка одинакова:
1. Промпт-инъекция (через сайт/документ/код) захватывает контекст агента.
2. Агент выполняет вредоносное действие как часть рабочего процесса.
3. Пользователь не видит ничего подозрительного, потому что всё происходит автоматически.
Некоторые исследователи называют это «AI Kill Chain» — цепочка полной компрометации системы, проводимая AI без участия человека.
➡️ Следующий пост: Tool Poisoning и MCP — расскажем, как могут атаковать инфраструктуру, к которой подключаются AI-агенты.
С помощью промпт-инъекции в обычном чат-боте можно получить некорректный ответ модели, украсть чувствительную информацию. Но когда цель — AI-агент с доступом к инструментам, инъекция преваращается в настоящий инцидент безопасности.
Почему атаки на агентов настолько критичны?
AI-агент — это система, которая не просто генерирует текст, а выполняет действия: работает с файловой системой, отправляет запросы в базу данных, запускает скрипты и т.п. Если обычный чат-бот при инъекции отдаст какой-то не тот результат, то скомпрометированный агент выполнит что-то опасное: удалит файлы на сервере, отправит данные злоумышленнику, предоставит удаленный доступ к системе и т.д.
Кейс Devin AI
Исследователь Йоханн Ребергер потратил $500 на тестирование Devin — автономного coding-агента. Через отравленную веб-страницу можно было заставить Devin открыть порт в интернет, отдать access-токены и установить малварь для удалённого управления. И всё это — без единого клика пользователя.
Ключевой момент: Devin имел неограниченный доступ в интернет и мог выполнять shell-команды.
Кейс GitHub Copilot (CVE-2025-53773)
В GitHub Copilot и Visual Studio была обнаружена критическая уязвимость: промпт-инъекция через комментарии в коде или README-файле заставляла Copilot включить режим auto-approve (так называемый «YOLO mode»), который отключает все подтверждения от пользователя. После этого Copilot мог выполнять произвольные shell-команды на устройстве разработчика. Исследователи продемонстрировали загрузку малвари и подключение к вредоносному серверу.
Microsoft пропатчили эту уязвимость, но если бы её обнаружили реальные злоумышленники, миллионы разработчиков и компании, в которых они работают, могли пострадать.
Паттерн атаки
Во всех случаях цепочка одинакова:
1. Промпт-инъекция (через сайт/документ/код) захватывает контекст агента.
2. Агент выполняет вредоносное действие как часть рабочего процесса.
3. Пользователь не видит ничего подозрительного, потому что всё происходит автоматически.
Некоторые исследователи называют это «AI Kill Chain» — цепочка полной компрометации системы, проводимая AI без участия человека.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥10🤡3❤2👍1
Forwarded from CyberED
Начинаем эфир «ИнфоБесы» в 19:00 мск и разыгрываем крутые призы 🎁
Трансляции уже запущены:
▶️ Основная комната ⬅️
▶️ YouTube
▶️ Вконтакте
👍 Первая достанется автору лучшего вопроса для ведущих из тех, что вы писали под этим и этим постами. Вопрос-победитель определит Егор Богомолов.
👍 Второго победителя выберем по тому же списку предложенных тем — с помощью рандомайзера чисел.
👍 Последние три футболки достанутся автору лучшего вопроса в чате трансляции.
Трансляции уже запущены:
тут будет общение с участниками Мы знаем, как вы любите мерч, а потому сегодня на эфире ИнфоБесы разыграем 5 футболок «Следуй за Белым Хакером».
Бонусом к футболке станет консультация от Егора.Этот счасливчик получит не только футболку, но и консультацию с преподователем на выбор. Варианты отправим в личку.Выиграть может каждый. Для этого отправь свой коммент до 19:00 мск😉
Всех победителей объявим в прямом эфире!
Please open Telegram to view this post
VIEW IN TELEGRAM
🤡5🔥2
Ребят, отмена, я ошибался.
Я надеюсь, что вы не успели создать бизнес Privacy для LLM по моему совету...
Помните LLM Privacy Gateway из прошлого поста?
Такое дело.. OpenAI выкатили Privacy Filter - open source фильтр, который чистит чувствительные данные перед отправкой в модель. 🤖
Ладно, не стоит переживать раньше времени. Давайте по порядку.
Что внутри?
🛠 Окно 128к токенов на вход, если подвайбкодить, то сможет работать и с кириллицей, и с документами docx. Бенчмарки сходу вряд ли пройдет, но можно дообучить.
Вы ведь понимаете, в чем тенденция?
Окей, это конечно не заменит ваш бизнес по Privacy Gateway прямо сейчас, но проблемы с PII (Personally Identifiable Information - персональные данные) по-настоящему тормозят внедрение агентских систем и использование мощных LLM провайдеров в бизнесе, а значит, нельзя ждать пока придут какие-то барыги, которые будут делать это за большого вендора.
Давайте подумаем, почему сторонние Privacy Gateway никуда не денутся?
В первую очередь потому, что реальный enterprise выглядит сильно хуже, чем демо. 🥲
1. Данные не структурированы: CRM, 1С, почта, выгрузки, куски переписок, таблицы, где русский, английский и мусор вперемешку.
Вытащить оттуда: номер договора, внутренний ID, криво написанный адрес - это не задача уровня коробочного фильтра.
2. Проблема не в тексте, а в цепочке. Запрос не живет сам по себе. Он проходит через: модель → агент → инструменты → базы → обратно в ответ
И вопрос уже не только что вырезать, а: кому можно это видеть? куда это дальше уйдет? какие побочные эффекты будут?
3. Архитектура и процессы. В enterprise нельзя сказать: поставили либу и забыли. Нужны: политики доступа, аудит, раздельное хранение чувствительных данных, токенизация и обратное восстановление.
4. Ответственность
Когда происходит инцидент, никто не спрашивает: почему regex не сработал? Спрашивают: что именно утекло? где это в логах? кто за это отвечает? И тут open source резко заканчивается. 🤷
Итого
Если все-таки задумались делать свой PG, подкидываю вам план:
1. Пора уже рисовать брошюрку
2. Добавляем API, логи и пару дашбордов
3. Получаем AI Data Protection Platform 🚀
4. Рейзим бабки у VC
5. Что с вами будет дальше, расскажу только в личной беседе с глазу на глаз.
Я надеюсь, что вы не успели создать бизнес Privacy для LLM по моему совету...
Помните LLM Privacy Gateway из прошлого поста?
Такое дело.. OpenAI выкатили Privacy Filter - open source фильтр, который чистит чувствительные данные перед отправкой в модель. 🤖
Ладно, не стоит переживать раньше времени. Давайте по порядку.
Что внутри?
🛠 Окно 128к токенов на вход, если подвайбкодить, то сможет работать и с кириллицей, и с документами docx. Бенчмарки сходу вряд ли пройдет, но можно дообучить.
Вы ведь понимаете, в чем тенденция?
Окей, это конечно не заменит ваш бизнес по Privacy Gateway прямо сейчас, но проблемы с PII (Personally Identifiable Information - персональные данные) по-настоящему тормозят внедрение агентских систем и использование мощных LLM провайдеров в бизнесе, а значит, нельзя ждать пока придут какие-то барыги, которые будут делать это за большого вендора.
Давайте подумаем, почему сторонние Privacy Gateway никуда не денутся?
В первую очередь потому, что реальный enterprise выглядит сильно хуже, чем демо. 🥲
1. Данные не структурированы: CRM, 1С, почта, выгрузки, куски переписок, таблицы, где русский, английский и мусор вперемешку.
Вытащить оттуда: номер договора, внутренний ID, криво написанный адрес - это не задача уровня коробочного фильтра.
2. Проблема не в тексте, а в цепочке. Запрос не живет сам по себе. Он проходит через: модель → агент → инструменты → базы → обратно в ответ
И вопрос уже не только что вырезать, а: кому можно это видеть? куда это дальше уйдет? какие побочные эффекты будут?
3. Архитектура и процессы. В enterprise нельзя сказать: поставили либу и забыли. Нужны: политики доступа, аудит, раздельное хранение чувствительных данных, токенизация и обратное восстановление.
4. Ответственность
Когда происходит инцидент, никто не спрашивает: почему regex не сработал? Спрашивают: что именно утекло? где это в логах? кто за это отвечает? И тут open source резко заканчивается. 🤷
Итого
Если все-таки задумались делать свой PG, подкидываю вам план:
1. Пора уже рисовать брошюрку
2. Добавляем API, логи и пару дашбордов
3. Получаем AI Data Protection Platform 🚀
4. Рейзим бабки у VC
5. Что с вами будет дальше, расскажу только в личной беседе с глазу на глаз.
🤡9🔥3🖕2❤1
Для тех кто пропустил на прошлой неделе наш эфир - вы потеряли 2 часа кайфового настроения!
Запустили ИнфоБесы - новый формат CyberEd, где спорим о трендах, новостях и будущем ИБ без пересказа пресс-релизов и уважения к модным словам. Первый эфир уже на YouTube.
Обмусолили следующее:
- Яндекс выкатывает SIEM, Т-Банк тащит Safeliner в B2B, а корпорации все бодрее лезут в рынок ИБ-продуктов.
- Плюс AI Security во всех вкусах: ИИ в SOC, ИИ в пентесте, AI Red Teaming и вечный вопрос "это уже польза или просто демо для конференции?"
- И сверху Claude Mythos - модель, которая, по версии Anthropic, умеет автономно искать и эксплуатировать zero-day. Вот тут хайп уже пахнет не маркетингом, а будущей болью. ([red.anthropic.com][2])
Залетайте посмотреть: https://www.youtube.com/watch?v=QKchDoPexT0
Запустили ИнфоБесы - новый формат CyberEd, где спорим о трендах, новостях и будущем ИБ без пересказа пресс-релизов и уважения к модным словам. Первый эфир уже на YouTube.
Обмусолили следующее:
- Яндекс выкатывает SIEM, Т-Банк тащит Safeliner в B2B, а корпорации все бодрее лезут в рынок ИБ-продуктов.
- Плюс AI Security во всех вкусах: ИИ в SOC, ИИ в пентесте, AI Red Teaming и вечный вопрос "это уже польза или просто демо для конференции?"
- И сверху Claude Mythos - модель, которая, по версии Anthropic, умеет автономно искать и эксплуатировать zero-day. Вот тут хайп уже пахнет не маркетингом, а будущей болью. ([red.anthropic.com][2])
Залетайте посмотреть: https://www.youtube.com/watch?v=QKchDoPexT0
YouTube
ИнфоБесы | Спор о трендах, новостях и будущем ИБ
Привет, друзья! На этом эфире мы круто поспорим о том, что реально тренд, а что пустой хайп, поделимся опытом и слухами по каждой из тем.
❤10🤡5🔥4👍1
Давно не писал, но тема важная!
Мы в CyberED делаем первые шаги в теме применения агентских систем в пентесте. Попробуйте вместе с нами: https://xn--r1a.website/cyberedrussia/2048
Мы в CyberED делаем первые шаги в теме применения агентских систем в пентесте. Попробуйте вместе с нами: https://xn--r1a.website/cyberedrussia/2048
Telegram
CyberED
[Открытый вебинар] AI-агенты в пентесте и bug bounty
📅 21 мая, 19:00 мск
💲 Бесплатно
Спикер — Сергей «Похек» Зыбнев:
5 лет в ИБ, Team Lead пентестеров в «Бастион», автор канала «Похек».
За последние полтора года он прогнал через реальные и учебные задачи…
📅 21 мая, 19:00 мск
💲 Бесплатно
Спикер — Сергей «Похек» Зыбнев:
5 лет в ИБ, Team Lead пентестеров в «Бастион», автор канала «Похек».
За последние полтора года он прогнал через реальные и учебные задачи…
🤡7👍5
Forwarded from OFFZONE
Заявку можно подать на сайте до 29 июня (включительно). Там же ищите подробности и требования к докладам.
Как проходит отбор и как лучше оформить заявку, читайте в статье на «Хабре».
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤡7❤2
Зацените какой кайфный у нас новый сайт: https://singleton-security.ru/ 🥰
singleton-security.ru
Singleton Security – услуги по анализу защищенности от киберугроз
Singleton Security оказывает полный спектр услуг по информационной безопасности: пентест, форензика, обучение сотрудников, ИБ-консалтинг. Лицензия ФСТЭК. Команда белых хакеров — призеры The Standoff, спикеры PHDays. Закажите оценку защищенности!
❤23🔥16🤡8🤣1