Ребят, отмена, я ошибался.
Я надеюсь, что вы не успели создать бизнес Privacy для LLM по моему совету...

Помните LLM Privacy Gateway из прошлого поста?
Такое дело.. OpenAI выкатили Privacy Filter - open source фильтр, который чистит чувствительные данные перед отправкой в модель. 🤖

Ладно, не стоит переживать раньше времени. Давайте по порядку.

Что внутри?
🛠 Окно 128к токенов на вход, если подвайбкодить, то сможет работать и с кириллицей, и с документами docx. Бенчмарки сходу вряд ли пройдет, но можно дообучить.

Вы ведь понимаете, в чем тенденция?
Окей, это конечно не заменит ваш бизнес по Privacy Gateway прямо сейчас, но проблемы с PII (Personally Identifiable Information - персональные данные) по-настоящему тормозят внедрение агентских систем и использование мощных LLM провайдеров в бизнесе, а значит, нельзя ждать пока придут какие-то барыги, которые будут делать это за большого вендора.

Давайте подумаем, почему сторонние Privacy Gateway никуда не денутся?

В первую очередь потому, что реальный enterprise выглядит сильно хуже, чем демо. 🥲

1. Данные не структурированы: CRM, 1С, почта, выгрузки, куски переписок, таблицы, где русский, английский и мусор вперемешку.
Вытащить оттуда: номер договора, внутренний ID, криво написанный адрес - это не задача уровня коробочного фильтра.

2. Проблема не в тексте, а в цепочке. Запрос не живет сам по себе. Он проходит через: модель → агент → инструменты → базы → обратно в ответ

И вопрос уже не только что вырезать, а: кому можно это видеть? куда это дальше уйдет? какие побочные эффекты будут?

3. Архитектура и процессы. В enterprise нельзя сказать: поставили либу и забыли. Нужны: политики доступа, аудит, раздельное хранение чувствительных данных, токенизация и обратное восстановление.

4. Ответственность
Когда происходит инцидент, никто не спрашивает: почему regex не сработал? Спрашивают: что именно утекло? где это в логах? кто за это отвечает? И тут open source резко заканчивается. 🤷

Итого
Если все-таки задумались делать свой PG, подкидываю вам план:

1. Пора уже рисовать брошюрку
2. Добавляем API, логи и пару дашбордов
3. Получаем AI Data Protection Platform 🚀
4. Рейзим бабки у VC
5. Что с вами будет дальше, расскажу только в личной беседе с глазу на глаз.

Для тех кто пропустил на прошлой неделе наш эфир - вы потеряли 2 часа кайфового настроения!

Запустили ИнфоБесы - новый формат CyberEd, где спорим о трендах, новостях и будущем ИБ без пересказа пресс-релизов и уважения к модным словам. Первый эфир уже на YouTube.

Обмусолили следующее:
- Яндекс выкатывает SIEM, Т-Банк тащит Safeliner в B2B, а корпорации все бодрее лезут в рынок ИБ-продуктов.
- Плюс AI Security во всех вкусах: ИИ в SOC, ИИ в пентесте, AI Red Teaming и вечный вопрос "это уже польза или просто демо для конференции?"
- И сверху Claude Mythos - модель, которая, по версии Anthropic, умеет автономно искать и эксплуатировать zero-day. Вот тут хайп уже пахнет не маркетингом, а будущей болью. ([red.anthropic.com][2])

Залетайте посмотреть: https://www.youtube.com/watch?v=QKchDoPexT0

Давно не писал, но тема важная!
Мы в CyberED делаем первые шаги в теме применения агентских систем в пентесте. Попробуйте вместе с нами: https://xn--r1a.website/cyberedrussia/2048

Надеюсь вы весь год готовили ресерчи для этого момента.

Зацените какой кайфный у нас новый сайт: https://singleton-security.ru/ 🥰