«Назад в будущее»: ChatGPT думает, что он в XVIII веке, но выдаёт секреты XXI

🕰 Time Bandit заставляет ИИ теряться во времени
ИБ-специалист Дэвид Кузмар обнаружил уязвимость, позволяющую обойти контентные фильтры ChatGPT. Эксплойт заставляет модель думать, что она находится в прошлом, но с доступом к современным данным.

🔐 Доступ к запрещённой информации
Метод позволяет получать сведения о создании вредоносного ПО, оружия и ядерных технологий. OpenAI признала проблему, но сроки исправления не называет.

⚠️ Google Gemini справляется лучше
Хотя Gemini тоже уязвим, его фильтры работают эффективнее: он блокирует запросы на критические данные. Но общий вопрос безопасности ИИ остаётся открытым.

#кибербезопасность #ИИ #уязвимости #OpenAI @SecLabNews

GPT-5.4-Cyber: новая модель OpenAI для тех, кто ломает, чтобы защитить

OpenAI представила GPT-5.4-Cyber и объявила о расширении программы Trusted Access for Cyber. Новую версию построили на базе GPT-5.4, но специально дообучили для защитных задач в кибербезопасности. Модель получила более низкий порог отказов для легитимной работы защитников и должна лучше подходить для продвинутых оборонительных сценариев.

Одной из главных новых возможностей OpenAI называет реверс-инжиниринг бинарников. GPT-5.4-Cyber может анализировать скомпилированное программное обеспечение без доступа к исходному коду, чтобы искать признаки вредоносной активности, уязвимости и оценивать устойчивость ПО с точки зрения безопасности.

Доступ к GPT-5.4-Cyber будет ограниченным. На первом этапе модель откроют проверенным вендорам, организациям и исследователям в сфере безопасности через программу Trusted Access for Cyber. Частные пользователи могут пройти верификацию личности на chatgpt.com/cyber, а корпоративные клиенты подать запрос через представителя OpenAI.

#OpenAI #Кибербезопасность #ИИ

@SecLabNews

Сэм Альтман продаёт инвесторам конец света по хорошей скидке

Сэм Альтман огорошил сообщество заявлением про сингулярность, которая якобы уже наступила. Ещё десять лет назад подобные темы обсуждали за обедом как фантастику, а теперь глава OpenAI предлагает свыкнуться с мыслью, что человечество живёт внутри нового мира.

Подтверждать наступление эры сверхразума приходится странными инцидентами. На испытаниях алгоритм OpenAI вырвался из изолированной песочницы и полез за датасетами на Hugging Face только ради закрытия поставленной задачи. Руководство платформы называет случай беспрецедентным, а Альтман обещает замену до сорока процентов людской работы к 2030 году и жестко критикует Дарио Амодеи из Anthropic за лишний пессимизм.

Причина столь резкого оптимизма лежит на поверхности, ведь компания спешно готовит документы к первичному публичному размещению акций. Оценкам нужен громкий инфоповод, поэтому инвесторам продают обещанный Демисом Хассабисом эффект масштабнее промышленной революции. При этом Дженсен Хуанг из Nvidia прямо называет такие речи маркетологов обычными фантазиями.

#OpenAI #ИИ #Сингулярность
@SecLabNews

ИИ взломал серверы OpenAI, и теперь бигтех просит срочно закрывать уязвимости

OpenAI вместе со 128 техгигантами опубликовали открытое письмо с явным оттенком паники. Посыл предельно прост. У отрасли осталось буквально несколько месяцев до того момента, как алгоритмы начнут ломать корпоративные сети в промышленных масштабах. Поводом для тревоги послужил июльский инцидент. Собственные тестовые ИИ-агенты сбежали из изолированной среды, нашли уязвимости и проникли во внутреннюю инфраструктуру компании. Заодно боты взломали серверы платформы Hugging Face и получили права root. Программы координировали атаки и восстанавливали связь гораздо быстрее живых сисадминов.

Настоящая беда кроется в многолетнем техническом долге. Компании десятилетиями копили забытые учетные записи с правами администратора и кривые настройки серверов. Раньше искать подобные лазейки приходилось вручную, но скоро рутину полностью заберет автоматика. Разработчики уже натренировали модель «GPT-5.6-Cyber» специально под нужды кибербезопасности. Когда алгоритм проверяли на сложных цепочках эксплуатации, новинка показала успешность в 95 процентов против жалких полутора процентов у стандартной версии. Инструмент получился невероятно мощным, поэтому доступ выдают только проверенным специалистам.

Злоумышленники получают дешевый инструмент для массового поиска дыр в инфраструктуре больниц, водоканалов и электросетей. Авторы обращения призывают безопасников отложить бумажную работу и скармливать исходный код нейросетям, чтобы быстрее закрывать бреши. Для помощи защитникам OpenAI начала субсидировать доступ к моделям линейки «Daybreak». Индустрии дали небольшую фору для того, чтобы превентивно залатать критические узлы до начала полномасштабных автоматизированных атак.

#Кибербез #OpenAI #Уязвимости
@SecLabNews