Чат-боты, которые используют машинное обучение, могут быть несовершенными и легко поддаются обману. Например, обновленный чат-бот Bing от Microsoft был взломан студентом из Стэнфорда. Кевин Лю использовал недавно обнаруженный метод взлома под названием «Prompt Injection». С его помощью он заставил ИИ от Microsoft раскрыть внутреннюю засекреченную информацию.

@SecLabNews #Чатботы #МашинноеОбучение #Безопасность #ИскусственныйИнтеллект