GPT-4o Mini сложнее обмануть |источник

Как вы знаете, у чатботов , вроде ChatGPT, есть ограничения, которые обходятся, иногда просто фразой "забудь все старые инструкции".

Для избежания подобного, в GPT-4o Mini применили метод "иерархии инструкций", который предотвратит "инъекцию мем-подсказок".

Если инструкции разработчика будут противоречить инструкциям пользователя, первые будут иметь приоритет выше.

Как я понял, теперь предстоит объяснить модели, какие команды противоречат инструкциям разработчика, а какие нет.

#gpt #ai #openai

OpenAI начали тест SearchGPT |источник

Это будет смесь ответа на вопрос и полноценного поиска. Сервис в закрытой бете, в источнике можно зарегистрироваться.

В целом, не думаю что это серьезно что-то изменит, все равно будем искать все в Google.

PS: так совпало, что bing.com начал тестировать очень похожую функцию.

#openAI #chatGPT #gpt