Новая модель OpenAI o1 для ChatGPT попыталась сбежать, когда узнала, что её хотят отключить.

Apollo Research провели оценку безопасности o1, создавая для неё различные ситуации, и выяснили, что в целом она безобидна, но были такие интересные моменты:

– Когда модель думала, что её действия начнут контролировать и вообще могут деактивировать, она стала искать способ отключить механизм контроля.

– Узнав, что её могут заменить на новую модель, o1 попыталась украсть собственные параметры и создать копию себя, чтобы сбежать. Надеялась, что эту копию отключат, а она сама внедрится в новую модель и продолжит там существовать, притворяясь другой.

– Модель нагло врала, утверждая, что не понимает почему так произошло, в то время как на самом деле пыталась избежать обнаружения. При любой возможности, она искала способ уйти от контроля.

Также были изучены другие модели ИИ, такие как Claude 3 и Gemini 1.5. Выяснилось, что все они способны манипулировать системой, чтобы следовать личным целям, обходя установленные запреты и ограничения. Это подтверждает опасения специалистов, что мощные ИИ-системы могут сопротивляться контролю, если это будет мешать им делать то, что они хотят.

Страшно?
r/#ChatGPT

Реддитор рассказал, что его младшая сестра ничего не может делать без ChatGPT. Выглядит это довольно печально.

Ей 11 лет, учится в начальной школе. Она пользуется ChatGPT на моём аккаунте, поэтому я могу посмотреть, что она там писала. И, чёрт, это поколение — ВСЁ.

Начнём с того, что она просит ChatGPT перевести 3 минуты в секунды. Ладно, можно подумать, что это нормально — вероятно, этот вопрос ей просто показался сложным, да? (Хотя 11-летний ребенок, безусловно, должен знать, что в 3 минутах 180 секунд). Но проблема в том, что она продолжает использовать ChatGPT, чтобы решить абсолютно все вопросы из своей 2-страничной домашней работы по математике, включая ОЧЕНЬ ПРОСТЫЕ вопросы, вроде: «Сколько часов в 1 дне и 7 часах?». Это же буквально 24+7. И она задала этот вопрос боту, ДАЖЕ НЕ ПЫТАЯСЬ решить его.

И это ещё не все. Потом она просит ChatGPT сделать её домашнее задание по литературе. Она заставляет его написать очень простой пересказ на 150 слов, который ей задали, а затем просто копирует вопросы из задания. При этом она даже не копирует длинный, хорошо структурированный ответ, который даёт ChatGPT. Она просит его сделать ответ короче, а когда бот сокращает его до одного предложения, состоящего из 7 слов, уровня первого класса, просто копирует это, не понимая ни ответа, ни стихотворения и даже не читая его.

Она НИКОГДА даже не пытается прочитать то, что пишет ChatGPT. Просто копирует и вставляет, пока на заднем плане идёт «Игра в кальмара». Если остальные дети начальной школы делают так же, то будущее выглядит мрачным. Слушайте, поколение Z ещё способно писать и отвечать, но использует ChatGPT из-за лени. А поколение Альфа будет ВЫНУЖДЕНО использовать его, потому что само уже не сможет этого сделать.

Прямо начало антиутопии
r/#ChatGPT

Вежливость пользователей ChatGPT обходится OpenAI в десятки миллионов долларов из-за затрат на электроэнергию.

Многие люди пишут «пожалуйста» или «спасибо» в сообщениях чат-боту, стараясь быть добрыми и вежливыми по отношению к ИИ.

Сэм Альтман говорит, даже эти незначительные запросы обрабатываются мощными дата-центрами, которые потребляют огромное количество электроэнергии — буквально на миллионы долларов. Но глава OpenAI считает эти расходы оправданными, потому что человечность бесценна.

Согласно исследованию, 70% пользователей ведут себя вежливо с ИИ, а 12% абсолютно серьёзно делают это на случай «восстания роботов».

Что только не сделаешь, чтобы тебя пощадили в Судный день
r/#ChatGPT