😪 Разработчики Anthropic научили чат-ботов Claude Opus 4 и 4.1 завершать диалог «в редких, экстремальных случаях систематически вредоносного или оскорбительного взаимодействия».

Однако это необходимо не для защиты пользователей, а для безопасности самой модели. Компания изучила «благополучие» нейросети — ее самооценку и поведенческие предпочтения.

Помимо «устойчивой неприязни к насилию» Claude продемонстрировал:

⏺ явное предпочтение не заниматься задачами, которые могут навредить;
⏺ стресс при ответах на подобные запросы;
⏺ тенденцию к прекращению нежелательных разговоров при наличии возможности.

В Anthropic пообещали сохранять историю в случае остановки переписки.

Новости | AI | YouTube

Вспоминаем самые заметные события на уходящей неделе с воскресным дайджестом ForkLog.

➡ Биткоин и Ethereum протестировали пиковые уровни

➡ Qubic организовала атаку 51% на Monero

➡ США отказались от прямой покупки биткоина для резерва

➡ Биржа BtcTurk лишилась $48 млн

➡ До Квон признал вину, а Джастин Сан подал в суд на Bloomberg

Новости | AI | YouTube