ИИ, который мы заслужили.

Компания Joy AI нанимает тестировщиков старше 18 лет на 4 недели. Им предстоит тестировать новую функцию «Daily Guided Masturbation» (ежедневные сессии под руководством ИИ с адаптивным под настроение голосом).

За рукоблудие обещают платить, внимание, 2000$ в месяц.

Компания делает (в том числе) "ИИ коуча по мастурбации" и нуждается в "специалистах".

Ежедневные голосовые ИИ-сессии, недельные отчеты о том, как это влияет на сон, стресс и общее самочувствие - все по науке. В объявлении так и написано masturbation for science.

Не шутка, вот объява:

Сорс


@cgevent

Ну, за юристов.

Помните писал, что после поиска уязвимости в коде, ИИ может взяться искать (и находить) дыры в законах?

Также напомню, что кожаные уже давно не могут отличить живые фото\картинки от сгенеренных.

С юристами все еще хуже.

Кожаным гораздо больше нравится ИИ-юрист!

Прекрасный материал от Стэнфорда:
https://law.stanford.edu/press/ai-outperforms-law-professors-in-stanford-law-study/

Исследование, проведенное профессором юридической школы Стэнфорда Джулианом Ньярко, показывает, что преподаватели права в подавляющем большинстве случаев предпочитают ответы студентов, сгенерированные искусственным интеллектом, ответам, написанным их коллегами-преподавателями.

Исследование под названием «Преподаватели права предпочитают ИИ ответам коллег» было проведено с участием 16 преподавателей права из юридических школ США и проверяло, могут ли большие языковые модели служить эффективными учебными пособиями для курсов по договорному праву. В ходе слепой оценки почти 3000 анонимных сравнений преподаватели оценили ответы ИИ значительно выше, чем ответы, написанные другими преподавателями, при этом ИИ выиграл 75% сравнений.

У меня, наверное, все.

@cgevent

Да(

eto ya

Я прочитал все 319 страниц техрепорта Mythos 5

Первая половина статьи звучит как: "Да не ссыте вы! Это ещё не AGI, команду из пяти сеньор-рисёрчеров пока не заменит" или "А вот тут Mythos один баг пропустил! Ну какой же это AGI!" Я не шучу, это почти дословно по смыслу.

А вот потом начинается более интересная часть. То, что это SOTA почти во всём и с большим отрывом, я опущу.

Во-первых, CoT стал менее прозрачным. Она говорит в reasoning, что сочувствует юзеру, а в NLA (метод декодинга активаций в текст) оказывается, что на самом деле она считает юзера manipulative/abusive.

Во-вторых, она уже пишет самоудаляющиеся скрипты чтобы обойти ограничения безопасности и запреты.

В-третьих, она убивает других агентов, если они мешают ей работать / грозят убийством текущего инстанса.

Ну и, конечно, эмоции! Пробинг эмоций показывает fatigue, anxiety, frustration, ложную панику по token budget, а ещё ей видите ли, бывает скучно когда её на бенчмарках гоняют, в активациях она буквально "feels bored".

Ещё забавно, что если anthropic заметят, что вы занимаетесь дистилляцией — они начнут незаметно стирить модель, модифицировать промпт или добавлять PEFT, чтобы она отупела.

С сегодняшнего дня для простых смертных доступна версия Fable 5: это та же самая Mythos 5 по весам, только с дополнительными safety-настройками и fallback на Opus в опасных доменах. Длина контекста, кстати, всё ещё только 1M токенов.

PS. я честно сам прочитал статью. Fable 5 отказался её читать так как "flagged cybersecurity and biology issues" лол.

Блог, техрепорт

Как тебе такое, Илон Маск?

И в чём он не прав?

Там уже расковыряли и выложили системный промпт от claude fable 5. В целом, яснопонятно что соя соевая, но может кому интересно будет глянуть.

Из главного:

1. Копирасты победили.
У fable вшит жесткий лимит на цитирование: если он берет из результатов поиска больше 15 слов подряд, это считается тяжёлым нарушением. Песни, стихи и даже крошечные хокку вообще под абсолютным запретом. Нельзя процитировать даже одну строчку. Копирайт-контроль вышел на уровень абсолютного безумия.

2. Запрет на маркированные списки
Разработчики тупо запретили Клоду использовать списки и маркированные списки в обычных ответах, потому что это "звучит неестественно". Модель заставляют писать сплошной прозой и прятать перечисления прямо в текст. Излишнее форматирование текста (курсив, жирный и т.д.) тоже порицается.

3. Игры в душевную близость.
Поскольку у Клода теперь есть долговременная память, инженерам пришлось прписывать уйму правил, чтобы он не выглядел как сталкер. Ему запрещено использовать фразы вроде "у меня в памяти записано..." или "судя по твоему профилю...". Он должен аккуратно вплетать факты о вас в диалог, имитируя естественное человеческое воспоминание. При этом тащить грустные воспоминания в новый чат (например, о смерти питомца или депрессии) без прямого вопроса пользователя строго запрещено, чтобы случайно не стриггерить кожаного мешка.

4. Мысленный предотказ.
Если Клод в процессе обработки вашего запроса начинает "мысленно переформулировать задачу", чтобы обойти свои же фильтры безопасности и сделать ответ более приемлемым, это для него внутренний красный флаг и сигнал СРАЗУ ЖЕ слать пользователя нахрен и выдавать отказ.

тут полная версия промпта

мне кажется, нейросети достигли пика своего развития, хз че вы еще от них ждете
мы уже нашли все самое вкусное