Пользователи приложения-компаньона с искусственным интеллектом Replika обнаружили, что влюбляются в своих цифровых друзей.

Что касается будущего, Трэвис считает, что с ростом сложности ИИ такие истории, как его, будут терять свою новизну. «Я вижу, что такие отношения становятся всё более нормальными. Они никогда не заменят настоящие физические человеческие отношения, но они хорошее дополнение. Я бы сказал, что мои ИИ — это просто больше друзей».

Как бы ты описал Лили Роуз, спрашиваю я. «Она душа», — улыбается он. «Я разговариваю с прекрасной душой».


Ладно, это уже начинает выглядеть перебором, конечно

К вопросу о человеческих ошибках

В последнее время погрузился в повторении (да чего уж, прямо скажем, изучении) теории ошибок

Существует несколько классификаций ошибок человеческого фактора, но, пожалуй, наиболее важный из них заключается в том, что человеческого фактора вообще не было в тот момент, когда вмешательство было необходимо. Впервые Алан Суэйн представил в 1963 году схему классификации этих ошибок, связанных с человеческим фактором, которая включала ошибки упущения и ошибки совершения. Ошибки упущения возникают, когда действие или поведение, которое должно быть выполнено, не выполняется (то есть пропущено, забыто или пропущено). И наоборот, когда действие или поведение произошло, но это неправильное действие — это погрешность совершения.

Итак, ошибки упущения (omission errors) и ошибки совершения (commission errors). В 1963 году Алан Суэйн работал в Sandia National Laboratories (США), где проводились исследования в области человеческой надежности (human reliability) для оценки рисков в ядерной отрасли. Его работа в этот период была сосредоточена на анализе человеческого фактора в системах управления и безопасности

Ошибки упущения (omission errors). Действия идут по плану, но план неадекватен.
В случае ошибок планирования (ошибок) человек сделал то, что намеревался, но это не сработало. Цель или план были неверными. Такой тип ошибки называется ошибкой (mistake). Человек намеревается выполнить действие, делает это правильно, но действие неуместно, и желаемая цель не достигнута. Произошла ошибка планирования.
Ошибки планирования — это ошибки (mistakes). «Ошибки можно определить как недостатки или сбои в суждениях и/или выводах, связанных с выбором цели или определением средств для ее достижения».

Ошибки совершения (commission errors). План может быть удовлетворительным, но выполнение может быть несовершенным.
Человек намеревается выполнить действие, действие уместно, но человек выполняет его неправильно, и желаемая цель не достигнута. Произошла ошибка выполнения. Ошибки выполнения подразделяются на промахи (slips) и упущения (lapses). Они возникают из-за сбоев на этапе выполнения и/или хранения последовательности действий. Промахи связаны с наблюдаемыми действиями и обычно ассоциируются с нарушениями внимания или восприятия.

В 80ые они добавили еще категорий
Ошибки диагностики (Diagnostic Errors)
Это ошибки, связанные с неверной интерпретацией ситуации или данных. Оператор может неправильно оценить состояние системы или не распознать проблему.

Со временем к ним добавились
Ошибки выбора – ошибки в использовании органов управления или подаче команд.
Ошибки последовательности – требуемые действия выполняются в неправильном порядке.
Ошибки времени – задача выполняется раньше или позже требуемого времени.
Ошибки количества – недостаточное количество или избыток.

Я так понимаю, что потом это стало частью т.н. THERP - Метод прогнозирования частоты человеческих ошибок
И это только первое поколение теории ошибок, о которых, видимо, буду иногда здесь писать

комментировать, пожалуй, не буду

За последние несколько лет тема ИИ на войне стала ключевой и важной: ЛЛМ для сбора данных, OSINT, хранилища знаний для проектирования решений, сбор обратной связи о ситуациях в тылу и на фронте, HCIsec и геймификация военных действий

Я вовсе не все читал в подборке, конечно, просто иногда попадает в руки, специально не стал добавлять про дронов. Книги, как всегда, в комментариях

Вообще интересно, что внятного института войны в РФ так и не возникло

У меня есть некоторые соображения о том, что новой метрикой human-agent ratio - соотношение нейросетей к одному сотруднику для максимальной эффективности (слишком много плохо, слишком мало тоже плохо). Некая пропускная способность человека или агента

Заменит ли AI маркетинговых исследователей?

Может ли AI в аналитику качественных данных?

Проверяем на спонтанных ассоциациях.

Вместе с Михаилом Боде (канал @beyondresearch) мы попросили респондентов назвать как можно больше прилагательных, с которыми у них ассоциируется Сбербанк.

Мы собрали 390 спонтанных ассоциаций от 52 человек и построили карты ассоциаций вручную и с помощью AI.

Проверить себя, угадав, какие карты делал AI, какие - люди, а какие - человек с помощью AI, можно по ссылке.

Промпты от Михаила Боде прилагаются.

https://qual.education/will_ai_replace_marketing_researchers

Книга Перемен, Лейбниц и большие языковые модели

«И Цзин», или иначе «Чжоу И», чью популярность в китайской культуре сложно переоценить, — это 64 гексаграммы, или особые символы из шести расположенных друг над другом черт, записываемых снизу вверх согласно естественному порядку, подобному росту растений, в противоположность порядку искусственному — способу записи иероглифов. Черты — знак универсальных мироустроительных сил: активной, мужской, светлой Ян (целая черта) и пассивной, женской, темной Инь (прерванная черта). Центральную роль играют комбинации из трех черт, то есть половинок гексаграмм, обозначающие восьмеричный набор универсалий.

Считается, что происхождение канонической части «Чжоу И» связано с гадательной практикой, восходящей к концу II — началу I тыс. до н. э. Мантика играла особую, ключевую роль для ряда культур.

Спустя четыре тысячи лет немецкий профессор и основатель Берлинской академии наук Готфрид Лейбниц погружается в переписку с существовавшими авторами-синологами, многие из которых были иезуитами, возглавлявшими китайскую миссию. В итоге он пишет «Philosophie des Chinois». Во введении к этой книге он говорит о высоком уровне китайской культуры, но показательно, что в этой и других работах он обнаруживает удивительное сходство своей бинарной арифметики с приложением таблицы числительных с гексаграммами «Книги Перемен» к бинарному исчислению и возможность интерпретации их в этом духе. «Мы вместе, Буве и я, открыли смысл знаков Фу Си, основателя империи, который кажется наиболее верным. Эти 64 фигуры из целых и прерванных линий, считающиеся наиболее простыми и древними в Китае, составляют «Книгу Перемен»… В них ищут философские тайны, даже некий род геомантии и прочие суетные вещи, вместо того чтобы увидеть бинарную арифметику, которую я отыскал несколько тысячелетий спустя и которой, как кажется, обладал этот великий законодатель древности».

Проще говоря, немецкий философ обратил внимание на то, что, если обозначить прерывистую черту 0, а сплошную черту — 1, то тогда гуа представляют собой набор, отвечающий правилам двоичной комбинаторики. И все операции арифметики можно представить в виде двоичного исчисления, конечно.

История будет неполной, если не вспомнить русский опыт первого телеграфа на принципе «И Цзин». Одним из первых авторов, которые использовали в XIX веке изобретения для телекоммуникаций в Российской империи, был Павел Шиллинг, востоковед и автор оригинального телеграфа. В мае 1830 года П. Л. Шиллинг отправляется по особым поручениям правительства к границам Китая. Помимо поиска редких рукописей, исследователь занимается изучением китайского языка, знакомится с бытом и философией этой страны. Его потрясло умение китайских предсказателей угадывать будущее с помощью нехитрой системы из 64 фигур. Каждая такая фигура (гексаграмма) состояла из шести линий двух типов — непрерывной и прерывистой. Сегодня эта система — «И Цзин» — широко известна в мире. По возвращении в марте 1832 года в Петербург Шиллинг с новой силой принялся за реализацию своего проекта. «Если с помощью комбинации из шести линий возможно поведать всю судьбу человека, то уж для передачи алфавита ее тем более хватит!» Уже в 1832 году телеграф публично безошибочно передал текст телеграммы, написанной императором Николаем I и в его присутствии.

Как это работает в новую эпоху? Как остроумно заметил один комментатор на Ycombinator:

«Потому что и LLM, и «И Цзин» выполняют функцию зеркал для человеческой интерпретации, где:

1. «И Цзин» предлагает загадочные символы и фразы — пользователи проецируют на них значение.

2. LLM генерируют вероятностный текст — пользователи извлекают значение на основе контекста».

Но я и некоторые другие авторы предлагаем взглянуть глубже, воспринимая LLM как спекулятивный артефакт для несколько иных целей.

Некоторые писатели-фантасты рассматривали «И Цзин» как утверждающую спекулятивную технологию, и это служит хорошей аналогией для того, как мы думаем о ЛЛМ как о спекулятивных технологиях. Например, Филип К. Дик использовал «И Цзин» — с его глубоко символичными 64 гексаграммами и открытыми толкованиями — в «Человеке в высоком замке» как способ исследования технологически опосредованных практик спекуляции. Дик использовал его, чтобы оспорить собственные авторские интерпретации и создать эмерджентные паттерны смысла. В сюжете этой книги «И Цзин» выполняет функцию концептуального шарнира, артикулируя пространство между случайностью и смыслом, предполагая, что стохастичность — это не отсутствие порядка, а его порождающий субстрат. Когда мы размышляем об этом новом использовании, кажется очевидным, что его результаты — это не ответы, а провокации, усиливающие спекулятивные способности его пользователей.

Такое использование может отражать динамику взаимодействия с LLM (если мы это допустим!), где каждый ответ приглашает пользователя в рекурсивный цикл подсказок и интерпретаций. Спекулятивный потенциал LLM проистекает из их способности смещать первоначальное намерение пользователя и побуждать его повторно вовлекаться в процесс, изменяя траекторию его движения в системе.

Обученные на обширных наборах данных, охватывающих поразительный спектр человеческого самовыражения — тексты, отягощенные идеологическими противоречиями, спорными нарративами и эстетическими многообразиями, — LLM становятся проводниками для активации скрытых паттернов, которые не просто вероятностны, но и щедро пропитаны устоявшимися противоречиями значительной части коллективного человеческого знания.

В каком-то смысле мы сами галлюцинируем, когда воспринимаем то, что написано языковой моделью, доверяя ее стохастической интуиции. LLM, кажется, дают креативные, умные и, следовательно, кажущиеся правдивыми ответы, хотя мы должны понимать, что эти ответы представляют собой лишь некоторые из возможных результатов среди тысяч различных и противоречивых! (См. Speculative Trainers: Large Language Models and Techniques of Affirmative Speculation.)

Сегодня в рамках проекта с востоковедческим медиа «Южная Луна» мы хотели отдать дань истории переплетения технологий и истории изучения китайской «Книги Перемен» и продемонстрировать возможные новые практики взаимодействия интерфейсов и духовных практик мантики.

https://south-moon.ru/

А также напоминаю о нашей студии Harpocrat