1. Когнитивный «баланс»
Корректное выполнение и систематические ошибки — это две стороны одной медали. Или, быть может, точнее — две стороны одного когнитивного «балансового счёта». Каждая статья актива имеет соответствующий дебет. Так, автоматизм (делегирование управления низкоуровневым специализированным модулям) делает неизбежными проскальзывания, или действия-не-по-плану. Ресурсные ограничения сознательного «рабочего пространства», хотя и необходимы для концентрации вычислительно мощных операторов на отдельных аспектах мира, одновременно способствуют информационной перегрузке и утрате данных. База знаний, содержащая специализированные «теории», а не изолированные факты, сохраняет осмысленность, но делает нас подверженными предвзятости подтверждения. Исключительно быстрая система поиска, способная находить релевантные элементы в практически неограниченной базе знаний, приводит к тому, что наши интерпретации настоящего и предвосхищения будущего слишком сильно формируются регулярностями прошлого. Подобные соображения ясно показывают, что широкомасштабный анализ повторяющихся форм ошибок необходим для адекватного понимания в значительной степени скрытых процессов, управляющих человеческим мышлением и действием.

2. Ошибки принимают ограниченное число форм
На первый взгляд шансы на безошибочное выполнение кажутся подавляюще малыми. Обычно существует лишь один (или, в лучшем случае, очень немного) правильный способ выполнения задачи; зато каждый шаг в запланированной последовательности действий или мыслей открывает возможность отклонения по множеству непреднамеренных или неуместных путей. Возьмём, к примеру, варку яйца всмятку. На каких этапах и сколькими способами даже эта относительно простая операция может быть испорчена? Список возможностей оказывается весьма длинным. Подобные размышления создают впечатление, что мы никогда не сможем адекватно описать всё многообразие человеческих ошибок.
К счастью, реальность иная. Человеческая ошибка ни по частоте, ни по разнообразию не столь велика, как могло бы подсказывать её огромное потенциальное пространство. Ошибки не только гораздо реже правильных действий, но и склонны принимать удивительно ограниченное число форм — удивительно, если сопоставить с их теоретическим разнообразием. Более того, ошибки проявляются в очень сходных обличьях в широком спектре психических деятельностей. Таким образом, удаётся выявить сопоставимые формы ошибок в действии, речи, восприятии, припоминании, узнавании, суждении, решении задач, принятии решений, формировании понятий и т. д. Повсеместная распространённость этих повторяющихся форм ошибок требует формулирования более глобальных теорий когнитивного управления, нежели те, что обычно выводятся из лабораторных экспериментов. Последние по необходимости сосредотачиваются на весьма узких аспектах психической функции в довольно искусственных условиях.

Поиск более предсказуемых разновидностей человеческой ошибки отнюдь не ведёт по бесчисленным разрозненным или расходящимся тропинкам — напротив, он постоянно направляет исследователя внутрь, к общему теоретическому ядру: сознанию, вниманию, рабочей памяти и огромному хранилищу структур знаний, с которыми они взаимодействуют. Именно этими теоретическими вопросами преимущественно и занята первая половина настоящей книги.

Странные интерфейсы: Wong–Baker FACES Pain Rating Scale

Изначально была разработана для маленьких детей, чтобы они могли сообщать об уровне своей боли, и таким образом получать более эффективное лечение и поддержку.

Под шкалой лиц:

0 – NO HURT – не больно

2 – HURTS LITTLE BIT – немного болит

4 – HURTS LITTLE MORE – болит чуть сильнее

6 – HURTS EVEN MORE – болит ещё сильнее

8 – HURTS WHOLE LOT – очень сильно болит

10 – HURTS WORST – болит невыносимо

В конце 1970‑х Донна Вонг занималась уходом за онкологическими и хирургическими пациентами‑детьми и искала способ, которым маленькие дети могли бы понятным образом сообщать о своей боли, не владея ещё хорошо речью и числами. Вместе с Конни Бейкер они создали ряд нарисованных лиц с разными выражениями — от улыбающегося (нет боли) до плачущего (максимальная боль) — и привязали их к числовой шкале от 0 до 10, чтобы врачи могли использовать её в клинических протоколах.
https://wongbakerfaces.org/us/wong-baker-faces-history/

Шкала Вонга–Бейкера стала одной из распространённых визуальных шкал боли в педиатрии

Конечно, тут уместно вспомнить и другие способы визуализации данных при помощи лиц - лица Чернова или проекты сбора настроения настроения страны в чилийском Киберсине
(и да, использовать эмодзи для опросов обычной аудитории обычного сервиса - риск и смещение выборки - скорее всего вы соберете репрезентацию настроения респондента)

Как люди принимают решения? Натуралистическое принятие решений

Оказывается книга отца-основателя NDM Гэри Кляйна даже есть на русском (гусары, не смейтесь - в переводе Кралечкина, известного, хм, переводами Делеза) - в ней описаны все основные проблемы изучения принятия решений пожарных, военных, специалистов в особых ситуациях и при проблемах - и почему Канеман не прав в своем делении на системы медленного и быстрого принятия решений и навешивания ярлыков "когнитивных искажений". В действительности, решения всегда принимаются экспертно, а то, что при этом происходит якобы нарушение матожиданий - так это в экспериментах поведенческой экономики происходит

Несколько цитат и тезисов в следующих постах в следующих сериях: речь пойдет об эмпирических исследованиях пожарных в США по гранту ВВС для военных - удачный пример когнитивных исследований на службе военных

Отрывки из "Источники силы. Как люди принимают решения"

Наши результаты оказались довольно прозрачными. Дело не в том, что руководители тушения пожара отказывались сравнивать варианты. Скорее, им было не нужно их сравнивать.

Я настолько зациклился на том, чего они не делали, что упустил реальный результат: руководители тушения пожара могли выйти на правильный план действий с самого начала. Именно об этом рассказывали истории, которые мы услышали. Даже столкнувшись со сложным случаем, опытные руководители могли увидеть в нём знакомую ситуацию и сразу понять, как реагировать. Секрет руководителей тушения пожара состоял в том, что их опыт позволял видеть ситуацию — даже нестандартную — как пример определённого прототипа. Благодаря этому они с самого начала знали, каков будет типичный план действий. Их опыт давал возможность сразу определить разумную реакцию — первую, которую они рассматривали. Поэтому им не нужно было думать о других вариантах.
Они не были ненормальными. Они просто были опытными. Теперь мы называем эту стратегию принятием решений на основе распознания.

Мы попытались построить классификацию для всех точек решений в соответствии с тем, демонстрировали ли руководители тушения пожара какие-либо признаки сравнения вариантов.

Мы тщательно определили категории. Точка решения считалась сравнительной оценкой, если человек, принимающий решение, сообщал, что одновременно рассматривал два или больше вариантов, пытаясь сопоставить их преимущества.
К другой категории относились решения, в которых человек сознательно придумывал совершенно новый план действий, которого раньше никогда не использовал и не встречал.
В категории решений на основе распознания люди использовали свой опыт, благодаря которому они сразу знали, что делать, и при этом не было никаких признаков сравнения разных вариантов.
Отдельно мы выделили случай, когда человек рассматривал несколько вариантов, но никогда не сравнивал их попарно. Он обдумывал каждый вариант поочерёдно, оценивал его, отвергал и переходил к следующему. Эту стратегию мы назвали подходом единичной оценки, чтобы отличить его от сравнительной оценки.

Различие между единичной и сравнительной оценкой связано с исследованиями Герберта Саймона, лауреата Нобелевской премии по экономике. Саймон (Simon, 1957) выделил стратегию принятия решений, которую назвал поиском «удовлетворительности» (satisficing) — когда выбирается первый вариант, который «работает».
Удовлетворительность отличается от оптимизации, которая предполагает поиск наилучшей стратегии. Оптимизация — сложная задача, требующая значительного времени. Удовлетворительность же гораздо эффективнее.
Стратегия единичной оценки основана именно на удовлетворительности. Саймон использовал это понятие для описания поведения бизнесменов. Однако эта стратегия ещё больше подходит руководителям тушения пожаров, поскольку они крайне ограничены во времени.

Постепенно складывалась наша модель принятия решений на основе распознания. Опытные руководители тушения пожаров могли быстро оценить ситуацию как прототипичную и знали, что делать. Если первый вариант не срабатывал, они могли рассмотреть другие — но не для того, чтобы найти наилучший, а чтобы найти первый, который сработает.

Модель RPD — пример описания того, как принимаются решения в естественных условиях. Есть и другие модели, также заслуживающие внимания, например работа Ли Бича и Терри Митчелла о теории образов (см., например: Beach, 1990) и схема навыков-правил-знания, разработанная Йенсом Расмуссеном (Rasmussen, 1983)(sic!). П.А. Андерсон (Anderson, 1983), Уол (Wohl, 1981) и Дрейфусы (Dreyfus and Dreyfus, 1986) излагают идеи, близкие к модели RPD.

Опытные лица, принимающие решения, сначала распознают ситуацию (типичный пожар в гараже, в жилом доме, пожар на фабрике или поисково-спасательную задачу), а потом приступают к действиям. Они понимают, какие именно типы целей имеют в таком случае смысл (так что сразу задают приоритеты), какие сигналы важны (поэтому избегают переизбытка информации), чего ждать дальше (а потому могут подготовиться и заметить неожиданности), а также каковы типичные способы реакции в данной ситуации. Распознавая ситуацию в качестве типичной, они в то же время распознают и план действий, который с наибольшей вероятностью приведет к успеху.

Распознание целей, сигналов, ожиданий и действий — часть того, что значит распознать ситуацию. То есть люди, принимающие решения, не начинают с целей или ожиданий, они определяют саму природу ситуации.

Некоторые ситуации сложнее, что отображено в вариациях 2 и 3 (рис. 3.1). Вариация 2 имеет место, когда человек, принимающий решение, может уделить больше внимания диагностированию ситуации, поскольку имеющаяся информация, возможно, не вполне соответствует типичному случаю или же соответствует более чем одному такому типичному случаю. Человеку, принимающему решения, возможно, понадобится собрать больше информации, чтобы провести диагностику. Еще одно затруднение состоит в том, что принимающий решение человек мог неправильно проинтерпретировать ситуацию, но понять это он может только тогда, когда какие-то из ожиданий не были выполнены. В таких случаях лица, принимающие решения, будут вынуждены среагировать на аномалию или неопределенность, проверив, какая интерпретация больше соответствует характеристикам ситуации.

Вариация 3 объясняет, как принимающие решение люди оценивают единичные варианты, представляя себе, как будет осуществляться план действий. Принимающий решение человек, предвидящий осложнения, возможно, захочет скорректировать план действий или вообще отвергнет его и начнет искать другой вариант

Три вариации можно представить в следующем виде: вариация 1 является, по существу, реакцией типа «если… то», поскольку из антецедента вытекает ответ, определяемый правилом. Экспертные знания позволяют в таком случае распознать, когда удовлетворяется условие, заданное антецедентом. Вариация 2 принимает форму «если (???)… то», поскольку человек, принимающий решения, размышляет над природой ситуации. Вариация 3 принимает форму «если… то (???)», поскольку человек, принимающий решения, раздумывает над результатом реакции.

Экстрасенсорика и NDM
а) выработать скептический настрой к курсам по формальным методам принятия решений. На таких курсах преподаются методы, которые люди на самом деле используют редко.

б)Второе применение — понимание того, когда нужно сравнивать варианты, а когда нет. При решении многих задач мы оказываемся в роли новичков, и метод рационального выбора помогает нам, когда нам не хватает экспертных знаний для распознания ситуаций. Порой нам действительно нужно использовать формальные методы, чтобы проанализировать широкий спектр альтернатив. В других случаях мы, возможно, решим, что надо опираться на наши экспертные знания и глубже изучать более узкий круг альтернатив — может быть, даже первую из имеющихся.

в) Последнее применение относится к образованию. Идеи, изложенные в этой главе, предполагают, что нельзя сделать человека экспертом, обучая его формальным методам анализа. На самом деле всё наоборот: обучая этим методам, мы можем замедлить выработку навыков. Если цель в том, чтобы научить людей принимать решения в условиях дефицита времени, возможно, надо требовать, чтобы обучающийся принимал быстрые решения, а не раздумывал над всеми следствиями и посылками. Если есть возможность предлагать ему по несколько ситуаций в час несколько часов в день в течение нескольких дней или недель, мы наверняка сможем повысить способность обучающегося выявлять знакомые паттерны.

В первом формальном интервью, которое я провел для нашего первого проекта с пожарными, я пытался найти какой-нибудь сложный случай, когда мой интервьюируемый, руководитель тушения пожара, должен был принять сложное решение. Он смог вспомнить только один случай, произошедший много лет назад, когда, по его словам, жизнь ему спасло его экстрасенсорное восприятие (ЭСВ). Я попытался отыскать в его воспоминаниях какой-нибудь другой инцидент, поскольку этот произошел слишком давно, когда он еще был лейтенантом, а не руководителем тушения пожара, а также потому, что я не слишком интересуюсь ЭСВ. Однако он очень хотел рассказать об этом случае, так что в конце концов я уступил и дал ему возможность изложить свою историю.
Речь пойдет о простом пожаре в одноэтажном доме в жилом районе. Пожар разгорелся в задней части дома, в зоне кухни. Лейтенант заводит свою группу ствольщиков в дом, чтобы залить огонь водой, однако огонь не сдается и теснит их.
«Странно, — думает он, — вода должна была оказать более заметное действие». Они пытаются снова залить огонь, но с тем же результатом. Тогда они немного отступают, чтобы перегруппироваться.
Тут лейтенант чувствует, что в доме что-то не так, поэтому он приказывает своим людям покинуть здание — совершенно обычное строение, в котором нет ничего странного.
Как только его люди покидают здание, пол, на котором они только что стояли, проваливается. Если бы они все еще были внутри здания, они упали бы в огонь, который был внизу.

Он уверял нас, что это было шестое чувство, которое присуще всякому опытному командиру. Но внимательный опрос позволил выявить следующие факты:

он не подозревал, что в доме был подвал;
он не подозревал, что место возгорания находится в подвале, прямо под гостиной, где он стоял со своей командой, когда дал приказ отойти;
он уже сам задумался, почему огонь не реагирует на их действия так, как ожидалось;
в гостиной было намного теплее, чем он мог ожидать в случае небольшого пожара на кухне односемейного дома;
огонь был очень тихим. Обычно пожар шумит, а в случае пожара, дававшего столь сильный жар, следовало ожидать очень сильный шум.

То есть общая картина не складывалась. Его ожидания не оправдались, и он не понимал, что именно происходит. Поэтому-то он приказал своим людям покинуть здание. Но в ретроспективе причины нестыковок были ясны. Поскольку пожар был под ним, а не на кухне, действия команды на него не влияли, жар был намного больше, чем он ожидал, а пол функционировал как шумопоглощающий буфер, так что в итоге образовалась жаркая, но тихая среда.

Ключевой момент в этой истории вот в чём: опыт и экспертиза не очень нужны тогда, когда события соответствуют ожиданиям и регламентируются инструкциям

История психотехники, эпизоды исследований

В докладе “К вопросу о теории психотехники” на 7-й Международной психотехнической конференции, состоявшейся в 1931 году в Москве, Шпильрейн утверждал: “На одном из практических примеров покажу разницу между буржуазным и советским истолкованием одних и тех же результатов. В Баку, столице Азербайджанской республики, психотехнически было испытано некоторое количество кандидатов в вагоновожатые этого города.

Разбив их по национальностям, испытывавшая лаборатория установила, что наименьшую пригодность обнаружили представители коренного населения — тюрки; армяне и русские оказались более пригодными. Этот вывод с точки зрения колонизаторской политики был бы вполне очевидным и не вызвал бы никакой критики, но в наших условиях такое истолкование результатов, противоречащее политике равноправия национальностей, проводимой Коммунистической партией и советским правительством, вызвало критику.

Критики заинтересовались, каковы же были специальные причины установленных различий между национальностями. Оказалось, что испытанные тюрки были крестьянами близлежащих деревень, тогда как русские и армяне были горожанами и поэтому для них была более привычной и сама обстановка испытаний, и те специфические познания, которые необходимы для работы в качестве вагоновожатого. Не обращая внимания на этот специальный момент, автор работы объективно извратил действительность, игнорируя социогенные факторы, преувеличивая значение биологического именно так, как извращают действительность в этом направлении западноевропейские и американские исследователи, выполняющие социальный заказ буржуазии. Умолчание о социогенном в национальности в этом и подобных случаях равносильно поддержке национального угнетения”.

А как выглядит худший интерфейс в истории?

Сложно сказать. Скорее всего, он еще не появился, но разные журналы и СМИ часто отдают пальму первенства одному продукту от Microsoft: концепция рабочего стола Microsoft Bob. Продукт разрабатывала жена Била Гейтса и в нем явно считывалось желание скевеоморфного обучения пользователя. Весь интерфейс выглядел как гостиная в доме пользователя, а спутник Боб (некоторая предтеча Скрепыша) давал советы и общался с пользователем, подсказывал слова при написании текстов и рассказывал о том, как писать деловые электронные письма.

В виртуальном доме Microsoft Bob была даже кухня! Например, для того чтобы хранить рецепты.

Проект провалился и попал в подборки худших интерфейсных решений за всю историю. Графическая натяжка на обычный рабочий интерфейс так себе идея, в том числе с точки зрения производительности. https://www.youtube.com/watch?v=rXHu9OmLd8Y

Словарь юного HCI

Ловушка Дойла или Doyle's catch относится к скрытой трудности при развёртывании и внедрении автономных систем, подтверждённых моделированием, в реальном мире. Дойл и Дэвид Л. Олдерсон описали эту идею в 2010 году.
Описание этой трудности приводит исследователь в области безопасности Дэвид Вудс:

Инструменты быстрого прототипирования сейчас широко доступны и достаточно мощны, чтобы относительно легко продемонстрировать практически что угодно, при условии, что условия сделаны достаточно идеализированными. Однако реальный мир обычно далёк от идеализированного, и поэтому система должна обладать достаточной надежностью, чтобы преодолеть разрыв между демонстрацией и реальностью.

Что это значит? Технологические энтузиасты регулярно попадают в эту ловушку: они показывают успешную работу прототипа в контролируемых условиях и считают, что «с инвестициями и инженерией» всё остальное решится само собой. На практике это приводит к сюрпризам автоматизации(да, это термин) и неожиданным негативным последствиям.

Забавно при этом, что автор в 2010 году описывает, что те же самые заблуждения, что были при внедрении предыдущих поколений автоматизации (автоматизация кабины самолёта и т.д.), сейчас повторяются с автономными транспортными средствами - и замечу, могут повторятся в 2020ые уже для офисных программ

Статья по ссылке и в комментариях - коцнептуально продолжает тему концепции "Иронии автоматизации"
https://www.researchgate.net/publication/303832480_The_Risks_of_Autonomy_Doyles_Catch

В поиске новых/старых методов автоматизаций - аллокация функций

Проблема автоматизации и распределения задач между человеком и машиной - старая, которая сама по себе создает определенные парадоксы, описанные социологами техники - писал об этом здесь в связи с работами Бейнбридж https://xn--r1a.website/gulagdigital/3091

Алокация системных функций (Chapanis, 1970), аллокация функций (Hollnagel, 1999) или социотехнические аллокации (Clegg et al., 2000) — это названия процесса, в котором члены проектной команды решают, следует ли поручать работу, задачи, системные функции и ответственность человеческим или автоматизированным агентам в социотехнических рабочих средах

Многочисленные примеры аллокации функций на практике можно найти в литературе по человеческим факторам. Первый и, возможно, наиболее известный пример можно найти в исследовательском отчете, отредактированном Фиттсом (Fitts, 1951). Фиттс был пионером подхода аллокации функций в начале 1950-х годов в рамках исследования роли автоматизации в управлении воздушным движением https://xn--r1a.website/gulagdigital/3284

Обычно предполагается, что автоматизация приносит много преимуществ сложным и динамичным реальным системам и что преимущества ее использования значительно перевешивают любые недостатки. Хотя это может быть правдой, также верно, что автоматизация может создавать особые проблемы для человеческого компонента высокоавтоматизированной системы. Существует ряд важных ограничений на проектирование и внедрение автоматизированных средств. Вопрос аллокации функций людям или машинам интересовал специалистов по человеческим факторам более четырех десятилетий. Весьма уместно применить эту парадигму к проблеме определения того, какие функции следует аллоцировать оператору, а какие — автоматизированным системам. Синглтон (Singleton, 1989) утверждает, что оптимальная аллокация зависит от технологических возможностей и осуществимости человеческих задач. Первым шагом является разделение системных функций на дискретные категории. Это служит основой для аллокации. Функции либо аллоцируются людям, и/или автоматизации.
Методы аллокации функций включают таблицы относительных достоинств (TRM), психометрические подходы, вычислительные средства и гипотетико-дедуктивную модель (HDM). Подход TRM, возможно, наиболее известен в форме списка Фиттса (1951)

Как я понимаю, из чудесной книжки Handbook of Human Factors and Ergonomics Methods - https://xn--r1a.website/gulagdigital/3482 Процедура включает три основных шага: анализ задач, анализ заинтересованных сторон и анализ альтернативных аллокаций функций.

Шаг 1: Анализ задач
Самым простым подходящим методом для шага 1 является иерархический анализ задач (HTA). Он начинается с идентификации цели системы, затем логически рассматривает, какие задачи необходимо выполнить для достижения этой цели. Каждая задача связана с целью. Для каждой задачи аналитик должен идентифицировать, какие подзадачи необходимо выполнить для достижения этой цели. Модель задач может быть разработана более детально путем разбиения подзадач на под-подзадачи таким же образом.

Шаг 2: Анализ заинтересованных сторон для аллокации функций
Важно провести этот шаг, не думая подробно о дизайне компьютерной системы; в противном случае могут быть приняты преждевременные решения об аллокации функций. Цель состоит в том, чтобы идентифицировать источники удовлетворенности и неудовлетворенности работой любого заинтересованного лица, чья работа может быть затронута изменениями в компьютерных системах на рабочем месте

Шаг 3: Анализ альтернативных аллокаций
Рассмотрение относительных возможностей человека и компьютера
Первая часть анализа включает рассмотрение относительных возможностей человека и компьютера.. Простой способ записи аллокаций функций — это аннотирование модели задач следующим образом:
H: только человек
H-C: разделено между человеком и компьютером, человек контролирует
C-H: разделено между человеком и компьютером, компьютер контролирует
C: только компьютер

На скриншоте пример аллокации функций пивоварни

Впрочем, реальное использование методов аллокации функций для проектирования автоматизаций в литературе, кажется, не супер крутое
Function Allocation: Myths, Process, and Emerging Methods
https://www.nrc.gov/docs/ML2517/ML25175A110.pdf

Тем временем, вышел новый дайджест поведенческой экономики 2026 The Behavioral Economics Guide 2026

https://www.behavioraleconomics.com/be-guide/the-behavioral-economics-guide-2026/

Создают ЛЛМ-инструменты, но много вопросов(опять синтетики - да сколько можно!), много про мизинформацию, и налоги/долги