Смерть и машины. Ностальгия и жизненный цикл вещей.
Классика блога Цифровой геноцид

#thanatosensivity

Почему мы отказываемся от одних вещей, но самым странным образом сохраняем и бережем другие? Многие социологи и мыслители XX века пытались описать или объяснить смысл вещей: нить дискуссий шла от постмодернистов Бодрийяра и Латура до Чикесентмихайи и марксиста Дьердя Лукача. Все эти подходы отличались некоторой теоретической тенденциозностью, не рассматривающей HCI, интерактивный дизайн или юзабилити как источники вдохновения.

Но не Питер-Пол Вербек, чьи работы в значительной степени стали методологической основной человеко-машинного взаимодействия(ну, во всяком случае для некоторого круга авторов). Будучи теоретиком дизайна он попытался ответить на вопрос о том, почему мы так легко жертвуем одними вещами и цепляемся за другие при помощи простого разграничения понятий. Есть три перспективы или фактора принятия решений в этой связи:

1. Функция (традиционная промышленная интерпретация). «Продукт должен быть функциональным и делать то, ради чего создан»
2. Символизм вещей (всякие семиотические штуки). «люди тянутся к продукту, как к символу того, что он означает, чтобы выразить образ жизни, к которому они принадлежат или хотят принадлежать»
3. Материальные свойства(то, из чего сделан предмет). Перспектива лежит здесь в области не столько материала, сколько и отношений между людьми — экологически чистый дизайн,переработка, устойчивость, вот это вот все.

В 2010 году Вильям Одом провел большое исследование так называемой «личной инвентаризации» пользователей: способа хранения, выбрасывания и ухода за вещами в ряде домохозяйств разных социальных групп. Спроектированный опросник был построен вокруг симпатий и антипатий вещей, которые окружают людей в их домах, а особенное внимание при этом уделялось цифровым продуктам. Образцы вопросов, которые задавались:

Какие из вещей, которыми вы обладаете, вы любите?
Какие вещи, вы ожидали, что полюбите, но этого не произошло?
Какие-то вещи неожиданно стали любимыми?
Какая старая вещь у вас в доме?
Вы еще ее используете?
Какие самые новые вещи у вас в доме?
Что вы покупали из вещей в последний раз?

Эти вопросы были скорее подсказками, чем как жестким набором, и они задавались ситуативно и в контексте интервью. Выборка была основана на домохозяйствах крупных городов США и включала в себя представителей разных профессий.

Интерпретация полученных результатов стала достаточно осторожной и дискуссионной: протоколы наблюдений и опросов на маленькой выборке не могут быть достаточными. Тем не менее, авторы заметили 4 кластера отношений к тем вещам, которые были любимыми.

1. Вовлеченность — степень, в которой объект способствует своему использованию
2. Истории — степень, в которой предмет хранит личные истории или служит их частью
3.Аугментация — степень, в которой объект был повторно использован, обновлен, модифицирован или отремонтирован
4. Воспринимаемая долговечность — степень, в которой владелец рассматривает объект как долговечный в любом смысле этого слова

Изменение и дизайн этих кластеров и является одним из способов вызывать ностальгию: например,
1) внедрять искусственную необходимость в починке или обновлении устройства,

2) формирование устойчивых историй вокруг предмета
3) и формировать привычку воспринимать объект как долговечный(даже если это не так).

Это достаточно новый взгляд на материальные свойства Вербека — как на часть экологии проектирования продукта.

Сама статья Одома

В «Problemata», тексте, спорно приписываемом Аристотелю, философ рассказывает, как его ученик Александр Македонский спускается в морские глубины в «прекраснейшей бочке, полностью сделанной из белого стекла».

Причины этого спуска различаются во времени. Для некоторых это была разведка затонувших лодок, окружавших город Тир во время его осады. Другие изображают македонского царя, встретившего картину великой цепи бытия, заявляющего, всплыв на поверхность, что «мир проклят и потерянведь крупная и сильная рыба пожирает мелюзгу». В одной особенно сложной версии Александр погружается с товарищами — собакой, кошкой и петухом — доверив свою жизнь любовнице, которая держит шнур, используемый для извлечения батисферы. Домашние животные помогают ему выжить благодаря полезности: петух отслеживает время в темных глубинах, кошка служит дыхательным аппаратом для очистки атмосферы судна, а тело бедной гончей становится своего рода воздушной подушкой, толкающей Александра обратно на поверхность.

В изобразительном искусстве примитивная подводная лодка Александра не пользовалась популярностью до прошествия первого тысячелетия после его смерти, когда различные народные адаптации романа об Александре приобрели некоторую популярность

Такая вот первая подводная лодка

А вот и первый LLM с частной базой данных, которая пишет финансовую аналитику и ведет спектр работ по созданию контента. Ждем от русских СМИ языковых моделей, наученных на данных экономической аналитики и конкуренцию данных.

BloombergGPT, языковую модель с 50 миллиардами параметров, обучается на широком спектре финансовых данных. Набор данных состоит из 363 миллиардов токенов на основе обширных источников данных Bloomberg, возможно, самый большой набор данных для предметной области, дополненный 345 миллиардами токенов из наборов данных общего назначения (я так понимаю, стандартные чат-гпт).

https://arxiv.org/abs/2303.17564?fbclid=IwAR1D3Pr1IIRHDPvaNQuCviTcj6uHyfu1rsHvZ5nrrPH7NKzhYpz3ioB3yIc

Ждем от РБК, Сбера и любого мелкого банка такое же решение

Книга с стандартами знаков о ядерной угрозе аж 1964 года. США это страна стандартов, конечно. Инструкции по размещению, указанию опасности и размера каждой стороны ядерного лепестка; сравните с проектами ВНИИТЭ конца 80ых.

Сама книга доступна по ссылке на сайте музея национальной обороны
http://www.civildefensemuseum.com/signs/DODOCDFGC8.1.pdf

Нужна ли «система заземления» для современных нейросетей и LLM типа ChatGPT?

Круглый стол, который кажется по меньшим мере небезынтересным с учетом персоналиий и авторов, которые участвуют в дискуссии. Авторегрессивным языковым моделям не хватает знаний о лежащей в их основе реальности, и они имеют ограничения, например возможность совершения фактических ошибок: но есть еще немало ответов «нет», машины не нуждаются в сенсорном заземлении — хотя бы потому, что есть способность ИИ моделировать понимание слов, подобное человеческому из контекста, давать контекстуальные определения.

Yann LeCun - глава подразделения Meta AI, глава отдела R&D Facebook
Brenden Lake - доцент кафедры психологии и науки о данных Нью-Йоркского университета, и Jacob Browning специалист по философии сознания (интенционализм)

С ними спорит…. Дэвид Чалмерс, автор концепции «трудной проблемы сознания»(не особо нуждается в представлении),
Pavlick Ellie из команды исследователей google,
Gary Lupyan, глава лаборатории Lupyan Lab, где занимается нейронным кодированием (!)

https://youtu.be/x10964w00zk

Историческая дискуссия, но,вероятно, лишь первая из тех дискуссий, которые являются спорами завершающего этапа картезианского представления об языке («картезианская лингвистика» с механицистким определением языка).

Схолии геймификатора

Давно не было рубрики, но даже в применении развлекательных интерфейсов LLM меняет правила игры.

Новое исследование от Гугла, в твиттере остряки уже называют то матрицей на минималках, то прообразом вестворлда. Гуглеры заселили в симуляцию окружения, похожую на симсов, 25 генеративных агентов, воспроизводящих "человеческое поведение". В этой среде агенты просыпаются, готовят завтрак, идут на работу, рисуют, пишут, формируют мнения, замечают друг друга и разговаривают. Также у них есть память о прошедших днях.

Авторы отмечают, что архитектура агентов позволяет создать "убедительное" воспроизведение человеческого поведения. (Возможно, даже лучше, чем у людей, хехех.) В основе, конечно, LLM.

Почти метавселенные: генеративные игры все ближе и являются, наверное, одним из самых захватывающих примеров применения LLM

Публикация: https://arxiv.org/pdf/2304.03442.pdf
Демка: https://reverie.herokuapp.com/arXiv_Demo/

"Академик Глушков и первая советская ЭВМ", 1983 г.

Словарь HCI

Парадокс Моравека — принцип в областях искусственного интеллекта и робототехники, согласно которому вопреки распространённому мнению высококогнитивные процессы требуют относительно небольших вычислений, в то время как низкоуровневые сенсомоторные операции требуют огромных вычислительных ресурсов.

Принцип был сформулирован Хансом Моравеком, Марвином Минским и другими исследователями в 1980-х годах. Согласно Моравеку «относительно легко достичь уровня взрослого человека в таких задачах как тест на интеллект или игре в шашки, однако сложно или невозможно достичь навыков годовалого ребёнка в задачах восприятия или мобильности».

чем древнее навык, которым должен овладеть ИИ, тем труднее ему это сделать.

Игра в шахматы, решение задач, создание текстов – за это отвечают самые молодые с эволюционной точки зрения отделы нашего мозга. А вот ходьба относится к навыкам, контролируемым самыми древними участками мозга. Неудивительно, что нынешние роботы такие неуклюжие.

«Главный урок 35 лет изучения искусственного интеллекта заключается в том, что сложные проблемы достаточно легко решаются, а легкие – достаточно сложно» Стивен Пинкер

Causal Inference: причинно-следственный анализ в машинном обучении и data science

«Корреляция не подразумевает причинно-следственную связь».
Корреляция - статистическая взаимосвязь двух показателей. Например, вес и рост скоррелированы - обычно более высокие люди весят больше. Но если человек наберет вес или похудеет, его рост не изменится - изменение веса не является причиной изменения роста. При этом если человек вырастет, вес, скорее всего, изменится - изменение роста будет являться причиной изменения веса.

Таким образом, корреляция - это линейная взаимосвязь двух показателей. Если меняется X, то обычно меняется и Y. А причинно-следственная связь показывает, что показатель X вызывает изменение Y или, другими словами, изменение Х является причиной изменения Y. Тот факт, что два события происходят одновременно, не означает, что одно вызывает другое. Могут быть и другие факторы,скрытый или не очень скрытые, которые более важны для объяснения причин.

Вот почему иногда нужно изучить причинно-следственный вывод - Causal Inference: он дает нам инструменты для оценки причинно-следственных связей. Это дает нам способы отличить корреляцию от причинно-следственной связи, чтобы мы могли сказать, какие релевантные факторы вызывают интересующее нас событие, а какие нет.

Как это работает?
Продолжим наш пример с выяснением причин той или иной болезни. Представьте, что у вас есть набор данных с информацией о ваших пациентах (например, демографические данные, количество посещений больницы и т. д.) и о том, какое лечение они получали. Какие шаги необходимо предпринять, чтобы проанализировать причины болезни?

1. Определение типа данных. Данные наблюдений (исторические данные) часто искажают положение вещей, данные экспериментов гораздо лучше отвечают на вопрос о причинах. Экспериментальные данные всегда предпочтительнее. К сожалению, проведение экспериментов не всегда возможно. Именно тогда вступают в действие техники каузального вывода. Проще говоря, если у вас есть причинно-следственные вопросы и у вас нет доступа экспериментальным данным, вам нужен каузальный вывод.


2. Переходя ко второму шагу, если вы хотите понять, от чего люди болеют, вам нужно собрать все потенциальные причины болезни. Помимо основных демографических данных, таких как возраст, пол и местонахождение, вам также понадобится их история болезни. «Чем больше у вас информации, тем лучше» может звучать для вас как мантра больших данных, но это совсем другое. В то время как в машинном обучении вы можете создавать точные прогностические модели, не имея всех переменных, в причинно-следственном выводе отсутствие соответствующей переменной может иметь решающее значение. Для некоторых заболеваний наличие сопутствующих заболеваний (заболеваний, отличных от интересующего нас) может быть очень важным. Представьте, что по какой-то причине у вас нет доступа к сопутствующим заболеваниям пациентов. Это означает, что вы не сможете определить, какие сопутствующие заболевания влияют на ваше заболевание. Напротив, вы все еще можете создать успешный алгоритм прогнозирующего машинного обучения, который скажет вам, будет ли кто-то болен или нет: сопутствующие заболевания заставляют пациентов посещать больницу чаще.

Таким образом, даже если у вас нет сопутствующих заболеваний пациентов, у вас может быть высококоррелированная информация, то есть частота посещений пациента, которой может быть достаточно, чтобы предсказать вероятность заболевания пациента.

3. Теперь, когда у вас есть все соответствующие переменные, вы создаете причинно-следственную модель. Эта модель должна описывать, какие переменные вызывают что, или, что то же самое, описывать, как были сгенерированы данные. В причинно-следственном выводе одним из способов создания этой модели является использование графиков, описывающих переменные в виде узлов и причинно-следственные связи между переменными в виде направленных ребер (называемых стрелками).

4. Поделитесь своей моделью - пусть она станет консенсусом с экспертами

Наконец, на пятом шаге пришло время применить методы причинного вывода к вашему набору данных (обратите внимание, что он еще не использовался) и вашей модели, чтобы ответить на ваши причинно-следственные вопросы. Как мы уже говорили, корреляция не является причинно-следственной связью, поэтому тот факт, что две переменные коррелируют, не означает, что одна является причиной другой. Обычно, когда две переменные коррелируют, но одна не является единственной причиной другой, это происходит из-за существования третьего фактора, который вызывает обе. Переменные, играющие роль общей причины, называются вмешивающимися факторами(confounders). Проще говоря, в каузальном выводе наличие искажающих факторов является корнем всех зол. К счастью, причинно-следственный вывод имеет набор формул, алгоритмов и методологий, которые позволяют вам работать с ними

Причинно-следственный анализ — это сочетание методологии и инструментов, которые помогают нам в нашем причинно-следственном анализе. Исторически она имеет три источника развития: статистика в здравоохранении и эпидемиологии, эконометрика и информатика

Казалось бы, причем здесь UX? Мне кажется, что подобного рода задачи очень часто могут быть погружены и связаны с человеческим поведением и мышлением, отражаясь в работе с разметчиками данных и аннотаторами для построения лучших моделей: это исследовательская задача, которая очень человеческая и которая может (и должна) стать частью работ и задач исследователей опыта пользователей

Свежая книга по причинно-следственному выводу. Надо отметить, что достаточно мало кода и математических формул, что образуют демократический порог входа для исследователей и широкого круга ролей в проектах

Следующим постом в блоге