178. Кашица

>>невероятно простой факт - ментальная жизнь ИИ, если она есть, гораздо дальше от нашего понимания, чем ментальная жизнь человека

Пишет ^ Матвей Сысоев в своём канале.

Зачем он это пишет — понять отказываюсь.

БЯМ — нормальные инженерные объекты. В их основе наука и прикладная компьютер сайнс. Мы, люди, постоянно всякую такую фигню делаем. То Bagger 288 построим, то антидепрессанты изобретём. БЯМ — по той же епархии.

И именно поэтому они поддаются изучению, анализу и выводам. Мне кажется, что многие философы в отношении ИИ неявно занимают ту позицию, которую в XIX веке занимали в отношении "жизненной силы". Нечто, о чём вроде бы говорить рано, слишком туманно, слишком далеко от понимания. И это, по-моему, просто неправда об этом, в общем, инженерном объекте. Это как виртуальность в знаменитой лекции Жижека. Кажется, философ вообще не понимал о чём взялся говорить.

Cовременный ИИ — одна из наиболее прозрачных сложных когнитивных систем, которые у нас вообще есть. У нас буквально есть код, логи работы, веса, программа тренировок и результат тренировок, методы вмешательства, интерпретируемость и т.п. Человка, пусть даже младенца мы так не разберём ещё очень и очень долго.

Фраза "ментальная жизнь ИИ, если она есть, гораздо дальше от нашего понимания, чем ментальная жизнь младенца" в буквальном чтении просто переворачивает действительное положение дел.

Единственное, что у нас действительно "далеко от понимания" — это мост между физико-функциональной организацией и феноменальным сознанием вообще, будь то мозг, младенец или нейросеть.

А это уже другой вопрос. С которым и работают философы сознания.

"Указание на то, что мы якобы не понимаем как работают большие языковые модели — идиосинкразия философов", Фридрих Ницше.

179. Ошибка метафизической атрибуции

Матвей написал много чего в ответ на последнее сообщение.

Буду матом краток.

Во-первых, Матвей буквально пишет, что решил не обсуждать сказанное мной. Во-вторых, одновременно он аккуратно объяснил читателям, почему именно можно себе позволить не обсуждать это.

Оказывается, тут просто всё дело в том, что я субстанциальный дуалист, а "для мониста и натуралиста — это совсем никуда не годится". Очень удобная формула, буду пользоваться. Содержательный тезис можно объявить почти очевидным фактом, возражение — бессодержательным, а дальше объяснить, что возражающий вообще живёт в иной онтологической вселенной, поэтому, мол, ну о чём с ним говорить.

Но у меня на носу очки (у Матвея тоже). Поэтому давайте углубляться.

1) Начну с теории аргументации. Я нигде не утверждал, что считаю БЯМ более понятными, чем психику человека ПОТОМУ ЧТО я субстанциальный дуалист. Мой тезис был предельно простой и, что забавно, метафизически почти нейтральный. Я говорю, что современные большие языковые модели — инженерные объекты с беспрецедентной эпистемической прозрачностью. Это не сенсация. У нас есть архитектура, конкретные инстансы и все инструменты для работы с ними как в динамике (логи работы), так и в статике (внедрение маркеров).

Второе утверждение: человеческий мозг — объект радикально менее прозрачный. Никаких полных логов, никакой воспроизводимой программы тренировки, никакого детального контроля на уровне всего когнитивного процесса.

Если в этот момент вам в желудок падает кирпич на основании того, что это утверждает человек, симпатизирующий субстанциальному дуализму, то вы не читаете текст. Вы читаете текст написанный ТАКИМ-ТО человеком.

Из двух утверждений я делаю достаточно надёжный вывод. Если говорить о степени доступности внутренней организации сложной когнитивной системы для анализа, БЯМ ближе к пониманию, чем младенец. Всё.

Единственное, что остаётся "далеко от понимания" в обоих случаях — общий мост от физико-функциональной организации к ФЕНОМЕНАЛЬНОМУ сознанию.

Это просто чуть ли не базовая расстановка фигур для философии сознания.

Этот ход не требует ни дуализма, ни теизма, ни сотворения Богом души при зачатии. Его может принять и натуралист, и агностик, и любой, кто отличает вопрос об онтологическом статусе сознания от вопроса о том, что в принципе доступно эмпирическому исследованию.

Можно не соглашаться с этим сравнительным суждением, но объяснять его тем, что я верю в сотворённую Богом душу — это уже не аргумент, а подмена объяснения выдачей аудитории справки о моём биографическом профиле (а то и психологическом).

2) Далее появляется ещё и диагноз в терминах Франкиша — про "депсихологизацию сознания". И это даёт мне лёгкую возможность для перехода от теории аргументации к содержательной философии.

Смысл, насколько можно реконструировать таков. Субстанциальный дуалист якобы так радикально отрывает сознание от функциональных и поведенческих критериев, что превращает его в нечто отдельно парящее и тем самым выводит его из нормального психологического дискурса. На этом фоне, видимо, всё, что я говорю про ИИ, тоже "не о том".

Но по факту в обсуждаемом кусочке всё происходит наоборот. Я как раз настаиваю на ПСИХОЛОГИЧЕСКИ НОРМАЛЬНОМ употреблении предикатов вроде "понимать" и "рационально рассуждать" применительно к ИИ. Мы смотрим на сложный когнитивный артефакт, тестируем его в задачах, сравниваем функциональные профили и спрашиваем, какие ментальные атрибуции оправданы.

Матвей же предлагает режим, по сути, мистический. У-у-у, с этим объектом "рано говорить", он "слишком далёк от понимания", а смелые атрибуции психических состояний ИИ — это проявление почти безумной самоуверенности технотеолога, i wanna say.

Если кому-то удобнее переоформить такой спор в жанр натуралисты против дуалистов и после этого объявить его слишком бессодержательным, это, конечно, тоже выбор.

Просто это выбор не в пользу философского анализа, а в пользу не слишком аккуратного уклонения от дискуссии с предварительным метафизическим пояснением, почему уклонение, вообще-то, вполне научно обосновано.

180. Кооперация в природе

https://xn--r1a.website/alpharatio/304

Есть уголовники. Организованные преступные группировки. У них есть общак, смотритель общака. Есть сходки, где на долгих обсуждениях решаются общие вопросы. Люди делят сферы влияния, договариваются, братва старается не стрелять друг друга и решать вопросы по понятиям.

Как видим, кооперация очень выгодна. И заповеди никакие не нужны.

Организованные преступные группировки — очень добрые группы с кооперацией.

UPD: Это сарказм, чтобы показать ошибку в рассуждениях А. Панчина. Конечно же, ОПГ приносят беды и страдания.

181. Холистическая антропология Э.Дж. Лоу

Наконец-то вышла моя большая дора. Статья "Холистическая антропология Э.Дж. Лоу".

Я работал над этой статьёй два года. И, по сути, она моя первая. Хотя вышла четвёртой.

Очень надеюсь, что она будет полезной для реабилитации метафизического эмерджентизма, вспенивания некоторых старых тем, берущих начало у Дж. С. Милля и вообще для обсуждения действительного разнообразия подходов в философии сознания. Таких, где, например, аргумент зомби — несущественная побочная ветвь дискуссии :)

Спасибо анонимному рецензенту и редакции "Философского журнала" за возможность чуть-чуть выйти за ограничения по объёму, чтобы плотнее исследовать тему связи между психологической и телесной субстанциями в философии Лоу.

Выпуск журнала: https://pj.iphras.ru/issue/view/579
Страница статьи: https://pj.iphras.ru/article/view/11625
Прямая ссылка на статью: https://pj.iphras.ru/article/view/11625/6346

183. Важный опрос

Коллега проводит важный опрос.

Приглашаю всех поучаствовать. Он интересный.

https://xn--r1a.website/princedeconde/1026?single

184. И всё-таки критиковал ли Райл Декарта?

В серии "Общество. История. Современность" научного журнала "Омский научный вестник" вышла статья коллеги Сергея Анатольевича Фёдорова "И всё-таки критиковал ли Райл Декарта?"

Статья — отличная. Очень рекомендую.

Ссылка на страницу статьи на сайте журнала: https://journals.omgtu.ru/index.php/onv_ois/article/view/2056

Прямая ссылка на PDF-файл: https://journals.omgtu.ru/index.php/onv_ois/article/view/2056/1913

185. Трудная проблема

Каждый год 31-го декабря под нарезание салата оливье (а вы как думали?) и остальную готовку, я смотрю "Иван Васильевич меняет профессию".

Только что услышал в главной песне то, чего не слышал раньше. "С любовью встретиться — проблема трудная".

Вот она по-настоящему важная задача. Трудная проблема любви.

Желаю, чтобы вы или решили эту проблему, или сохранили решение, если уже.

С наступающим Новым годом.

186. Психология БЯМов

https://xn--r1a.website/vestniknat/11 — вот тут философ Мария Секацкая написала интересное.

Во многом я с ней согласен. Прежде всего я хотел бы поддержать её «высокую» оценку наличному уровню ИИ.

Моя позиция достаточно простая, но в разных тематических чатах я сталкиваюсь с отчаянным сопротивлением ей. Попробую изложить публике.

У современных ИИ есть многие психологические характеристики, которые мы обычно связываем с человеком. Да, буквально так. Это то что я утверждаю.

Идея такая. Сначала мы фиксируем и анализируем некоторое психологическое явление. Приведу примеры. Обучение, понимание, озарение, поддержание беседы, оценка по разным критериям, планирование, самокоррекция, распознавание ошибок, удержание фокуса, абстракция и перенос абстракции на другие предметные области, рассуждение, эмоции вообще и конкретные в частности. Затем задаём относительно ясные (пусть и рабочие) критерии наличия этого явления и проверяем — соответствует ли им ИИ. Если соответствует, то у него буквально наличествует это психологическое явление.

Например, «понимание» можно приблизительно описать так. Способность говорить о той же теме другими словами, отвечать на уточняющие вопросы, распознавать, что речь идёт об одном и том же предмете даже при переформулировках, и устойчиво удерживать смысловую линию разговора в заданных рамках. В этом смысле у ChatGPT 5.2 (как и у более ранних версий) понимание буквально есть. Робот демонстрирует поведенческий профиль, который мы обычно принимаем за достаточный индикатор наличия здесь понимания.

Из этого, однако, не следует, что у ИИ «есть сознание». По крайней мере, это не следует напрямую. И уж точно не следует, что у него есть все психологические явления, которые есть у человека. Но, насколько я вижу, у него есть многие из них. И их совокупность образует определённую, внутренне связанную «психологию» (в функциональном смысле), которую вполне можно изучать.

Тем не менее, в отличие от Марии, я пока не готов говорить об ИИ как об «агентах». Мой подход фиксирует наличие отдельных психологических явлений — понимания, обучения, самокоррекции и т.п. Однако из этого ещё не следует агентность как целостное свойство. Агентность, насколько я могу себе представить адекватный анализ этого понятия, требует не просто набора компетенций, а устойчивой собственной политики действия, способности инициировать и поддерживать деятельность с течением времени, а также брать на себя обязательства и быть источником выбора, а не только отвечающим механизмом, запускаемым извне.

Робот не таков. И насколько я себе это представляю, пока что он стать агентом в этом смысле не может принципиально. Дело в том, что перечисленные мной критерии агентности требуют определённого типа автономии. А именно — практической автономии в очень сильном смысле.

И если инициативная автономия (система сама порождает и запускает цепочки действий, а не только реагирует на внешний запрос), а также темпоральная автономия (удержание целей или проектов во времени и сообразное их обновление) ещё представимы, то представить как была бы возможна для ИИ нормативная автономия я пока не могу. Нормативная автономия для ИИ означала бы способность принимать на себя обязательства и быть источником практических причин некоторых происходящих событий.

Причём я не пытаюсь намекнуть на невозможность свободы воли у гипотетических ИИ-агентов. Я не хочу вообще предвосхищать этот вопрос. Я лишь пытаюсь поделиться интуицией, что эта особая автономия, которая покажет, что перед нами — агент, не обязана быть метафизической. Она скорее про архитектуру контроля и авторство действия. Система должна быть устроена так, чтобы генерация целей и управление их реализацией были внутренним, устойчивым механизмом.

Добро пожаловать на пригорок второй четверти XXI века.

187. Нифигасе

https://xn--r1a.website/philosophycafemoscow/3131

Пока только начал слушать, но уже — полный восторг. Три с половиной часа умные белые мужчины говорят об умном.

(Про меня там тоже есть. Приближаюсь с замиранием сердца.)

188. О графах и графоманах

Когда мне было двадцать, я как-то переписывался с одним человеком. Через Интернет. Хотя мы были и лично знакомы. И я начал рассказывать, как в школе прочитал «Анну Каренину», хотя её не задавали, а «Войну и мир» — не прочитал, хотя задавали. У этого был личный контекст. Фактом прочтения «Анны Карениной» я очень гордился. Очень.

Собеседник сделал лицо. Потом начал воротить нос. Наконец решил открыть мне Свет Истины и прислал ссылку на статью писателя-фантаста Святослава Логинова (наст. фамилия — Витман). Статья называлась «О графах и графоманах, или Почему я не люблю Льва Толстого». Там Логинов, прибегая к историческим и филологическим приёмам, доказывал, что Толстой — глуповатый графоман, вознесённый на пьедестал толпой недоумков и отчасти случайным стечением обстоятельств.

«Доброжелатель» достиг цели. В мой неокрепший двадцатилетний мозг упал кирпич. Я долго ходил и рассказывал всем вокруг, какой Толстой на самом деле графоман. Потом попадались и другие тексты о том, что русская классика вообще болезнь, от которой надо лечиться. Эти семена падали уже на благодатную почву.

Позже я прочитал у современного русского писателя и философа (в континентальном смысле) Д. Е. Галковского мысль, что для образованного европейца XIX век — это почти позавчера. При этом едва ли не половина культуры этого века — русская. То есть примерно десять процентов акций мировой культуры — «русские акции».

Во мне тогда что-то шевельнулось. Тем более что самого Галковского я читал как автора, чьё письмо очевидным образом связано с глубинными пластами русской классики. К тому времени я уже буквально болел «Братьями Карамазовыми». И всё же предубеждение к Толстому держалось.

Моим главным хобби всегда были настольные ролевые игры. И вот спустя несколько лет после той мысли Галковского я увидел в одной из книг правил Wraith: the Oblivion эпиграф к главе — цитату из Толстого, из «Смерти Ивана Ильича». Авторы игры — американцы. Игра — о призраках, а создание персонажа начинается с того, что ты придумываешь, как он умер.

Я вспомнил про «русские акции» и подумал, что да, «всё так — русская культура велика и обширна, и, наверное, Толстой не так уж плох».

Вскоре — и именно поэтому — я прочитал «Смерть Ивана Ильича». И тогда мне стало очень стыдно за своё ребяческое, слепое согласие с Логиновым. Повесть и сам Толстой произвели на меня огромное впечатление. Я буквально не мыслю себя без опыта прочтения «Смерти Ивана Ильича».

Но речь не об этом.

В 1983 году социолог и антрополог Гэри Алан Файн написал большую научную книгу Shared Fantasy: Role Playing Games as Social Worlds — про D&D, игроков и вообще про настольные ролевые игры как социальное явление.

Первая глава этой книги начинается с Толстого. И это не эпиграф и не броское словцо. Это точка входа в важный аргумент — такой, который без Толстого было бы трудно начать.