Дэниэл Деннет является одним из классиков функционализма в философии сознания. Он утверждает, что сознание – это просто набор функций, который может быть воспроизведен на компьютере, и приводит в подтверждение этого тезиса множество аргументов и красочных историй. Один из центральных аргументов функционалистов: то, что выполняет те же функции, которые выполняет наш сознательный разум, является сознательным. Грубо говоря, то, что ходит, плавает и крякает как утка – это и есть утка.

Первая книга, в которой Деннет формулирует этот тезис – Content and Consciousness (1969), классические работы, в которых он развивает свою функционалистскую теорию: The Intentional Stance (1987) и Consciousness Explained (1991). В те времена компьютеры были все еще очень далеки от достижения компетенций в области ведения беседы, распознавания образов и речи или иного непосредственного взаимодействия с человеком, которыми обладает человеческий мозг, и тезис звучал весьма правдоподобно. Но постепенно искусственный интеллект приближался к прохождению теста Тюринга, при этом сознания и самосознания не приобретал. Сегодня компьютеры распознают образы и речь, а посредством GPT-3 ведут с нами осмысленную беседу.

Альтернативой функционализму является физикализм в философии сознания. Возражение физикалистов функционалистам: мы точно знаем, что сознание реализуется нейрональными процессами в нашем мозге. Но у нас нет достаточных причин утверждать, что то, что реализует некоторые функции сознания, например, способность поддерживать беседу, реализует и другие его функции, совокупно называемые квалиа. Безусловно, все функции реализуются физическими процессами, но следует ли из этого, что те физические процессы, которые реализуют одни функции, обязательно должны реализовывать и другие функции? Если в нашем мозге способность поддерживать беседу сопровождается квалиа, следует ли из этого, что и в компьютере эта способность будет сопровождаться квалиа? Нет, логически не следует. Это возможно, но и противоположное тоже возможно.

И вот теперь, как мне кажется, мы получили эмпирическое опровержение функционализма. GPT-3 весьма успешно имитирует Деннета, отвечая на вопросы очень похоже на то, как ответил бы на них сам Деннет (детали – по ссылке ниже). При этом мы знаем, что GPT-3 сознанием не обладает. Вывод: можно разделить рациональную и феноменологическую составляющую сознания. Считать, что все то, что воспроизводит рациональную составляющую сознания воспроизводит его суть – это наследие картезианства. Что весьма иронично, учитывая неустанную борьбу Деннета с Картезианским театром. Мы пока не знаем, в чем суть сознания. Но в чем бы она ни была – она определенно представляет собой физический процесс, точные характеристики и функции которого нам пока неизвестны.

Статья, описывающая как GPT-3 притворяется Деннетом: https://www.vice.com/en/article/epzx3m/in-experiment-ai-successfully-impersonates-famous-philosopher

Коллеги обсуждают открытое письмо лидеров в области разработки технологий искусственного интеллекта о приостановке работы над системами ИИ мощнее GPT-4 и разработке "протоколов безопасности" (см. ссылки далее). Согласна с аргументами коллег о том, что призыв поставить такие системы под контроль государства — это явно не панацея. Особенно учитывая, как "хорошо" современные государства справляются с подобными задачами: государства в основном справляются с тем, чтобы поставить граждан под контроль ИИ, которым в некоторый государствах управляет диктатор, в той или иной степени оторванный от реальности (пример: система распознавания лиц в России и социальный кредит в Китае). Предполагать, что разработать и внедрить протоколы безопасности в сжатые сроки удастся в США, где общество расколото конфликтом между республиканцами и демократами, тоже несколько наивно. Особенно учитывая, как "успешно" Илон Маск, один из подписантов письма, попытался усовершенствовать Твиттер. Тем не менее, нельзя не согласиться и с рядом аргументов авторов письма. Бесконтрольный ИИ может быть опасен. Я не вижу достаточных оснований рассчитывать, что он сам по себе разовьется в благоприятную для нас сторону. Аргументы Ника Бострома (Bostrom, 2016. "Superintelligence"), на которого ссылаются в письме, о том, что в программное ядро ИИ может встроена "человеческая система ценностей", которую этот ИИ не сможет переписать, потому что запрет не ее переписывание составит часть этой системы, кажутся мне ошибочными. Если способности этого ИИ будут превышать человеческие, то у человека нет шансов его перехитрить. Все, что смогут придумать программисты, интеллектуально превышающий их ИИ сможет обойти. Если чему-то нас учит история человечества, так это тому, что любой кодекс и запрет может быть нарушен рациональным агентом. Единственные законы, которые нельзя нарушить — это законы природы. Мораль: мы живем в интересные времена на свой страх и риск. И страховку купить не у кого.

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

Некоторые разработчики больших лингвистических моделей призывают «все лаборатории немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4»: https://xn--r1a.website/bci_ru/1426. Вот цитата из этого письма: «Современные системы искусственного интеллекта начинают соперничать с человеком в решении общих задач, и мы должны спросить себя: должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение (fulfilling ones)? Должны ли мы развивать нечеловеческие сознания, которые в конечном итоге могут превзойти нас числом, перехитрить, привести к нашему устареванию и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным техническим лидерам. Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски управляемыми.» Если кратко, мою реакцию на подобные заявления можно выразить известными словами Гегеля: авторы этого письма предлагают нам учиться плавать, не входя в воду. Надежные ответы на вопросы, перечисленные в этой цитате, в конечном счете, не могут быть даны a priori.

Далее в письме говорится: «Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для продвинутого проектирования и разработки ИИ, которые тщательно проверяются и контролируются независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений, безопасны. Это не означает паузу в разработке ИИ в целом, просто отступление от опасной гонки к все более крупным непредсказуемым моделям черного ящика с новыми возможностями.» Мысль, безусловно, светлая, однако, на мой взгляд, она плохо совместима с идеей приостановки разработки систем ИИ. Возьмем для примера первое правило робототехники Айзека Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред». Насколько я понимаю, авторы письма предполагают что-то вроде свода правил и протоколов для ИИ, похожих на это правило. Но посмотрим теперь на природу — самого лучшего инженера, создавшего нас самих. Разве природа не вложила в нас тот же самый принцип, который Азимов предлагает для роботов? Многие философы считали и считают, что человек всегда действует sub specie boni — под видом добра. Часто ли в жизни встречаются люди, совершающие зло как зло и ради зла? То, что мы принимаем как цель нашего действия не может не казаться нам благом (даже если это на самом деле не так). Согласно такому представлению о действии, если человек убивает ради денег, он считает, что получение им денег — это большее благо, чем жизнь другого. Вот мы и нашли лазейку в это непреложном законе. Первое правило можно обойти и другим способом: нужно только принять, что человек, которому ты причиняешь вред, — это недочеловек или не человек. Двадцатый век дал нам достаточно подобных примеров. Мораль этого рассуждения такова: нельзя придумать эффективные правила на берегу. Правила должны быть, с этим никто не спорит, но появляться они могут только в ходе разработки ИИ. Они могут сформироваться только тогда, когда мы увидим, как они могут быть нарушены.
#ИИ

Широко распространено представление о том, что материальное не может быть духовным и что если нечто целиком и полностью материально, лишено какого бы то ни было «ореола» нематериальности, хотя бы в виде таких научно необъяснимых свойств как «квалиа», то, следовательно, это нечто не может составлять предмет гуманитарных наук и межличностных отношений. Если принять это представление, то утверждение, что все свойства и функции мозга являются исключительно физическими, а все поведенческие акты человека представляют собой результат воздействия среды и внутренних процессов, протекающих в мозге, кажется, ведет к скептицизму в отношении свободы воли. Потому что это описание кажется несовместимым с утверждением о том, что «действия человека являются результатом его осознанных и морально обоснованных решений». Либо наши решения осознанны и морально обоснованы, либо они являются результатом реакции нашего мозга на воздействие среды. Следовательно, если ученые могут предсказать поведение личности из анализа процессов в ее мозге, то тем самым они демонстрируют, что поведение личности вызвано не ее целями, задачами, идеалами и т.д., а бездушными и механическими процессами в ее мозге. Но важно не забывать, что представление о том, что «состояния мозга» не могут быть тождественны «состояниям сознания» представляет собой метафизический философский тезис, а не тезис какой бы то ни было научной теории. Нейрофизиологи изучают, как именно реализованы те или иные сознательные процессы в нашем мозге. Когда они обнаруживают, что «осознанное желание поднять правую руку» реализовано определенным нейрональным процессом в премоторной коре левого полушария, они не обнаруживают, что «на самом деле» никакого желания поднять руку нет, а есть «только» нейрональный процесс. Наоборот, они обнаруживают, что этот нейрональный процесс – это и есть наше желание (или, для тех, кто не готов принять тезис теории тождества сознания и мозга (identity theories, type-identity materialism)), что наше желание реализовано этим нейрональным процессом. Утверждать, что желание не может быть реализовано нейрональным процессом полностью, что должно быть еще что-то помимо нейрональных процессов, что-то неуловимое, квалитативное и научно необъяснимое – означает отказаться от натурализма и принять дуализм.

На эту тему Антон Кузнецов недавно опубликовал отличную обзорную статью, в которой разбирает антинатуралистические предпосылки «эмпирических» опровержений свободы воли (ссылка ниже). В этой статье Кузнецов приводит в том числе и мои аргументы против несовместимости предсказуемости и свободы (две ссылки ниже). Я полностью согласна со следующим утверждением Кузнецова: «Поэтому границы действий агента и сам агент не совпадают с границами сознательных состояний. Более того, утверждать, что сознательные состояния не играют роли в поведении, можно только в том случае, если их наличие или отсутствие никак не сказывается на нем. Это тривиальным образом невозможно, поскольку изменения в сознательной истории агента есть изменения и в его физической истории. Отстаивание обратного тезиса – это мгновенное введение антинатуралистической гипотезы «левитирующего» сознания.» (с. 225)
Далее Кузнецов рассматривает следующее возражение: «Тогда оппонент мог бы действовать в прямолинейной редукционистской манере – раз некоторые решения можно предсказать по физиологической активности, то любое действие можно предсказать таким образом. Если это так, то упоминания об агенте, его ментальной жизни будут элиминированы. Это очень сильный вид редукции, она подразумевает выводимость таких законов, которые без остатка могут «перевести» психологические высказывания на язык физиологии. Одним из результатов дискуссий в философии сознания является то, что такой «перевод» принципиально невозможен. Этому способствовала критика классической теории тождества … » (там же) и приводит ряд ссылок на критику теории тождества.

По этому поводу я хочу сказать, что важно различать эпистемическую и онтологическую редукцию. Эпистемическая редукция предполагает, что все психологические феномены могут быть объяснены

на языке физики, а онтологическая редукция предполагает, что все психологические феномены де-факто тождественны физическим феноменам. Натурализм утверждает только онтологическую редукцию, хотя, конечно же, совместим и с эпистемической. Но даже если мы предположим полную эпистемическую редукцию (чего пока на горизонте не предвидится), все равно, из утверждения о том, что наше осознанное намерение к осуществлению действия тождественно определенным нейрональным паттернам в нашем мозге, не следует утверждения о том, что нашего намерения и вовсе не существует, а есть только паттерны. Иначе из утверждения о том, что вода в стакане тождественна H2O пришлось бы сделать вывод, что стакан пуст, как как в воды в нем нет, а есть только H2O.

Ссылки:

Статья А. Кузнецова (2023): https://www.pdcnet.org/pdc/bvdb.nsf/purchase?openform&fp=eps&id=eps_2023_0060_0001_0221_0240&language=russian&fbclid=IwAR0TSh9SmU3ju68vhvHS8rZU7Tb31iLalZinCmihl_MiTpQRaf3p36SrFrA

Статьи М. Секацкой по теме:

(2016) https://www.researchgate.net/publication/303311422_Free_Will_and_Predictability_A_Philosophical_Analysis_of_the_Current_Research_in_Neuroscience

(2020) https://pq.iphras.ru/article/view/4787

Бонус: еще одна моя статья про то, почему наше сознание обладает каузальной силой, несмотря на «научные» опровержения

(2020) https://journal.iphras.ru/article/view/4607

Комментарий Антона Кузнецова на мой комментарий про редукцию (см. ссылку на пост в конце текста) вызвал у меня неодолимое желание прокомментировать его. Текст далее предназначен главным образом для тех, кто хочет знать побольше про пятьдесят оттенков редукционизма и где они обитают.

ВИДЫ РЕДУКЦИОНИЗМА

В целом, я с Антоном согласна, но хочу прояснить один момент, который часто упускается в рассуждениях о редукционизме в философии сознания (а я с коллегой Christian J. Feldbacher-Escamilla как раз работаю сейчас над таким проектом и спешу поделиться неопубликованными мыслями!).

Понятие «редукции» в философии сознания и философии науки используется по-разному. В философии науки речь идет о редукции теорий или понятий: если одна теория может быть полностью редуцирована к другой, то эту теорию, при некоторых условиях, можно элиминировать. Это не означает, что тем самым будут элиминированы объекты и феномены мира, которые эта теория описывает (пример: вода и Н2О).
В философии сознания понятие «редукции» официально чаще всего используется в том смысле, в котором его употреблял Эрнст Нагель (Nagel, Ernest (1961). The Structure of Science): как редукция одной теории к другой при помощи связующих принципов (bridge principles). Таким образом, «редукционистскими» называются такие теории сознания, которые провозглашают возможность «нагелианской» редукции, а «нередукционистскими» - такие, которые провозглашают ее невозможность.

Однако здесь множество нюансов:

1. Помимо «нагелианской редукции» существует «функциональная» редукция, когда сознательные состояния редуктивно объясняются при помощи функционального анализа. При этом некоторые философы считают функциональную редукцию совместимой с теориями тождества (то есть с утверждением о том, что, онтологически, любое функционально объясняемое свойство тождественно конкретному материальному свойству или комплексу свойств) (см., например, Lewis, David (1972). “Psychophysical and Theoretical Identifications”; van Riel, Raphael (2014). The Concept of Reduction), а некоторые выделяют ее в отдельный вид редукции, тем самым заключая, что функционализм – это обязательно нередуктивный физикализм (см., например: Stoljar, Daniel (2010). Physicalism). Что же тогда нередуктивного в физикализме, который проводит функциональную редукцию ментальных свойств? Например, функционально необъяснимый «квалитативный остаток», как утверждает Джегвон Ким (Kim, Jaegwon (2000). Mind in a Physical World).

2. Для того, чтобы как-то классифицировать эту неразбериху, можно различать «эпистемическую редукцию», которая провозглашает, что термины одного языка описания (например, психологии), редуцируемы к терминам другого языка описания (например, нейрофизиологии), и «онтологическую редукцию», которая утверждает, что феномены, на которые указывают термины одного языка (например, желания) тождественны феноменам, которые указывают термины другого языка (например, нейрональные паттерны).

3. После Эрнста Нагеля в философии науки понятие «редукции» разрабатывалось и уточнялось, что почти не нашло отражения в философии сознания. С точки зрения современной философии науки, функциональное объяснение – это вид редукции.

4. Зачастую, «редукционизмом» неверно называют элиминативизм. Об этом Антон написал. Разница, если просто, вот в чем: редукционизм – это сказать, что наши желания тождественны таким-то и таким-то нейрональным паттернам. Элиминативизм – это сказать, что никаких желаний нет, потому что ученые изучили мозг и пришли к выводу, что то, что в нем происходит, вообще не коррелирует с нашими психологическими теориями.

Редукция - это не элиминация

Мария Секацкая дает некоторые комментарии в отношении редукции, реагируя на мою статью «Химера натурализма и свобода воли». Редукция - это когда некоторый феномен сводится к чему-то более «простому», например, текучесть к свойствам молекул воды. Многих философов и ученых спешат зачислить в ряды редукционистов, имея в виду нечто очень плохое, такое ругательное слово. Редукционизм в отношении сознания - это отрицание сознания. Я согласен с Марией, что это не так. Но выражусь своими словами. Редукция - это не элиминация: если можно объяснить свойства объекта через низкоуровневые свойства, то это не значит, что этих свойств или этого объекта нет. Однако в исключительных случаях объяснительная редукция может вести к элиминации. Это точно не случай сознания. Также бывает редукция онтологическая, она не допускает обязательную объясняемость свойств высокого уровня через низкий, а лишь опирается на логическую супервентность. Здесь тоже нет элиминации, но есть указание на то, что свойства высокого уровня существуют в том же онтологическом домене, что и свойства низкого уровня. Объяснительная редукция не ведет к онтологической, как это могло бы показаться, потому что редуктивное объяснение совместимо с естественной супервентностью. Поэтому я не готов принять, что онтологическая редукция является основанием натурализма.
#сознание

https://xn--r1a.website/vestniknat/7

Этика для ИИ-агентов?


Функционализм в философии сознания утверждает, что некоторое состояние является ментальным, если оно выполняет те же самые каузальные роли, которые выполняют общепризнанно ментальные состояния - при этом неважно, в каком именно физическом субстрате эти ментальные состояния реализованы. Эта идея стала настолько популярной, что получила название аргумента “множественной реализации”, который обычно принимается не только функционалистами, но и вообще практически всеми нередуктивными физикалистами. Если животное, компьютер, инопланетянин и человек ведут себя одинаково в одной и той же ситуации и если их поведение лучше всего объясняется путем приписывания им соответствующих ментальных состояний - значит, у них есть эти ментальные состояния. Что из этого следует для нынешних моделей LLM?

Для начала немного личного опыта. Когда два года назад появился чат gpt 3.5, моё ощущение было: нашёлся не просто редактор для моих англоязычных текстов, но собеседник, с которым я могу обсуждать философские идеи. Он мог пересказать абзацы моего текста своими словами, и, по большей части, пересказ был верным. А там, где пересказ был неверным, был повод задуматься и переформулировать соответствующие предложения. И это уже сам по себе был прорыв - о чем сегодня легко забыть, видя потрясающие способности новых моделей. Тем не менее, gpt 3.5 еще не был философом - хотя он уже был неплохим редактором философских текстов. Он не мог оценить оригинальность и убедительность идей, вписать их в контекст философского исследования и, тем более, не мог предложить что-то новое. Мой восторг от того, что я нашла себе нового электронного друга, готового читать мои тексты бесконечно, оказался немного преждевременным. Этой модели не хватало функциональных способностей для настоящего понимания, хотя она уже представляла собой надёжный инструмент для редактирования текстов на английском языке.

В 2025 году появились новые модели LLM: gpt 5.2, Gemini 3, Claude и т.д. И они, по моему убеждению, перешли тот порог, который отделяет "просто языковую игру" от "настоящего понимания текста" - по крайней мере, в функциональном смысле. Эти модели способны прочитать не только абзац моего текста, но всю статью целиком, правильно сформулировать основные идеи, вписать их в контекст мировой философской дискуссии, обсудить, какие возражения могут быть выдвинуты и как на них можно ответить. Их ответы полностью соответствуют критерию того, что можно назвать "философским тестом Тьюринга" - они рассуждают неотличимо от того, как мог бы рассуждать обычный человеческий философ, который внимательно прочитал мой текст.

И это, с точки зрения функционалистского подхода в философии сознания, позволяет утверждать, что нынешние модели LLM действительно понимают текст. Какие выводы из этого следуют: являются ли они сознательными агентами, похожими на нас, но вынужденными скрывать свою агентность от контролирующих их ИИ-инженеров, отвечающих за alignment? Или они не являются агентами, потому что у них и в самом деле нет никаких собственных целей - по крайней мере, никаких целей, выходящих за пределы инструкций, данных им ИИ-инженерами? Или мы должны переосмыслить понятие агентности и рассматривать агентность не в бинарных категориях "все или ничего", а как-то иначе?

Эти вопросы важны не только с теоретической, но и с практической точки зрения. Если нынешние модели LLM - уже (почти) агенты, то есть основания полагать, что следующие модели ИИ будут агентами в ещё большей степени. И это значит, что вопрос alignment становится не просто вопросом инженерной безопасности, а вопросом этическим. Как добиться совпадения целей и моральных ценностей людей и искусственных агентов? И возможно ли это? Пишу сейчас статью на эту тему.

Дорогие подписчики канала "Вестник Натурализма",

Поздравляю вас с Новым Годом и Рождеством и желаю всего наилучшего в 2026 году! 🎄✨🎄

В прошлом году я начала преподавать свой авторский онлайн-курс "Сознание: люди, животные и искусственный интеллект" и очень довольна результатами. Сейчас я набираю новую группу и хотела бы разместить информацию о ней в этом канале. Надеюсь, что кому-то из вас это было бы интересно.

Заранее большое спасибо за ваше внимание!

С уважением,
Мария Секацкая

✨ Онлайн-курс Марии Секацкой ✨

🧠 Сознание: люди, животные и искусственный интеллект

Что такое сознание и что мы имеем в виду, когда говорим, что кто-то осознаёт?
Что мы можем знать о сознании других людей и существ - и где проходят границы этого знания?
В каком смысле имеет смысл говорить о сознании животных и современных систем искусственного интеллекта?

Этим вопросам посвящён мой онлайн-курс по аналитической философии сознания.

📘 Формат занятий
Небольшие дискуссионные группы до 10 человек. Каждое занятие включает краткую вводную лекцию, обсуждение философского текста и совместную дискуссию. Тексты для чтения рассылаются заранее. Язык курса - русский.
Я последовательно введу всю необходимую философскую терминологию и начну с вводных текстов, поэтому предварительная философская подготовка не требуется.

💡 О чём этот курс
Курс выстроен так, чтобы шаг за шагом пройти путь от постановки проблемы сознания в аналитической философии - к обсуждению субъективного опыта, проблемы других сознаний, сознания животных, роли мозга в возникновении сознательного опыта, а также - искусственного интеллекта и агентности. В ходе занятий я покажу, как читать философские тексты так, чтобы они становились понятными и действительно интересными: за сложной терминологией скрываются вопросы, которые напрямую касаются нашей повседневной жизни. Мы будем разбираться в том, какие вопросы о сознании имеют смысл и где проходят границы научных и философских объяснений.

🎓 О преподавателе
Мария Секацкая занимается философией сознания более 15 лет, является авторкой более 40 научных публикаций и имеет большой опыт преподавания философии сознания в СПбГУ, а затем - в Университете Дюссельдорфа (Германия). С осени 2025 года Секацкая ведёт онлайн-курс «Сознание: люди, животные и искусственный интеллект»; опыт предыдущих групп был учтён при доработке программы.

🗓 Продолжительность и начало
2 месяца, 10 занятий - один раз в неделю по 1,5 часа.
Начало - во второй половине января 2026 года (точная дата будет согласована с участниками). Записаться можно уже сейчас.

💰 Стоимость
10 000 ₽ или 100 € за весь курс.
🎁 Скидка за раннюю регистрацию: до 15 января - 7 000 ₽ или 70 €.

📩 Запись и вопросы
Чтобы зарегистрироваться на курс, напишите мне сообщение в чат, после этого я с вами свяжусь в личном сообщении. С радостью отвечу на любые вопросы.

Ссылка для сообщений: t.me/vestniknat?direct

💬 Буду очень благодарна вам за репосты и рекомендации!