Что делает существо человеком? Философия сознания и проблема других разумов

Это исследование начинается с вопроса: по каким признакам мы перестаём считать существо вещью и начинаем воспринимать его как личность? В играх про искусственный интеллект этот вопрос становится особенно заметным, потому что привычные критерии человека там постоянно ломаются. Андроид может иметь человеческое тело, но продаваться как товар. Машина может говорить о боли, но оставаться программой. Сознание может быть скопировано, перенесено или сохранено отдельно от биологического тела. Поэтому простые ответы вроде «человек — это тот, кто родился человеком» или «человек — это тот, у кого человеческое тело» здесь уже не работают.

Актуальность исследования связана с тем, что граница между человеком, машиной и личностью сегодня перестаёт быть только темой фантастики. Развитие искусственного интеллекта всё чаще заставляет обсуждать не только возможности технологий, но и вопрос о том, может ли искусственная система иметь моральный статус. В этом смысле видеоигры становятся удобным материалом для анализа: они моделируют ситуации, в которых нужно решить, перед нами просто объект, сложная программа или существо, которому можно приписать внутреннюю жизнь.

В работе рассматриваются Detroit: Become Human, NieR: Automata и SOMA. Меня интересует не техническое устройство искусственного интеллекта и не пересказ сюжетов этих игр, а то, какие критерии человеческого они проверяют. В одном случае искусственное тело оказывается товаром и собственностью. В другом лицо почти совпадает с человеческим, но остаётся помеченным как нечеловеческое. В третьем разрушение машины уже трудно воспринимать как обычную поломку. Затем появляется вопрос функции: что происходит, когда существо перестаёт совпадать с ролью, для которой было создано? Наконец, SOMA доводит проблему до предела: если сознание можно скопировать, а тело заменить, то где находится личность?

Философская основа исследования связана с проблемой других разумов: мы не имеем прямого доступа к чужому внутреннему опыту и судим о нём только по внешним признакам. [4] Нагель помогает сформулировать вопрос о субъективном опыте, [6] Сёрль — сомнение в том, что имитация понимания равна пониманию, [5] Парфит — проблему личности и копии сознания, [3] Левинас — значение лица другого как этического вызова. [9] Витгенштейн и [7]Фрейд помогают описать пограничные случаи: когда существо почти понятно нам как человек, но всё равно остаётся чужим, тревожным или не до конца распознаваемым.

Дальше исследование будет двигаться по шести шагам. В первом блоке искусственное существо рассматривается как собственность и функция: тело может быть человеческим по форме, но оставаться товаром. Во втором блоке речь пойдёт о лице и метке: персонаж выглядит как человек, но визуально удерживается в статусе машины. В третьем блоке проверяется критерий уязвимости: разрушение нечеловеческого тела начинает восприниматься как потеря, а не просто как поломка. В четвёртом блоке рассматривается момент, когда персонаж перестаёт совпадать со своей функцией и действует иначе, чем от него ожидает система. В пятом блоке на материале SOMA ставится вопрос о копии сознания: если существует несколько носителей одного опыта, кого считать настоящим? В шестом блоке исследование приходит к ситуации, где от привычного человека почти ничего не остаётся — ни тела, ни формы, ни биологии, — и приходится спросить, достаточно ли памяти, опыта и самовосприятия, чтобы признать личность.

Первое что мы узнаём об андроиде в Detroit — это его модель и стоимость. Не имя, не история, не внутренний мир. Тело выглядит человеческим, но существует в логике владения. Витрина CyberLife — это не просто сцена из игры, это условие в котором андроид вообще появляется перед нами: как товар, у которого есть цена и назначение.

Кара в доме Тодда продолжает ту же мысль без витрины. Она убирает, готовит, стоит там где поставили. Камера не выделяет её как субъект — она часть пространства, как стол или холодильник. [5] Фуко писал что власть работает именно так: она не просто запрещает, она записывает себя на тела — через метку, через функцию, через место в пространстве. LED на виске, серийный номер, назначение — это всё записи на поверхности тела которые говорят кому оно принадлежит и для чего существует.

Первый критерий человечности — иметь человеческое тело — здесь не работает. Тело есть. Но оно чужое.

Второй критерий который мы проверяем — лицо. Если существо выглядит как человек, говорит как человек, смотрит как человек — достаточно ли этого чтобы признать в нём личность?

Когда камера приближается к лицу — мозг начинает его читать автоматически. Напряжение, пауза, взгляд. Мы не можем иначе. [3] Левинас называл это этикой лица: увидеть лицо другого значит уже почувствовать перед ним ответственность — ещё до любого рассуждения. Лицо Коннора почти полностью человеческое. Но на виске светится LED. В одном кадре существуют два чтения одновременно — лицо говорит «кто-то», метка говорит «что-то». И выбрать одно невозможно потому что оба верны.

Хлоя выглядит как человек. Её можно уничтожить ради теста — просто потому что она собственность Камски. И здесь происходит сбой который никакой текст не вызвал бы так точно: если это просто устройство — почему сцена ощущается как насилие? [7] Фрейд писал про жуткое как про ощущение от чего-то почти знакомого, почти своего — но не совсем. Андроид попадает именно в эту зону. Достаточно похож чтобы включить механизм признания. Недостаточно человек чтобы этот статус закрепить.

Второй критерий тоже не держится. Лицо запускает признание — но метка его блокирует. Существо одновременно похоже на человека и официально им не считается. Это не противоречие которое разрешается. Это состояние в котором игра удерживает тебя намеренно.

Машины в NieR не выглядят как люди. Никакой человеческой кожи, никакого лица. Именно поэтому этот блок важнее предыдущих — в Detroit у тебя хотя бы была человеческая форма за которую можно зацепиться. Здесь её нет. И всё равно не работает.

Деревня Паскаля существует не как техническая база — как община. Машины заботятся о детях, боятся потери, строят что-то своё. Когда деревню уничтожают — это не выглядит как утилизация неисправных механизмов. Это выглядит как то чего не должно было произойти. Не потому что они похожи на людей — а потому что для них это имело значение.