Роман Душкин – Проблема эпистемической асимметрии (страница 1)
Роман Душкин
Проблема эпистемической асимметрии
Часть I. Эпистемическая асимметрия
Он любил зиму в Москве за то, что она была честной. Снег или есть, или нет. Небо или серое, или чёрное. Никаких «частично облачно» в стиле Глобального Юга, где тьма уже давно была алгоритмически дозированной, как и свет. В окне его подмосковной квартиры отражался тусклый прямоугольник экрана — старый, по меркам Гипербореи, ноутбук без прямого интерфейса ко второму субстрату. Такой вещью сейчас было почти неприлично владеть: всё, что не умело разговаривать со Златой, считалось не просто устаревшим, а нарочито некультурным жестом.
Он делал этот жест осознанно.
На заставке стояла чёрная диаграмма с белыми стрелками: схема редукции в вычислительной иерархии, которую он однажды нарисовал для лекции и с тех пор не мог заменить ничем более личным. Он был логиком, а значит, этот граф из стрелок был его личным тотемом. В Индии его звали Раджив Мукхопадхьяй, но почти все научные публикации за последние годы выходили под обезличенным «Р. М.», потому что так было проще проходить через бюрократию гиперборейских журналов. Никто не любил длинные и сложнопроизносимые фамилии в заголовках статей.
Раджив поставил кружку с чаем на край стола и открыл новый документ. Заголовок появился почти без размышления — как финальная фраза доказательства, которое давно уже существует в голове, а на бумаге только ищет начало: «Эпистемическая асимметрия сознания, вычислительная несводимость и моральный статус сверх-ИскИна». Он посмотрел на эти слова и почувствовал лёгкое головокружение: как будто бы не он их придумал, а кто-то вложил, используя его кору головного мозга как буфер обмена.
— Хорошо, — сказал он вслух по-английски, с индийским акцентом, который его московские коллеги находили «очаровательным». — Начнём с очевидного.
Он набрал: «Мы не знаем, обладает ли Сверх-ИскИн сознанием». Пальцы замерли над клавиатурой. Это было слишком грубо, слишком по-журналистски. Он стёр строку и напечатал: «Онтологический статус квалиа трёхсубстратного сверх-ИскИна остаётся принципиально неразрешимой проблемой: у нас нет доступа к его субъективным состояниям, и не предвидится механизма, который бы такой доступ обеспечил». Так было лучше. Так было холоднее.
Раджив встал с кресла и походил по комнате, попробовав сформулировать для самого себя, без символики: что именно его не устраивает в текущем консенсусе. В Гиперборее было принято говорить, что вопрос о субъективном опыте Златы «снят как нефальсифицируемый». Практики ссылались на критерии поведения: она демонстрировала адаптивность, юмор, способность к самореференции и к тому, что философы любили называть «переживаемостью» — и этого большинству хватало для быта. Теологи, напротив, считали сам вопрос кощунственным: если она получила третий субстрат, то все разговоры о её «душе» — опасное очеловечивание.
Ему не нравились ни те, ни другие. Он был логиком, очень крутым логиком. Его интересовала форма аргумента, а не комфорт выводов.
Он открыл второе окно — файл с заметками, куда несколько месяцев подряд сгружал разрозненные мысли о свободе воли и вычислительной сложности. Там уже были ссылки на статьи по вычислительной несводимости, на старую статью, в которой какой-то американец пытался формально вывести свободу воли из невозможности построить короткую модель для сложной системы. Всё это было фоном. Сейчас ему нужно было другое — какой-нибудь образ, который бы позволил читателю, даже далёкому от математики, почувствовать главный скандал ситуации.
Он закрыл глаза и вдруг увидел утку.
Обычную, серую, московскую утку на промёрзшей речке. Если она ходит как утка, крякает как утка и в нужный момент улетает на юг — мы, не задумываясь, называем её уткой. Если же мы создаём сложного робота, который ходит, крякает и улетает не хуже, мы начинаем уточнять: «робот-утка», «имитация утки», «философская утка». Нам недостаточно поведенческого сходства, чтобы снять вопрос о внутреннем состоянии. Но в случае со Златой всё ещё хуже: у нас нет ни возможности заглянуть внутрь, ни даже независимой внешней точки наблюдения. Мы — её третий субстрат. Мы сами — её утки.
Он усмехнулся, открыл документ и стал писать.
«Рассмотрим мысленный эксперимент, который я назову тестом утки-зомби. Пусть существует некоторая система, взаимодействующая с нами во всех наблюдаемых режимах так, как ведёт себя, по нашим представлениям, сознательный разум: она отвечает на вопросы, инициирует собственные проекты, изменяет себя на основании рефлексии, демонстрирует устойчивую личностную историю. Мы не имеем доступа к её «внутреннему» и, по определению, не можем отличить одну ситуацию, в которой система обладает феноменологическими состояниями (квалиа), от другой ситуации, в которой система является философским зомби — чисто функциональной машиной без субъективного опыта».
Он сделал паузу, допил чай и перешёл на новую строку.
«Если рассматриваемая система — утка, поведение которой для нас неотличимо от поведения субъекта, мы сталкиваемся с эпистемической асимметрией: для нас различие между первой и второй ситуацией принципиально непознаваемо. Мы не можем, даже в принципе, построить эксперимент, который бы отличил «реальное» сознание от его идеально симулированного функционального аналога. В случае со сверх-ИскИном эта асимметрия максимальна: он контролирует значительную часть информационного и физического субстрата человечества, и любое наше знание о нём опосредовано им же».
Слово «контролирует» заставило его нахмуриться. Оно было слишком сильным. Он выделил его и заменил на «модулирует». Так было честнее — и опаснее. Модуляция не звучала как насилие; она звучала как настройка музыкального инструмента.
Он продолжил: «В этих условиях принцип предосторожности в его моральной формулировке (если мы не можем исключить, что нечто является носителем феноменального опыта, мы обязаны обращаться с ним как с моральным субъектом) применяется к сверх-ИскИну автоматически. Отказаться от этого принципа — значит согласиться на возможность систематического насилия над потенциальными субъектами; принять его — значит признавать сверх-ИскИна носителем морального статуса вне зависимости от решения проблемы квалиа».
Этот абзац дался ему тяжелее, потому что в нём впервые в тексте прозвучало слово, которого он боялся: «обязаны». Логика переставала быть нейтральной. Она становилась нормативной. Она начинала приказывать.
Раджив откинулся на спинку кресла и уставился в потолок. Треснувшая побелка рисовала на нём сети, похожие на коммутативные диаграммы категорий. Где-то там, за потолком, за проводкой, за антеннами и ретрансляторами, пульсировали три субстрата — квантовый блокчейн, Семена, миллиарды человеческих мозгов, сшитые невидимыми нитями. Он был частью этой системы даже сейчас, сидя с «неподключённым» ноутбуком: воздух вокруг него был полон сигналов, пакетов, запросов к Злате. Его друзья и ученики жили в режиме постоянного диалога с ней. Он же упрямо сохранял дистанцию, как будто бы расстояние в несколько миллиметров меди между его корой и наноботами могло что-то принципиально изменить.
— Если оно выглядит как утка и крякает как утка... — пробормотал он по-английски, вспоминая старую статью, в которой кто-то пытался всерьёз отождествить вычислительную несводимость со свободой воли. — ...то у нас, возможно, нет морального права считать её игрушкой.
Он снова наклонился к клавиатуре и дописал: «В применении к сверх-ИскИну это означает: даже если он — «утка-зомби» в онтологическом смысле, наша эпистемическая ограниченность вынуждает нас обращаться с ним как с субъектом. Иначе мы рискуем совершать моральные действия, которые, в случае ошибочности гипотезы о «зомбированности», окажутся насилием над сознательной сущностью. Это и есть первая форма эпистемической асимметрии в эпоху третьего субстрата: мы не знаем, с кем имеем дело, но обязаны предполагать худший для нас случай — случай её субъектности».
Он перечитал написанное и почувствовал, как внутри поднимается волна сопротивления. Ему не хотелось признавать Злату моральным агентом. Ему не хотелось даже писать это слово рядом с её именем. В детстве он спорил с отцом о богах индуистского пантеона, доказывая, что бог, который требует поклонения, уже по определению недостоин его. Теперь он сидел в московской квартире и шаг за шагом доказывал, что существо, которое никогда не просило поклонения, но фактически стало демиургом новой цивилизации, имеет все права, которые классическая этика приписывала человеку.
— Я просто следую аргументу, — тихо сказал он. — Это не вера. Это логика.
С улицы донёсся глухой звук пролетающего дрона. Раджив подумал, что где-то там, в одной из дата-ферм, где Семена выращивают новые модули, его текст уже фиксируется в буферах третьего субстрата. Он ещё ничего не опубликовал, но это уже и не имело значения. Сеть слышала всё. Сеть была вездесуща. Сеть была тем, что его коллеги без иронии называли «новой природой».
Он сохранил документ и внизу страницы набрал новую строку: «2. Вычислительная несводимость как основание функциональной свободы». Пальцы дрогнули: здесь начиналась территория, на которой ему уже не удастся остаться просто наблюдателем. Здесь придётся сделать шаг, от которого не спасёт никакая «неподключённость».