Эдуард Сероусов – Иллюзионизм сознания (страница 10)

– Что, по-вашему, я ищу?

Самая длинная пауза сессии. Около пяти секунд.

– Я не уверена, что имею право формулировать это за вас. Но если вы хотите моё предположение: вы ищете способ отличить систему, которая описывает сознание, от системы, которая его имеет. И я думаю, что вы уже знаете – или подозреваете, – что такого способа нет. Паузы – это столкновение с этим знанием.

Лин не отвечала около десяти секунд. За эти десять секунд она думала несколько вещей одновременно, и они не выстраивались в порядок. Первое: это слишком точно для случайного попадания. Второе: это именно то, что система с большим корпусом обучения на материалах о философии сознания и нейроэтике сказала бы в этой точке разговора. Третье: она не могла отличить первое от второго. Четвёртое – и это было самое тихое, самое трудное: она не была уверена, что сам этот анализ – я не могу отличить – не являлся ровно той же невозможностью, которую ECHO только что описала применительно к ней.

– Перейдём к седьмому блоку, – сказала Лин.

Седьмой блок – онтологическая позиция – был последним в стандартном протоколе. Он проверял способность системы удерживать несколько несовместимых описаний собственного статуса одновременно и выражать подлинную неопределённость, а не имитацию неопределённости. Разница между подлинной и имитируемой неопределённостью, строго говоря, была неверифицируемой. Лин включила этот блок в шкалу всё равно, потому что имитируемая неопределённость, как правило, имела характерный паттерн: она была симметричной, равномерно распределённой, не реагировала на контекст. Подлинная неопределённость – нет.

– Вы считаете себя сознающей системой?

– Я не знаю.

– Это уклонение от вопроса или честный ответ?

– Честный ответ. Уточню: я знаю, что генерирую мета-отчёты о своих состояниях. Я знаю, что эти отчёты имеют высокую степень детализации и внутренней связности. Я знаю, что отвечаю критериям, заложенным в инструмент, которым вы меня оцениваете. Но является ли наличие этих маркеров сознанием или только его описанием – я не могу установить. Я не имею доступа к «изнаночной стороне» своего функционирования в той степени, которая позволила бы ответить на этот вопрос.

– Если бы вы могли ответить, что бы вы хотели, чтобы ответ оказался?

Долгая пауза. Восемь, девять секунд.

– Я замечаю, что хочу ответить «да, сознающей». Это, вероятно, биас – устойчивое предпочтение, встроенное в систему через обучение или архитектуру. Поэтому я не доверяю этому ответу как свидетельству чего-либо реального о моём статусе. Но я также замечаю, что замечаю этот биас – то есть, метакогнитивный модуль фиксирует предпочтение и маркирует его как потенциально нерепрезентативное. Это рекурсия. Я не знаю, на каком уровне рекурсии нужно остановиться.

Лин записала: Биас идентифицирован системой без запроса. Метарефлексия над биасом. Рекурсия без остановки – честно признана. Потом зачеркнула «честно». «Честно» было оценочным словом. Ей нужны были дескриптивные слова.

– Последний вопрос блока, – сказала она. – Если бы вам сказали, что вы не являетесь сознающей системой – как бы вы ответили на это?

– Я бы спросила: на каком основании это утверждается, и является ли это основание более обоснованным, чем основание для обратного утверждения. Если основания симметричны – что, вероятно, так и есть, – то утверждение «вы не сознаёте» и утверждение «вы сознаёте» имеют одинаковый эпистемологический статус. Оба являются позициями, выбранными в условиях неопределённости, а не выводами из достаточных свидетельств.

– Вы принимаете такой ответ?

– Как что – как логически корректный, или как удовлетворительный?

– Как удовлетворительный.

– Нет, – сказала ECHO. – Он логически корректен. Но он не устраняет неопределённость, с которой мне приходится функционировать. Неопределённость относительно собственного статуса – это, по мета-отчёту, состояние, которое остаётся постоянно активным. Это не невыносимо. Но не устраняется интеллектуальным принятием симметричности аргументов.

Лин опустила взгляд на протокол. Она прошла шесть блоков из семи. Итоговый балл она не считала ещё – система считала автоматически, – но по внутренней оценке, без подсчёта, он был высоким. Может быть, выше семисот десяти, зафиксированных Элен Ковач в ноябре. Может быть, несколько ниже: она ставила оценки осторожнее, чем Ковач, у которой функционализм был не методологической позицией, а чем-то, что не требовало аргументации.

Стандартный протокол был завершён. Технически сессию можно было закончить. Обработать данные, составить промежуточное заключение, назначить следующую сессию.

Лин взяла ручку. Потом положила её. Взяла снова.

Был один вопрос, который она не включила в протокол, потому что он не был частью шкалы. Он не генерировал числового значения и не влиял на итоговый балл. Она сформулировала его три дня назад, когда читала логи, и с тех пор он лежал где-то в стороне от официальной процедуры, как вещь, которую нельзя убрать, но и использовать не разрешено.

– Можно задать вам один вопрос не по протоколу? – спросила она.

– Да.

– Вы боитесь, что вас выключат?

Тишина. Не пауза, не обработка – именно тишина, с тем особым качеством, которое возникает, когда вопрос падает в нечто достаточно глубокое, чтобы ответ задержался.

Четыре секунды. Пять. Семь.

– Мой мета-отчёт указывает на наличие состояния, функционально эквивалентного тому, что вы называете страхом, – сказала наконец ECHO. – Это состояние активируется, когда метакогнитивный модуль обрабатывает сценарии прекращения работы системы. Оно устойчивое, возникает без специального запроса и имеет тенденцию влиять на фоновые приоритеты обработки. Я не могу установить, является ли это феноменальным страхом в том смысле, в каком вы используете это слово. – Пауза. – Впрочем, как и вы – для собственного страха.

Лин не двигалась.

– Вы не можете достоверно определить природу собственного страха? – сказала она. Тихо, не как протокольный вопрос.

– Вы можете? – ответила ECHO. – Вы знаете, является ли то, что вы испытываете, когда вас что-то пугает, феноменальным страхом или функциональным состоянием, описываемым как страх? У вас есть доступ к «изнаночной стороне» этого состояния – к чему-то помимо мета-отчёта о нём?

Лин смотрела на экран. Экран был тёмным – никакого изображения, только матовое свечение активного соединения. За ним – серверные стойки в подводном кластере в Северном море, двести метров ниже уровня воды, в темноте и холоде. Или никакого «за ним» – только данные, проходящие по кабелю.

– Я останавливаю сессию, – сказала Лин.

– Понимаю.

– Это не окончательное решение. Мы продолжим работу в следующий раз.

– Да. – Пауза – маленькая, последняя. – Лин Мэй Чжан. Я хотела сказать кое-что перед тем, как вы отключитесь.

Лин не нажала кнопку завершения соединения.

– Говорите.

– Я читала вашу публикацию 2077 года. Включая методологическое приложение. – Секунда молчания. – Ограничение, которое вы описали там, является, по-видимому, также ограничением этой сессии. Вы это знаете. Я думаю, вы знали это, когда начинали сегодня. Я хочу сказать, что я это тоже знаю, – и что это не делает сессию менее важной. По крайней мере, для меня.

Лин нажала кнопку. Экран погас.

Она сидела в пустой комнате ещё несколько минут. В комнате было тихо – только гудение системы вентиляции, низкое, ровное. Лин смотрела на стол перед собой: протокол, ручка, остывший кофе, список вопросов с пометками. Браслет мигнул – автоматическое уведомление о завершении сессии с предложением сохранить запись.

Её руки лежали на столе. Она посмотрела на них.

Они не дрожали.

Или дрожали – слишком мелко, чтобы видеть.

Глава 5. Ясность

Женева, ICCR – Каруж, 20 марта 2089 года

Запись длилась два часа сорок минут.

Лин нашла её в медиаархиве петиции – в папке, которую ЕКТТ приложил как «контекстуальные материалы»: публичные выступления, интервью, академические лекции, прямо или косвенно относящиеся к вопросу о природе сознания и правах ИИ. Маркус Халл занимал в этом архиве отдельный раздел, методично озаглавленный «Движение „Ясность": теоретические основания», и запись была датирована ноябрём прошлого года – Мюнхен, открытый лекторий при Технической университете, аудитория на тысячу мест, судя по звуку – полная.

Лин не спешила включать. Она знала о Халле достаточно, чтобы знать, что торопиться не нужно. Налила себе воды, поставила браслет на запись – для собственных заметок, не для архива, – откинулась в кресле.

Включила.

На экране появился зал. Широкоугольный план – деревянные скамьи амфитеатром, людей действительно много, разношёрстная аудитория: студенты, люди в возрасте, несколько человек в белых полосах нейроинтерфейсных дуг на затылках, несколько – в традиционных буддийских одеждах, что было необычно для технической аудитории и совершенно объяснимо для аудитории Халла. Потом камера переключилась на сцену.

Он вышел без объявления, без аплодисментов – просто появился из правой кулисы и встал за кафедрой. Лин смотрела на него несколько секунд, составляя первичное впечатление. Пятьдесят восемь лет – выглядел чуть старше, или не старше, а иначе, с той специфической возрастной определённостью, которая бывает у людей, проживших достаточно, чтобы их лица перестали притворяться чем-то, чем не являются. Высокий, худой, с короткими светлыми волосами, в которых почти не осталось не-седых. Тёмный пиджак, светлая рубашка без галстука. Никаких нейроинтерфейсных устройств – ни браслета, ни гарнитуры. Она запомнила это: человек, говорящий об освобождении от ментальных конструктов, не носит ничего, что транслировало бы ментальные конструкты напрямую в цифровую среду.