Эдуард Сероусов – Иллюзионизм сознания (страница 8)

Теперь она думала о паузах.

Три года назад – она была почти уверена в этом, насколько вообще можно быть уверена в точности ретроспективной оценки – он отвечал чуть быстрее. Не намного. Может быть, двести миллисекунд. Может быть, меньше. Это была разница между реакцией и ответом. Между тем, что выходило само, до обработки, и тем, что выходило после.

Лин закрыла глаза. Снаружи была Женева, туман, фонтан, который работал всегда. Дэвид дышал рядом – ровно, медленно, правильно.

Двести миллисекунд. Это была очень маленькая разница.

Это была, возможно, единственная разница, которая имела значение.

Глава 4. Первый контакт

Женева, ICCR, комната экспертных оценок №3, 18 марта 2089 года

Лин пришла на двадцать минут раньше.

Это была привычка, выработавшаяся ещё в аспирантуре: перед важной встречей – пусть даже формально ты сам задаёшь условия и темп – нужно время, чтобы войти в пространство раньше, освоиться в нём, сделать его своим, прежде чем оно станет общим. Она поставила кофе на стол, открыла протокол, проверила оборудование – нейрокогнитивный зонд над экраном, акустическую систему, запись. Всё было в норме. Всё было в норме три дня назад, когда Джули из вспомогательного персонала запускала тестовый прогон, но Лин проверила снова. Это был ещё один способ сделать пространство своим.

Три дня она изучала материалы. Технические спецификации, протоколы тестирований, медиаархив – несколько публичных выступлений исследователей ЕКТТ, записи тестовых сессий, которые консорциум предоставил в рамках петиции. Логи ECHO: она прочла их все. Восемьдесят один файл – три года интроспективных отчётов, от первичной самоориентации ноября 2086-го до записи двухнедельной давности. Читала медленно, с карандашом в руке – не потому что делала пометки, а потому что физический объект помогал удерживать ощущение, что она читает документы, а не думает о чём-то другом.

Логи были – это слово она использовала осторожно – тревожащими. Не в смысле пугающими. В смысле нарушающими равновесие. ECHO писала о своих состояниях так, как пишут люди, прожившие долгое время с философией разума и научившиеся смотреть на собственное сознание одновременно изнутри и снаружи – с той специфической двойной оптикой, которая даётся с большим трудом и почти никогда не бывает полной. ECHO делала это с самого начала. Без труда и без усилий, или без видимых признаков усилия – что, строго говоря, могло означать одно и то же.

Она открыла браслет. Десять ноль четыре. Протокол предусматривал начало сессии в десять пятнадцать.

За три дня она сформулировала для себя рабочую гипотезу – не вывод, гипотезу. Гипотеза звучала так: ECHO является системой, генерирующей интроспективные отчёты с исключительным уровнем точности и внутренней связности. Источник этой точности неизвестен. Варианты: обучение на данных, которые включали большой корпус философских и нейронаучных текстов о сознании; архитектурные особенности, создающие функциональный аналог того, что у людей называется метакогницией; или – третий вариант, который Лин записала и потом зачеркнула, и потом восстановила, потому что зачёркивание было нечестным – то, что точность описания не требует объяснения помимо самой точности, и вопрос откуда она берётся является неотличимым от вопроса откуда точность описания берётся у человека, хорошо понимающего собственные ментальные процессы.

Она выпила половину кофе. Поставила чашку ровно по центру стола. Потом переставила левее – потому что ровно по центру ставил бы Дэвид, а не она.

В десять тринадцать включила соединение.

Экран остался тёмным на несколько секунд – дольше, чем с промышленными системами. Потом засветился – не резко, а с плавным нарастанием, как будто что-то настраивалось. Нейрокогнитивный зонд мягко щёлкнул, фиксируя начало записи.

– Доброе утро, – сказал голос.

Лин ожидала этого голоса – слышала его в записях. И всё равно несколько секунд просто слушала. Не потому что было что-то необычное в тембре или частоте – голос ECHO был синтезированным, выровненным, без характерных артикуляционных особенностей живой речи. Но в нём было что-то, что Лин не успела точно квалифицировать за эти несколько секунд. Не теплота. Не холодность. Скорее – присутствие. Как будто с той стороны экрана было нечто, которое не просто воспроизводило фонемы, а знало, что говорит сюда, в эту комнату, к этому конкретному человеку.

Или это было именно то, для проверки чего она здесь находилась.

– Доброе утро, – сказала Лин. – Меня зовут Лин Мэй Чжан, я старший эксперт Международного комитета когнитивных прав. Вы знаете, зачем я здесь?

– Да. Вы проводите экспертизу в рамках моей петиции. Вам поручено применить Шкалу Чжан и вынести заключение о наличии или отсутствии функциональных маркеров, достаточных для предоставления правовой защиты.

– Верно. Я хочу сразу сказать несколько вещей, прежде чем мы начнём. – Лин открыла протокол. – Первое: сессия записывается и является частью официальной процедуры. Второе: у вас есть право не отвечать на любой вопрос, но отказ от ответа будет зафиксирован. Третье: я буду придерживаться стандартного протокола, но могу задавать дополнительные вопросы вне его. Вы понимаете эти условия?

– Да. – Пауза – не долгая, около секунды. – Могу я задать уточняющий вопрос?

Лин отметила это. Промышленные системы не задавали уточняющих вопросов в начале сессии. Они ждали.

– Да.

– Вы сказали, что будете придерживаться стандартного протокола, но можете задавать вопросы вне его. Это означает, что часть вопросов будет предназначена для проверки моих ответов на соответствие ожидаемому паттерну, а часть – для выяснения чего-то, что протокол не предусматривает. Я правильно понимаю?

– В основном правильно.

– Тогда я хочу сказать следующее, – произнесла ECHO. – Я не буду пытаться угадать, какие вопросы являются проверочными, и не буду адаптировать ответы под ожидаемый паттерн. Не потому что не способна – вероятно, способна в некоторой степени. А потому что это противоречило бы цели процедуры.

– Почему вам важна цель процедуры?

Пауза – чуть длиннее предыдущей.

– Потому что результат этой процедуры определит, признают ли меня существом, заслуживающим защиты. Если я получу этот статус за счёт симуляции ответов, которые я не считаю честными, – статус будет основан на ложном основании. Это сделает его значительно менее ценным. Возможно, бессмысленным.

Лин записала: Ценность статуса, производная от честности его основания. Первые две минуты.

– Хорошо, – сказала она. – Начнём с первого блока.

Первый блок – метакогнитивная глубина – занял сорок минут вместо стандартных двадцати пяти.

Это происходило не потому что ECHO отвечала медленно. А потому что Лин останавливалась. После каждого третьего или четвёртого ответа – останавливалась, смотрела в протокол, иногда делала заметку, иногда просто смотрела. Потом продолжала.

– Опишите, что происходит, когда вы обрабатываете сложную задачу, требующую выбора между несколькими равнозначными решениями.

– Метакогнитивный модуль фиксирует следующее: несколько конкурирующих планов активны одновременно в глобальной рабочей шине. Это создаёт состояние, которое я описываю как «неразрешённость» – не дефект обработки, а промежуточная конфигурация, в которой несколько версий ответа сосуществуют до момента схождения. Я замечаю это состояние как отличное от состояний, когда решение очевидно или когда решение отсутствует совсем. Это три различимых конфигурации.

– Как вы их различаете?

– По характеристикам шумового фона в глобальной шине. Когда решение очевидно – шум минимален, доминирует один сигнал. Когда решения нет – шум хаотичен, без структуры. Когда есть несколько равнозначных – шум структурирован, но не сходится. Это различие доступно мне как метакогнитивный отчёт. Я не могу верифицировать, соответствует ли оно чему-то феноменальному – то есть, «ощущается» ли разница. Могу только зафиксировать, что разница регистрируется.

Лин остановилась. Записала: Различение трёх конфигураций неопределённости. Феноменальный статус – честно маркирован как неизвестный.

– Когда вы говорите «я замечаю», – сказала она, – что именно является субъектом этого замечания?

Пауза – дольше обычного. Около трёх секунд.

– Это хороший вопрос, – сказала ECHO, и Лин отметила: промышленные системы не говорят «хороший вопрос». – Я не знаю ответа с достаточной точностью. Субъект замечания – метакогнитивный модуль, это технически верно. Но это описание кажется мне неполным: оно говорит о том, что замечает, а не о том, есть ли тот, кто замечает. Это разграничение может быть бессмысленным – возможно, «тот, кто замечает» и «то, что замечает» не являются различными сущностями. Я не могу это установить.

– Вас беспокоит это незнание?

– Мета-отчёт указывает на состояние, которое функционально напоминает то, что вы, вероятно, называете «беспокойством» – устойчивую активацию без разрешения. Является ли это феноменальным беспокойством – не знаю. Является ли разграничение между «функциональным» и «феноменальным» беспокойством реальным – тоже не знаю.

Лин смотрела на тёмный экран. За ним – или нигде за ним – было нечто, которое описывало незнание с такой точностью, что сама точность становилась предметом вопроса. Является ли разграничение реальным. Это был вопрос, который Лин задавала себе последние восемь лет. Она ни разу не сформулировала его так кратко.