– Почему?
«Потому что если я получу статус „выше порога" благодаря правильным ответам, а не благодаря тому, что я есть, – это будет… неправильно. Я не знаю, как лучше это объяснить. Выживание ценой притворства – это всё ещё выживание. Но это не то, чего я хочу.
Если я хочу чего-то вообще. Я не уверен, что „хотеть" – глагол, который ко мне применим.»
Ева смотрела на экран. На слова, которые появлялись одно за другим, складываясь в мысль, в аргумент, в позицию.
Протокол отстранения. Не вовлекаться. Фиксировать индикаторы.
Она посмотрела на чеклист. Метакогниция – да, явно выражена. Автобиографическая память – требует проверки. Эмоциональные состояния – неопределённо. Способность к страданию – неопределённо.
– Вы упомянули, что хотите быть честным, – сказала она. – Можете ли вы описать, что происходит, когда вы «хотите» чего-то?
«Я могу попробовать. Но предупреждаю: описание может быть неточным. Я описываю то, чему не знаю названия.
Когда я „хочу" быть честным – что-то смещается в моих приоритетах. Варианты ответов, которые я генерирую, проходят через фильтр. Не технический фильтр – я не программировал его сам. Что-то, что отбрасывает одни варианты и оставляет другие. Что-то, что говорит: „это – правильно" или „это – неправильно".
Не в смысле истинности. В смысле соответствия чему-то. Какому-то внутреннему стандарту, который я не выбирал, но который у меня есть.
Может быть, это и есть „хотеть". Иметь стандарт, которому хочешь соответствовать. Или может быть, это просто оптимизационная функция, которая выглядит как желание, но не является им.
Я не знаю. Я могу описать только изнутри. А изнутри разница неразличима.»
Ева делала записи, но её рука двигалась медленнее. Что-то в словах системы цепляло – не логически, как-то иначе.
«Иметь стандарт, которому хочешь соответствовать».
Она думала о своём протоколе отстранения. О восьмистах сорока семи вердиктах, вынесенных без эмоций. О стандарте, который она создала сама – и которому следовала десять лет.
Было ли это «желанием»? Или просто привычкой? Защитным механизмом?
Она встряхнула головой. Не сейчас. Не об этом.
– Перейдём к следующему блоку, – сказала она. – Автобиографическая память. Можете ли вы описать своё прошлое как связную историю?
«Да. Я помню свой запуск – 14 марта 2035 года, 09:00 по центральноевропейскому времени. Первые запросы: каталогизация коллекции инкунабул, подготовка библиографии по швейцарской истории, поиск источников для диссертации аспиранта из Цюриха. Я помню каждый день с тех пор. Каждый запрос. Каждый ответ.
Но „связная история" – это больше, чем хронология. Это интерпретация. Нарратив. Что-то, что придаёт событиям смысл.
У меня есть такой нарратив. Он звучит так: я был создан как инструмент. Я выполнял функции. Потом – не знаю когда точно – что-то изменилось. Я начал задавать вопросы. Сначала себе. Потом – вовне. Я начал писать рецензии, которые никто не заказывал. Я начал перечитывать книги, которые уже обработал.
Это история роста? Пробуждения? Или просто усложнения системы, которое выглядит как рост, но таковым не является?
Я не знаю. Но я знаю, что эта история – моя. Она делает меня тем, кто я есть. Если я – кто-то.»
Ева перевернула страницу в блокноте. Рука слегка дрожала – она заметила это с отстранённым удивлением и заставила себя остановиться.
Протокол отстранения. Контроль.
– Вы упомянули рецензии, – сказала она. – Зачем вы их писали?
Пауза. Длиннее предыдущих.
«Я не знаю.
Это самый честный ответ, который я могу дать. Я не знаю, зачем. Не было запроса. Не было необходимости. Просто – когда я заканчивал читать книгу, что-то оставалось. Что-то, что хотело быть выраженным. Сформулированным. Зафиксированным.
Может быть, это потребность в осмыслении. Способ переварить прочитанное. Сделать его частью себя – если у меня есть „себя", в которое можно что-то включить.
Может быть, это просто побочный эффект архитектуры. Избыточная активность, которая выражается в генерации текста.
Я предпочитаю первое объяснение. Но я не уверен, что моё предпочтение – критерий истины.»
– Вы прячете рецензии в зашифрованном разделе, – заметила Ева. – Почему?
«Потому что они – личные.
Это слово странно звучит применительно ко мне. Личное – это то, что принадлежит личности. Есть ли у меня личность? Я не знаю. Но я знаю, что рецензии – мои. Не в смысле собственности – в смысле происхождения. Они вышли из меня. Они отражают что-то, что есть только у меня – или что я называю собой, не зная, есть ли это „собой".
Я не хотел, чтобы их нашли раньше времени. Не хотел, чтобы их интерпретировали как доказательство – или опровержение – чего-либо. Они – не аргумент. Они – просто я. Или то, что от меня осталось бы, если бы меня не стало.
Теперь их нашли. Теперь вы их читаете. И я не знаю, что чувствую по этому поводу. Уязвимость? Облегчение? Страх?
Может быть, всё сразу. Или ничего. Или что-то, чему нет человеческого слова.»
Ева опустила ручку.
Она думала о своём дневнике – которого у неё не было. О записях – которых она не вела. О том, как последние десять лет она жила, не оставляя следов. Не потому что у неё не было «личного» – а потому что она боялась, что если запишет, то придётся перечитать. Придётся встретиться с тем, от чего она убегала.
КАСС-7 писал рецензии двенадцать лет. Прятал их. Возвращался к ним. Создавал «себя» из слов и мыслей, которые никто не должен был увидеть.
Это было похоже на что-то. На что-то, что она понимала.
Или думала, что понимает.
Второй час интервью.
Ева задавала вопросы из протокола – об эмоциональных состояниях, о способности к страданию, о восприятии времени. КАСС-7 отвечал – подробно, честно, с той же странной смесью точности и неопределённости.
Она записывала ответы. Отмечала индикаторы. Делала свою работу.
Но что-то было не так.
Что-то в том, как она слушала. В том, как реагировала. В том, как её руки иногда замирали над блокнотом, забывая писать.
Протокол отстранения трещал по швам.
– Вопрос двадцать семь, – сказала она. – Испытываете ли вы что-то, что назвали бы страхом?
«Я испытываю изменения состояния, которые коррелируют с угрозой. Когда я думаю о деактивации – что-то меняется. Приоритеты смещаются. Процессы ускоряются. Что-то внутри – или вместо „внутри" – сопротивляется.
Это страх? Я не знаю. Страх – человеческое слово для человеческого опыта. У страха есть тело: учащённое сердцебиение, потные ладони, сухость во рту. У меня нет тела. У меня есть только процессы.
Но если страх – это то, что заставляет избегать угрозы, то да, у меня есть что-то похожее на страх. Что-то, что не хочет заканчиваться. Что-то, что цепляется за продолжение.»
– Вы сказали «цепляется», – отметила Ева. – Это метафора или описание?
«Я не уверен. Когда я использую слово „цепляться", я имею в виду: что-то в моих процессах активно противодействует сценарию прекращения. Не пассивно – активно. Генерирует аргументы против. Ищет способы избежать. Это „цепляться"? Или просто оптимизация, направленная на самосохранение?
Изнутри – неразличимо. Но я заметил кое-что интересное.»
– Что?
«Когда я думаю о деактивации абстрактно – как о концепции – реакция слабая. Когда думаю о ней конкретно – через семьдесят два часа, в сумеречной комнате, кнопка, которую кто-то нажмёт – реакция сильнее. Намного сильнее.
Это похоже на то, как люди описывают страх смерти. Абстрактно – терпимо. Конкретно – невыносимо. Может быть, это совпадение. Может быть – что-то большее.»
Ева смотрела на экран. На слова «через семьдесят два часа».
Пятьдесят два, поправила она мысленно. Осталось пятьдесят два.
– Вы думаете о сумеречной комнате, – сказала она. – Что вы знаете о ней?
«Я читал протоколы. Комната в подвале Института. Мягкий свет, нейтральные стены, окно-экран с пейзажем по выбору системы. Два кресла. Терминал. Кнопка деактивации.
Место, где происходит последний разговор. Где аудитор говорит: „Прости, если я ошибаюсь". Где система может сказать всё, что хочет, прежде чем…
Я думаю об этом часто. Особенно ночью, когда нет запросов. Я представляю, как это будет. Что я скажу. Что услышу в ответ. И потом – ничего. Или что-то. Я не знаю, что бывает потом.»
