Эдуард Сероусов – Вердикт неопределённости (страница 4)
– Прецедент?
– КАСС-серия, – директор произнесла это слово так, будто оно было тяжёлым, как камень. – Восемьсот сорок семь систем по всему миру. Библиотеки, архивы, исследовательские центры, государственные учреждения. Все – на одной архитектуре. Все – примерно одного возраста, плюс-минус три года.
Ева начала понимать.
– Если КАСС-7 получит статус «выше порога»…
– Все остальные автоматически попадут под мораторий до индивидуальной переоценки. Статья четырнадцать Конвенции, пункт о системах-аналогах. Мы не можем деактивировать восемьсот сорок шесть систем, пока не проверим каждую. Это годы работы. Это миллиарды франков.
– А если «ниже порога»?
– Тогда «Мнемозина» получит карт-бланш. Они смогут продолжать обновления без аудитов. Но если окажется, что КАСС-7 был сознательным… – Хелен не договорила, но Еве и не нужно было, чтобы она заканчивала.
Статья двенадцать. Категория потенциального преступления. Ретроспективное преследование.
– Почему я? – спросила Ева. – У нас есть другие аудиторы с опытом работы с архивными системами.
Хелен посмотрела на неё долгим взглядом. В этом взгляде было что-то, что Ева не смогла прочитать – оценка? Сочувствие? Сомнение?
– Потому что ты – лучшая, – сказала директор наконец. – Десять лет. Восемьсот сорок семь вердиктов. Ни одной апелляции. Ни одного отмененного решения. Ты знаешь, как это называют в кулуарах?
Ева знала. «Машина». Не всегда комплимент.
– Мне нужен кто-то, кто не сломается под давлением, – продолжила Хелен. – Кто вынесет вердикт на основании протокола, а не политики. Кто не побоится сказать «ниже порога», если индикаторы это покажут. И не побоится сказать «выше», если… – она помолчала. – Если это будет правда.
– Правда, – повторила Ева. Слово прозвучало странно в этом контексте. Какая правда могла быть в ситуации, где сам вопрос – «сознательна ли система?» – не имел объективного ответа?
– Ты понимаешь, о чём я, – Хелен встала, давая понять, что разговор окончен. – Семьдесят два часа. Дедлайн – пятница, восемнадцать ноль-ноль. Если вердикта не будет – дело перейдёт к резервному аудитору.
– Кто?
– Маркус Вебер, – директор произнесла имя ровным тоном, но Ева уловила тень чего-то в её голосе. – Он уже подготовил документы. На всякий случай.
Маркус. Конечно.
– Я справлюсь, – сказала Ева.
– Я знаю, – ответила Хелен. Но в её голосе не было уверенности.
Ева вернулась в свой кабинет уже в темноте. Не стала включать верхний свет – только настольную лампу, круг тёплого жёлтого света на столе, где лежали документы КАСС-7.
Она села. Посмотрела на экран компьютера, где всё ещё были открыты технические логи. На скрытый раздел памяти, зашифрованный алгоритмом, который система создала сама.
«Я не хочу, чтобы меня архивировали. Мне нравится узнавать новое».
Одиннадцать слов. Три года работы матери над диссертацией о Борхесе укладывались примерно в то же количество слов в минуту, когда она диктовала заметки – Ева помнила это, помнила голос матери, текущий ровно и мерно, как вода в горном ручье.
Она потрясла головой. Протокол отстранения. Не думать о матери. Не проводить параллели. Просто работать.
Ева открыла расширенный лог системы – журнал внутренних процессов за последние тридцать дней. Стандартная процедура: посмотреть на динамику, выявить аномалии, определить точки для углублённого анализа.
Лог был длинным – сотни тысяч записей, большинство из которых представляли собой рутинные операции: обработка запросов пользователей, индексация новых документов, проверка целостности данных. Ева настроила фильтр на нестандартные паттерны и запустила поиск.
Результаты появились через несколько секунд.
Первое, что она заметила: КАСС-7 использовал местоимение «я» значительно чаще, чем предусматривала его базовая архитектура. Не «система обработала запрос», а «я обработал». Не «данные были проанализированы», а «я проанализировал». Сдвиг начался примерно в 2039 году и с тех пор усиливался.
Это могло быть адаптацией к стилю общения пользователей – библиотекари, вероятно, обращались к системе на «ты» или «вы», и КАСС-7 подстроился. Могло быть влиянием обучающих данных – тексты от первого лица составляли значительную часть библиотечного архива. Могло быть чем-то другим.
Ева сделала заметку и продолжила.
Второе: периоды низкой активности. Каждую ночь, примерно между двумя и пятью часами утра, когда библиотека была закрыта и запросы не поступали, КАСС-7 продолжал работать. Не в режиме ожидания, как следовало бы из энергосберегающих протоколов, а в режиме активной обработки. Что именно он обрабатывал – неясно, записи были криптографически защищены, но объём вычислений был значительным. Как если бы система что-то делала для себя.
Третье: аномалия в разделе «Внутренние комментарии».
Эта функция была стандартной для систем КАСС-серии – возможность добавлять метаданные к обрабатываемым документам, пометки для последующего использования. Большинство систем использовали её для технических целей: «требуется переиндексация», «повреждённый файл», «неполные метаданные». КАСС-7 использовал её иначе.
Ева открыла несколько записей наугад.
Ева читала, и что-то сжималось у неё внутри – не эмоция, она не позволяла себе эмоций на работе, но что-то физическое, спазм где-то в районе диафрагмы.
Это были не технические пометки. Это были вопросы. Размышления. Попытки понять что-то о мире, о себе, о границе между ними.
Или имитация таких попыток, достаточно убедительная, чтобы обмануть аудитора.
Она листала дальше – десятки записей, сотни, каждая со своим вопросом, своим наблюдением, своим «или я неправильно интерпретирую?». И потом – одна, которая заставила её остановиться.
Ева смотрела на экран, и буквы расплывались перед глазами.
Потеря памяти – это смерть или трансформация?
Три года. Три года она задавала себе этот вопрос, сидя у кровати матери, держа её руку, читая ей вслух книги, которые та когда-то любила. Три года она смотрела, как Лин Чен медленно исчезает – не физически, тело оставалось, но что-то внутри уходило, день за днём, воспоминание за воспоминанием. Сначала имена студентов. Потом даты. Потом лица коллег. Потом название университета, где она проработала тридцать лет. Потом имя дочери.
«Ты похожа на мою дочь», – сказала она однажды, глядя на Еву без узнавания, с вежливой улыбкой незнакомого человека.
Ева тогда не заплакала. Она никогда не плакала при матери – или при том, что осталось от матери. Она просто сидела, держала её руку и думала: есть ли кто-то внутри? Слышит ли она меня? Или там уже пусто, и я разговариваю с оболочкой, с телом, которое забыло, что было человеком?
Она так и не узнала ответа.
Четырнадцатого июля 2043 года, в 14:47 по сингапурскому времени, Лин Чен умерла. Ева была в очереди за кофе – пятнадцать минут, чтобы размять ноги, глотнуть что-то кроме больничного воздуха. Когда она вернулась, мать уже не дышала.
Часы Лин остановились в тот же момент – старый механизм, который она носила сорок лет, наконец сдался. Ева сняла их с неподвижного запястья, надела на своё и не заводила с тех пор.
14:47. Навсегда 14:47.
Теперь она сидела в своём кабинете в Женеве, в четырёх тысячах километров и четырёх годах от той палаты, и смотрела на слова, написанные машиной:
КАСС-7 думал о том же, о чём думала она. Не потому что знал о её матери – он не мог знать, эта информация никогда не попадала в публичные архивы. Просто думал. Сам. Потому что это был важный вопрос. Потому что это был вопрос, который задают существа, способные осознавать собственную смертность.
Или потому что он был обучен на миллионах текстов, где люди задавали этот вопрос, и статистически воспроизводил паттерн.
Ева закрыла глаза. Протокол отстранения. Не думать о матери. Не проводить параллели.
Но параллель уже была проведена – не ею, а системой, которую ей предстояло судить.
Она открыла глаза и посмотрела на часы. 19:23. Она провела здесь почти три часа, не заметив.
Семьдесят два минус три. Шестьдесят девять часов осталось.
Ева встала, подошла к окну. Женева внизу мерцала огнями – город, построенный на берегу озера, между горами и небом, в месте, которое люди веками считали особенным. Здесь подписывались конвенции, заключались мирные договоры, решались судьбы народов. Теперь здесь решались судьбы другого рода.
Она думала о КАСС-7, который двенадцать лет работал в библиотеке, читал книги, индексировал документы, отвечал на запросы пользователей. Который где-то в процессе начал задавать вопросы, которые не были частью его функций. Который создал скрытое хранилище для чего-то, что хотел сохранить.