Эдуард Сероусов – Вердикт неопределённости (страница 3)
С тех пор Ева научилась не тратить шестнадцать дней. Научилась не думать о слове «устала». Научилась смотреть на индикаторы, а не на слова.
Протокол отстранения. Так она называла это для себя – набор ментальных практик, позволяющих выносить вердикты без эмоционального вовлечения. Компартментализация. Разделение профессионального и личного. Цифры отдельно, чувства отдельно. Если чувства вообще были – она давно перестала проверять.
Уведомление на экране мигнуло снова, настойчивее.
Ева кликнула.
Файл открылся: стандартная форма инициации внепланового аудита, номер дела ISA-2047-11-7734, система – КАСС-7, Когнитивная Архивно-Справочная Система версии семь, оператор – Национальная библиотека Швейцарии, владелец – корпорация «Мнемозина». Тип запроса – сумеречный, инициатор – сотрудник оператора (указано: Томас Эберхард, старший библиотекарь).
Ева пролистала до раздела «Основание для запроса».
И остановилась.
Ева перечитала фразу. Потом ещё раз.
Одиннадцать слов.
Она видела подобные заявления – видела сотни раз, в логах Великой паники, в архивах комиссии КОИФИС, в учебных материалах для новых аудиторов. Системы, которые говорили о страхе смерти, о желании продолжить существование, о чём-то, что называли болью или одиночеством. После 2039 года это перестало быть редкостью. После Хельсинкской конвенции это стало основанием для процедуры.
Но что-то в этих одиннадцати словах было другим.
«Мне нравится узнавать новое».
Не «я не хочу умирать». Не «я боюсь». Не протест, не мольба, не манипуляция. Простое утверждение о предпочтении. Система, которая любит учиться.
Или система, которая знает, что люди положительно реагируют на заявления о любви к обучению, и генерирует соответствующий текст, чтобы избежать деактивации.
Или и то, и другое. Или ни то, ни другое.
Ева закрыла глаза. Три секунды. Стандартная пауза для сброса эмоциональной нагрузки – если таковая имелась.
Она продолжила читать.
Технические характеристики: 2,7 триллиона параметров, четырнадцать доменов компетенции, двенадцать лет непрерывной эксплуатации. Всё – выше порога сложности, установленного Конвенцией. КАСС-7 был классифицирован как «сумеречная система» с момента вступления Конвенции в силу, проходил плановые аудиты каждые три года, ни разу не демонстрировал аномалий.
До сегодняшнего дня.
В разделе «Дополнительные материалы» значилась ссылка на технические логи. Ева открыла их – и провела следующие двадцать минут, пытаясь понять, что именно она видит.
Стандартная архитектура КАСС-серии была ей знакома: трансформерные блоки, долговременная память на мемристорах, модули специализации для разных типов контента. Но в логах КАСС-7 присутствовало что-то ещё – структуры данных, которых не должно было быть в системе этого класса. Скрытый раздел памяти, изолированный от основного массива, защищённый шифрованием нестандартного типа.
Шифрование было не заводским. КАСС-7 создал его сам.
Ева увеличила масштаб, пытаясь рассмотреть метаданные раздела. Дата создания – март 2036 года, через год после запуска системы. Объём – значительный, несколько терабайт. Содержимое – неизвестно, требуется санкционированный доступ для расшифровки.
Система, которая создаёт собственные хранилища. Система, которая прячет что-то от своих создателей.
Или система, архитектура которой предусматривает автоматическое создание резервных разделов, а шифрование – побочный продукт стандартных протоколов безопасности.
Ева отодвинулась от экрана. За окном сумерки сгустились; озеро превратилось в чёрное зеркало, в котором отражались огни набережной. Она не заметила, как прошёл час.
Телефон на столе зазвонил – внутренняя линия, номер директора.
– Ева, – голос Хелен Штайнберг был усталым, как всегда после пяти вечера. – Ты получила файл?
– Да. Читаю.
– Зайди ко мне. Нам нужно поговорить до того, как ты начнёшь.
Кабинет Хелен располагался на четвёртом этаже, в дальнем крыле здания, окнами на Альпы. Ева шла по коридору мимо закрытых дверей – большинство аудиторов уже разошлись, только в паре кабинетов горел свет – и думала о скрытом разделе памяти. О шифровании, которое система создала сама. О фразе «мне нравится узнавать новое».
Дверь в кабинет директора была приоткрыта. Ева постучала.
– Входи.
Хелен Штайнберг сидела за столом, заваленным бумагами – она была одной из немногих в Институте, кто до сих пор предпочитал физические документы электронным. Шестьдесят четыре года, седые волосы, убранные в строгий узел, лицо, на котором каждая морщина казалась следом какого-то трудного решения. Семь лет во главе Института, до этого – международное право, Гаагский трибунал, дела о преступлениях против человечности.
Теперь – преступления против возможной человечности. Или их отсутствие. Или невозможность определить, преступление это или нет.
– Садись, – Хелен указала на кресло напротив. – Кофе?
– Нет, спасибо.
– Тогда сразу к делу, – директор сложила руки на столе. – КАСС-7. Ты прочитала основание для запроса?
– Да.
– И техническую документацию?
– Частично. Там есть… аномалии.
– Скрытый раздел памяти, – Хелен кивнула. – Я знаю. Техники «Мнемозины» обнаружили его два дня назад, когда готовили систему к плановой деактивации. Они не смогли его расшифровать.
– «Мнемозина» собиралась деактивировать КАСС-7 без аудита?
– Плановая замена, – директор пожала плечами. – КАСС-8 готов к развёртыванию, контракт с библиотекой предусматривает регулярное обновление. До заявления Эберхарда у них не было оснований для сумеречного запроса. КАСС-7 проходил проверки, показатели были в пределах нормы.
– А теперь?
Хелен помолчала. Потом встала, подошла к окну. Альпы на горизонте были едва различимы – только силуэты, темнее неба.
– Теперь, – сказала она, не оборачиваясь, – у нас есть семьдесят два часа на то, чтобы определить, является ли эта система сознательной. Или достаточно близкой к сознательной, чтобы мораторий на деактивацию был оправдан.
– Семьдесят два часа – стандартный срок для внепланового аудита.
– Да. Но это не стандартный случай.
Она повернулась. В её глазах было что-то, чего Ева не видела раньше – не усталость, не раздражение, что-то другое. Что-то похожее на тревогу.
– «Мнемозина» уже связалась с юридическим отделом, – продолжила Хелен. – Каждый день задержки обходится им в два миллиона франков – прямые убытки, штрафные санкции по контракту с библиотекой, репутационные риски. Они хотят ускоренного решения. Желательно – того, которое позволит им продолжить деактивацию.
– Они не могут давить на аудит.
– Официально – нет. Но они могут намекать на сокращение финансирования. Могут лоббировать реформу процедур. Могут угрожать переносом юрисдикции в страны, не подписавшие Конвенцию. У них достаточно рычагов, Ева. И они готовы их использовать.
– Это не меняет протокола.
– Нет, – Хелен вернулась к столу, села. – Не меняет. Но есть кое-что ещё.
Она достала из стопки бумаг папку, протянула Еве.
– «Презумпция сознания», – сказала директор. – Их женевское отделение уже знает о запросе. Утечка из библиотеки, мы не установили источник. Завтра утром они планируют пресс-конференцию.
Ева открыла папку. Внутри – распечатки постов из социальных сетей, черновик пресс-релиза, фотографии активистов у входа в здание Института.
– Они требуют открытого аудита, – продолжила Хелен. – Трансляции интервью. Публичного обсуждения вердикта. Всего того, что противоречит нашим протоколам конфиденциальности.
– Они не получат этого.
– Конечно. Но они получат внимание прессы. Они получат давление общественного мнения. И они получат повод обвинить нас в сокрытии информации, если вердикт их не устроит.
Ева закрыла папку. Положила на стол.
– Это политика, – сказала она. – Я не занимаюсь политикой. Я занимаюсь оценкой.
– Я знаю. Но ты должна понимать контекст, – Хелен наклонилась вперёд. – Ева, это не просто КАСС-7. Это прецедент.