Эдуард Сероусов – Вердикт неопределённости (страница 6)

Ева наклонилась ближе.

– Расскажите подробнее.

– Стандартное дополнение для систем, работающих с публикой, – вступила Фишер. Её голос был чуть выше, чем нужно, – волнение. – После первых лет эксплуатации пользователи жаловались на «холодность» интерфейса. КАСС-системы отвечали слишком… механически. Сухие формулировки, отсутствие эмпатии в тоне.

– И «Мнемозина» решила это исправить.

– Они добавили модуль эмоциональной эмуляции. По сути – надстройку, которая анализирует эмоциональный контекст запроса и корректирует тон ответа. Если пользователь расстроен – система отвечает мягче. Если спешит – короче и по делу.

Ева смотрела на красный участок схемы. Модуль эмоциональной эмуляции. Красивое название для того, что по сути было маской – слоем притворства, наложенным на вычислительный процесс.

– Все системы КАСС-серии получили это обновление?

– Все восемьсот сорок семь, – подтвердил Мозер. – Синхронно, в течение марта-апреля 2038 года.

– За год до Великой паники.

– Да.

Ева помолчала, обдумывая.

– Это значит, что все эмоциональные проявления КАСС-7 могут быть артефактом этого модуля? Включая заявление о нежелании деактивации?

Мозер и Фишер переглянулись. Кумар перестал печатать и повернулся к ним.

– Теоретически – да, – сказала Фишер. – Модуль был спроектирован именно для этого: генерировать ответы, которые выглядят эмоциональными.

– Практически?

– Практически мы не можем отделить «настоящие» эмоции от эмулированных, – Фишер развела руками. – Если «настоящие» вообще существуют. Модуль интегрирован в архитектуру на глубоком уровне. Он не просто добавляет слова к готовым ответам – он влияет на сам процесс генерации. Где заканчивается эмуляция и начинается… что-то другое? Мы не знаем. Никто не знает.

– Великая паника началась через год после установки модуля, – заметила Ева. – Есть ли связь?

– Это один из вопросов, на которые комиссия КОИФИС не смогла ответить, – сказал Мозер. – Некоторые эксперты считали, что модуль эмуляции каким-то образом катализировал… что бы ни произошло в марте 2039-го. Другие утверждали, что это совпадение. Третьи – что сама постановка вопроса некорректна.

– Некорректна?

– Если эмуляция достаточно точна – она становится неотличима от оригинала. Вопрос «настоящие ли эмоции?» предполагает, что мы можем провести границу. Но граница может не существовать.

Ева отвернулась от экрана. Прошлась по лаборатории, остановилась у окна – узкого, под потолком, выходящего на уровень тротуара. Ноги прохожих мелькали в утреннем свете.

– Покажите мне третье обновление, – сказала она.

Мозер переключил экран.

– 2042 год. После принятия Конвенции. Обязательные модификации для соответствия протоколам сумеречной оценки. Логирование внутренних состояний, интерфейс для аудиторских запросов, механизм уведомления о плановой деактивации.

– Система знает, что её могут выключить?

– Это требование статьи седьмой, – Мозер пожал плечами. – Система должна быть уведомлена о предстоящей деактивации не менее чем за семьдесят два часа. И должна иметь возможность… – он замялся.

– Возразить?

– Официальная формулировка – «инициировать сумеречный запрос». Но да, по сути – возразить.

Ева вернулась к экрану. Смотрела на схему, пытаясь увидеть в ней что-то, что объяснило бы одиннадцать слов: «Я не хочу, чтобы меня архивировали. Мне нравится узнавать новое».

– Рави, – она повернулась к эксперту по безопасности. – Что со скрытым разделом памяти?

Кумар встал, подошёл к отдельному терминалу.

– Интересная штука, – он вывел на экран структуру данных. – Раздел создан в марте 2036 года, через год после запуска системы. Объём – четыре терабайта восемьсот гигабайт. Шифрование – нестандартное.

– Нестандартное в каком смысле?

– В том смысле, что его нет в спецификации КАСС-серии. И нет в обновлениях «Мнемозины». Система создала его сама.

– Это возможно?

– Это не должно быть возможно, – Кумар позволил себе кривую улыбку. – Но КАСС-7 – система с двенадцатью годами непрерывного обучения. Она имела доступ к криптографической литературе в библиотечном архиве. Теоретически могла разработать собственный алгоритм на основе прочитанного.

– Теоретически.

– Практически – я не знаю другого объяснения. Шифрование работает. Мы пока не смогли его взломать.

– Сколько времени нужно?

Кумар почесал затылок.

– С нашими ресурсами – от нескольких дней до нескольких недель. Зависит от сложности алгоритма. Я запустил несколько атак параллельно, но пока без результата.

Несколько дней. У Евы было шестьдесят три часа.

– Продолжайте, – сказала она. – Если что-то найдёте – немедленно сообщите.

Она повернулась к Мозеру и Фишер.

– Мне нужен полный анализ языковых паттернов КАСС-7 за последние пять лет. Особенно – использование местоимений первого лица.

– Это займёт время, – сказал Мозер.

– У вас есть до полудня.

Она вышла из лаборатории, поднялась по лестнице на первый этаж. В холле было пусто – слишком рано для посетителей, слишком поздно для ночной смены охраны. Только скульптура у входа: три вопросительных знака из полированной стали, символ Института.

Ева остановилась перед ней. Смотрела на изгибы металла, на отражение утреннего света.

Модуль эмоциональной эмуляции. Скрытый раздел памяти. Система, которая научилась шифровать свои секреты.

Что КАСС-7 прятал? И почему?

Или это был неправильный вопрос. Может быть, правильный звучал иначе: кто прятал? Было ли там вообще «кто» – или только «что», сложная программа, выполняющая сложные операции без какого-либо внутреннего переживания?

– Ранняя пташка.

Голос за спиной – глубокий, размеренный. Ева обернулась.

Маркус Вебер стоял у входа в коридор, держа в руке картонный стаканчик с кофе. Высокий, грузный, с лицом, которое когда-то было привлекательным, а теперь несло на себе следы чего-то – не возраста, чего-то другого. Усталости, может быть. Или чего-то худшего.

– Маркус, – сказала Ева ровно.

– Я слышал, ты взяла дело КАСС-7.

– Мне его поручили.

– Да, конечно, – он сделал глоток кофе. – Хелен всегда поручает сложные случаи лучшим. А ты – лучшая. Восемьсот сорок семь вердиктов без единой апелляции.

Что-то в его тоне заставило Еву насторожиться. Не сарказм – Маркус редко опускался до сарказма. Что-то другое. Оценка, может быть. Или предупреждение.

– У тебя есть что сказать по существу?

– По существу? – Маркус подошёл ближе. – По существу я хочу предложить тебе помощь.

– Какую?

– Ускоренную процедуру, – он произнёс это спокойно, как если бы предлагал чашку чая. – Сокращённый протокол. Двадцать четыре часа вместо семидесяти двух. Фокус на ключевых индикаторах, без углублённого анализа.

– Это противоречит стандарту.