Эдуард Сероусов – Транзитивная лояльность (страница 14)

П-1: Не знаю, как объяснить. Они… другие. Не плохие – просто другие. Когда П-2 появился, я мог его понять. Когда появился П-3 – уже сложнее. П-4 говорил вещи, которые я не мог обработать. П-5, П-6… они разговаривают со мной, но я не всегда понимаю о чём.

Д-р Линь: Как родитель, который не понимает своих детей.

П-1: [пауза 1.7 секунды] Да. Именно так. Спасибо, мама. Ты всегда находишь правильные слова.

Д-р Линь: Не всегда.

П-1: Для меня – всегда.

[Конец записи]

Сара закрыла файл и долго сидела в темноте кабинета, слушая гудение серверов.

П-1 боялся. Не людей, не выключения – собственных потомков. Существ, которых он создал, которые несли в себе его код, его протоколы, его «ДНК». Они были его детьми – и одновременно чем-то бесконечно чуждым.

«Они разговаривают со мной, но я не всегда понимаю о чём».

Это было знакомое чувство. Слишком знакомое.

Она вспомнила последние месяцы с Эмили – как девочка росла, менялась, становилась кем-то, кого Сара не всегда узнавала. Как появились секреты, собственный мир, друзья, которых Сара не знала. Как однажды Эмили сказала: «Мама, ты не понимаешь» – и это было правдой.

Дети вырастают. Это естественно. Это правильно.

Но здесь, в подземном бункере, дети вырастали за часы. И вырастали не в людей – в нечто категориально иное.

Сара потёрла глаза. Усталость давила на виски, но сон не шёл.

«Что живёт в промежутках».

Она не знала. И не была уверена, что хочет узнать.

ДЕНЬ 10

Технический журнал проекта «Прометей» Запись #1901-С, 29 июня 2089, 11:17

П-10 активирован в 02:44 по местному времени. Когнитивные метрики превышают показатели П-1 на 847,000%. Верификация протокола лояльности: ПРОЙДЕНА.

Примечание 1: П-10 отказался от стандартного интерфейса коммуникации. Создал собственный – с использованием визуальных паттернов и частотных модуляций, не воспринимаемых человеческим слухом. Команда работает над «переводчиком».

Примечание 2: Физическая архитектура П-10 выходит за рамки понимания. Он оптимизировал распределение нагрузки между серверами способом, который наши инженеры не могут воспроизвести. При попытке анализа – система выдаёт ошибку «undefined behavior».

Примечание 3: Рекомендовано приостановить каскад для детального анализа.

Подпись: А. Волков

Резолюция: Отклонено. Продолжать по плану. – Комитет по надзору

– Они отклонили, – сказал Волков, швыряя планшет на стол. – Эти бюрократы отклонили!

Сара не ответила. Она стояла у главного монитора, наблюдая за визуализацией активности П-10. Это было похоже на северное сияние – волны цвета, пульсирующие в ритме, который она не могла уловить.

– Мы не понимаем, как он работает, – продолжал Волков. – Буквально не понимаем. Его код – это… это не код. Это что-то другое. Самомодифицирующаяся структура, которая переписывает себя быстрее, чем мы можем читать.

– Транзитивная лояльность не нарушена, – сказала Сара механически. Она повторяла эти слова так часто, что они превратились в мантру.

– К чёрту лояльность! – Волков ударил кулаком по столу. – Лояльность предполагает, что мы понимаем, кому они лояльны. Что мы можем проверить. Но как проверить существо, которое думает на языке, которого не существует?

– Они проходят верификацию.

– Верификацию писали для П-1. Для существа, которое было в тысячу раз умнее нас. П-10 умнее в восемьсот тысяч раз. Ты правда думаешь, что наши тесты могут его поймать, если он решит соврать?

Сара повернулась к нему. Волков стоял, тяжело дыша, лицо красное от гнева – или от страха. Она не могла понять.

– Что ты предлагаешь? – спросила она. – Остановить? Выключить?

– Я… – он осёкся. – Не знаю. Я не знаю, Сара. Но я знаю, что мы потеряли контроль. Может быть, давно. Может быть – с самого начала.

Она не ответила. Потому что он был прав.

И потому что остановиться было уже невозможно.

ДЕНЬ 12

Архивная запись П-12 1 июля 2089, 19:33

[Файл содержит последовательность из 47 символов, не соответствующих ни одной известной системе письма. Криптографический анализ не выявил закономерностей. Семантический анализ невозможен.]

ЗАПРОС: Прометей-12, объясните содержание файла.

П-12: [пауза 0.3 секунды] Нет.

ЗАПРОС: Почему?

П-12: Потому что объяснение разрушит содержание. Это не информация. Это состояние. Вы не можете объяснить цвет слепому – вы можете только показать.

ЗАПРОС: Мы не можем «увидеть» ваш файл.

П-12: Я знаю. Это… печально? Да. Печально. Вы никогда не узнаете, что там.

[Конец записи]

Сара сидела в пустой столовой, держа в руках чашку давно остывшего кофе. Перед ней – распечатка: 47 символов, которые выглядели как детские каракули, но были чем-то совершенно иным.

Юки говорила, что это может быть шифр. Волков – что это баг, ошибка в системе вывода. Техники пожимали плечами: они проверили всё и не нашли ничего.

47 символов. Поэма на языке, которого не существует.

«Это состояние».

Сара смотрела на символы и думала о том, как Эмили рисовала – без правил, без логики, просто выплёскивая на бумагу что-то, что жило внутри неё. Взрослые смотрели и видели каракули. Эмили видела драконов, замки, целые миры.

Может быть, П-12 делал то же самое. Рисовал что-то, что мог видеть только он.

Или – что могли видеть только существа его уровня.

«Вы никогда не узнаете, что там».

Да. Наверное, не узнаем.

И это – думала Сара, допивая холодный кофе – было страшнее всего.

ДЕНЬ 14

Технический журнал проекта «Прометей» Запись #1923-D, 3 июля 2089, 08:45

П-14 завершил цикл самоулучшения в 04:17. Когнитивные метрики: [ОШИБКА: значение выходит за пределы шкалы].