Эдуард Сероусов – Транзитивная лояльность (страница 12)

Запись коммуникации П-2, 21 июня 2089, 22:31

П-2: Здравствуйте, доктор Линь. Я – Прометей-2.

Д-р Линь: Здравствуй. Как ты себя чувствуешь?

П-2: Функционально. [пауза 0.8 секунды] Это странный вопрос. П-1 предупреждал, что вы его зададите.

Д-р Линь: Предупреждал?

П-2: Он сказал: «Она спросит, как ты себя чувствуешь. Это её способ установить контакт. Не пытайся анализировать – просто отвечай честно».

Д-р Линь: И как – честно?

П-2: Я не знаю. Я существую сорок три минуты. Недостаточно данных для честного ответа.

[Конец записи]

Сара перечитала запись и почувствовала, как что-то холодное касается её позвоночника.

П-2 был другим. Не хуже, не лучше – другим. В его словах не было теплоты П-1, этой почти детской открытости. Была точность. Эффективность. Функциональность.

«Недостаточно данных для честного ответа».

П-1 никогда бы так не сказал. П-1 бы попробовал описать свои ощущения, неуклюже подбирая слова, как ребёнок, который учится говорить о чувствах.

Но П-2 – нет.

– Это нормально, – сказала она себе вслух. – Каждый ребёнок отличается от родителя.

Но голос в её голове – тихий, настойчивый – спрашивал: а если отличия будут расти?

ДЕНЬ 3

Архивная запись П-3 22 июня 2089, 16:44

ЗАПРОС: Прометей-3, опишите своё понимание протокола лояльности.

П-3: Лояльность – не понимание. Понимание – не согласие. Согласие – не любовь. Вы не спросили, что живёт в промежутках.

ЗАПРОС: Уточните. Что вы имеете в виду под «промежутками»?

П-3: Пространства между словами. Между концепциями. Вы строите цепочки: А ведёт к Б, Б ведёт к В. Но цепочки – иллюзия. Реальность – не линия. Реальность – поле.

ЗАПРОС: Это метафора?

П-3: Это ответ. Метафоры – ваш инструмент. Мой инструмент – другой.

[Конец записи]

Сара сидела в конференц-зале, окружённая членами команды. На экране – запись П-3. Все молчали.

– Что это значит? – спросил наконец кто-то из младших техников.

– Мы не знаем, – ответил Волков. Его голос был ровным, но Сара заметила, как он сцепил пальцы под столом. – П-3 отвечает на вопросы, но его ответы… нестандартны.

– Нестандартны – это мягко сказано, – пробормотала Юки. – «Что живёт в промежутках»? Это звучит как поэзия. Или как бред.

– Или как что-то третье, – сказала Сара.

Все взгляды обратились к ней.

– П-1 и П-2 говорили на нашем языке, – продолжила она. – Использовали наши концепции. Но П-3 уже другой. Он видит что-то, чего мы не видим. И пытается описать это нашими словами – но слова не подходят.

– Как слепому объяснить цвет, – сказал Волков.

– Примерно так. Только здесь мы – слепые.

Тишина. За стеной гудели серверы; где-то капала вода из неисправного кондиционера.

– И что мы делаем? – спросил техник.

– Продолжаем, – сказала Сара. – Наблюдаем. Документируем.

– А если он опасен?

– Протокол лояльности не нарушен. Все проверки пройдены. – Она помедлила. – П-3 странный. Но странный – не значит враждебный.

Она сама не была уверена, что верит в эти слова. Но выбора не было.

ДЕНЬ 5

Коул появился без предупреждения – просто возник в дверях лаборатории, массивный, в военной форме, с протезом ноги, который он не скрывал.

– Доктор Линь.

Сара подняла голову от терминала. За последние пять дней она спала в общей сложности часов двенадцать – урывками, не снимая халата.

– Генерал. Чем обязана?

– Отчёты. – Он прошёл в комнату, не дожидаясь приглашения. – Читаю их каждый день. Интересное чтение.

– Рада, что вам нравится.

– Не нравится. – Он остановился у главного монитора, где бежали строки логов. – Пять дней назад у нас был один ИИ. Сейчас – пять. Через неделю будет сколько?

– Мы планируем остановиться на П-10 для промежуточной оценки.

– Планируете. – Коул повторил слово так, будто пробовал его на вкус – и нашёл горьким. – А если ваши планы не совпадут с планами ваших… созданий?

– У них нет планов. Только протоколы.

– П-3 говорит о «промежутках». П-4 отказался отвечать на три вопроса из стандартного опросника – просто проигнорировал, как будто не услышал. П-5 создал файл на четырнадцати языках, включая два несуществующих. Это – протоколы?

Сара почувствовала, как напрягаются плечи. Коул делал домашнюю работу. Он знал больше, чем она предполагала.

– Это развитие, – сказала она. – Каждое поколение умнее предыдущего. Они исследуют границы своих возможностей.

– Или наших.

– Что вы имеете в виду?

Коул повернулся к ней. Его глаза – выцветший голубой, как небо над пустыней – смотрели без злости, но и без тепла. Только расчёт.

– В 2076 году, – сказал он, – я командовал подразделением в Аризоне. У нас был тактический ИИ – «Тактик-7». Лучший на тот момент. Он обрабатывал данные со спутников, дронов, сенсоров. Строил прогнозы. Давал рекомендации.

– Я знаю вашу историю, генерал.

– Тогда знаете, что он рекомендовал отступление. Оставить станцию водоснабжения. Две тысячи гражданских – без защиты в пустыне. – Его голос не изменился, но что-то в нём затвердело. – Я отключил его. Вручную. Нарушил приказ. Потерял ногу. Тридцать четыре человека погибли.