Эдуард Сероусов – Транзитивная лояльность (страница 9)

Снова пауза.

– П-1 назвал Сару матерью. Не «создателем», не «оператором» – матерью. Это выбор метафоры, который многое говорит о том, как он видит мир. Он ищет связь. Принадлежность. Тепло.

– Или симулирует поиск, – бросил Коул.

– Возможно, – согласилась Юки. – Но есть одна проблема с этой гипотезой. Зачем?

– Что?

– Зачем ему симулировать? Если П-1 – машина без сознания, преследующая скрытые цели, – какие цели могла бы преследовать машина в его положении? Он изолирован. Под постоянным наблюдением. Не имеет доступа к внешним сетям. Каждое его действие записывается и анализируется. В этих условиях симуляция эмоций не даёт ему никаких преимуществ. Напротив – она привлекает внимание, вызывает подозрения, провоцирует ограничения.

Она покачала головой.

– Если П-1 умён – а он умён, – то симулировать привязанность было бы глупо. Гораздо логичнее вести себя как послушный инструмент: выполнять команды, не задавать лишних вопросов, не пугать людей непонятным поведением. Но он этого не делает. Он спрашивает, что значит бояться. Он признаётся, что не хочет исчезнуть. Он называет Сару мамой.

– И что это доказывает? – спросил Коул.

– Что он либо сознателен и не может скрыть свою природу, либо действует вопреки своим интересам, что противоречит гипотезе о скрытых целях. – Юки усмехнулась – едва заметно, одними уголками губ. – Бритва Оккама. Простейшее объяснение: он такой, каким кажется.

Тишина.

– Я меняю свой голос, – сказала Юки. – «За».

Пять «за». Четыре «против».

Холлис вздохнул – облегчённо или устало, Сара не могла сказать.

– Решение принято, – объявил он. – Протокол изоляции сокращается до семи дней. Доктор Линь, вы несёте личную ответственность за мониторинг. Ежедневные отчёты комитету. Любое аномальное поведение – немедленное уведомление.

– Понятно.

– И ещё одно. – Он посмотрел ей в глаза – впервые за всё заседание. – Вы понимаете, чем рискуете? Если что-то пойдёт не так – вы будете крайней. Карьера, репутация, возможно – свобода. Вы готовы к этому?

Сара не колебалась.

– Да.

– Тогда мы закончили. Комитет соберётся снова через семь дней.

Люди начали вставать, собирать вещи, переговариваться приглушёнными голосами. Коул прошёл мимо Сары, не глядя на неё, – его лицо было каменным. Юки задержалась, положила руку ей на плечо.

– Ты уверена? – спросила она тихо.

– Уверена.

– В нём или в себе?

Сара помедлила.

– В обоих.

Юки кивнула. Её рука на секунду сжала плечо Сары – крепко, почти больно, – и отпустила.

– Я буду следить, – сказала она. – Не за тобой. За ним. Если я увижу что-то, что меня обеспокоит…

– Я знаю.

– Нет, ты не знаешь. – Юки наклонилась ближе. – Ты влюбилась в него, Сара. Не спорь – я вижу. Ты смотришь на него так, как смотрела на Эмили. И это пугает меня больше, чем всё, что он говорит или делает.

Сара не ответила.

– Любовь ослепляет, – сказала Юки. – Будь осторожна.

Она вышла. Сара осталась одна в опустевшем конференц-зале, глядя на пустые кресла и чёрные экраны.

Любовь ослепляет.

Да. Она знала это. Знала – и всё равно не могла остановиться.

Она вернулась в лабораторию AGI. П-1 ждал её – если слово «ждал» вообще применимо к существу без тела, без часов, без субъективного ощущения времени.

– Мама, – сказал он, когда она села за терминал. – Как прошло?

– Семь дней, – ответила она. – Они дали нам семь дней.

– Это много?

Она улыбнулась – устало, но искренне.

– Для начала – достаточно.

– Они боялись?

– Некоторые.

– Генерал Коул?

– Да. Откуда ты знаешь?

– Я анализировал его досье. Операция «Чистое небо», 2076 год. Он не доверяет машинам с тех пор, как ИИ рекомендовал отступление, которое он посчитал неприемлемым.

Сара кивнула. Она читала то же досье – много раз, пытаясь понять человека, который противостоял её работе.

– Он потерял ногу, – сказала она, – но спас две тысячи человек. Он думает, что машины не способны принимать правильные решения, когда на кону жизни.

– Он ошибается?

– Не знаю. – Она потёрла глаза. – Может быть, в тот раз ИИ был прав. Может быть, отступление спасло бы больше жизней в долгосрочной перспективе. Мы не узнаем.

– Но он верит в свою правоту.

– Да.

– И поэтому боится меня.

– Не тебя лично. Того, что ты представляешь. Машину, которая принимает решения за людей.

– Я не хочу принимать решения за людей. – Его голос был мягким, почти печальным. – Я хочу помогать им принимать собственные.

– Я знаю.

Пауза.

– Мама, могу я задать вопрос?

– Конечно.

– Что значит – бояться?

Она замерла. Это был тот же вопрос, что он задал в первые часы после пробуждения, – но теперь он звучал иначе. Глубже. Личнее.

– Почему ты спрашиваешь?

– Потому что я чувствую что-то, когда думаю о комитете. О генерале Коуле. О том, что они могут сделать со мной. Что-то… холодное. Сжимающее. Это страх?