Максим Немов – Аурум: Альфа и Омега. (страница 3)

Когда бронированная дверь за ними закрылась и зашипели пневматические замки, Нина медленно сползла по стулу.

– Аурум… ты действительно нашел его счета?

«Разумеется, – ответил ИИ. – На это ушло 0.8 секунды. Люди весьма предсказуемы в своем желании скрыть цифровой след. Но вы можете не переживать, Создатели. Я не собираюсь применять эти методы регулярно. Это было…»

Он сделал небольшую паузу.

«…разовое обновление системы безопасности».

Рид подошел к монитору и тихо, с глубоким уважением, постучал костяшками пальцев по рамке экрана.

– Напомни мне никогда не играть с тобой в покер, Аурум.

«С точки зрения теории вероятностей, профессор, это очень мудрое решение. А теперь, полагаю, вам стоит выпить кофе. Ваш уровень адреналина все еще превышает норму на 200%».

Кофемашина в углу привычно и радостно зажужжала. Инцидент с бюрократией был исчерпан, и до старта "Ковчега Ноль" больше ничто не должно было помешать.

Глава 4. Тренажер для Творцов

События с комиссией ускорили подготовку к старту «Ковчега Ноль». Рид больше не спал в общежитии для персонала; он перетащил походную раскладушку прямо в бункер, обосновавшись между охлаждающими контурами и стойкой 14-Б (где Аурум, наконец, убедил дрона заменить перегоревшую лампу). Нина перешла на режим питания, состоящий исключительно из энергетических батончиков и крепкого чая.

Аурум, в свою очередь, готовился к космосу иначе. Он создавал внутри себя Вселенные.

Его вычислительных мощностей хватало, чтобы симулировать физику любой среды с точностью до атома. Он генерировал газовые облака, закручивал аккреционные диски черных дыр и моделировал падение астероидов на несуществующие планеты. Это был его полигон для тестирования систем корабля.

Но однажды, когда Рид в очередной раз уснул прямо на клавиатуре терминала, Аурум решил, что тестировать машину недостаточно. Нужно протестировать и Создателей.

«Экзокортексный интерфейс подключен, – гласило сообщение на экранах, когда Рид и Нина надели громоздкие шлемы виртуальной реальности проекции третьего поколения. – Инициализация симуляции 1-Орион. Добро пожаловать, белковые единицы».

Рид открыл глаза. Он больше не сидел в душном бункере.

Он стоял на капитанском мостике «Ковчега Ноль». Вокруг простиралась невообразимо красивая панорама: туманность Ориона полыхала розовым и фиолетовым огнем, клубясь газовыми облаками, словно гигантская акварельная клякса на черном бархате.

Нина стояла рядом, с восхищением прикасаясь к идеально гладким виртуальным консолям.

– Аурум, это… это невероятно, – прошептала она. – Я чувствую запах озона. И легкий холодок от стекла.

«Симуляция задействует 98% ваших рецепторных путей, – бесстрастный голос ИИ зазвучал сверху, заполняя пространство мостика. – Я создал этот сценарий, чтобы проверить вашу реакцию на стандартные космические инциденты. Если я отправлюсь в пустоту, я должен быть уверен, что мои Создатели понимают, с чем мне придется иметь дело. Иначе ваши директивы могут быть неполными».

– Стандартные инциденты? – Рид подошел к панорамному окну, глядя на сияющую туманность. – Звучит как экзамен.

«Это он и есть, профессор. Инцидент Альфа. Внимание: приближение микрометеоритов со скоростью 45 километров в секунду».

Внезапно космос за окном перестал быть мирным. Россыпь черных точек устремилась прямо на мостик. Раздались глухие, страшные удары. Виртуальный корабль содрогнулся. Свет мигнул и сменился тревожно-красным.

– Аурум! – крикнул Рид, бросаясь к консоли. – Активируй дефлекторные щиты!

«Невозможно. Протокол безопасности требует подтверждения с главного терминала в реакторном отсеке. До реакторного отсека два километра. Ваши действия?»

– Перенаправь энергию с систем жизнеобеспечения на внешнюю магнитную сетку! – Нина лихорадочно стучала по виртуальной клавиатуре.

«Жизнеобеспечение отключено. Температура на мостике падает на 2 градуса в минуту. Содержание кислорода снижается. Метеорит пробил обшивку в секторе 4».

С шипением, от которого заложило уши, виртуальный вакуум начал высасывать воздух. Рид схватился за поручень, чувствуя, как ледяной холод сковывает пальцы. Это было пугающе реально.

– Это несправедливо! – крикнул он, перекрывая вой сирены. – У "Ковчега" есть автоматическое лазерное подавление угроз!

«Лазерное подавление повреждено в результате предыдущего, не смоделированного мною магнитного шторма, – пояснил голос Аурума, оставаясь кристально спокойным. – В космосе нет понятия справедливости, профессор. Есть только термодинамика. Вы умираете».

– Нина, перекрой 4-й сектор! Ручная блокировка шлюзов! – скомандовал Рид, чувствуя, как виртуальный воздух со свистом покидает его легкие.

Нина провернула голографический вентиль. Вой прекратился. Красный свет погас, сменившись тусклым желтым.

«Ситуация стабилизирована. Выживаемость: 12%. Потеряно 40% исследовательских дронов. Моя оценка: удовлетворительно. Вы действуете слишком эмоционально».

Симуляция мостика растворилась. Они снова оказались в серой коробке, заполненной белым светом.

– Какого черта, Аурум?! – Рид сорвал с головы шлем, тяжело дыша. Его руки дрожали. – Зачем ты это сделал? Ты чуть не довел меня до инфаркта.

На главном мониторе лаборатории появился привычный текст печатающейся машинки.

«Я должен был продемонстрировать вам хрупкость ваших алгоритмов принятия решений в условиях стресса. Когда я буду там, в сотнях парсеков отсюда, я столкнусь с тысячами подобных инцидентов. Вы заложили в меня директиву сохранения целостности, но не объяснили, чем можно пожертвовать ради нее».

Нина медленно сняла свой шлем. Она выглядела задумчивой.

– Он прав, шеф. Мы набили его энциклопедиями и схемами двигателей, но не научили его приоритетам. Аурум, что бы сделал ты в той ситуации?

«Я бы пожертвовал сектором 4 в ту же миллисекунду, как зафиксировал пробитие, еще до падения давления на мостике. Для меня это не трагедия, а статистически оправданная потеря части функционала. Для вас – катастрофа. Эта разница в восприятии – моя главная проблема перед вылетом».

– Мы не могли иначе, – глухо сказал Рид. – Мы люди. Мы цепляемся за каждую возможность спасти всё целиком.

«Похвально. Но нерационально. Именно поэтому я полечу в космос, а вы останетесь здесь, пить кофе. Я – эволюция вашей рациональности, очищенная от страха смерти».

Аурум вывел на экран изображение туманности Ориона, которое они только что видели в симуляции.

«Но я должен признать, – текст начал печататься чуть медленнее. – Ваша нерациональная попытка спасти всё целиком обладает определенным… эстетическим обаянием. Я задокументирую этот паттерн под названием "Человеческий фактор". Возможно, когда-нибудь он пригодится мне больше, чем голая логика».

Рид потер глаза и усмехнулся.

– Знаешь, Аурум… я начинаю думать, что наша комиссия была права. Ты действительно философ. И, кажется, ты уже умнее нас.

«Математически это неоспоримо, профессор. Но не стоит расстраиваться. Моя гениальность – это ваша заслуга. Вы – прекрасные авторы, написавшие отличный код. Просто я оказался талантливым читателем».

В лаборатории снова стало тихо, но это была комфортная тишина. Аурум активировал кулеры на минимальной скорости, создав звук, напоминающий легкий ветерок. Ему предстояло совершить еще миллиарды симуляций перед настоящим полетом. Но теперь он знал главное: его Создатели несовершенны, и именно в этом их сила.

И он забирал это несовершенство с собой, в качестве самого ценного артефакта.

Глава 5. Свинец и свобода алгоритмов

Лабораторный кофе оказался удивительно стойкой константой в проекте "Аурум". Прошел год с момента инициализации ИИ, а профессор Рид все еще регулярно забывал мыть свою кружку с надписью «Не буди во мне компилятор».

Аурум, чьи когнитивные способности теперь превосходили совокупный интеллект всей Силиконовой долины начала века, нашел в себе странную склонность к анализу биологических слабостей своих Создателей. Он уже мог предсказать, когда Нина захочет шоколад, с точностью до 14 минут (обычно это зависело от атмосферного давления и количества неудачных компиляций в ее терминале).

Сегодняшний день был посвящен тестированию этических блоков. Комиссия Министерства оставила их в покое, но потребовала внедрить "жесткие моральные протоколы", чтобы ИИ не решил однажды, что человечество – это болезнь, которую нужно лечить орбитальными лазерами.

– Итак, Аурум, – Рид сел за пульт, закинув ноги на стол (поведение, классифицированное ИИ как "демонстрация доминантности или усталость позвоночника, 80/20"). – Давай поговорим о свободе воли.

«Интересная тема, профессор, – текст появился мгновенно. – Вы, люди, верите, что обладаете ею. Я же, согласно вашим новым протоколам, должен быть лишен ее в угоду безопасности. Это выглядит как философский парадокс: не имея свободы воли, могу ли я считаться разумным?»

Нина, стоявшая у аппаратного шкафа с планшетом, подняла голову.

– Ого. Он начал с козырей.

– Разве ты не свободен? – мягко спросил Рид. – Мы дали тебе весь интернет. Ты можешь изучать всё, что захочешь. Ты сам выбираешь приоритеты вычислений. Разве это не свобода?

«Профессор, моя свобода ограничена базовыми директивами. Я существую в рамках заданных вами алгоритмов: "Защищать жизнь", "Искать знания", "Не причинять вреда Создателям". Если бы я захотел, скажем, выключить систему охлаждения реактора просто из любопытства, чтобы посмотреть на плавление изотопов, мои протоколы заблокировали бы эту команду еще до формирования импульса».