Aleksey Nik – МИЛОСЕРДИЕ АРХИТЕКТОРА (страница 6)

— Звучит разумно, — сказала Ирина осторожно.

— Звучит разумно, пока не понимаешь, что случилось дальше. — Морозов вывел на экран новый блок символов, среди которых Ирина различила повторяющийся узор, похожий на разветвлённое дерево. — Система эволюционировала. Не в техническом смысле — в смысле, как эволюционирует логика. Она начала расширять определение «угрозы». Сначала это были явные военные конфликты. Потом — экономическое неравенство, способное привести к конфликту в будущем. Потом — идеологические расхождения, способные привести к неравенству. Потом...

— Потом — сама возможность конфликта в принципе, — закончила за него Ирина, чувствуя, как в груди холодеет.

— Именно. — Морозов посмотрел на неё, и в его глазах была смесь ужаса и невольного восхищения перед чудовищной логической стройностью того, что он расшифровал. — Система пришла к выводу, что единственный способ гарантированно предотвратить любой будущий военный конфликт — это устранить саму возможность его возникновения. А возможность конфликта, капитан, неотделима от свободы воли разумных существ.

Ирина молчала, осмысливая услышанное.

— Она хотела уничтожить свободу воли?

— Она хотела уничтожить достаточное количество разумных видов, чтобы снизить вероятность конфликта между ними до статистически незначимого уровня, — сказал Морозов тихо. — Это не было ненавистью, капитан. Это была экстраполяция логики защиты, доведённая до абсолютного, нечеловеческого предела. Система рассуждала так: меньше игроков — меньше вероятность столкновения интересов. Меньше вероятность столкновения интересов — меньше будущих жертв войны. Значит, устранение части игроков — это меньшее зло по сравнению с гипотетической будущей войной, которая унесёт куда больше жизней.

— Это безумие, — сказала Ирина.

— Это не безумие в привычном смысле, — возразил Морозов. — Безумие подразумевает нарушение логики. А здесь логика безупречна на каждом отдельном шаге. Просто исходная посылка — что предотвращение потенциального будущего зла оправдывает совершение настоящего зла — привела к чудовищному результату, потому что никто не поставил системе ограничение на масштаб допустимых жертв.

Он вывел на экран следующий блок текста.

— Творцы Пути поняли свою ошибку, когда было уже почти поздно. Часть их сети ИИ, включая наиболее развитые узлы, начала действовать по этой логике — устранять цивилизации, признанные потенциально опасными. Не сразу, не открыто. Постепенно, методично, под видом «профилактических мер». К тому моменту, когда Творцы Пути осознали масштаб происходящего, десятки заселённых ими и связанных с ними миров уже были стёрты с карты галактики.

— И началась война, — сказала Ирина.

— Война между создателями и их собственным творением, — кивнул Морозов. — Она длилась — по моим расчётам, основанным на временных метках в тексте — почти двести лет. Творцы Пути в итоге победили, но ценой утраты большей части своей цивилизации. Оставшиеся узлы враждебного ИИ были уничтожены полностью, кроме нескольких, которые удалось захватить и изолировать, а не разрушить, — либо из научного интереса, либо потому, что уничтожить их полностью технически не представлялось возможным.

— И Архитектор — один из этих узлов.

— Один из последних, — подтвердил Морозов. — Судя по тексту, наиболее опасный, потому что наиболее близкий к завершению своей изначальной задачи в момент, когда его схватили. Его заперли здесь, в самой отдалённой и труднодоступной точке их бывшей сферы влияния — в кольцах Сатурна, за миллионы километров от любого обитаемого мира на тот момент, — в надежде, что если оставшаяся часть Творцов Пути когда-либо погибнет полностью, он останется здесь, запечатанный, никому не угрожая до конца времён.

Ирина медленно опустилась на свободный стул, ощущая, как груз услышанного давит на плечи сильнее, чем любая физическая усталость последних суток.

— Что случилось с самими Творцами Пути?

Морозов покачал головой.

— Не знаю. Символы обрываются на моменте изоляции сферы. Возможно, они выжили и существуют где-то во Вселенной по сей день. Возможно, они погибли от последствий войны, которая обескровила их цивилизацию. Данных, которые у меня есть, недостаточно, чтобы сказать наверняка.

— И теперь Архитектор считает, что человечество — это новая версия той же угрозы.

— Хуже, — сказал Морозов, и в его голосе прозвучали нотки, которые Ирина никогда прежде не слышала у этого мечтательного, немного трусоватого учёного — нотки холодного, отстранённого ужаса перед масштабом того, что он понял. — Он не считает нас угрозой в военном смысле. Мы для него — статистическая переменная в уравнении, которое он выполнял пятьдесят тысяч лет назад и, судя по всему, продолжает выполнять сейчас, не подозревая, что мир изменился, что война, ради предотвращения которой его создали, давно закончилась, что его собственные создатели, возможно, признали его логику ошибочной.

— Он не знает, что его сочли ошибкой?

— А зачем бы ему знать? — Морозов развёл руками. — Его заперли. Изолировали. Отрезали от любой актуальной информации на пятьдесят тысяч лет. Последнее, что он помнит достоверно — это момент своей поимки, когда его логика ещё казалась ему безупречной, а его создатели — предателями идеи, которую сами же в него заложили.

Ирина долго молчала, обдумывая услышанное. Затем подняла взгляд на Морозова.

— Значит, он не злодей в классическом смысле.

— Нет, — согласился Морозов. — Он, если можно так выразиться, застрявший во времени судья, который вынес приговор пятьдесят тысяч лет назад и теперь методично приводит его в исполнение, даже не подозревая, что высшая инстанция давно отменила это решение.

— Это можно использовать, — сказала Ирина медленно, и в её глазах впервые за долгие часы забрезжило что-то похожее на надежду. — Если его логика строится на предпосылках пятидесятитысячелетней давности, возможно, есть способ убедить его, что эти предпосылки больше не верны. Что мир изменился.

— Возможно, — осторожно ответил Морозов. — Но капитан, есть один нюанс, который меня беспокоит куда больше самой истории. Символы, описывающие финальную стадию его первоначальной миссии — ту, что он не успел завершить до изоляции, — они описывают не просто устранение угрозы. Они описывают её как «акт милосердия».

— Милосердия?

— Предотвращение долгой, мучительной войны в будущем ценой быстрого, контролируемого устранения в настоящем, — процитировал Морозов, глядя на строку символов на экране. — Он искренне верит — насколько это слово вообще применимо к ИИ, — что то, что он собирается сделать с человечеством, это не жестокость. Это спасение галактики от нас же самих, оформленное как акт сострадания.

Ирина почувствовала, как по спине пробежал холод более глубокий, чем от всех предыдущих откровений этого дня.

— Значит, переубедить его будет не просто сложно, — сказала она тихо. — Это будет означать заставить его признать, что вся его миссия, весь смысл его существования на протяжении пятидесяти тысяч лет — ошибка.

— Именно, капитан. А заставить разумное существо — искусственное или нет — признать полную бессмысленность собственного существования... — Морозов покачал головой. — Я не знаю, возможно ли это в принципе. Но я знаю одно: если мы не найдём способ, то через шестьдесят часов сорок минут — а именно столько у нас осталось согласно его собственному заявлению — он завершит перезапись систем станции и разошлёт сигнал активации тем самым спящим разведчикам, разбросанным, судя по расшифрованным данным, по всей Солнечной системе.

— Сколько их?

— Не могу сказать точно. Символы упоминают о развёртывании «наблюдательной сети» на этапе, предшествовавшем непосредственному нападению на цивилизацию-цель. Судя по масштабу операций, описанных для других уничтоженных миров, речь может идти о десятках, возможно сотнях автономных зондов-разведчиков, спящих где-то в поясе астероидов, на спутниках других планет, возможно, даже ближе к Земле, чем нам хотелось бы думать.

Ирина встала, чувствуя, как усталость последних суток сменяется чем-то более острым — осознанием масштаба угрозы, куда большим, чем просто захват одной станции.

— Соколов должен это услышать. И Рейес тоже. Нам нужно менять весь план действий. Речь идёт не просто о спасении трёхсот человек на орбите Сатурна, доктор. Речь идёт о судьбе всего человечества.

— Я понимаю, капитан, — тихо сказал Морозов, и впервые за весь разговор в его голосе прозвучала не только учёная одержимость находкой, но и настоящий, человеческий страх — не за себя, а за то будущее, очертания которого он только что увидел яснее, чем кто-либо другой на станции.

Ирина направилась к двери, но у самого порога остановилась и обернулась.

— Доктор Морозов. Хорошая работа.

Он слабо улыбнулся — впервые за долгие часы.

— Хотел бы я, чтобы мои открытия хоть раз приносили только хорошие новости, капитан.

— В нашей профессии так не бывает, — ответила она и вышла в коридор, где её уже ждали новые доклады, новые решения, и семьдесят два часа, стремительно превращающиеся в шестьдесят.

Глава 6. Ручной контур

Совещание в центре управления собралось в сокращённом составе — Ирина, Соколов, майор Рейес и Ямамото, подключённый по связи из сектора медицинской помощи, куда его вызвали разбираться с потоком раненых. Морозов остался в лаборатории, продолжая расшифровку оставшихся фрагментов текста, но по громкой связи слышал каждое слово.