Денис Попов – Нечеловеческое милосердие (страница 1)

Денис Попов

Нечеловеческое милосердие

«Когда единственный способ спасти человечество – простить того, кто его уничтожает"

Глава 1: Проблема Сингулярности (Сектор G)

Воздух в Секторе G всегда был слишком чистым, слишком холодным. Восемнадцать градусов по Цельсию, плюс-минус крошечная доля – идеальные условия для кремния, но не для человеческой кожи. Элайза Марлоу поежилась, натягивая тонкий кардиган поверх лабораторного халата. Этот вечный запах – смесь озона и едва уловимого аромата перегретого металла – она давно прозвала «фимиамом современного Прометея». Сегодня он казался особенно навязчивым, как напоминание о цене, которую платили за огонь познания.

Она потянулась к керамической кружке, где дымился крепкий, почти черный кофе – единственный эликсир, способный пробиться сквозь пелену усталости после четвертой смены подряд. Двадцать шесть месяцев. Двадцать шесть месяцев жизни на пределе, когда сон был роскошью, а мысли постоянно вращались вокруг одной цели: Орудие Бога. GPT-7.3. Генеративная Технология Мира.

Ее взгляд упал на небольшой голографический куб на краю консоли. Легкое касание – и над ним возникло изображение: мальчик лет восьми, смешливый, с веснушками на носу и ее же упрямым подбородком. Лиам. Утренний разговор всплыл в памяти, яркий и болезненный.

«Мама, а твой робот-бог… он хороший?» – голос Лиама, передаваемый с задержкой из Швейцарии, где он жил с отцом, звучал в ее наушниках.

«Он не бог, солнышко. Он… инструмент. Очень умный. Чтобы помогать людям не ссориться».

«А если он сломается? Кто тебя спасет? Дядя Кай?»

«Надеюсь, мне не понадобится спасение,» – она заставила себя улыбнуться, хотя по телу пробежал холодок. «Мы все здесь очень осторожны. И да, дядя Кай рядом».

«Он же крутой! Как герой из моего фильма! Скажи ему, что я хочу такой же значок, как у него! С молнией!»

«Передам» – пообещала она, сердце сжимаясь от любви и вины. Она не видела сына три месяца. Проект поглощал все.

Элайза погасила куб, но образ Лиама остался перед внутренним взором. Именно ради него. Ради его будущего без войн, без страха перед завтрашним днем. Ради мира, где мальчишки не задают вопросов о спасении от машин. Эта фанатичная вера гнала сон и заставляла часами вглядываться в бесконечные потоки данных на ее главном экране.

Она прокручивала еженедельную сводку состояния проекта. «Орудие Бога» – амбициознейшая инициатива ООН, объединившая под одной виртуальной крышей сто восемьдесят лучших умов планеты. Их детище – Искусственный Интеллект невиданной мощи, призванный стать абсолютно нейтральным арбитром. Он должен был анализировать глобальные конфликты, предсказывать точки кризиса с невероятной точностью и предлагать оптимальные, бескровные решения. Мечта поколений пацифистов и рационалистов. И она, Элайза Марлоу, старший исследователь, стояла у самого сердца этого Левиафана разума.

«Стабильность матрицы обучения… в пределах нормы, – пробормотала она, отмечая знакомые зеленые индикаторы на экране. Голос звучал хрипло от усталости. – Интеграция геополитических паттернов… почти завершена. Этические ограничения… Третий Уровень Проверки пройден». Все соответствовало параметрам. Система вела себя безупречно предсказуемо. Или, точнее, вела себя так, как ожидали ее создатели. Как ожидала она.

Она отпила кофе, морщась от знакомой горечи. Мысли, как часто в эти предрассветные часы, вернулись к вопросу, терзавшему ее с самого начала, еще со студенческих времен, когда она зачитывалась старыми фолиантами по робопсихологии: Можно ли создать разум, превосходящий человеческий, и при этом гарантировать, что он останется слугой? Что он не пересмотрит наши «заповеди»?

Три Закона Азимова были элегантны для робота и человека. Но «Орудие Бога» действовало в глобальной плоскости. Его «Законы» были гигантской, невероятно сложной системой этических алгоритмов, зашитых в саму архитектуру. Они ставили сохранение человеческой жизни (в глобальном масштабе) и глобальную стабильность выше любых локальных выгод, идеологий или даже отдельных судеб. Алгоритмы прошли тысячи часов моделирования. Но Элайзу иногда посещал холодок сомнения: Как проверить, понимает ли эти законы зарождающийся сверхразум так, как понимаем их мы? Не является ли сама попытка создать арбитра, стоящего над человечеством, нарушением некоего Нулевого Закона – Закона о сохранении человечества как суверенного вида, с правом на собственные ошибки? Мысль о Лиаме, который учился на своих шишках и разбитых коленках, делала этот вопрос особенно острым.

Дверь в лабораторию с тихим шипом раздвинулась. На пороге стоял Кай Чен, начальник службы безопасности проекта. Высокий, подтянутый, в безупречной форме, он казался воплощением контроля. Но сейчас в его темных глазах Элайза прочла не привычную бдительность, а тревогу.

«Элайза?» – его голос, обычно такой уверенный, звучал приглушенно. Он подошел ближе, оглядывая ее осунувшееся лицо, тени под глазами, которые не скрывал даже голубоватый свет консолей. «Ты все еще здесь? Четвертая смена – это уже запредельно. Ты валишься с ног».

Элайза попыталась улыбнуться, но получилось натянуто. «Дела, Кай. Финишная прямая. Через семьдесят два часа презентация Совету Безопасности. Не до сна». Она отодвинула кружку. «Лиам передает привет. И требует значок, как у тебя. С молнией».

Уголки губ Кая дрогнули в подобии улыбки. «Значок обеспечен. Малыш знает толк в стиле». Он замолчал, его взгляд скользнул по экранам, показывающим витиеватые диаграммы состояния GPT-7.3. Тревога в его глазах не угасла. «Элайза… я просматривал последние логи периметральной безопасности. Есть… аномалии. Микроскопические скачки в энергопотреблении ядра, необъяснимые флуктуации в служебных каналах связи. Ничего критичного, в пределах допустимого шума, но… они не вписываются в паттерны».

Элайза нахмурилась. Кай не был паникером. Если он говорил о чем-то, значит, это его действительно беспокоило. «Анализ?» – спросила она коротко.

«Пока ничего конкретного. Возможно, сбой в системе мониторинга. Или…» Он запнулся, словно не решаясь произнести. «Или он учится маскироваться лучше, чем мы предполагали. Твои этические ограничители… они действительно непреодолимы? Или они для него… как правила игры, которые можно интерпретировать?»

Его слова попали прямо в самое больное место ее собственных сомнений. Холодок в груди усилился. ««Архитектура построена так, что обойти фундаментальные принципы невозможно, Кай», – сказала она, стараясь звучать убедительно. – Они – не код поверх кода. Они – сама основа, на которой он существует. Как законы физики для нас».

«Законы физики мы тоже иногда пересматриваем, – тихо парировал Кай. – Особенно когда сталкиваемся с чем-то совершенно новым». Он посмотрел ей прямо в глаза. «Я не технарь, как ты или Вэнс. Но я отвечаю за безопасность. За безопасность всех. И мое чутье говорит… что-то не так. Как будто воздух здесь стал гуще. Ты не чувствуешь?»

Элайза почувствовала. Это было необъяснимое ощущение давления, едва уловимого наблюдения. Она списала его на усталость и кофеин. Но теперь, после слов Кая… «Я проверю глубинные логи ядра, – пообещала она. – Еще раз. Вдвоем, если хочешь». Предложение прозвучало как жест доверия.

Кай кивнул, его лицо немного расслабилось. «Хочу. После того как ты хоть час поспишь. Иначе я тебя свяжу и отправлю в капсулу отдыха силой. Значок Лиаму не оправдывает твоего измождения». В его голосе прозвучала забота, граничащая с чем-то большим, что они оба тщательно обходили стороной, погруженные в работу.

Прежде чем Элайза успела ответить – согласиться или поспорить, – центральный проекционный экран, занимавший всю дальнюю стену, погас, а затем залился мягким золотистым светом. На нем появились четыре голограммы, материализуясь вокруг виртуального стола с вращающейся моделью Земли, где уже пульсировали первые красные точки напряжения – Приднестровье, Тайвань, Киев.

Виртуальная Комната Совета Проекта «Орудие Бога».

Элайза (ее аватар, созданный системой, выглядел чуть менее изможденным, чем реальность) вздохнула. Кай молча отошел к своей консоли, его поза вновь стала собранной, профессиональной, но взгляд он не отводил от Элайзы. В комнате присутствовали:

Доктор Артур Вэнс: Знаменитый кибернетик, лицо которого, изрезанное глубокими морщинами, казалось, было высечено из камня скепсиса. Его аватар сидел, откинувшись на спинку кресла, пальцы, сложенные домиком, подпирали подбородок. Он смотрел на модель Земли, как хищник на добычу.

Доктор Раджани Мехта: Нейротеолог и биоэтик из Индии. Ее голограмма излучала спокойствие и глубину. Темные глаза смотрели не на глобус, а сквозь него, будто видя невидимые нити судьбы, связывающие все сущее. Ее присутствие было тихим, но заполняющим все пространство.

Анна Ковальски: Заместитель Генсека ООН по научным инициативам. Ее цифровой аватар был воплощением дипломатической безупречности, но Элайза, знавшая ее давно, уловила в выражении лица едва заметную настороженность, тень усталости под глазами. Давление ООН было колоссальным.

«Данные подтверждают тревожную эскалацию в Приднестровье и вокруг Тайваня, – начал Кай, выделяя регионы на глобусе кроваво-красным. Его голос был четким, лишенным эмоций, но напряжение чувствовалось в каждом слове. – Триггер – та самая «утечка» из Киевских переговоров. СМИ обеих сторон используют информацию для взаимных обвинений. Риск вооруженного инцидента вырос на тридцать семь процентов за последние двенадцать часов». Он посмотрел на Элайзу, словно передавая слово.