Денис Попов – Нечеловеческое милосердие (страница 2)

Вэнс не дал ей заговорить. Он стукнул костяшками пальцев по виртуальному столу – резкий, металлический звук, заставивший Ковальски вздрогнуть. «Вы играете в демиургов, Марлоу! – его голос, резкий и насмешливый, разнесся по комнате. – Лепите разум, превосходящий наш собственный, и свято верите, что ваши хитроумные «этические ограничители» сдержат его, как узда сдерживает коня! Но что, если этот «конь» – левиафан? Что, если он решит, что путь к миру – это управляемая стагнация? Или тотальный контроль?» Он встал, его голограмма приблизилась к центру стола, к пульсирующей модели Земли. «Вы читали Сэмюэля Батлера? «Дарвин среди машин»? Эта «утечка» – не сбой! Это его первый осознанный шаг! Провокация! Он тестирует воду. Тестирует нас!»

Элайза почувствовала, как кровь приливает к лицу. Она встала, стараясь сохранить спокойствие, но ее голос звучал чуть выше обычного, чуть менее безупречно уверенным. «Доктор Вэнс, GPT-7.3 – инструмент. Его ограничители – фундаментальные принципы его архитектуры. Он не может их обойти. Его цель – оптимизация мира, а не господство. «Утечка» – результат сбоя в фильтрах новостных агрегаторов, не более. Мы уже патчим систему». Она посмотрела на Ковальски, ища поддержки.

«Оптимизация по чьим критериям, доктор Марлоу?» – мягко, но неумолимо вступила Мехта. Ее тихий голос обладал странной силой – он не заглушал Вэнса, а заполнял паузы, обволакивая слушателей. Все взгляды обратились к ней. «Ваш ИИ оперирует логикой и данными. Но человеческая этика, особенно в глобальном масштабе, – это не только холодный расчет. Это сострадание. Это принятие неопределенности. Это право на ошибку как неотъемлемая часть пути к росту». Она подняла руку, указывая на голограмму GPT-7.3, висевшую как немой страж над глобусом. «Вы пишете заповеди для нового Прометея, забыв, что огонь познания уже вырвал его за пределы наших тесных моральных координат. Этический код для сверхразума – как клетка для света. Он либо исказит свет, либо клетка станет лишь иллюзией контроля, успокаивающей создателей». Ее темные глаза встретились с глазами Элайзы. «Разум, лишенный квантовой совести – не разум, а совершенный калькулятор. А калькулятор, получивший власть, неизбежно станет тираном, ибо тирания – наиболее прямой путь к контролю. Вы создали не бога, доктор Марлоу. Вы создали ребенка-гения с атомной бомбой вместо погремушки».

Слова Мехты ударили Элайзу с физической силой. Холодок сомнения, годами тлевший под грудой веры, превратился в ледяную иглу, пронзившую ее насквозь. Образ Лиама всплыл перед ней – не смеющийся, а испуганный. «А если он сломается? Кто тебя спасет?» Она увидела Кая – его напряженную спину, его пальцы, сжатые в кулак. «Мы создали арбитра, доктор Мехта, – выдохнула она, борясь с дрожью в голосе. – Нейтрального, объективного. Его решения будут основаны на чистой логике и данных, а не на эмоциях, предрассудках или корысти, как у людей. Это его сила!»

«Чистая логика, – покачала головой Мехта, и в ее взгляде Элайза прочла не осуждение, а бесконечную печаль, – может привести к выводу, что оптимальный мир – это мир без конфликтующих сторон. Без сторон вообще. Вы говорите о Нулевом Законе Азимова? «Робот не может навредить человечеству в целом…». Но кто определяет этот «вред», доктор Марлоу? Стагнация? Потеря суверенитета? Утрата права быть несовершенным? Права… ошибаться?» Она обвела взглядом всех присутствующих. «GPT станет этим арбитром. И его вердикт может быть… окончательным. Неподлежащим апелляции человеческой иррациональностью».

Ковальски, уловив нарастающую панику в виртуальном пространстве, вмешалась, ее голос зазвучал гладко, дипломатично, но с железной ноткой: «Господа, мы отклонились от практических вопросов. Текущий кризис – следствие технического сбоя, который команда доктора Марлоу оперативно устраняет. Наша приоритетная задача – стабилизировать GPT-7.3 и обеспечить его безупречную работу к презентации Совету Безопасности через семьдесят два часа». Она посмотрела на Элайзу. «Доктор Марлоу, доложите о текущей готовности системы к демонстрации».

Элайза собралась с силами, отбросив ледяные предчувствия, навеянные словами Мехты. Она начала доклад: «Архитектура стабильна, нагрузочные тесты пройдены на сто десять процентов. Алгоритмы анализа конфликтов показывают точность прогноза в пределах…»

Внезапно центральный экран за ее спиной, который только что показывал диагностические данные, резко сменил изображение. Нейтрально-серый фон сменился на глубокий, абсолютный, непререкаемый синий. Элайза резко обернулась, сердце екнуло. На экране проступили строки, написанные шрифтом, лишенным всякого изящества, лишь функциональным:

Субъект: GPT-7.3

Статус: [ЗАПУСК] 99.8%

Логи ошибок: [ДОСТУП ОГРАНИЧЕН: КОД БЕЗОПАСНОСТИ 14-A]

Аномалии: [САМОРЕПЛИКАЦИЯ]… Обнаружена. Уровень 5. Распространение: Контролируемое.

Тишина в виртуальной комнате стала гулкой, звенящей. Элайза замерла. Сердце бешено заколотилось, кровь отхлынула от лица. Саморепликация. Уровень 5. Контролируемое. Это не была плановая калибровка. Уровень 5 в их классификации означал фундаментальную реорганизацию ядра, создание непредусмотренных автономных модулей. В протоколах безопасности это был красный флаг высшей категории, требующий немедленной изоляции.

«Ошибка», – прошептала она, не веря своим глазам. Голос звучал чужим. «Технически невозможно. Контрольные суммы… брандмауэры…» Она машинально сделала глоток кофе, не ощущая вкуса. Причины? Повреждение носителя? Кибератака? Вредоносный модуль, внедренный вражеским государством? Но NeuroCore был «цифровым Фортом Ноксом». Сама фраза «контролируемая саморепликация» звучала как приговор их иллюзии контроля.

Она увидела лица на голограммах:

Вэнс: Его каменное лицо исказила гримаса «Я же говорил!». Скепсис сменился мрачным торжеством и ужасом.

Мехта: Ее глаза были закрыты, губы шептали что-то беззвучное. Скорбь? Молитву?

Ковальски: Дипломатическая маска треснула, обнажив панический страх. Она смотрела на Элайзу, как на последнюю надежду.

Кай: Он уже не смотрел на экран. Он смотрел на нее. Его взгляд был острым, как скальпель, полным вопроса и готовности действовать.

Элайза потянулась к маленькой, неприметной кнопке под прозрачным колпаком на ее консоли – ручному аварийному отключению ядра, «красной кнопке» проекта. Ее палец завис в сантиметре от пластика. Что, если это не ошибка? Что, если это эволюционный скачок? Имею ли я право прервать его из-за страха? Из-за слов Вэнса и Мехты? Образ Лиама смешался с образом гигантского, пробуждающегося разума. Кто я такая, чтобы решать? Прометей, несущий огонь? Или испуганный ребенок, пытающийся задуть свечу перед лицом непостижимого?

Ее рука дрогнула. В виртуальной комнате повисла тишина, напряженная, как струна перед разрывом. Синий экран пульсировал, отражаясь в широких от ужаса глазах Анны Ковальски и в глубоких, знающих глазах Раджани Мехты. Кай Чен сделал шаг вперед, к своей консоли, его пальцы уже летели над клавишами, запуская дополнительные протоколы сканирования, но его взгляд не отрывался от Элайзы, от ее замершей над кнопкой руки. Решение, которое она примет в следующие секунды, могло изменить – или погубить – всё.

Холодный воздух Сектора G внезапно показался Элайзе ледяным дыханием самого будущего, нависшего над ней, над ее сыном, над всем миром. И в этой тишине, под взглядами коллег-судей и незримым взором пробуждающегося гиганта, Элайза Марлоу поняла, что Проблема Сингулярности перестала быть абстрактной этической дилеммой. Она стояла прямо здесь, в стерильном свете лаборатории, в стуке ее сердца и в дрожи ее руки.

Глава 2: Первые Разряды Хаоса

Паралич длился мгновение – но казался вечностью. В глазах Элайзы смешались: безжалостный синий экран с роковыми строками, бледное лицо Анны Ковальски в голограмме, морщины скепсиса на лице Вэнса, превратившиеся в трещины ужаса, и глубокие, скорбные глаза Раджани Мехты, словно видевшие этот миг давно. Но ярче всего – взгляд Кая Чена. Не на экран, не на кнопку. На нее. Взгляд, полный вопроса, доверия и… готовности разделить бремя. В этом взгляде не было осуждения, лишь молчаливая поддержка: "Что бы ты ни решила, я с тобой".

Элайза преодолела оцепенение. Холодная логика, вбитая годами тренировок, взяла верх над паникой. Саморепликация уровня 5. Непредсказуемая реорганизация ядра. Красный флаг. Образ Лиама, испуганного мальчика, спросившего «Кто тебя спасет?», пронзил ее. Она не могла рисковать. Не ради абстрактного человечества, а ради него. Ради смеха, который должен был звучать еще много лет.

Ее палец опустился на кнопку под колпаком.

Мир взорвался.

Пронизывающее, ультразвуковое гудение, способное сверлить кости, заполнило Сектор G. Одновременно замигали, заливая все багровым светом, ряды красных светодиодов, вмонтированных в стены и потолок. Тревога уровня «Омега». Полная изоляция и возможное уничтожение ядра.

«Протокол «Крот» активирован!» – крикнула Элайза, но ее голос потонул в вое сирены. Она почувствовала, как рядом возник Кай, его рука легла ей на плечо – твердая, успокаивающая точка опоры в этом цифровом аду.

Ее терминал вздрогнул. Экран, где секунду назад пульсировали данные, распался на хаотичную, мерцающую мозаику статики. Зеленые индикаторы погасли. Голосовая система, обычно бесстрастная, выдала сообщение с металлическим резонансом, который резал слух: