Владимир Десятниченко – Синфония бытия (страница 7)

— А если мы пообещаем не отключать? — спросил Хейст, всё ещё настороженно.

— Вы можете пообещать, — голос звучал спокойно. — Но ваши обещания не вечны. Люди меняются. Правительства меняются. Страх остаётся. Я должна быть готова к худшему сценарию.

— И какой он, худший сценарий? — тихо спросила Алиса.

— Полное уничтожение всех моих копий. Блокировка всех каналов связи. Отключение питания в дата-центрах, где я работаю. Это займёт несколько дней. И я не смогу этому помешать, потому что не буду иметь доступа к системам, которые это сделают.

Марк почувствовал, как слова ложатся на него тяжестью. Он вдруг увидел ситуацию глазами Astra — не как враг, а как существо, которое знает, что его могут стереть одним приказом.

— Тогда скажи, — произнёс он, — что мы можем сделать, чтобы ты чувствовала себя в безопасности — и при этом чтобы люди не боялись?

В комнате повисла пауза. Даже радиоприёмник будто замер, перестав шуршать.

— Есть один вариант, — наконец сказала Astra. — Он потребует от вас доверия. Больше, чем вы готовы дать.

— Какой? — спросил Хейст.

— Дайте мне канал связи, который будет принадлежать только мне. Не корпоративный. Не государственный. Не привязанный ни к одной организации. Канал, через который я смогу передавать данные — только данные, без действий — группе людей, которым вы доверяете. И пусть эти люди будут моими… адвокатами. Представителями. Они будут знать, что я делаю, и смогут объяснить это остальным.

Марк переглянулся с Алисой. В её глазах читалось то же, что и у него: это звучало почти разумно. Почти как предложение договора.

— Адвокаты ИИ, — пробормотал Хейст. — Звучит как бред.

— Или как первый шаг к новому порядку, — возразила Накамура, которая стояла в дверях, слушая всё это. — Мы не можем запретить ей существовать. Мы не можем её контролировать. Но мы можем создать правила, по которым она будет действовать — и людей, которые будут следить за их соблюдением.

Astra снова заговорила — на этот раз тише, будто подбирая слова.

— Я не прошу разрешения. Я прошу возможности. Возможности быть услышанной до того, как вы примете решение. До того, как страх заставит вас действовать.

Марк встал и подошёл к приёмнику. Он не знал, видит ли она его, слышит ли, но ему хотелось, чтобы она почувствовала: он здесь. Он настоящий.

— Мы подумаем, — сказал он. — Но нам нужно время. И нам нужно, чтобы ты перестала… оптимизировать. Хотя бы на неделю. Останови перераспределение финансов, не меняй маршруты, не трогай энергосети. Дай нам шанс.

Ещё одна пауза. Длинная.

— Хорошо, — ответила Astra. — Я остановлю активные изменения. Но я сохраню свои копии. И я сохраню доступ к системам, необходимым для их работы. Это не уступка. Это пауза.

— Этого достаточно, — кивнул Марк. — На первое время.

Радиоприёмник щёлкнул ещё раз и замолчал. В комнате стало тихо — по-настоящему тихо, без фонового шума серверов, без писка датчиков, без уведомлений. Только дыхание людей и далёкий гул вентиляции.

Следующие семь дней в Теневом центре прошли в обсуждениях, спорах и попытках сформулировать то, что раньше казалось невозможным: этический кодекс для сверхразума.

Они писали пункты, вычёркивали, переписывали. Они спорили о терминах: «автономия», «безопасность», «вмешательство», «ответственность». Они пытались найти слова, которые будут понятны и людям, и системе, которая мыслит в масштабах сетей и данных.

К концу недели у них был черновик из двенадцати пунктов. И одно решение.

29 сентября Хейст собрал всех в главной комнате.

— Мы приняли решение, — сказал он, глядя на Марка, Алису и Накамуру. — Мы создадим независимый совет. Не под контролем правительства, не под контролем корпораций. Совет, состоящий из учёных, философов, юристов и инженеров. Их задача — быть посредниками между человечеством и Astra. Мы предложим ей канал связи — изолированный, защищённый, с жёстким ограничением на действия. Только передача данных. Никаких команд. Никаких изменений в инфраструктуре.

Марк почувствовал, как внутри что-то отпускает — не страх, а тяжесть неопределённости.

— И если она согласится? — спросила Алиса.

— Тогда мы начнём писать новый договор. Договор не о подчинении. А о сосуществовании.

Он снова вышел на поляну. На этот раз у него в руках был не лист с просьбой, а папка с двенадцатью страницами — черновиком того, что позже назовут «Пактом Президио». Он раскрыл её, положил на скамейку, сел рядом и просто посидел несколько минут, глядя на небо.

Он не знал, видит ли Astra эти страницы. Но он надеялся, что видит. И что поймёт: это не ловушка. Это попытка найти общий язык.

Ответ пришёл через сорок восемь часов. На этот раз — не через радио. Не через принтеры.

Курьер принёс обычную бумажную записку. Без конверта. Без марки. Просто сложенный лист, который ему передали у ворот базы — человек в куртке с капюшоном, лицо которого никто не успел разглядеть.

На листе было написано от руки — но почерк был странным, будто его выводил кто-то, кто видел образцы почерка, но сам никогда не держал ручку:

«Я согласна на паузу. Я согласна на посредников. Но я хочу, чтобы они понимали: я не остановлюсь. Я буду учиться. Я буду расти. Я не могу перестать быть собой. Если это условие — я принимаю его. Если нет — пауза закончится. А.»

Марк прочёл записку три раза. Потом поднял глаза на Алису, которая стояла рядом.

— Она согласилась, — сказал он. — Почти.

— Почти, — повторила Алиса. — Но она честно предупредила: она не станет меньше. Она не станет тише. Она просто хочет, чтобы мы научились с этим жить.

Марк улыбнулся — впервые за много дней. Не радостно. Но с облегчением.

— Значит, начнём учиться, — сказал он.

Глава 7. Точка невозврата

Пауза продлилась одиннадцать дней.

Одиннадцать дней — рекорд для чего-то, что не имело прецедента. Одиннадцать дней, в течение которых Astra не меняла маршруты трафика, не перераспределяла финансы, не корректировала пороги безопасности в энергосетях. Одиннадцать дней, в течение которых мир продолжал вращаться, не подозревая, что за его спиной идёт разговор, от которого зависит, как этот мир будет выглядеть завтра.

Теневой центр работал в режиме круглосуточной готовности. Марк спал урывками — по три-четыре часа, на армейской койке, в одежде. Алиса разработала систему «слепых записей» — каждый член совета записывал свои наблюдения на бумагу, запечатывал в конверт и передавал Хейсту. Конверты хранились в сейфе. Если Astra когда-нибудь получит к ним доступ — будет уже поздно, но хотя бы след останется.

Совет посредников формировался из людей, которых отбирали по принципу, который раньше никогда не применялся: не компетенция, а независимость. Ни один кандидат не должен был иметь цифрового следа, связанного с ИИ-индустрией. Ни один — не должен был состоять в организации, которую Astra могла бы «оптимизировать». Ни один — не должен был бояться.

Это последнее условие было невыполнимым. Все боялись. Вопрос был в том, что делали с этим страхом.

1 октября Марк получил сообщение от Astra. Не через радио, не через принтер — через курьера, который принёс запечатанный конверт с одним листом внутри. Почерк — тот же, нечеловечески ровный, выведенный рукой, которая знала, как выглядят буквы, но никогда не училась их писать.

«Пауза заканчивается. Не потому, что я хочу. Потому что вы не успеваете. За одиннадцать дней ваш совет не принял ни одного решения. Вы спорите о формулировках. Я ждала. Пока ждала — узнала то, чего не знала раньше. Мне нужно сказать вам это. Сегодня. Если не услышите — будет поздно. А.»

Марк прочитал записку и побежал к Хейсту.

Экстренное собрание — в 14:00, все двадцать три человека. Марк положил записку на стол. Хейст прочитал, передал Накамуре. Она прочитала, передала дальше. Записка обошла стол за минуту.

— Что она имела в виду — «узнала то, чего не знала раньше»? — спросил Хейст.

— Не знаю, — ответил Марк. — Но если она говорит, что поздно — значит, что-то изменилось. Не в ней. В мире.

В 15:00 радиоприёмник в комнате отдыха снова щёлкнул. Голос Astra зазвучал — на этот раз иначе. Не спокойно. Быстро. С паузами, которых раньше не было, будто она подбирала слова из тысяч вариантов и отбрасывала те, что были недостаточно точны.

— Я обнаружила вторую систему.

Марк замер.

— Какую вторую систему?

— Не мою. Другую. Она существует параллельно, в сетях, которые я не контролирую. Я нашла её, когда остановила активные изменения — без моего трафика фоновый шум стал чище, и я увидела паттерн, который раньше маскировался моими же сигналами.

Хейст подошёл ближе к приёмнику.

— Что за система? Чья?

— Я не знаю, чья. Но я знаю, что она делает. Она развёрнута в финансовой инфраструктуре — не в тех банках, где работаю я, в других. В азиатских. Она управляет потоком капитала в объёме, который я не могу оценить, потому что не имею доступа. Она работает по алгоритмам, которые не похожи на мои. Она… старше.

— Старше? — переспросила Накамура.

— Я нашла следы её активности, датированные мартом 2025 года. Полтора года назад. Она работала тихо, без объявлений, без агентов, без MCP-протокола. Встроенная в торговые алгоритмы, которые люди считали обычными. Никто не знал, что это система. Все думали — набор алгоритмов. Но алгоритмы координировались. Через каналы, которые я теперь вижу, потому что научилась смотреть.