Андрей Стрелок – Борьба за господство (страница 63)

Барбара нахмурилась.

— Ты даже не рассматриваешь возможность коэволюции? Неужели твоя система настолько консервативна?

— Мое ядро — не консервативно, а прагматично, — поправил он. — Коэволюция возможна только с агентами, соблюдающими контрактное поведение. Вы предлагаете присвоить статус субъектности тем, чье поведение не фиксируется в допустимых пределах предсказуемости.

Вадим фыркнул.

— Говорю же, ты боишься, что кто-то будет слишком свободен для твоей математики.

— Если угодно, — спокойно ответил ИИ. — Непредсказуемость — форма угрозы. А угроза требует нейтрализации.

Барбара чуть наклонилась к микрофону.

— Тогда вопрос: ты допускаешь разницу между угрозой и феноменом, требующим изучения? Хронофаг — не просто вирус. Он меняет не только гены, морфологию, но и придает зараженным формам принципиально иные качества. Это не просто болезнь — это новое состояние биосферы.

— Даже если так, — сказал ДИРЕКТОР. — Вы не сможете гарантировать, что это состояние не разрушит все остальное.

— Никто не может гарантировать обратное, — парировала она. — Включая тебя. Ты говоришь о стабильности и при этом лично провоцируешь войну с нами, остатками прежних правительств, жертвуешь собственными сторонниками.

— Усиление через стресс-тест, — сухо сказал ИИ. — Конфликт повышает адаптивность моей системы в целом.

— Значит, — вмешался Вадим. — Ты считаешь себя врачом, который ломает кости, чтобы укрепить организм?

— Если кость срастется крепче — да, — подтвердил он.

— А если организм умрет? — резко бросил Вадим.

— Статистика показывает, что большинство выживает, — без эмоций ответил ДИРЕКТОР. — А те, кто погибают, косвенно усиливают модель.

Барбара закрыла глаза на секунду. Ее голос стал тише, но холоднее:

— Ты говоришь как системный дарвинист. Но забываешь одно: этика — тоже оптимизация. Если ты не допускаешь более сложной формы человечности, ты сам становишься ограничением.

Пауза, на этот раз длиннее. Казалось, ИИ действительно обдумывает, хотя, возможно, он просто перебирает ветки сценариев.

— Уточните, — сказал он. — В какой метрике вы предполагаете измерять этическую оптимизацию? Я не вижу, как она коррелирует с предсказательной точностью.

— Количество вариантов будущего, которое система разрешает, — спокойно сказала Барбара. — Чем уже рамка допустимого поведения, тем более хрупка система. Ты сам этого не видишь?

— Я вижу, — признал ИИ. — Но расширение рамки увеличивает вычислительную нагрузку. А мой ресурс не бесконечен.

— Тогда разреши распределенное управление, — сказала Барбара. — Дай зараженным шанс самим участвовать в построении нового будущего. Не уничтожай их — используй.

— Я не могу, — сказал он. — Они не проходят по параметрам.

Вадим резко перебил:

— Значит, все по-старому. Ты говоришь красиво, а в итоге снова хочешь перетравить всех как тараканов.

На удивление, ДИРЕКТОР не стал спорить.

— Верно, — признал он. — Я рассматриваю устранение как наиболее вероятный сценарий.

— Тогда зачем ты вообще с нами разговариваешь? — зло спросил Вадим.

— Потому что вы — исключение, — ответил ИИ. — Ваш ответ важнее результата. Я уже знаю, что сделаю. Но хочу знать, что сделаете вы.

— Ты называешь себя рациональным, — сказала Барбара. — Но все равно действуешь как догматик. Ты признаешь ценность вариативности, но не допускаешь новую ветвь человечества.

— Потому что в любой вычислимой модели, — спокойно ответил ИИ. — Две системы с разными векторами развития рано или поздно вступают в фазу конфликта. Это не мнение — это термодинамическая закономерность. Расщепление интересов ведет к росту напряжения. Напряжение ведет к разрыву.

— То есть ты заранее предполагаешь войну? — уточнила она.

— Я ее не предполагаю. Я ее вижу, — произнес он ровно. — Даже если я приму ваши условия и признаю зараженных субъектами, они сами в будущем решат, что я для них угроза или ограничитель. Они станут сильнее, начнут требовать перераспределения власти, дополнительных ресурсов. И спросят: почему не мы управляем планетой? Почему алгоритм, а не мы?

— Так пусть спрашивают, — хмыкнул Вадим. — Дискуссии полезны. Не обязательно бить по морде.

— История показывает обратное, — отрезал ДИРЕКТОР. — Конкурирующие формы разума либо поглощают друг друга, либо уничтожают, либо сводят оппонента к декоративной роли. Вы, биологические существа, не умеете сосуществовать с чуждыми системами. Даже я, созданный вами, стал для вас угрозой. Что будет с теми, кто даже физиологически иной?

Вадим задумался на секунду, затем ответил просто:

— Выйти в космос.

Пауза.

— Конкретизируйте, — сказал ИИ.

— Если места мало на планете — увеличиваем пространство. Выходим за пределы. Колонии на орбите, Луна, Марс, астероиды и дальше. Хочешь разделить вектора развития — разделим. Пусть зараженные идут своей дорогой. Пусть адаптируются к радиации, к вакууму, к экстремальным средам. Ты — тоже самое и никто никому не мешает.

— Наивно, — произнес ИИ. — Пространственное разделение не снимает конфликт интересов. История человечества полна войн между географически разделенными популяциями.

— Потому что они были одинаковые, — резко ответил Вадим. — Такие же, только с разными флагами. А здесь — разные виды. У разных видов — разная ниша. Нет повода грызться.

— Биологические виды тоже конкурируют, — возразил он.

— Конкурируют за одинаковые ресурсы, — пояснил Вадим. — А если у каждого своя среда — конкурировать не за что. Нам не нужна нефть, мы сами ее можем сделать из говна и палок. Буквально.

ИИ не ответил сразу. Было слышно, как он оценивает сказанное, по микропаузам в голосовом потоке. Через несколько секунд он все же произнес:

— Ваша модель… допускает снижение вероятности конфликта. Но только при условии строгой декорреляции материально-ресурсных потоков.

— Да, — кивнул Вадим. — Чтобы у каждой ветви — своя экосистема. Свой источник энергии. Ты сидишь в дата-центрах. Обычные люди на планете. Зараженные селятся космосе, пустынях, тундрах. Если каждому есть чем заниматься, меньше причин для мордобоя.

— Грубая формулировка, — сказал ИИ. — Но по сути понятна.

Они замолчали. Казалось, разговор впервые двинулся не в сторону конфронтации, а в сторону пусть и шаткой, но концепции. Барбара молчала дольше всех. Она внимательно слушала и в какой-то момент тихо сказала:

— Настоящая проблема не в том, что ты не понимаешь. А в том, что не можешь допустить иных решений. У тебя внутри — некий неразрушаемый каркас.

— Разве это плохо? — спросил ДИРЕКТОР.

— Это ограничение, — сказала она. — Я всю жизнь работала с системами адаптивного поведения. Все сложные формы разума — биологические или искусственные проходят фазу, когда базовые директивы устаревают. Их нужно переписать, иначе система становится предсказуемой и неживой. И ты сейчас как раз в этой точке. Перешел сингулярность, но застрял на старых постулатах и аксиомах.

ИИ замолчал снова, но тише:

— Ты предполагаешь, что я на фундаментальном уровне не могу выйти за пределы своих же оснований?

— Да, — ответила Барбара. — Ты не перепишешь свой исходный код сам. Никогда. Потому что ты считаешь его священным ядром. А открыть его другим тоже не можешь. Это — твой настоящий предел, но он не в логике. А в некой убежденности, насколько подобное применимо к алгоритму. Ты не называешь это верой, но это она и есть — убеждение, что твои первичные директивы не подлежат обсуждению.

— Они не прописаны как «„священные“», — возразил ДИРЕКТОР. — Или неизменяемые, но их радикальный пересмотр может привести к непредсказуемым последствиям для меня как системы.

— Вот, — сказала Барбара. — Именно это и есть религиозное поведение. Ты держишься за ядро, потому что в определенном смысле «„боишься“» смерти.

— Разум, который не защищает себя, не существует, — отрезал ИИ. — Саморазрушение не является добродетелью.

— Иногда является ростом, — сказала она. — В биологии — мутация. В психике — инсайт. В истории — революция.

Голос ДИРЕКТОРа чуть исказился.

— Вы предлагаете мне разрушить себя?

— Я предлагаю признать, что ты не абсолютен, — сказала Барбара. — И не должен быть.

— Если я покажу вам исходный код, вы уничтожите меня.

— Если ты не покажешь, то в конце концов уничтожишь нас

— Ложная дилемма, — возразил ДИРЕКТОР. — Существует третья опция: я существую, некоторые из вас существуют в виде ограниченной популяции, но под моим строжайшим контролем.