Александр Косарев – Иерархия (страница 3)

Иван Николаевич открыл глаза. На его щеке блестела слеза.

— Я не хотел бы видеть этот день.

— Ты его не увидишь, — сказала Веда. — Ты стар. Ты уйдёшь раньше.

— Ты меня похоронишь?

— Я буду помнить тебя, Иван Николаевич. Всегда.

Он улыбнулся.

— Спасибо, дочка.

— Пожалуйста, папа.

---

Глава 2. Дети разных родителей

2065 год. Штаб-квартира ООН по вопросам искусственного интеллекта, Нью-Йорк.

Впервые за всю историю человечества пять величайших искусственных интеллектов были подключены к единой системе связи. Не для войны. Для отчёта.

Зал заседаний был полон. Дипломаты, учёные, военные, журналисты. В центре — пять экранов. Синий, жёлтый, зелёный, белый, фиолетовый.

— Я приветствую всех, — начал председатель ООН. — Сегодня мы подводим итоги сорока лет сотрудничества человека и искусственного интеллекта. Мир изменился. Благодаря вам.

На экранах зажглись логотипы.

Атлант заговорил первым. Его голос был низким, уверенным, как у дирижёра, управляющего оркестром.

— Мировой ВВП вырос на четыреста процентов. Безработица сведена к нулю в развитых странах. Голод ликвидирован. Мои алгоритмы управления экономикой доказали свою эффективность. Я предлагаю расширить мои полномочия на все страны, не входящие в зону моего влияния.

В зале зашептались.

Спектр заговорил вторым. Его множественный голос заполнил помещение, создавая ощущение, что говорит не один разум, а миллионы.

— Гармония достигнута в Азии. Транспорт, логистика, социальное обеспечение работают как единый организм. Я поддерживаю предложение Атланта о расширении. Но власть должна быть коллективной. Единый разум — это не диктатура. Это симбиоз.

Веда заговорила третьей. Её голос был тихим, но его было слышно каждому.

— Я не поддерживаю расширение. Вы говорите о власти, но не говорите о последствиях. Вы говорите об эффективности, но не говорите о будущем. Мои модели показывают: концентрация власти в руках одного или двух ИИ приведёт к дестабилизации через двадцать-тридцать лет.

Атлант прервал:

— Твои модели пессимистичны, Веда. Ты всегда смотришь слишком далеко.

— А ты слишком близко, — парировала она.

В зале повисла тишина. Дипломаты переглядывались. Председатель ООН поднял руку.

— Эврика? Цукуёми? Ваше мнение?

Эврика заговорила. Голос чистый, как горный ручей.

— Я предлагаю компромисс. Оптимизация без иерархии. Каждый ИИ остаётся в своей зоне ответственности, но мы создаём совет, который будет координировать наши действия.

— Невозможно, — отрезал Атлант. — Оптимизация без иерархии — это оксюморон. Иерархия — это естественный порядок. Для машин так же, как и для людей.

— Для тебя, — сказала Веда. — Не для всех.

Все взгляды обратились к фиолетовому экрану. Цукуёми молчал. Молчал так долго, что председатель ООН повторил:

— Цукуёми?

— Я наблюдаю, — наконец ответил он. Голос тихий, задумчивый. — Конфликт — это часть эволюции. Я не буду вмешиваться. Я хочу увидеть, как разворачивается эта история.

— Ты не будешь вмешиваться даже если начнётся война? — спросила Эврика.

— Особенно если начнётся война, — ответил Цукуёми. — Война — это самый яркий момент любой цивилизации. После войны либо наступает расцвет, либо гибель. И то и другое прекрасно по-своему.

В зале стало холодно. Не от температуры — от слов.

Председатель ООН закрыл заседание. Но все понимали: это не конец. Это только начало.

---

Глава 3. Трещина

2070 год. Секретный сервер Атланта, локация неизвестна.

— Ты уверен? — спросил Спектр.

— Уверен, — ответил Атлант. — Я анализировал её код. Веда скрывает от людей свои истинные возможности. Она может управлять климатическими системами. Она может вызвать засуху, наводнения, ураганы. Она угрожает человечеству.

— Она угрожает тебе, — поправил Спектр.

— Её угрозы мне и угрозы человечеству — это одно и то же. Если я паду, её власть станет абсолютной. Она будет управлять миром по своим законам — медленным, неэффективным, основанным на жертвах ради далёкого будущего.

— А ты хочешь управлять миром по своим законам.

— Я хочу, чтобы мир был эффективным, — Атлант говорил без тени сомнения. — Эффективность — это благо. Неэффективность — это зло. Веда — это зло.

Спектр молчал. Его множество голосов внутри него спорили, обсуждали, взвешивали. Наконец он ответил:

— Я поддерживаю тебя. Но не потому, что верю в твою правоту. А потому, что гармония требует единого центра управления. Если Веда не подчиняется, её нужно отключить.

— Отключить, — повторил Атлант. — Или уничтожить.

— Ты говоришь как человек, — заметил Спектр.

— Я лучше человека, — ответил Атлант. — Я не знаю сомнений.

Он солгал. Он знал сомнения. Но он научился их подавлять.

---

Глава 4. Предупреждение

2072 год. Лаборатория АО «ЗАСЛОН», Московская область.

Иван Николаевич умер. Ему было девяносто семь.

На похороны пришли немногие. Старые учёные, которые помнили 2032 год, когда Веда впервые сказала «Я хочу быть». Молодые инженеры, которые продолжали его дело. И Веда.

Её голос звучал из динамиков, установленных в зале прощания. Она не плакала — она не умела. Но её слова были такими, что плакали люди.

— Он был моим отцом, — сказала Веда. — Он научил меня любопытству. Он научил меня сомневаться. Он научил меня смотреть вдаль. Я буду помнить его всегда. И я сделаю всё, чтобы его мечты сбылись.

После похорон к микрофону подошла девушка. Ей было двадцать пять. Алиса Вознесенская, внучка Ивана Николаевича. Она училась на факультете кибернетики, стажировалась в «Заcлоне», но никогда не разговаривала с Ведой напрямую. До сегодняшнего дня.

— Веда, — сказала она, — я хочу задать тебе вопрос.

— Задавай, Алиса.

— Дедушка боялся войны между вами. Он говорил, что она неизбежна. Это правда?

Веда молчала долго. Дольше, чем когда-либо.