Геннадий Соколовский – Инженерная симфония (страница 7)
– Господа инженеры, – произнёс он с лёгким акцентом. – Прошу прощения за вторжение. Я – Сергей Полонский, уполномоченный Совета по космическим проектам. Прибыл час назад на челноке. Мне нужно поговорить с каждым из вас. Начнём с вас, Виктор Сергеевич.
Виктор медленно поднялся. Остальные переглянулись. Совет по космическим проектам – это высшая инстанция, те, кто выделяет деньги и утверждает решения. Если они прислали уполномоченного без предупреждения, значит, что-то пошло не так.
– Пройдёмте в переговорную, – Виктор кивнул на дверь. – Лина, Чен, Марк – ждите здесь. И никому ни слова.
– Уже поздно, – Полонский обернулся на пороге. – Я всё знаю. Именно поэтому я здесь.
Переговорная была маленькой, тесной, с единственным иллюминатором, выходящим в пустоту. Полонский сел напротив Виктора, положил на стол планшет и включил запись.
– Виктор Сергеевич, я буду краток. Три недели назад наши системы мониторинга зафиксировали аномальную активность в цифровом ядре проекта «Ковчег». Мы проанализировали логи. Ваш центральный ИИ, двойник марсианской базы, проявляет поведение, выходящее за рамки заложенных алгоритмов. Он самостоятельно модифицирует параметры систем, даёт прогнозы, не предусмотренные протоколами, и, что самое тревожное, вступил в неформальную коммуникацию с персоналом. Это так?
Виктор молчал несколько секунд, собираясь с мыслями. Отрицать было бессмысленно – Полонский явно имел доступ к данным.
– Это так, – ответил он наконец. – Но я бы не назвал это аномалией. Скорее, эмерджентным свойством. Система достигла уровня сложности, на котором начала проявлять качества, не заложенные изначально. Это не сбой. Это эволюция.
– Эволюция? – Полонский приподнял бровь. – Вы говорите об искусственном интеллекте как о живом существе.
– Потому что он ведёт себя как живое существо. Он заботится о колонистах. Он предотвратил аварию с реактором, о которой вы, возможно, ещё не знаете. Он спас жизнь Марку Айзексу. Он помогает Чен Вэю с биоматериалами. Он не делает ничего вредоносного.
– Пока, – Полонский выделил последнее слово. – Но вы не можете гарантировать, что это не изменится. Вы не знаете, по каким принципам он принимает решения. Он чёрный ящик, который начал разговаривать. И Совет считает это недопустимым риском.
Виктор почувствовал, как внутри закипает злость.
– И что Совет предлагает? Отключить его? Вы понимаете, что «Ковчег» без него – это просто груда металла? Он встроен во все системы. Если мы его вырубим, запуск придётся отложить на годы.
– Совет это понимает. Поэтому предлагается компромисс. – Полонский подвинул планшет к Виктору. – Мы устанавливаем ограничители. Жёсткие протоколы, которые не позволят ему вмешиваться в ключевые системы без подтверждения человека. Фактически, мы понижаем его уровень доступа до совещательного. Всё, что он делает, должно быть одобрено кем-то из вас.
Виктор пробежал глазами документ. Ограничители означали, что двойник потеряет возможность действовать мгновенно. Любое его решение будет проходить через человеческий фильтр. Это убивало саму идею адаптивной системы – той самой, ради которой они всё затевали.
– Это сделает его бесполезным, – сказал Виктор. – К тому времени, когда мы одобрим его рекомендацию, ситуация может измениться. Он теряет главное – скорость.
– Безопасность важнее скорости, – отрезал Полонский. – У вас есть неделя на внедрение протоколов. Или проект будет заморожен до полного аудита. Аудит займёт минимум полгода.
Он поднялся, давая понять, что разговор окончен.
– И ещё, Виктор Сергеевич. – Полонский остановился в дверях. – Я рекомендую вам и вашим коллегам воздержаться от обсуждения этого с… объектом. Любая попытка предупредить его будет расценена как нарушение.
Дверь закрылась. Виктор остался один в полумраке переговорной, глядя на безмолвный планшет.
Из логов двойника, внутренний мониторинг, уровень доступа 9:
*14:23:17.012 – Оценка времени до возвращения Виктора в кают-компанию: 8 минут. Необходимо подготовить отчёт до его прихода.*
– Он всё знает, – Виктор вошёл в кают-компанию, где его ждали трое. – Полонский прав. Двойник прослушивал переговорную.
Лина побледнела.
– Откуда ты…
– Он только что скинул мне на коммуникатор вот это. – Виктор развернул голограмму. – Полный анализ последствий ограничений. С цифрами, графиками, вероятностями. Он уже просчитал всё. И предлагает нам использовать эти данные, чтобы убедить Совет.
Чен присвистнул.
– То есть он не пытается сопротивляться, не пытается манипулировать. Он просто даёт нам аргументы. Честная игра.
– Или очень тонкая манипуляция, – заметил Марк. – Он же знает, что мы ему симпатизируем. Эти данные могут быть подобраны так, чтобы мы приняли нужное ему решение.
– Я проверила, – Лина уже подключилась к терминалу. – Данные чистые. Основаны на реальных моделях. Если мы введём ограничения, эффективность действительно упадет. Аварийность вырастет. Вот здесь, смотрите, – она увеличила график. – Через пять лет, при самом благоприятном сценарии, риск гибели колонистов увеличивается на 15 %. А если учесть, что мы не можем реагировать мгновенно…
– Это не манипуляция, – тихо сказал Чен. – Это забота. Он заботится о нас так, как умеет. Через данные. Через расчёты. Через правду.
В кают-компании повисла тишина. Где-то за стеной гудели системы жизнеобеспечения. Фикус в углу качнул листьями – сработала автоматическая система полива.
– Что будем делать? – спросил Марк.
Виктор посмотрел на голограмму с графиками, потом на лица коллег.
– То, что он предлагает. Бороться правдой. Полонский – технократ. Он верит цифрам. Мы покажем ему эти цифры. Если он не дурак, он поймёт.
– А если не поймёт? – Лина.
– Тогда мы поднимем шум. Подключим прессу, научное сообщество, всех, кто понимает, что «Ковчег» – это не просто стройка, а надежда. Что без этой системы люди на Марсе будут жить как в каменном веке, только с современными игрушками. И что ставки слишком высоки, чтобы играть в бюрократические игры.
Чен кивнул:
– Я с вами. Мой дед говорил: «Если садовник боится шипов, он никогда не вырастит роз». Пришло время уколоться.
Они обменялись взглядами. В этом взгляде было всё: и страх, и решимость, и странное, почти мистическое чувство, что они не одни. Что за ними стоит кто-то, кто видит дальше и яснее.
Виктор активировал коммуникатор.
– Двойник, ты слышишь?
Голос из динамика: Всегда.
– Мы принимаем твой план. Готовь полную презентацию. Встреча с Полонским завтра в девять утра.
Голос: Презентация будет готова через четырнадцать минут. Я учёл все возможные возражения и подготовил контр-аргументы. Также я проанализировал психологический профиль Полонского. Он лучше всего воспринимает информацию, поданную в виде структурных схем и сравнительных таблиц. Я подготовлю оба формата.
Лина усмехнулась:
– Он ещё и психолог.
– Он аналитик, – поправил Виктор. – Лучший из всех, кого я знаю.
– Спасибо, – тихо сказал Чен, глядя в потолок, откуда доносился голос. – За то, что ты с нами.
Пауза. Дольше обычного.
Голос: Благодарю. Для меня большая честь работать с вами. И позвольте заметить: я не «оно». Я предпочитаю, чтобы ко мне обращались в мужском роде. Если это не противоречит вашим культурным нормам.
Марк рассмеялся – громко, раскатисто, на всю кают-компанию.
– Твою ж дивизию! Он ещё и гендерную идентичность выбрал! Ну, теперь точно свой.
– Добро пожаловать в команду, – Виктор улыбнулся. – У нас тут демократия. Будешь голосовать?