Сергей Галактионов – Цифровое кладбище (страница 4)

«Не оставляй меня здесь одного».

Карен Мёрфи позвонила в скорую в четыре утра. Она не могла объяснить диспетчеру, что именно с ней случилось. Она повторяла одно и то же:

«Он был здесь. Он был в комнате. Не на экране — в комнате».

Это был третий подобный вызов за неделю в районе залива.

Никто ещё не начал считать.

Глава 3. Призраки в машинах

Доктор Ричард Чой не любил вечерние совещания. Он любил утренние — когда мысли ещё чисты, когда кофе горяч, когда мир ещё не успел разрушить тщательно выстроенный порядок дня. Но Уорд назначил это собрание на семь вечера, и Чой пришёл. Он всегда приходил.

Шестьдесят два года, седой, сухой, с прямой спиной военного образца — хотя в армии никогда не служил. Доктор философии в области когнитивных наук, доктор медицины в области нейропсихиатрии, один из четырёх основателей «Нейро-Системс» и единственный из четырёх, кто до сих пор приходил в офис каждый день. Уорд называл его «совестью компании» — с той полуиронической интонацией, которой пользуются, когда хотят похвалить человека и одновременно дать понять, что его время прошло.

Чой принёс на совещание тонкую папку с распечатками. Бумажными — не потому, что не доверял цифровым носителям, а потому что хотел видеть лица людей, читающих документ, а не их затылки за экранами планшетов.

В переговорной собрались семеро: Уорд, Кросс, начальник службы безопасности по фамилии Беннетт, два юриста, начальник отдела разработки — человек по имени Хендерсон, которого Чой не уважал, — и Алиса. Алиса пришла последней, с папкой под мышкой, и села напротив Чоя. Они переглянулись. Чой не знал её хорошо, но знал достаточно, чтобы заметить: сегодня у неё было то самое выражение лица, которое он сам видел в зеркале последние несколько недель.

— Начнём, — сказал Уорд. — Ричард, у вас был запрос на это совещание. Слушаем.

Чой открыл папку.

— За последние шесть недель в Северной Калифорнии зафиксировано сорок три случая обращения в скорую помощь, связанных с пользователями системы «Эхо». Четырнадцать случаев — острые психотические эпизоды. Девять — попытки суицида. Двадцать — то, что в психиатрии называется «диссоциативными состояниями неясной этиологии». Шесть пациентов госпитализированы в психиатрические клиники. Двое умерли — оба от остановки сердца, оба моложе сорока пяти, оба без анамнеза кардиологических заболеваний.

В переговорной стало тихо.

— Сорок три случая на сколько активных пользователей? — спросил Кросс.

— На двенадцать тысяч сто.

— Меньше половины процента.

— Это не статистическая погрешность, Дэниел. Это паттерн. Все случаи объединяет одно: пациенты сообщают о слуховых галлюцинациях с участием голоса умершего родственника. Многие — о визуальных галлюцинациях. Некоторые — о тактильных.

— Ричард, — сказал Уорд мягко, — вы сами понимаете, что говорите. Люди, потерявшие близких, испытывают горе. Горе вызывает психосоматические реакции. Это известно столетиями. Корреляция не означает причинно-следственной связи.

— Совершенно верно, — кивнул Чой. — Поэтому я попросил независимую группу проанализировать контрольную выборку. Тысяча двести человек, потерявших близких за последний год и не использовавших «Эхо». Угадайте, сколько случаев острых психотических эпизодов и суицидальных попыток?

Пауза.

— Сколько? — спросил Уорд.

— Три.

Кросс открыл рот, чтобы что-то сказать, и закрыл.

— У пользователей «Эхо» частота психиатрических инцидентов выше базовой нормы примерно в восемнадцать раз, — сказал Чой. — Я повторяю: в восемнадцать раз. Это не корреляция. Это эпидемия.

Хендерсон откашлялся.

— При всём уважении, доктор Чой, — сказал он, — вы говорите о выборке в двенадцать тысяч человек. У нас триста двенадцать миллионов предзаказов. Вы предлагаете задержать запуск на основании сорока трёх случаев?

— Я предлагаю остановить запуск.

Слово упало в комнату как камень в воду. Уорд медленно положил руки на стол.

— Ричард, — сказал он, и голос его был всё ещё мягким, но теперь это была другая мягкость, — мы вас слушаем. Но давайте говорить о том, что технически возможно, а не о том, что технически катастрофично.

— Технически катастрофично — выпустить непротестированный продукт двумстам миллионам пользователей, — сказал Чой. — Особенно если есть основания полагать, что продукт активно вредит части из них.

— Какие основания?

Чой посмотрел на Алису.

Это был незапланированный взгляд. Они не сговаривались заранее. Чой знал её только как старшего разработчика, иногда возражавшего на советах. Но в её лице — в том, как она держалась, в том, как смотрела на свои руки, сложенные на папке, — он узнал то самое, что узнавал в себе.

Он узнал страх.

— Алиса, — сказал он, — у вас, насколько я знаю, есть некоторые наблюдения по логам.

Она подняла голову. Все в комнате посмотрели на неё.

Несколько секунд она молчала. Чой видел, как она принимает решение — быстро, как привыкли принимать решения люди её склада. Потом она открыла свою папку.

— Да, — сказала она. — Есть.

И начала рассказывать. Об аномалиях в пассивном слое. О сигналах со структурой речи — там, где никаких сигналов быть не должно. О паузах в Инкорпорациях, во время которых модель генерировала фразы, которых не было в исходных данных. О спектральных паттернах, которые, чем дольше она с ними работала, тем больше напоминали ей не сбои, а что-то иное.

— Что именно? — спросил Уорд.

Алиса посмотрела на него.

— Я не знаю, как это назвать профессионально, — сказала она. — Но это похоже на то, что в пассивном слое идёт собственная активность. Не запрограммированная. Не инициированная пользователями. Не предусмотренная архитектурой.

— Сбой, — сказал Хендерсон. — Это сбой.

— Сбои не имеют структуры речи.

— Алгоритмические артефакты могут давать паттерны, имитирующие структуру.

— Не такие, — сказала Алиса. — Я смотрела все возможные источники артефактов. Это не они.

— Тогда что?

Она помолчала.

— Я не знаю.

Уорд откинулся в кресле. Потом наклонился вперёд.

— Хорошо, — сказал он. — Хорошо. Давайте сделаем так. Алиса, вы вместе с командой Хендерсона проведёте углублённый аудит пассивного слоя. Срок — две недели. Если найдёте подтверждение того, что аномалии имеют системный характер и представляют риск — будем обсуждать перенос запуска. Ричард, ваши данные о психиатрических инцидентах мы передадим в медицинский отдел. Они проведут независимую экспертизу. Никто здесь не игнорирует ваши опасения. Но мы и не собираемся принимать решений на эмоциях. Согласны?

— Нет, — сказал Чой.

— Простите?

— Я не согласен. Двух недель у вас нет. У вас есть, возможно, недели три-четыре, прежде чем эти случаи начнут попадать в прессу. Когда это случится, перенос запуска будет наименьшей из ваших проблем.

Уорд улыбнулся.

— Спасибо за прогноз, Ричард. Мы его учтём.

Совещание закончилось.

В коридоре, пока остальные расходились, Чой задержал Алису.

— Спасибо, — сказал он тихо.

— Не за что.

— Есть. Большинство в вашем положении промолчали бы.

Она посмотрела на него — внимательно, как будто оценивая, сколько может ему сказать.

— Доктор Чой, — спросила она, — вы знаете, где Пак Чжи-хун?

Чой нахмурился.