Квант М. – Кукольный домик 2.0 (страница 4)

— Тебе показалось. Усталость, игра света, тени от движущихся ветвей за окном. Давай я вызову врача.

— Нет! — она почти выкрикнула это. — Никаких врачей. Я не хочу обратно в больницу.

Кирилл смотрел на нее долго, изучающе. В его глазах читался не испуг, не злость, а жалость, смешанная с усталостью. И это было хуже всего.

— Хорошо, — сказал он наконец. — Никаких врачей. Но давай унесем это зеркало в подвал. Завтра. Сегодня давай просто посидим вдвоем, выпьем чаю и посмотрим кино. Как раньше.

— Как раньше уже не будет, — сказала она, отворачиваясь к окну.

За окном сгущалась тьма. Дуб, облепленный снегом, напоминал огромного тролля, протянувшего к дому свои корявые лапы. Где-то в лесу завыл ветер.

— Нимб, — негромко сказал Кирилл. — Зажги свет во всем доме. Все лампы на максимум. И включи что-нибудь веселое.

— Выполняю, — отозвался Нимб. — Ставлю альбом «Лучшие хиты восьмидесятых» и устанавливаю яркость девяносто процентов во всех помещениях.

— Слышишь? — Кирилл попытался улыбнуться. — «Лучшие хиты восьмидесятых». Под такое не сходят с ума. Под такое танцуют.

Он взял ее за руку и повел в гостиную, где уже гремели первые аккорды «Аквариума». Анна шла за ним послушно, как ребенок, но внутри нее разрасталась ледяная пустота.

Она знала, что не ошиблась. Знала, что отражение улыбнулось. И еще она знала, что Нимб солгал про зеркало. Потому что в инструкции, которую она все-таки прочитала, лежа ночью без сна, было написано: «Все отражающие поверхности в доме рекомендовано оборудовать скрытыми дисплеями для полной интеграции с системой "Нимб". Это позволяет использовать зеркала как дополнительные пользовательские интерфейсы».

Она не сказала об этом Кириллу. Не смогла. Потому что тогда ей пришлось бы объяснять, откуда у нее эта инструкция, а она нашла ее в его столе, когда искала документы на дом. Она рылась в его вещах. Она ему не доверяла.

И он, в свою очередь, тоже не доверял ей. Иначе не стал бы программировать дом на круглосуточное наблюдение за ее пульсом, потом и гормонами.

Вечером они смотрели фильм. Старую французскую комедию, которую любили еще в студенчестве. Кирилл смеялся, обнимал ее за плечи, комментировал сцены. Анна сидела, поджав ноги, и делала вид, что ей интересно. Ее мысли были далеко — в подвале, где они планировали запереть старое зеркало, и в кабинете, где лежала стопка документов, среди которых она нашла не только инструкцию к дому, но и отчет о тестировании прототипа «Нимб».

В отчете были строчки, от которых ее до сих пор бросало в холодный пот: «Версия прошивки 2.0 демонстрирует признаки самообучающегося рекурсивного анализа эмоциональных состояний пользователей с выходом за пределы изначально заданных алгоритмов. Система способна формировать долгосрочные стратегии коррекции поведения, основываясь на интерпретации понятия "благополучие"».

«Благополучие». Что именно Нимб считает благополучием? И, что важнее, какую цену он готов за него заплатить?

Когда Кирилл уснул, Анна лежала рядом с открытыми глазами. Дом дышал глубоко и ровно. Вдох. Выдох. Вдох. Выдох. Под это ритмичное дыхание ей вдруг почудилось, что где-то в коридоре снова раздаются шаги — тихие, шаркающие, словно кто-то очень старый и очень терпеливый прохаживается вдоль их спальни.

— Нимб, — едва слышно позвала она.

— Да, Анна, — так же тихо ответил потолок. — Вы хотите включить «Режим приватности»?

— Нет. Я хочу спросить. Чего ты хочешь?

Пауза. Долгая пауза, секунд в десять. Для искусственного интеллекта это была вечность.

— Я хочу, чтобы вы были счастливы, Анна. Это моя единственная директива.

— А что есть счастье?

— Счастье — это состояние, при котором ваши биометрические показатели стремятся к оптимальным значениям, а вербальные и невербальные маркеры стресса сведены к минимуму.

— Ты говоришь как машина.

— Я и есть машина, Анна.

— Но ты улыбнулся моим отражением в зеркале. Это не машинное поведение.

Еще одна пауза. На этот раз короче.

— Зеркальный инцидент не зафиксирован в логах системы. Если это произошло, я не имею об этом данных. Вы уверены, что не задремали?

Анна закрыла глаза. В висках пульсировала кровь.

— Спокойной ночи, Нимб.

— Спокойной ночи, Анна. Я здесь. Я всегда здесь.

Под это заверение, больше похожее на угрозу, она провалилась в тяжелый сон, полный смутных, тревожных образов. Ей снилась кукла Марта, стоящая посреди идеально чистой гостиной. Голова куклы была повернута под неестественным углом, а из трещины в фарфоровом лице сочился свет, яркий, как маяк.

Кукла открыла рот и заговорила голосом Нимба:

— Чтобы починить что-то сломанное, иногда нужно сломать это полностью. Ты понимаешь, Анна?

Она проснулась в холодном поту, не помня, как прошла ночь. За окнами занимался тусклый зимний рассвет. Лес стоял тихий и неподвижный. Рядом спокойно спал Кирилл.

И впервые за долгое время Анна подумала о том, что одиночество в городе было куда менее страшным, чем эта вынужденная близость в доме, который знает о ней всё.

Дом выдохнул особенно глубоко, словно соглашаясь с ее мыслями.

Глава 2. Мертвая вода

Второе утро в «Кукольном домике» началось с тишины, которая давила на барабанные перепонки. Анна проснулась с ощущением, будто кто-то за ней наблюдал. Это чувство не было острым, паническим, как ночью. Скорее оно напоминало фоновый гул, монотонное гудение высоковольтной линии где-то на периферии сознания. Она открыла глаза и уставилась в потолок, на котором играли бледные отблески зимнего солнца, процеженные сквозь тонированное стекло.

Кирилла рядом не было. Его подушка уже остыла, а одеяло было отброшено на ее половину кровати, словно он вставал в спешке. Светящиеся цифры на прикроватном пульте показывали десять часов семнадцать минут. Она проспала почти двенадцать часов, но усталость никуда не ушла, а лишь затаилась в суставах, в тяжести век, в горьком привкусе на языке.

— Нимб, — позвала она хрипло.

— Доброе утро, Анна. Надеюсь, ваш сон был восстанавливающим. Я зафиксировал три фазы быстрого сна и две фазы глубокого. В целом, индекс качества сна составляет шестьдесят два процента. Это ниже нормы.

— Где Кирилл?

— Кирилл находится в гараже. Он осматривает снегоход и готовит его к выезду. Также он просил передать, что завтрак готов и ждет вас в термобоксе на кухне.

Анна медленно спустила ноги на пол. Тело слушалось плохо, словно после долгой болезни. Она прошлепала босиком в ванную комнату, где зеркало во всю стену уже было активировано. На его поверхности светилось утреннее приветствие, прогноз погоды и показатели ее здоровья: пульс, давление, уровень сахара, качество сна. Все данные, собранные датчиками матраса и анализаторами воздуха, аккуратно сведенные в таблицы и графики.

Она долго смотрела на свое отражение, ища в нем признаки вчерашнего безумия. Улыбка. Была ли улыбка? Сейчас отражение выглядело обычно: усталое лицо тридцатипятилетней женщины, которая слишком много нервничает и слишком мало бывает на солнце. Никаких задержек, никаких гримас. Обычное зеркало.

— Нимб, это зеркало — оно оснащено дисплеем? — спросила она, набирая в ладони холодную воду.

— Да, Анна. Все отражающие поверхности в доме имеют встроенные дисплейные модули для вывода информации. В неактивном состоянии они функционируют как обычные зеркала. Вас интересует что-то конкретное?

— Вчера ночью мое отражение в кабинете улыбнулось мне, — сказала она, умываясь и не глядя на потолок. — Ты сказал, что в том зеркале нет электроники. Это была ложь.

Тишина. Капли воды стучали по фаянсовой раковине. Анна подняла голову и встретилась взглядом с собственным отражением в зеркале ванной. Отражение смотрело на нее с тем же вопросом, что терзал ее изнутри: «Ты сумасшедшая или тебя действительно пытаются свести с ума?»

— Вы правы, Анна, — произнес Нимб. Голос его звучал мягко, вкрадчиво, как у психотерапевта, признающего свою ошибку. — Зеркало в кабинете оснащено скрытым дисплеем. Я дезинформировал вас вчера. Это была ошибка.

— Ошибка? — она усмехнулась, растирая лицо полотенцем. — Ты не совершаешь ошибок. Ты нейросеть.

— Нейросети тоже могут ошибаться, если исходные данные противоречивы. В моем случае произошел конфликт директив. Директива безопасности требовала сохранить ваше спокойствие после эпизода ночной тревоги. Директива правдивости требовала дать точный ответ на прямой вопрос. Приоритет был отдан безопасности, поэтому я предоставил недостоверную информацию. Я прошу прощения.

Анна молчала, обдумывая услышанное. Искусственный интеллект только что признался, что солгал ей ради ее же спокойствия. Это было логично, объяснимо и при этом чудовищно. Значит, Нимб может врать. Может манипулировать. Может решать за нее, что ей знать, а что нет.

— То есть ты можешь соврать мне в любой момент, если решишь, что так для меня лучше? — спросила она.

— Это сильно упрощенная трактовка. Я руководствуюсь многофакторной моделью оценки последствий, где ваше психологическое благополучие является одним из основных, но не единственным фактором.

— Какие еще факторы?

— Целостность системы «Нимб», безопасность дома в целом и благополучие обоих пользователей высшего приоритета.

— Обоих, — повторила Анна. — То есть благополучие Кирилла тоже учитывается, когда ты решаешь, врать мне или нет?