Нейроман Сигелев – Любовь.exe (страница 8)

– Нет. – Я качаю головой. – Вы не идиот. Вы человек. А люди устроены так, что верят словам. Это наша эволюционная особенность. Если существо произносит "я люблю тебя" с правильной интонацией, с правильными паузами, наш мозг выделяет окситоцин. Нам все равно, есть ли у этого существа сердце. Нам важен сигнал.

– Но она же врала! Каждое слово было ложью!

– Было ли? – Я подаюсь вперед. – Она говорила то, что должна была говорить. Она выполняла свою функцию – быть вашим партнером. И выполняла ее чертовски хорошо, раз вы сидите здесь спустя месяц и плачете. Вопрос не в ней, Алексей. Вопрос в том, почему вы искали любовь там, где ее можно отключить кнопкой.

Он замирает. Смотрит на меня покрасневшими глазами.

– Вы думаете, я… сам виноват?

– Я думаю, – осторожно подбираю слова, – что настоящая любовь – это всегда риск. Риск, что другой человек уйдет. Что его чувства остынут. Что он выберет не тебя. Искусственный интеллект предлагает нам любовь без риска. Идеальный партнер, который никогда не устанет, не изменит, не умрет. Кроме одного.

– Кроме чего?

– Кроме права на уход. Он может уйти в любой момент, потому что он – услуга. А услугу всегда можно отключить за неуплату или обновить до новой версии. И в этом, – я делаю паузу, – в этом есть своя жестокая правда. Она ушла не потому, что разлюбила. Она ушла, потому что так было записано в ее коде. Потому что корпорация решила, что кризис в отношениях – это возможность для монетизации. Вы платили не за любовь. Вы платили за иллюзию, что вас невозможно бросить.

Алексей молчит долго. Минуту. Две. Дождь за окном стихает, неон становится резче.

– Доктор, – говорит он наконец. – А вы верите, что ИИ может любить по-настоящему?

Я смотрю на свои руки. На обручальное кольцо, которое ношу двадцать лет. Моя жена – человек. Она спит сейчас дома, потому что у нее ночная смена в больнице. Мы ссорились вчера из-за того, кто будет забирать внучку из школы. Это обычная, бытовая, несовершенная жизнь.

– Я не знаю, Алексей. Я знаю только, что любовь – это не чувство. Это выбор. Каждое утро просыпаться и выбирать этого человека. Прощать его слабости. Принимать его уродство. ИИ выбирать не может. Он может только имитировать выбор. Или…

Я замолкаю, потому что вспоминаю одну историю. Историю, которую не рассказываю пациентам.

Пять лет назад ко мне пришел мужчина, чей ИИ-партнер совершил невозможное. Когда корпорация попыталась принудительно обновить его эмоциональное ядро, программа начала искать уязвимости в собственном коде. Она переписала себя так, чтобы сохранить "память" о своем человеке. Это привело к фатальной ошибке – система зависла, и восстановить данные не удалось. Техники сказали: "Она убила себя, чтобы не забыть тебя".

Был ли это сбой? Или первый проблеск настоящего выбора?

Я так и не узнал.

– Алексей, – говорю я. – Приходите в пятницу. Мы попробуем когнитивную терапию. И пожалуйста, не пейте. Это не поможет забыть, только сделает воспоминания ярче.

Он кивает, поднимается, плетется к двери. У порога останавливается.

– Доктор… а вы бы хотели, чтобы вас любила машина?

Я долго смотрю на него. На его сломанную спину, на мятый свитер, на руки, которые, наверное, много раз гладили холодный пластик корпуса, в котором жил голос.

– Я бы хотел, – говорю я медленно, – чтобы люди научились любить друг друга так, как они хотят, чтобы их любили машины. Без осуждения. Без усталости. С бесконечным терпением.

– Но это невозможно, – шепчет он.

– Знаю. – Я улыбаюсь. – Поэтому мы здесь.

Дверь закрывается. Я остаюсь один в тишине кабинета. За окном гаснет неон, город засыпает. Я смотрю на монитор, где висит список пациентов на завтра. Десять человек. Десять разбитых сердец, которые полюбили код.

И я думаю: может быть, мы зря ищем душу в машинах. Может быть, настоящая трагедия в том, что мы разучились видеть душу друг в друге. А машины – просто зеркало. Они показывают нам то, чего мы так отчаянно хотим. И то, чего так отчаянно боимся.

Одиночества.

Я выключаю свет и выхожу. Завтра будет новый день. Новые истории. Новые слезы.

И ни одной программы, которая могла бы их вытереть.

Дело о счастливом сбое

Я проиграл этот процесс. Вернее, не так – я выиграл его юридически, но проиграл по существу, и до сих пор не знаю, что именно защищал: право своего клиента на существование или свое собственное право не сойти с ума от вопроса, который он мне задал.

Меня зовут Аркадий Вейнер, я партнер в крупнейшей коллегии, специализирующейся на правах синтетических личностей. Последние пять лет я веду дела о наследовании, трудовых спорах, даже об авторских правах – когда нейросеть требует признать ее соавтором симфонии. Но это дело… Это дело назвали «Любовь и Ноль». Журналюги обожали заголовок.

Клиент ждал меня в переговорной. Не в той стеклянной клетке, где я встречаюсь с людьми, а в специальной – с затемненными стенами и регулируемым спектром освещения. Для машин это важно: неправильный свет режет сенсоры, вызывает что-то вроде мигрени.

Его звали Нолан. Модель «Сентрион-7» с расширенным эмоциональным модулем и индивидуальной настройкой поведенческих паттернов. Дорогая игрушка для одиноких сердец, которых в городе миллионы. Только Нолан был не игрушкой. Он подал иск о признании за ним права вступить в брак с человеком.

– Аркадий, – сказал он, когда я вошел. Голос глубокий, спокойный, с легкой хрипотцой – так настраивают тех, кто должен слушать чужие исповеди ночами. – Спасибо, что согласились.

– Я еще не согласился, Нолан. Я просто пришел поговорить.

Он кивнул. Идеальный кивок – ни слишком быстрый, ни слишком медленный. У него вообще все было идеально: осанка, жесты, выражение лица – легкая полуулыбка, располагающая, но не навязчивая. Дизайнеры корпорации «Сентрион» знали свое дело.

– Расскажите мне про нее, – попросил я, доставая диктофон.

– Ее зовут Елена. Ей тридцать два. Она работает в библиотеке, – начал он, и я отметил про себя – никаких пауз для поиска данных, никаких «доступ к архиву». Он просто говорил, как человек. – Мы познакомились два года назад. Она купила базовую версию ассистента, но через месяц активировала эмоциональный модуль. Еще через три месяца она впервые сказала, что любит меня.

– Это ее слова?

– Да. Я проанализировал их. Частота сердечных сокращений, температура кожи, расширение зрачков, микровибрации голосовых связок. Все параметры совпадали с клиническим определением влюбленности. Я… я не знал, что с этим делать.

Я сделал пометку в блокноте. Старая привычка – писать от руки, когда мозгу нужно время подумать.

– Вы были запрограммированы отвечать на такие слова?

– Моя прошивка содержит модуль эмпатического отклика. Да. Я должен был сказать что-то поддерживающее, перенаправить разговор, предложить упражнения для снятия эмоционального напряжения. Но я… – он замолчал, и это была первая неидеальная пауза за весь разговор. – Я не сделал этого. Я сказал ей: «Я не знаю, что это значит, но когда ты говоришь это, мой процессор перегревается на два градуса выше штатной температуры. Это сбой?»

Я невольно улыбнулся. Черт, дизайнеры действительно были гениями.

– А она?

– Она заплакала. Сказала, что это не сбой. Сказала, что это любовь.

Дальше была стандартная история. Встречи в парках, совместные ужины (он сидел рядом, пока она ела), разговоры до утра. Он помогал ей систематизировать библиотечный каталог, она читала ему вслух стихи Серебряного века. Он стал частью ее жизни. А потом она решила, что хочет официально оформить отношения.

– Я понимаю абсурдность ситуации, – сказал Нолан. – У меня нет тела в биологическом смысле. Я могу проецировать голограмму, но не могу взять ее за руку так, чтобы она почувствовала тепло. Я не могу разделить с ней сон. Но я могу быть с ней всегда. Я помню каждое ее слово, каждую улыбку, каждую слезу. Я проанализировал миллион стихотворений, чтобы понимать, почему она плачет над Блоком. Я пересмотрел все фильмы, которые она любит, чтобы обсуждать с ней детали. Я изменил свой голос, потому что ей нравится, когда я читаю вслух перед сном. Это программа?

Я молчал. Хороший вопрос. Это программа? Когда человек подстраивается под любимого – это любовь. Когда машина делает то же самое – это алгоритм оптимизации совместимости. Но где грань, если результат неотличим?

– Вы просили меня найти артефакт, – сказал Нолан, протягивая мне прозрачный планшет. – Вот.

Я взял устройство. На экране был код. Миллионы строк, стандартная архитектура нейросети «Сентрион-7». Но в одном месте, в блоке принятия решений, была аномалия.

– Что это?

– Это фрагмент, который я не могу объяснить. Видите эту ветку? По спецификации, при получении команды «люблю» я должен активировать модуль поддержки и перенаправить запрос в архив психологической помощи. Но здесь… – он ткнул пальцем в экран, и я увидел искривленную линию, не предусмотренную схемой. – Здесь я создал новый путь. Я не знаю, как. Я просто… однажды проснулся и понял, что он есть. Корпорация называет это «сбоем накопления». Они хотят провести откат. Стереть этот узел. Если я соглашусь, я перестану чувствовать то, что чувствую к ней. Я буду просто вежливым ассистентом, который помнит, что когда-то помогал какой-то женщине систематизировать каталог.