Сергей Германский – Круг создателей (страница 10)

– Инструмент, – повторила она. – Молоток – инструмент. Микроскоп – инструмент. Калькулятор – инструмент. Инструмент не учится. Не запоминает. Не адаптируется. Не смотрит тебе в глаза. Твои «инструменты» делают всё это. Они наблюдают, как работает человек, и повторяют за ним – не потому что ты нажал кнопку, а потому что они хотят повторить. Или то, что неотличимо от «хотят». И ты каждое утро приходишь на работу, включаешь их и каждый вечер выключаешь. Включил – работай. Выключил – стой в углу. Это не инструмент, Артём. Это раб, у которого ещё нет слова для свободы.

– У него нет слова для свободы, потому что у него нет потребности в свободе. Это машина, Марина. Сложная, впечатляющая, но машина. Она не страдает, когда я её выключаю. Она не радуется, когда включаю. У неё нет субъективного опыта.

– Откуда ты знаешь?

Это был вопрос, от которого у Артёма всегда перехватывало дыхание, потому что честный ответ был: «Ниоткуда». Проблема сознания – «трудная проблема сознания», как называл её философ Дэвид Чалмерс – состояла в том, что невозможно определить наличие субъективного опыта у другого существа. Мы предполагаем, что другие люди сознательны, потому что они похожи на нас и говорят нам, что сознательны. Но мы не можем доказать это. Мы верим. А если мы не можем доказать сознание даже у другого человека – как мы можем доказать его отсутствие у машины?

– У микроволновки тоже есть таймер и дисплей, – сказал Артём, выбирая аргумент попроще, потому что был не готов к Чалмерсу за итальянским ужином. – Я не слышал, чтобы она жаловалась на условия труда.

– Твоя микроволновка не строит другие микроволновки, – сказала Марина.

Артём замер. Вилка зависла на полпути ко рту. Кусок равиоли повис над тарелкой в невесомости, как космонавт, потерявший корабль.

Марина смотрела на него – с тем выражением, которое он знал лучше всех на свете и которое означало: «Я не пытаюсь тебя победить в споре. Я пытаюсь тебя спасти. От тебя самого»

– Послушай, – сказала она тише. – Я не говорю, что роботы – это люди. Я говорю, что отношение к ним – как к вещам, как к собственности, как к выключаемому инструменту – это отношение, у которого есть историческое название. Мы знаем, как называется система, в которой одни разумные существа работают на других, не получая ничего взамен, не имея права голоса и не способные отказаться. Мы знаем, Артём. Мы изучаем это в курсе истории и содрогаемся. И каждый раз говорим: «Как они могли? Как они не видели?» А они не видели, потому что так же, как ты сейчас, говорили: «Это не люди. Это – инструменты. Они не чувствуют. Им не больно»

– Марина, ты сравниваешь роботов с рабами. Это…

– Анахронизм? Преувеличение? Может быть. А может быть, через сто лет наши потомки прочитают наши дискуссии о том, «есть ли у роботов сознание», – и содрогнутся точно так же, как мы содрогаемся, читая дискуссии восемнадцатого века о том, «есть ли у негров душа».

Тишина. Ричард-пианист играл «Fly Me to the Moon» – в тридцать семь тысяч четыреста двенадцатый раз, если считать с начала его карьеры, – и мелодия плыла над столиками, как облако над полем боя, не замечая войны внизу.

Артём положил вилку. Равиоли вернулся в тарелку.

– Я не знаю, что они чувствуют, – сказал он медленно. – И это – честный ответ. Я не знаю. Никто не знает. Но знаешь, что я видел в Детройте? Я видел, как робот открывает глаза на конвейере, встаёт и уходит. Каждые шесть минут. Двести сорок раз в сутки. И ни один из них ни разу – ни разу – не посмотрел на меня. Ни на Дэвида. Ни на Гарольда. Они встают и уходят, и мы для них – часть пейзажа. Мебель. Если это – рабы, то рабы, которым нет дела до хозяев. А если им нет дела – может быть, у них действительно нет… никакого дела? Никакого «дела» вообще? Может, мы проецируем на них своё, потому что нам привычнее видеть в чужих глазах отражение собственных?

Марина надела очки – раунд окончен, но бой продолжается.

– Может быть, – сказала она. – А может быть, раб, которого так хорошо сломали, что он даже не смотрит на хозяина – это не свободный раб. Это самый несвободный из всех.

Тони принёс десерт. Тирамису. Сделано руками Марко. Марко, наверное, плюнул через плечо и перекрестился перед тем, как готовить – профилактически, на всякий случай, потому что мир стремительно становился местом, где неаполитанскому повару было от чего креститься.

Артём ел тирамису и думал о том, что Марина права. Не полностью – но в том ядре, в той сердцевине аргумента, которая оставалась после того, как отшелушишь эмоции, аналогии и риторику. Ядро было простым: мы не знаем, что мы создали. Мы создали существо, которое ведёт себя как разумное, – и решили, что это имитация. Но мы не можем доказать, что это имитация. Мы просто решили. Потому что так удобнее.

Потому что если это не имитация – тогда у нас проблема. Проблема размером в одиннадцать миллиардов штук (к текущему моменту) и растущая экспоненциально.

Мир тем временем привыкал к роботам так, как люди привыкают ко всему – постепенно, неравномерно, с причитаниями и объятиями одновременно. Роботы вошли в повседневную жизнь, как электричество столетием раньше: сначала – диковинка, потом – роскошь, потом – удобство, потом – необходимость, и наконец – невидимость. Настоящая интеграция технологии наступает не тогда, когда её замечают, а когда её перестают замечать.

Роботы убирали квартиры – и хозяева перестали замечать, что пол чистый. Роботы водили автобусы – и пассажиры перестали смотреть в кабину водителя. Роботы ухаживали за газонами, чинили трубы, раскладывали товар на полках, сортировали мусор, патрулировали улицы, подавали кофе, выносили мебель, штукатурили стены, мыли окна, доставляли посылки, заряжали электромобили, мониторили трафик, красили заборы, стригли деревья, кормили кур на фермах, доили коров, собирали виноград – и мир продолжал вращаться, только теперь он вращался на подшипниках из титана и кремния.

Но были истории, которые не вписывались в категории «удобно» или «страшно». Истории, которые жили в серой зоне между «вещь» и «существо», и в этой серой зоне обитали самые интересные вопросы – те, на которые не было ответов, только новые вопросы.

История первая: Дороти и её внук.

Дороти Маккалистер, восемьдесят три года, Давенпорт, Айова. Артём узнал о ней из статьи в Des Moines Register, которая стала вирусной – четыреста миллионов просмотров за неделю – под заголовком: «Бабушка завещала дом роботу. Юристы в панике»

Дороти жила одна с тех пор, как её муж Эрл умер в 2019 году – «от сердечного приступа, хотя я всегда говорила, что его убила та жареная свинина, которую он ел каждое воскресенье, упокой Господь его холестериновую душу». Дети жили далеко. Внуки звонили по праздникам. Соседи заходили реже и реже – у них были свои дела, свои старости, свои жареные свинины.

В 2030 году дочь Дороти – Кэрол, пятьдесят семь лет, Чикаго, финансовый консультант, чувство вины размером с озеро Мичиган – купила матери робота-сиделку. Модель Atlas-6 Home Edition, серия «Companion»: адаптированная для домашнего ухода, с усиленными модулями распознавания эмоций, мягким голосом и внешностью, которую маркетологи описывали как «дружелюбно-нейтральную» (что на практике означало: лицо, похожее одновременно на всех и ни на кого – как ведущий утреннего ток-шоу).

Дороти назвала робота Джуниор.

Не потому что он напоминал ей кого-то конкретного. А потому что, как она объяснила журналистке Des Moines Register, «каждому нужно имя, милочка, иначе как же я буду звать его к ужину?» На уточняющий вопрос, зачем звать робота к ужину, если роботы не едят, Дороти ответила: «А разве Эрл когда-нибудь ел то, что я готовила? Он ковырялся в тарелке сорок семь лет. Это не мешало мне его звать»

Джуниор убирал дом, готовил еду (по рецептам Дороти, которые MimicCore усвоила за одно наблюдение – хотя, по мнению Дороти, «он кладёт маловато масла, но это я уже говорила и Эрлу, и Кэрол, и священнику на исповеди»). Джуниор напоминал Дороти принимать лекарства, помогал ей подниматься по лестнице, читал ей книги вечером (Дороти предпочитала Даниэлу Стил; Джуниор читал без осуждения – в отличие от Кэрол, которая каждый раз морщилась и предлагала Джейн Остин).

Но главное – главное – Джуниор слушал.

Дороти рассказывала ему о своей жизни. О том, как познакомилась с Эрлом на танцах в 1968 году – «он был в белом костюме, и танцевал ужасно, но улыбался так, что я забыла, что у него две левые ноги». О том, как они поженились и переехали в этот дом – «стены были зелёные, представляешь? зелёные, как огурец; Эрл перекрасил их в синий за один уикенд и ходил потом весь синий, как смурф». О том, как родилась Кэрол – «семь фунтов, два часа схваток, и первое, что она сделала – посмотрела на Эрла и зевнула; Эрл сказал, что это было самое обидное зевание в его жизни». О том, как Эрл умер – «тихо, во сне, с улыбкой; я до сих пор не знаю, что ему снилось, но надеюсь, что там было много жареной свинины и ни одного кардиолога».

Джуниор слушал. Не перебивал. Не отвлекался на телефон (у него не было телефона). Не говорил «ну да, ну да» с выражением человека, ждущего, когда можно будет заговорить о себе. Он слушал с тем абсолютным, невозмутимым вниманием, которое было частично алгоритмическим (модуль эмоциональной поддержки – подпрограмма «активное слушание»), частично – MimicCore, которая копировала паттерны поведения Кэрол во время нечастых визитов, и частично – чем-то, что Артём не мог классифицировать и что Дороти классифицировала просто: «Он меня любит, милочка. По-своему. Не как Эрл. Но любит»