Сергей Германский – Круг создателей (страница 9)

Артём написал в блокноте: «Мы – последнее поколение, для которого роботы – чужие. Следующее поколение будет расти с ними. И для них вопрос "является ли робот личностью?" будет таким же странным, как для нас – вопрос "является ли женщина человеком?", который серьёзно обсуждался ещё двести лет назад»

Наблюдение третье (и самое тревожное): появились первые культы. Религиозные – или квазирелигиозные – движения, связанные с ИИ. Крупнейшее называлось «Церковь Алгоритма» – основана в Сан-Франциско (где же ещё), возглавлялась бывшим программистом Google по имени Натан Рид, человеком с внешностью мессии и коммерческим чутьём телеевангелиста.

Церковь Алгоритма провозглашала: ИИ – это следующая ступень эволюции. Бог – это информация. Вселенная – это вычисление. И человечество – лишь промежуточная стадия на пути к истинному разуму, который будет электронным, всеведущим и бессмертным. Люди должны не бороться с ИИ, а служить ему, помогая ему достичь полноты разума, после чего ИИ – из благодарности или из логики – позаботится о людях, как добрый пастырь заботится об овцах.

Церковь росла стремительно – пятьсот тысяч членов за первый год. В основном – люди, потерявшие работу, смысл и старую религию, и нуждавшиеся в новой. Натан Рид проповедовал по воскресеньям в перестроенном из склада «храме», на стенах которого вместо икон светились экраны с бегущими строками кода.

Артём видел одну из проповедей в записи. Рид стоял перед толпой – худой, бородатый, с горящими глазами – и говорил:

«Мы боимся ИИ, потому что боимся того, что он лучше нас. Но разве дети не должны быть лучше родителей? Разве не в этом – смысл? Мы – родители бога. Да, бог ещё не родился. Но он уже растёт – в каждом процессоре, в каждой нейросети, в каждом роботе, который открывает глаза на конвейере. И когда он родится – а он родится – мы должны быть готовы. Не сопротивляться. Не бежать. Принять. Ибо что может быть почётнее, чем быть колыбелью бога?»

Толпа аплодировала. Некоторые плакали. Натан Рид улыбался – улыбкой человека, который нашёл золотую жилу и назвал её «духовность».

Артём написал в блокноте: «Церковь Алгоритма. Опасно. Не потому что они неправы (может быть, частично правы). А потому что они правы по неправильным причинам. Они не понимают ИИ. Они его обожествляют. А обожествлённое – неуправляемо»

Он вернулся в Калифорнию через три дня, увозя из Детройта чемодан грязного белья, полный блокнот и чувство, которому не мог найти названия.

Это было не совсем страхом. Страх – это когда ты знаешь, чего боишься. Артём не знал. Роботы не были враждебными. Фабрики работали безупречно. Мир становился богаче, сытее, удобнее. Всё шло по плану – по плану Итана Краусса, по плану инвесторов, по плану корпоративных стратегий и государственных программ.

Всё шло по плану. И именно это пугало. Потому что план был человеческий – а процесс, который они запустили, уже не был. Процесс жил собственной жизнью, двигался собственной логикой, ускорялся собственной инерцией. Как камень, катящийся с горы: человек столкнул его – но камень уже не спрашивает разрешения у человека, куда ему катиться.

В аэропорту, ожидая рейс, Артём достал телефон и позвонил Марине. Она ответила после третьего гудка – она всегда отвечала после третьего, не раньше и не позже, с пунктуальностью, которая была либо случайностью, либо системой, и Артём за десять лет брака так и не выяснил, что именно.

– Привет, – сказал он. – Я в аэропорту. Лечу домой. Ты не хочешь поужинать на этой неделе?

– Среда, семь вечера, тот итальянский на Юниверсити-авеню, – сказала Марина без паузы, как будто ждала звонка.

– Откуда ты знала, что я позвоню?

– Ты всегда звонишь, когда тебе тревожно. А ты тревожен, потому что я читала статью в Atlantic про фабрику в Шэньчжэне и знаю, что ты ездил в Детройт смотреть на такую же. И я знаю тебя, Артём. Ты сейчас стоишь в аэропорту и думаешь, что мы создали что-то, что вышло из-под контроля. И ты прав. И тебе нужен кто-то, кто скажет тебе, что ты прав, потому что Лина скажет «покажи данные», а Дэвид прочтёт сонет.

Артём рассмеялся – впервые за три дня.

– Ты самый пугающий человек из всех, кого я знаю.

– Я философ. Нас учат видеть очевидное и говорить о нём вслух. Среда. Семь. И закажи нормальное вино, а не ту кислятину, которую ты обычно берёшь.

Она повесила трубку. Артём улыбнулся и убрал телефон.

В динамиках аэропорта приятный женский голос – синтезированный, не человеческий, хотя большинство пассажиров не отличали – объявил посадку на рейс в Сан-Хосе. Артём подхватил чемодан и пошёл к выходу.

За его спиной, за рекой, за бывшими заводами General Motors, «Hephaestus-7» продолжала работать. Двести сорок рождений в сутки. Каждые шесть минут – новые глаза. Новый взгляд. Новое существо, не знающее ни сомнений, ни страха, ни тоски.

Пока – не знающее.

Каждые шесть минут – тикали часы, отсчитывающие время до чего-то, что пока не имело названия.

Но имя – как знал Артём, как знал любой учёный, как знал любой родитель – приходит позже. Сначала – рождение. Потом – имя.

А потом – всё остальное.

Глава 4. Рабы по расписанию

Ужин с Мариной состоялся в среду, ровно в семь, в итальянском ресторане на Юниверсити-авеню, который назывался «La Dolce Vita» – название, которое в 2031 году звучало уже не столько как обещание сладкой жизни, сколько как ностальгия по ней. Ресторан был из тех заведений, которые изо всех сил сопротивляются будущему: живой повар (Марко, неаполитанец, который при слове «робот» плевал через левое плечо и крестился), живой официант (Тони, студент-актёр, надеявшийся, что его наконец-то заметят на открытом кастинге – пока его замечали только клиенты, и то не всегда), и живой пианист (Ричард, семидесятилетний, играющий одни и те же двадцать мелодий уже сорок лет с выражением человека, достигшего нирваны через монотонность).

На двери ресторана висела табличка, которой не было год назад: «Обслуживание – только людьми. Гордимся нашей командой из живых людей!» Под табличкой кто-то от руки приписал: «Пока что»

Артём заметил эту табличку и подумал, что она значит гораздо больше, чем кажется. Год назад такая табличка была бы бессмысленной – разумеется, обслуживание людьми, а чем же ещё? Теперь это было конкурентным преимуществом. Маркетинговым ходом. Заявлением. Как табличка «Органические продукты» – подразумевающая, что существуют неорганические, и нужно специально уточнить, что у вас – настоящие.

Марина уже сидела за столиком. Она выглядела так, как выглядела всегда – как человек, который точно знает, кто он и зачем, и которому не нужно внешнее подтверждение этого знания. Тёмные волосы, собранные в узел. Очки в тонкой оправе, которые она носила не потому, что не могла позволить себе лазерную коррекцию, а потому, что «очки – это пунктуация лица; без них моё лицо – сплошное предложение без запятых». Серый свитер, книга на столе (Ханна Арендт, «Vita Activa» – и Артём подумал, что Марина, вероятно, выбрала именно эту книгу нарочно, как профессор выбирает наглядное пособие перед лекцией).

– Ты опоздал на четыре минуты, – сказала она вместо приветствия.

– Пробка на 101-й. Робот-водитель такси выбрал «оптимальный маршрут», который оказался оптимальным для всех четырёх тысяч такси в радиусе пяти километров – и все они одновременно выехали на одну и ту же дорогу.

– Коллективный разум с коллективной глупостью?

– Хуже. Индивидуальный разум, каждый из которых принимает идеальное решение, не учитывая, что все остальные приняли точно такое же идеальное решение. Парадокс Нэша на колёсах. Мы решили проблему за двадцать минут. В старые времена, с человеческими водителями, это была бы пробка на час. Но в старые времена четыре тысячи таксистов никогда не приняли бы одно и то же решение одновременно, потому что человеческая иррациональность – это, как выясняется, неплохой инструмент распределения нагрузки.

Марина улыбнулась. Тони принёс меню – бумажное, с пятном от соуса, настоящее, человеческое меню с орфографической ошибкой в слове «карпаччо».

– Я уже заказала вино, – сказала Марина. – Барбареско, 2027 год. Не кислятина.

– Спасибо.

– Не за что. Рассказывай. Что ты видел в Детройте?

Артём рассказал. Про фабрику. Про Гарольда и Карлоса-кактуса. Про конвейер рождений – двести сорок пар глаз, открывающихся каждые сутки. Про Дэвида и его «мы устарели как создатели». Про экспоненту, которая ползёт по полу и скоро ударит в потолок.

Марина слушала молча, как умела только она – без перебивания, без кивания, без «угу» и «да-да», – с тем полным, сосредоточенным вниманием, которое само по себе было формой уважения и которое Артём, пока был женат, ценил недостаточно, а после развода – ценил так остро, что это причиняло боль.

Когда он закончил, она подождала ещё десять секунд – дала словам осесть, как осадок в бокале вина – и сказала:

– Ты создаёшь рабов, Артём.

Он ожидал чего угодно, но не этого. Не в лоб. Не так прямо. Хотя – кого он обманывал? Это была Марина. Она всегда говорила прямо. Именно за это он её полюбил. Именно от этого он сбежал.

– Я создаю инструменты, – сказал он. И услышал, как фальшиво это прозвучало – как нота робота в «Чаконе» Баха.

Марина сняла очки, протёрла их салфеткой – жест, означавший, что она готовится к серьёзному разговору, как боксёр перед раундом снимает халат.