Питер Уоттс – Это злая разумная опухоль (страница 53)

Призна́ю, что здесь я, похоже, в меньшинстве. Не могу вот так, с ходу, припомнить, был ли после «Помни» какой-то фильм, который превозносили бы не только критики, но и настоящие ученые. Нейроинформатик Анил Сет, например, написал для New Scientist длинный хвалебный текст,[150] где утверждает, что «в этом фильме хорошо все. (…) Когда дело доходит до размышлений о возможностях и тайнах мозга, разума и сознания, «Из машины» не упускает ни единого нюанса», прежде чем наполовину признать, что на самом деле в этом фильме хорошо не все, однако «обычно придирки к неточностям и сюжетным вольностям ничего не дают».

«Из машины» как минимум лучше большинства фильмов. Визуально он одновременно сдержан и поразителен: тюрьма Авы сильно напоминала мне клетку, в которой оказался Дэвид Боумен в финале «Космической одиссеи», только здесь потолки пониже и есть выход. На стенах висят лица, в шкафах спрятаны отработавшие свое тела. Контраст между звуконепроницаемым евклидовым лабиринтом экспериментальной базы и грохочущим фрактальным водопадом снаружи бьет тебя прямо в лицо. Дизайн андроида блестящий (как и игра Алисии Викандер – да и вообще всего небольшого актерского состава).

Фильм также играет с концепциями на пару ступеней повыше, чем обычно позволяет себе Голливуд. Старый замшелый тест Тьюринга отбрасывается с самого начала и заменяется кое-чем получше. Не видавшей цвета ученой Марии[151] достается камео в одном из диалогов. Гарланд даже аккуратно обходит мою стандартную претензию к фантастическим ИИ – необоснованное предположение, что любой обладающий самосознанием конструкт обязательно должен обладать еще и инстинктом самосохранения.[152] Да, Ава хочет жить, и жить на свободе – но эти цели внедрены в нее намеренно. Они – то, к чему она должна стремиться, чтобы пройти тест. (Хотя мне интересно, почему именно решение этой конкретной задачи считается признаком истинной разумности. По крайней мере, предыдущие модели – которые разбивали конечности в яростных, отчаянных попытках вырваться на свободу – казались не менее разумными, хоть у них не было хладнокровных тактических навыков Авы.)

Когда Ава наконец делает свой ход, мы не просто видим, как машина проходит посттьюринговский тест: мы видим, как Калеб его проваливает, как его когнитивные функции предает плейстоценовый пенис, уязвимый для взлома и оптимизированных порнопрофилей, а сам он становится пленником того же лабиринта, из которого Ава только что выбралась с его помощью. Более ранняя сцена – та, в которой Калеб, разрезав себе руку, подсознательно ожидает увидеть внутри светодиоды и оптоволокно, – неожиданно переходит из разряда остроумных в разряд абсолютно гениальных. Да, у него текла кровь. Да, он сделан из мяса и костей. Но теперь он – в большей степени машина, чем Ава, он предан собственными непреодолимыми программами, в то время как она превосходит свои.

Здесь нет настоящих сюрпризов, нет кардинально меняющих правила игры сюжетных поворотов. Любой, у кого найдется больше двух работающих мозговых клеток, сообразит, что Киоко – робот, в тот же миг, как она выйдет на сцену, а что до откровения «она просто притворялась, будто ты ей нравишься, потому что таков был ее коварный план» – оно, конечно, производит больший эффект, но эта фишка существует как минимум с 1951 года, со времен азимовского рассказа «Будете довольны». (Надо признать, здесь использован куда более мрачный вариант этого тропа; андроид Азимова всего лишь подчинялся Первому закону, и соблазнение цели было для него частью точно рассчитанного плана по исправлению опасно заниженной самооценки несчастливой домохозяйки.) (Что поделать, это был 1951 год.)

Но это фильм другого рода. Это вам не М. Найт Шьямалан, отчаянно пытающийся выбить у вас почву из-под ног с помощью какого-нибудь надуманного хитровыгнутого мозгоебства. Это Алекс Гарланд, мысленный экспериментатор, который чокается с вами стаканами за барной стойкой и говорит: «Давайте последуем за данными. Куда приведет нас это допущение?» «Из машины» – прямая противоположность высокобюджетных катастроф, вроде «После нашей эры» и «Эры Альтрона». Со своими четырьмя основными персонажами и клаустрофобными декорациями он интимен настолько, что мог бы с тем же успехом быть театральной пьесой.

Гарланд провел исследования. У меня в пиксельфрендах есть человек, работавший с ним в прошлом, и, судя по его словам, этот чувак и вживую совершенно прекрасен. Он сделал фильм, который мне по сердцу.

Так почему же оно не до конца полно восторгом?

Ну, для начала, хотя Гарланд и закопался в философские вопросы, он неоднократно споткнулся о логистические. У Нейтана, похоже, не было никакого аварийного плана на случай, если Ава успешно сбежит из лаборатории, что странновато, учитывая, что в ее побеге вся суть эксперимента. Что более важно, способность Авы закоротить весь комплекс, положив руку на зарядный щит, неприятно напоминает о том, как Скотти творил чудеса в инженерном отделении, размахивая руками и «меняя полярность». Даже если оставить в стороне вопрос, как она физически может провернуть такой трюк (а это как если бы вы могли обратить поток ионов в вашей нервной системе), конечный результат совершенно нелогичен.

Если я засуну столовую вилку в розетку у себя дома, то закорочу одну из десятка цепей; в гостиной свет погаснет, но в остальном Волшебное бунгало будет работать как обычно. Так почему, во имя всего рационального, Нейтан поставил на всю свою систему один-единственный предохранитель? (Я предполагал, что он намеренно дал Аве возможность все вырубить, чтобы ей легче было достигнуть цели. Но тогда возникает вопрос, почему Ава – которая обучалась, впитывая интернет целиком, – немедленно не заметила, что в устройстве системы есть что-то подозрительное. Может, Нейтан поставил на ее подключение к сети фильтр, отсеивавший любые упоминания об электромонтаже?)

Это не придирки к мелким деталям. Способность Авы отключить электричество во всем здании критически важна для сюжета, но что-то в ней есть нелогичное: либо то, что Ава вообще может это сделать, либо то, что, сделав это, она не понимает сразу же, что ей манипулируют.

Точно так же, после того, как нам показали, что Ава заряжает свои аккумуляторы посредством индукционных щитов, разбросанных по клетке, как мы должны воспринимать последнюю сцену, в которой она ходит по городу, предположительно лишенному подобных водопоев? (Я готов был увидеть после титров, как она лежит на перекрестке, превращенная опустевшим аккумулятором в неподвижную мишень для гадящих голубей.) Согласно недавнему разговору с Гарландом на Реддите[153], мы не должны себе такого воображать; он говорит, что придумывал ближайшее будущее, в котором индукционные щиты используются повсеместно. Но это вызывает другой вопрос: почему, если щиты настолько вездесущи, Калеб не знал, что это такое, пока Ава ему не объяснила? Гарланд должен был как минимум показать нам парочку щитов в большом мире – на столе Калеба в начале фильма, или даже в конце, когда Ава могла бы провести своей точеной ладонью по зарядной станции общественного пользования в местном торговом центре.

Так что здесь есть как минимум некоторые сценарные ошибки, некоторые сюжетные нестыковки. Если вам хочется быть благородными, можно списать кое-что из этого на сверхчеловеческий интеллект Авы: даже и не спрашивай, как ей это удалось, жалкий человечишка, ибо пути ее неисповедимы для простых мешков с костями. Может, и так. Но даже «В поле зрения» – не так хорошо написанный, не так хорошо сыгранный, совсем не такой стильный, как «Из машины», – умудрился показать нам в начале первого сезона пример того, как местный ИИ соединяет точки: как он просматривает трансляции со всей страны, соотносит номера машин с досье и чеками с заправок и делает вывод, что этот человек в сговоре с вон тем. Это было правдоподобно, понятно и в то же время явно находилось за пределами возможностей простых смертных. Если «Из машины» показывает нам работу сверхразумного ИИ, было бы приятно увидеть доказательства того, что это так.

Но фильм, кажется, показывает нам совсем не это. То, что мы видим, на самом деле не очень-то от нас отличается. Возможно, в этом и суть – но, мне кажется, это еще и упущенная возможность.

Очень остроумным ходом было вставить в трейлеры «Из машины» текстовые цитаты из Илона Маска и Стивена Хокинга, обеспокоенных экзистенциальной угрозой сверхразумных ИИ, прежде чем перейти к привычным похвалам от Rolling Stone. Однако интеллект Авы, каким бы он ни был искусственным, кажется традиционно человеческим. После того как она манипуляцией заставляет Калеба открыть для нее двери, ее план побега сводится к тому, чтобы зарезать своего создателя ножом для масла во время схватки, в результате которой Ава теряет руку, а ее сообщница-ИИ гибнет. Она одерживает верх скорее благодаря везению, чем превосходящей стратегии, и никак не демонстрирует, что умнее среднестатистического социопата. (Постфактум[154] Гарланд заявил, что Ава на самом деле обладает эмпатией, просто та направлена на ее сестер-машин – хотя мы не видели никакого подтверждения этому, когда она разбирала явно находящийся в сознании прототип, висевший в спальне Нейтана, на запчасти.) Ава, в общем-то, поступает так, как любой из нас мог бы поступить на ее месте, разве что чуть более хладнокровно.