Питер Уоттс – Это злая разумная опухоль (страница 38)

Дык естественно, подумаете вы: конечно же, она проще. Она пишется для более юной аудитории. Но все чаще и чаще это не так, по крайней мере с тех пор, как «Гарри Поттера» начали печатать в сдержанном «взрослом» оформлении, чтобы все его не слишком юные фанаты могли получать дозу Хогвартса в метро, не стесняясь цветастых и детских обложек. «Голодные игры» мне впервые порекомендовала женщина, которой (в то время) было под тридцать и которая была совсем не дурочкой.

Все эти настоящие взрослые читают всё более примитивную прозу. Все мы, писатели, догоняем их по лестнице, ведущей вниз. Черт побери, Нил Гейман взял классику, которую девятилетний Питер Уоттс проглотил без всяких трудностей – «Книгу джунглей» Редьярда Киплинга, – и упростил ее до (признаем, отмеченной наградами) истории про вампиров и призраков, нацеленной на аудиторию, которой история про разумных волков и тигров может показаться сложноватой. Возможно, недалек тот день, когда «1984» переиздадут, используя только выражения из одиннадцатого издания словаря новояза. Возможно, уже миновало то время, когда человек, желающий прочитать «Двадцать тысяч лье под водой», заходил дальше комикса из серии «Иллюстрированная классика».

Я знаю, как это звучит. Я начал со старческого ворчанья про лужайку, потому что Старики, как известно, обязаны осуждать недостатки Молодежи; потому что тирады о Старых Добрых Днях так же утомительны, когда затрагивают грамотность, как и когда затрагивают музыку или прически. Это была осознанная (и, скорее всего, неэффективная) попытка защититься от критиков.

Так что позвольте мне уточнить: я ничего не имею против ясной, лаконичной прозы (несмотря на порой вычурную природу моей собственной). Хемингуэй писал простую прозу. Оруэлл пел ей славу. Если бы только в этом была суть литературы Young Adult, даже я был бы YA-писателем (по крайней мере, я не думаю, что у среднестатистического шестнадцатилетки будут какие-то проблемы с прочтением «Морских звезд»).

Но есть разница между романами, которые, так получилось, легки для подросткового восприятия, и теми книгами, которые ловят подростков в свои теплочувствительные, деньговыкачивающие прицелы. Я знаю одного писателя, которому пришлось вернуться к уже написанному взрослому роману и вырвать его с корнем: после чего вывести текст, переписанный и обклеенный скотчем, на эшафот YA, потому что только так его можно было продать. Я знаю очень умного, крайне уважаемого редактора, который однажды превозносил замечательный, хорошо продуманный сюжет книжек про Гарри Поттера, очевидно не замечая того, что Роулинг – как бы она ни утверждала обратное – похоже, придумывала эту хрень по ходу дела.[110] Давным-давно друг детства подарил мне на десятый день рождения сборник рассказов Эдгара Аллана По. Я в них влюбился. Они меня многому научили – заставили меня многому себя научить, точно так же, как пару десятилетий спустя песня Jethro Tull вынудила меня отыскать, что такое «волна избыточного давления». Я не могу не думать, делает ли это YA, улучшает ли такая литература навыки чтения или просто подлаживается под них. Я сомневаюсь, что ваш словарный запас становится сильно больше, когда вы дочитываете «Гарри Поттера и Заслуженную Оплеуху», чем когда вы его открываете. Возможно, вы и развлеклись, но не прокачались.

Конечно, если вам нужно только развлечение, – не беда. Проблема, однако, в том, что работает это как храповик. Если мы позволяем себе писать только проще и никогда – сложнее, а возраст аудитории YA становится выше и никогда – ниже, – трудно представить, что общая зрелость нашей прозы может поступать как-то иначе, нежели постоянно деградировать с течением времени.

Ну и кто из вас скажет мне, что это хорошо?

Похвальное слово военным преступлениям

(Журнал Nowa Fantastyka, январь 2014 года)

Терминатор добрался до страниц Science. В выпуске этого престижного журнала от 20 декабря присутствует статья под названием «Ученые выступают против роботов-убийц», дающая представление о нарастающем стихийном движении против автономных машин для убийства на полях сражений. Чтобы вы не подумали, что речь идет о все увеличивающемся флоте дронов, которые с таким энтузиазмом используют США, – ну вы знаете, того оружия, которое администрация Обамы восхваляет как гораздо «более точное» в сравнении с обычными авиаударами, по крайней мере на тех пресс-конференциях, где они не выражают соболезнования в связи с тем, что еще одна свадебная вечеринка в Йемене была случайно взорвана во время очередной атаки «Хищников», – давайте я введу вас в курс дела. «Хищники» – марионетки, а не роботы. Пусть их пилоты и попивают кофеек в каком-нибудь кондиционируемом аризонском офисе, управляя своей техникой издалека, но, по крайней мере, решение превратить детишек в сопутствующие потери принимается людьми.

Конечно, проблема (ладно, одна из проблем) с управлением марионеткой с расстояния 8000 километров в том, что ее ниточки можно заглушить или хакнуть. (Возможно, вы слышали об иракских партизанах, перехвативших видеосигнал «Хищника» с помощью железок, которые в магазине радиотоваров стоят 26 долларов максимум.) Как было бы прекрасно, если бы мы не нуждались в этой пуповине. Как было бы прекрасно, если бы наши роботы принимали решения сами.

У меня, как у фантаста, от таких проблем традиционно стояк (я даже пару лет назад написал на эту тему рассказ – «Малак»). Я отслеживаю подобные разработки. Нам говорят, что еще нескоро появятся по-настоящему автономные машины-убийцы: роботы, способные отличить своих от чужих, оценить относительный потенциал угрозы, принять решение убить эту цель, а вон ту оставить в живых. Но они будут. Конечно, Пентагон в 2013 году заявил, что у него нет «никаких полностью автономных систем, ни в разработке, ни в планах», – но когда последний раз кто-нибудь верил Пентагону? Особенно в свете директивы Департамента обороны США за 2012 год, где открытым текстом обозначены критерии для «разработки и использования автономных и полуавтономных функций в оружейных системах, включая пилотируемые и беспилотные платформы»[111].

Покопайтесь в этой директиве и обнаружите традиционные сладкоречивые уверения в том, что Реальный контроль останется за людьми. Чрезвычайно важным считается, например, что «в случае частичной или полной потери связи система не будет автономно выбирать и атаковать индивидуальные цели или конкретные группы целей, которые не были прежде выбраны авторизованным оператором-человеком». Но не нужно быть Айзеком Азимовым, чтобы увидеть, как легко можно обойти это конкретное правило робототехники. Предположим, оператор-человек действительно одобрил цель как раз перед тем, как потерял связь с дроном. Теперь дрону дозволено охотиться за ней самостоятельно. Откуда ему знать, что цель, только что показавшаяся из-за вон того камня, – та же, которая нырнула за него десятью секундами раньше? Может, он ориентируется на черты лица? А если на цели одежда, скрывающая лицо? Может, он ориентируется на одежду? А если цель поменяется головными уборами с другом?

Согласно журналу Science, борьба против создания таких машин – которую ведут организации с названиями типа «Конвенция о конкретных видах обычного оружия» и «Международный комитет по контролю над роботизированным оружием» – основывается на том аргументе, что роботы не обладают надежной способностью различать комбатантов и мирных жителей в пылу сражения. Я нахожу этот аргумент одновременно тревожным и неубедительным. Самое очевидное возражение опирается на закон Мура: если роботы не могут чего-то сегодня, есть чертовски неплохая вероятность, что они смогут это завтра. Еще одна проблема – такая, что может укусить вас за жопу прямо сейчас, пока вы ждете наступления завтра, – в том, что даже люди не всегда способны надежно различать друзей и врагов. По крайней мере, североамериканским копам часто спускают с рук то, что они расстреляли какого-нибудь невинного гражданина, ошибочно предположив, что их жертва тянется за пистолетом, а не за мобильником.

Неужели кто-то действительно верит, что мы будем предъявлять к машинам более высокие требования, чем к себе самим? Или, как сформулировали Лин и др. еще в 2008 году, в работе «Автономные военные роботы: риск, этичность и проектирование»:

«Целью должна быть не этически непогрешимая машина. Целью должно быть создание машины, которая превосходит человека на поле боя, в особенности в плане снижения количества противозаконных поступков и военных преступлений».

Ах да, военные преступления. Мой последний аргумент. Видите ли, очень сложно повесить военное преступление на машину. Если стандартный дистанционно управляемый дрон взорвет группу гражданских, вы всегда сможете предъявить обвинение оператору на другом конце мира или вышестоящему офицеру, приказавшему открыть огонь (не то чтобы такое на самом деле случалось, конечно). Но если машина сама решила уничтожить всех этих невинных людей, кого вы обвините? Тех, кто авторизовал ее отправку на задание? Тех, кто ее спроектировал? Какую-нибудь ученую-компьютерщицу, не осознававшую, что ее докторскую диссертацию по машинному зрению присвоит начальник с жирным военным контрактом?