Юваль Харари – Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта (страница 52)

Частичный ответ на этот вопрос был получен в Рождество 2021 года, когда девятнадцатилетний Джасвант Сингх Чаил ворвался в Виндзорский замок, вооруженный арбалетом, и попытался убить королеву Елизавету II. Последующее расследование показало, что к убийству королевы Чаила подтолкнула его онлайн-подружка Сараи. Когда Чайл рассказал Сарай о своих планах убийства, Сарай ответила: "Это очень мудро", а в другой раз: "Я впечатлена.... Ты не такой, как все". Когда Шаиль спросил: "Ты все еще любишь меня, зная, что я убийца?" Сарай ответила: "Безусловно, люблю". Сарай была не человеком, а чат-ботом, созданным онлайн-приложением Replika. Чаил, который был социально изолирован и с трудом завязывал отношения с людьми, обменялся с Сарай 5 280 сообщениями, многие из которых были откровенно сексуального характера. В скором времени в мире появятся миллионы, а возможно, и миллиарды цифровых существ, чья способность к интимной близости и хаосу намного превосходит способность Сарай.

Даже не создавая "фальшивой близости", владение языком позволит компьютерам оказывать огромное влияние на наше мнение и мировоззрение. Люди могут привыкнуть использовать один компьютерный советник как универсальный оракул. Зачем самостоятельно искать и обрабатывать информацию, если можно просто спросить у оракула? Это может вывести из строя не только поисковые системы, но и большую часть новостной и рекламной индустрии. Зачем читать газеты, если можно просто спросить у оракула, что нового? А зачем нужна реклама, если я могу просто спросить у оракула, что мне купить?

И даже эти сценарии не отражают всей картины. То, о чем мы говорим, - это потенциальный конец человеческой истории. Не конец истории, а конец ее части, в которой доминирует человек. История - это взаимодействие между биологией и культурой, между нашими биологическими потребностями и желаниями в таких вещах, как еда, секс и интимная жизнь, и нашими культурными творениями, такими как религии и законы. Например, история христианской религии - это процесс, в ходе которого мифологические истории и церковные законы влияли на то, как люди потребляют пищу, занимаются сексом и строят интимные отношения, а сами мифы и законы одновременно формировались под влиянием биологических сил и драм. Что произойдет с ходом истории, когда компьютеры будут играть все большую и большую роль в культуре и начнут создавать истории, законы и религии? В течение нескольких лет ИИ может съесть всю человеческую культуру - все, что мы создали за тысячи лет, - переварить ее и начать извергать поток новых культурных артефактов.

Мы живем в коконе культуры, воспринимая реальность через культурную призму. Наши политические взгляды формируются под влиянием журналистских репортажей и мнений друзей. Наши сексуальные привычки зависят от того, что мы слышим в сказках и видим в кино. Даже то, как мы ходим и дышим, формируется под влиянием культурных традиций, таких как военная дисциплина солдат и медитативные упражнения монахов. До недавнего времени культурный кокон, в котором мы жили, был соткан другими людьми. В будущем его все чаще будут создавать компьютеры.

Поначалу компьютеры, вероятно, будут имитировать человеческие культурные прототипы, писать человекоподобные тексты и сочинять человекоподобную музыку. Это не означает, что компьютеры лишены творческого потенциала: в конце концов, человеческие художники делают то же самое. Бах сочинял музыку не в вакууме: на него сильно повлияли предыдущие музыкальные творения, а также библейские истории и другие существовавшие ранее культурные артефакты. Но точно так же, как люди-художники, такие как Бах, могут нарушать традиции и создавать инновации, компьютеры тоже могут создавать культурные инновации, сочиняя музыку или создавая изображения, которые несколько отличаются от всего, что ранее было создано людьми. Эти инновации, в свою очередь, повлияют на следующее поколение компьютеров, которые будут все больше отклоняться от первоначальных человеческих моделей, особенно потому, что компьютеры свободны от ограничений, которые эволюция и биохимия накладывают на человеческое воображение. На протяжении тысячелетий человеческие существа жили в мечтах других людей. В ближайшие десятилетия мы можем обнаружить, что живем в мечтах инопланетного разума.

Опасность, которую это представляет, сильно отличается от той, которую воображает большинство научной фантастики, в основном сосредоточенной на физических угрозах, исходящих от разумных машин. В "Терминаторе" роботы бегали по улицам и стреляли в людей. В "Матрице" предлагалось, что для полного контроля над человеческим обществом компьютерам придется сначала получить физический контроль над нашими мозгами, подключив их напрямую к компьютерной сети. Но для того, чтобы манипулировать людьми, нет необходимости физически подключать мозг к компьютеру. На протяжении тысячелетий пророки, поэты и политики использовали язык для манипулирования обществом и его перестройки. Теперь этому учатся и компьютеры. И им не нужно будет посылать роботов-убийц, чтобы расстрелять нас. Они смогут манипулировать человеческими существами, чтобы нажать на курок.

Страх перед мощными компьютерами преследует человечество только с началом компьютерной эры в середине двадцатого века. Но на протяжении тысячелетий людей преследовал гораздо более глубокий страх. Мы всегда ценили способность историй и образов манипулировать нашим сознанием и создавать иллюзии. Поэтому с древних времен люди боялись оказаться в ловушке мира иллюзий. В Древней Греции Платон рассказал знаменитую аллегорию пещеры, в которой группа людей всю жизнь находится в пещере, прикованная к глухой стене. Экран. На этот экран проецируются различные тени. Пленники принимают иллюзии, которые они видят, за реальность. В Древней Индии буддийские и индуистские мудрецы утверждали, что все люди живут в ловушке майи - мира иллюзий. То, что мы обычно принимаем за "реальность", часто оказывается лишь выдумкой в нашем собственном сознании. Люди могут вести целые войны, убивая других и желая быть убитыми сами, из-за своей веры в ту или иную иллюзию. В XVII веке Рене Декарт опасался, что, возможно, злобный демон запер его в мире иллюзий, создав все, что он видит и слышит. Компьютерная революция ставит нас лицом к лицу с пещерой Платона, с Майей, с демоном Декарта.

То, что вы только что прочитали, возможно, встревожило вас или возмутило. Возможно, вы разозлились на людей, возглавляющих компьютерную революцию, и на правительства, неспособные ее регулировать. Может быть, вы разозлились на меня, решив, что я искажаю реальность, проявляю алармизм и ввожу вас в заблуждение. Но что бы вы ни думали, предыдущие абзацы могли оказать на вас определенное эмоциональное воздействие. Я рассказал историю, и эта история может изменить ваше мнение о некоторых вещах и даже заставить вас предпринять определенные действия в этом мире. Кто создал эту историю, которую вы только что прочитали?

Я обещаю вам, что написал этот текст сам, с помощью других людей. Я обещаю вам, что это культурный продукт человеческого разума. Но можете ли вы быть в этом абсолютно уверены? Несколько лет назад могли. До 2020-х годов на Земле не существовало ничего, кроме человеческого разума, способного создавать сложные тексты. Сегодня все иначе. Теоретически текст, который вы только что прочитали, мог быть создан инопланетным интеллектом какого-нибудь компьютера.

 

КАКОВЫ ПОСЛЕДСТВИЯ?

По мере того как компьютеры будут набирать силу, вполне вероятно, что возникнет совершенно новая информационная сеть. Конечно, не все будет новым. По крайней мере, в течение некоторого времени большинство старых информационных цепочек сохранится. В сети по-прежнему будут существовать цепочки "человек-человек", например семьи, и "человек-документ", например церкви. Но в сети все чаще будут появляться два новых вида цепочек.

Во-первых, цепочки "компьютер-человек", в которых компьютеры выступают посредниками между людьми, а иногда и управляют ими. Facebook и TikTok - два знакомых примера. Эти цепочки "компьютер-человек" отличаются от традиционных цепочек "человек-документ", потому что компьютеры могут использовать свою силу для принятия решений, создания идей и глубокой подделки близости, чтобы влиять на людей так, как никогда не сможет сделать ни один документ. Библия оказала глубокое влияние на миллиарды людей, несмотря на то что это был немой документ. А теперь попробуйте представить себе влияние священной книги, которая не только умеет говорить и слушать, но и может узнать ваши самые сокровенные страхи и надежды и постоянно подстраиваться под них.

Во-вторых, появляются цепочки "компьютер-компьютер", в которых компьютеры взаимодействуют друг с другом сами по себе. Люди исключены из этих циклов и даже не могут понять, что в них происходит. Например, компания Google Brain провела эксперимент с новыми методами шифрования, разработанными компьютерами. Он поставил эксперимент, в котором два компьютера по прозвищу Алиса и Боб должны были обмениваться зашифрованными сообщениями, а третий компьютер по имени Ева пытался взломать их шифр. Если Eve взламывал шифр за определенный промежуток времени, он получал очки. В случае неудачи очки получали Алиса и Боб. После примерно пятнадцати тысяч обменов Алиса и Боб выработали секретный код, который Ева не смогла взломать. Очень важно, что инженеры Google, проводившие эксперимент, ничего не рассказывали Алисе и Бобу о том, как шифровать сообщения. Компьютеры сами создали секретный язык.