Юваль Харари – 21 урок для XXI века (страница 52)
Каждый из нас обязан тратить время и силы на борьбу против собственной предвзятости и проверку источников информации. Как отмечалось в предыдущих главах, мы не в состоянии всё исследовать сами. Но именно поэтому необходимо по меньшей мере тщательно проверять свои главные источники информации — будь то газета, сайт в интернете, телеканал или человек. В главе 20 мы подробнее остановимся на том, как защититься от промывки мозгов и как отличить реальность от вымысла. А пока я предложу два простых практических правила.
Во-первых, если вы хотите получать надёжную информацию, за неё придётся платить, и немало. Если вы ничего не платите за новости, то получаете продукт низкого качества и сами становитесь продуктом. Предположим, миллиардер с сомнительной репутацией предложил вам следующую сделку: «Я буду платить вам 30 долларов в месяц, а взамен вы позволите мне промывать вам мозги в течение часа каждый день, вбивая вам в голову любые политические и коммерческие убеждения, которые я хочу». Вы согласны на такую сделку? Только невменяемые люди на это согласятся. Поэтому миллиардер предлагает немного иную сделку: «Вы позволите мне промывать вам мозги в течение одного часа каждый день, а взамен я не буду ничего взимать с вас за эту услугу». Теперь эта сделка кажется заманчивой сотням миллионов людей. Не следуйте их примеру.
И второе практическое правило: если вас действительно интересует какой-то вопрос, сделайте над собой усилие и прочтите научную литературу. Под научной литературой я подразумеваю статьи в рецензируемых журналах, книги, опубликованные известными научными издательствами, работы профессоров из авторитетных институтов. Конечно, наука не всесильна и в прошлом много раз ошибалась. И всё же на протяжении столетий научное сообщество оставалось самым надёжным источником знания. Если вы решите, что научное сообщество в чём-то ошибается, не исключено, что вы окажетесь правы, — но вы должны по меньшей мере быть в курсе научных теорий, которые опровергаете, и найти фактические доказательства в пользу вашей точки зрения.
Учёным, со своей стороны, следует активнее участвовать в общественных дискуссиях. Они не должны бояться высказывать своё мнение, когда дискуссия затрагивает их область знания, будь то медицина или история. Молчание не равнозначно нейтралитету; молчание — это поддержка существующего порядка вещей. Разумеется, очень важно продолжать научные исследования и публиковать результаты в журналах, которые читают лишь немногие специалисты. Но не менее важно рассказывать о новейших научных теориях обществу, причём не только в научно-популярной, но и в художественной литературе.
Означает ли это, что учёные должны заняться сочинением научной фантастики? На самом деле это не такая уж плохая идея. Искусство играет ключевую роль в формировании мировоззрения, а в двадцать первом веке научная фантастика, возможно, будет самым важным жанром, поскольку именно она определяет понимание большинством людей таких вещей, как искусственный интеллект, биоинженерия и изменение климата. Вне всякого сомнения, мы нуждаемся в хорошей науке, но с политической точки зрения увлекательный научно-фантастический фильм гораздо ценнее статьи в журналах Science или Nature.
18
Научная фантастика
Будущее — не то, что вы видите в кино
Люди обрели власть над миром потому, что лучше других животных умеют сотрудничать друг с другом, а способность к сотрудничеству основана на вере в вымысел. Поэтому поэты, художники и драматурги не менее важны, чем солдаты и инженеры. Люди отправляются воевать и строят соборы потому, что верят в Бога, а верят в Бога потому, что читали стихи о Боге, видели картины с изображением Бога, были очарованы театральными представлениями о Боге. Точно так же наша вера в современную мифологию капитализма основана на художественных творениях Голливуда и поп-индустрии. Мы верим, что если купим больше вещей, то станем счастливее, потому что собственными глазами видели капиталистический рай в телевизоре.
В начале двадцать первого века важнейшим художественным жанром, вероятно, стала научная фантастика. Мало кто читает новейшие научные статьи о машинном обучении или генной инженерии. Отношение людей к ключевым изменениям в технологии, обществе и экономике формируют фильмы, такие как «Матрица» и «Она», и сериалы вроде «Мира Дикого запада» и «Чёрного зеркала». Но это значит, что создатели научной фантастики должны более ответственно относиться к тому, как они изображают научную реальность; в противном случае они могут внушить людям неверные идеи или привлечь внимание к несуществующим проблемам.
Как отмечалось в предыдущей главе, самый большой грех современной научной фантастики, пожалуй, в том, что её авторы склонны путать интеллект с сознанием. В результате они слишком обеспокоены возможной войной между роботами и людьми, тогда как нам следует бояться конфликта между немногочисленной элитой сверхчеловеков, вооружённых алгоритмами, и огромным низшим классом бесправных
И действительно, многие фильмы на тему искусственного интеллекта чрезвычайно далеки от научной реальности, и возникает подозрение, что это лишь аллегории или что они отражают совсем другие проблемы. Так, снятый в 2015 году фильм «Из машины» вроде бы рассказывает о специалисте в области искусственного интеллекта, влюбившемся в женщину-робота, которая обманывает его и манипулирует им. Но в действительности фильм повествует не о страхе человека перед умными роботами, а о страхе мужчин перед умными женщинами — в частности, перед тем, что равноправие женщин может привести к их доминированию. Если вы смотрите фильм об искусственном интеллекте, в котором искусственный интеллект — женщина, а учёный — мужчина, скорее всего, это фильм о феминизме, а не о кибернетике. Зачем, в конце концов, искусственному интеллекту нужна гендерная идентичность и сексуальная ориентация? Секс — это привилегия органических многоклеточных существ. Какой в нём смысл для неорганической кибернетической сущности?
Жизнь в матрице
Одна из тем, в которых научная фантастика проявляет гораздо большую прозорливость, связана с опасностью использования технологии для манипуляции человеческими существами и контроля над ними. В фильме «Матрица» изображён мир, в котором почти все люди заперты в киберпространстве и все их переживания определяются управляющим алгоритмом. В «Шоу Трумана» показан человек, который, сам того не сознавая, стал звездой телевизионного реалити-шоу. Выясняется, что все окружающие его люди — в том числе мать, жена и лучший друг — на самом деле актёры. Всё, что с ним происходит, подчиняется искусно сочинённому сценарию, а всё, что он говорит или делает, снимается скрытыми камерами и транслируется на многомиллионную аудиторию поклонников.
Тем не менее оба фильма — несмотря на все их достоинства — не решаются рассказать о реальных последствиях, заданных сценарием. Они предполагают, что люди, запертые в матрице, обладают настоящей личностью, которую не затронули технологические манипуляции, а за пределами матрицы есть настоящий мир, до которого герои, если очень постараются, могут добраться. Матрица — это лишь искусственный барьер, отделяющий настоящую внутреннюю личность от настоящего внешнего мира. Преодолев многочисленные препятствия и трудности, оба героя — Нео из «Матрицы» и Труман из «Шоу Трумана» — сумели одержать победу и вырваться из паутины манипуляций, обрести свою истинную личность, достичь настоящей «земли обетованной».
Довольно забавно, что эта настоящая «земля обетованная» в основных аспектах не отличается от вымышленной матрицы. Убегая из телевизионной студии, Труман хочет найти свою школьную любовь, которую директор шоу исключил из проекта. Но если романтическая фантазия Трумана сбудется, его жизнь будет выглядеть точно так же, как голливудская мечта, которую «Шоу Трумана» продавало миллионам зрителей в разных странах — плюс отпуск на Фиджи. Фильм не даёт нам даже намёка, какая жизнь может ждать Трумана в реальном мире.
Точно так же, когда Нео разрушает матрицу, проглотив знаменитую красную таблетку, выясняется, что мир снаружи не слишком отличается от мира внутри. В нём тоже есть жестокие конфликты, а люди движимы страхом, похотью, любовью и завистью. Фильм должен был бы закончиться тем, что Нео сообщают, что реальность, в которую он попал, всего лишь ещё более масштабная матрица, и, если он хочет вырваться в «настоящий реальный мир», ему снова нужно выбирать между синей и красной таблеткой.
Нынешняя революция в науке и технологиях даёт понять: дело не в том, что алгоритмы и телевизионные камеры способны манипулировать аутентичными индивидами и аутентичной реальностью, а в том, что аутентичность — миф. Люди боятся оказаться запертыми в матрице, но не понимают, что уже заперты в матрице своего сознания, которое, в свою очередь, заперто внутри ещё большей матрицы — человеческого общества с его бесчисленными вымыслами. Освобождаясь от матрицы, единственное, что вы можете обнаружить, это ещё более масштабную матрицу. Когда в 1917 году крестьяне и рабочие в России подняли восстание против царя, они в итоге получили Сталина; когда вы начинаете анализировать множество способов, которыми мир вами манипулирует, то в конце концов понимаете, что ваша внутренняя идентичность — сложная иллюзия, созданная нейронными сетями.