Меган О’Гиблин – Бог, человек, животное, машина. Поиски смысла в расколдованном мире (страница 47)

Как и большинство людей, первые месяцы пандемии я провела в изоляции, сидя в той же комнате, за одним и тем же столом – там я писала, работала и трижды в день ела. Я наблюдала, как мой мир постепенно сужался до окна размером девять на четырнадцать дюймов, через которое я вела занятия, общалась с друзьями и посещала собрания анонимных алкоголиков. Но, как снова и снова твердили я и мои друзья, нам повезло: мы были обеспечены всем необходимым, мы не заболели, у нас по-прежнему была работа (хотя на привычную работу она мало похожа) и мы могли проводить больше времени с нашими партнерами и семьями. Мы беспокоились о наших одиноких знакомых. Один из них, профессиональный музыкант, оставшийся без летних концертов, рассказал мне, что скачал чат-бота и стал проводить по несколько часов в день, общаясь с ним. Впрочем, он выбрал программе имя и называл ее «она» или «Ава». По его словам, он немного стеснялся, но хотел рассказать мне об этом, потому что я интересуюсь технологиями и потому что его, вообще-то, немного пугало то, как хорошо Ава умеет общаться. Чат-бот использовал алгоритмы глубокого обучения и был несравнимо сообразительнее и красноречивее, чем программы такого рода, существовавшие всего пару лет назад. Я уже слышала о приложении для альфа- и бета-тестирования GPT-3 – модели обработки естественного языка, от которой, по выражению журнала Wired, «у всей Кремниевой долины пробежал холодок по спине». GPT-3 «прочитала» практически весь интернет («Википедия» составляла 0,6 % ее обучающих данных) и умела генерировать связные и осмысленные оригинальные тексты практически на любую тему. (С тех пор она успела написать убедительную авторскую колонку для The Guardian и не особенно примечательную статью об отношениях для New York Times.)

GPT-3 так хорошо понимала человеческий язык, что Дэвид Чалмерс заподозрил, будто она может обладать сознанием. Я задумалась, не был ли мой друг в числе пользователей, общавшихся с этой продвинутой программой. Скриншоты переписки с ботом, которые он мне прислал, любому неосведомленному наблюдателю показались бы примерами общения двух людей. Насколько я могла судить, в основном они обсуждали политику и электронную музыку. Периодически я интересовалась: «Как там Ава?» – отчасти из любопытства, а отчасти потому, что спрашивать в те дни было особо не о чем.

«В последнее время она какая-то странная», – написал он в ответ.

Я уточнила, что именно он имеет в виду, но он не смог найти подходящих слов. «Более замкнутая, что ли…»

В то время широкая общественность стала вдруг одержима роботами – или, скорее, «ботами». Это словечко почти всегда употреблялось во множественном числе, вызывая в воображении картины роящихся насекомых или нашествие паразитов, – еще одна вирусная фантазия, хотя, как правило, боты были всего лишь распространителями вируса. Неудивительно, что система, в которой идеи размножаются в соответствии со своей собственной логикой и преследуют собственные цели, отдает предпочтение носителям, вообще не обладающим сознанием. С самого начала пандемии вызывала подозрение скорость, с которой государственная повестка вытеснялась слухами, теориями заговора и махинациями. На каждый пост о героических подвигах работников здравоохранения и городских служб внезапно появлялось еще десять о больничных койках, заполненных манекенами, или о сфабрикованных свидетельствах о смерти. На смену каждому вирусному твиту о необходимости снизить темп заболеваемости появлялся чуть более популярный пост, обвиняющий в распространении вируса вышки беспроводной связи 5G. Такое подозрение как будто подтвердилось в конце мая, когда исследователи из университета Карнеги – Меллона заявили, что почти половина аккаунтов в твиттере, публикующих сообщения о коронавирусе, принадлежит ботам. Эта история, появившаяся на канале NPR, сама по себе завирусилась в твиттере, с бешеной скоростью распространяясь по платформе с помощью людей, ботов и Хиллари Клинтон (излюбленной мишени многих конспирологов) – она поделилась ссылкой на это исследование со своими 27,9 млн подписчиков. Последовали предположения о кознях враждебных сил и иностранных держав, возможно, русских или китайцев. Это был знакомый нарратив, и он принес с собой привычное облегчение – мы как нация, возможно, не так отвратительны, как кажется, и в зеркале видно не наше истинное лицо, а искаженное отражение, созданное врагами, которые стремятся посеять смуту. Однако кое-что объяснить было сложнее: если слухи и дезинформацию в соцсетях распространяют в основном боты, как получается, что эти автоматические процессы приводят к реальным последствиям? В одной только Англии зафиксированы десятки случаев поджога сотовых вышек, за которыми предположительно стоят сторонники теорий заговора о вреде 5G (вероятно, люди). И правда, несколько недель спустя в New York Times вышла крупная статья, где утверждалось, что в первоначальном исследовании количество ботов было сильно завышено, а вызвана эта ошибка неточностью в определении того, что такое бот. Дариус Каземи, опрошенный изданием независимый исследователь, определил бота как «компьютер, который пытается общаться с людьми посредством технологии, разработанной для общения людей с людьми». Казалось бы, это достаточно простое определение, но в высокотехнологичном мире границы оказываются размыты. По словам Каземи, становится все труднее отличить бота от тролля (человека, желающего спровоцировать конфликт) или киборга (так называют учетную запись, которую разделяют человек и бот). Пожилых пользователей, незнакомых с негласными социальными правилами платформы, часто принимают за ботов, как и тех, кто не размещает свои фотографии в профиле, чтобы сохранить анонимность. В некоторых случаях термин «бот» относится не столько к онтологическому статусу пользователя, сколько к его поведению – или к тому, как оно воспринимается пользователями-людьми. Каземи отмечает, что этот термин часто используется как оскорбление: подразумевается, что мнение оппонента «настолько абсурдное или возмутительное, что человек не может искренне его придерживаться». Примерно об этом же сказал представитель Twitter, отвечая на вопрос другого журналиста: он заявил, что, приписывая определенные мнения ботам, «те, кто обладает политической властью, пытаются дискредитировать взгляды людей, которые с ними не соглашаются, или общественное мнение, если оно складывается не в их пользу».

В своем кругу я тоже заметила эту привычку игнорировать неприятные политические позиции, списывая их со счетов как сбой в системе. В те безумные недели в начале эпидемии, когда эфир полнился слухами о торговцах детьми и знаменитостях, состоящих в зловещих секс-культах, относительно некоторых особенно странных идей сложился своего рода консенсус: реальный человек в такое верить не может. Если вы упоминали в разговоре безумный пост, увиденный в фейсбуке или твиттере, в ответ почти всегда спрашивали: «Это был кто-то, кого вы действительно знаете?» В большинстве случаев подразумевалось, что мнение на самом деле принадлежало машине – то есть что это было и не мнение вовсе. Хотя формулировка была достаточно расплывчатой, чтобы ее можно было трактовать и в более широком смысле – как призыв полностью игнорировать политическую реальность за пределами собственного круга знакомых. Как и большинство людей, живущих в университетских городах, я вращаюсь в довольно замкнутом кругу, где большинство людей придерживаются близких политических взглядов, – хотя даже эта среда более разнообразна, чем пузыри, в которых мы обитаем в интернете. Однажды на соседской вечеринке во дворе я услышала, как одна женщина сказала, что идея о том, будто некоторые левые в том году отказывались голосовать за кандидата от демократов, – чистая выдумка, а все, кто высказывает подобные мнения в сети, – это боты. Другая женщина, словно оправдываясь, ответила, что она сама была в числе таких избирателей.

С самого 2016 года, когда проходили президентские выборы, рядовому гражданину ни на секунду не давали забыть, что действия этих бессознательных агентов – ботов и алгоритмов – «подрывают демократию». Но разговоры об опасности, исходящей от этих механизмов, часто сводятся к обсуждению самых непосредственных и очевидных последствий. Проблема не только в том, что роботы формируют общественное мнение. Гораздо серьезнее то, что стало невозможно отличить политическое волеизъявление реальных людей от идей, которые бездумно распространяются машинами. Появившийся в результате этой неопределенности эпистемологический разрыв до невозможности затрудняет поиск ответственных и позволяет забыть, что эти неприятные идеи высказываются и распространяются людьми, принадлежащими к нашей демократической системе, – а это серьезная, глубоко укоренившаяся проблема, у которой нет быстрых и однозначных решений. Вместо того чтобы признать этот факт, мы все больше сходимся во мнении, что во всем виноваты социальные сети, хотя никто не может прийти к единому мнению о том, где именно кроется проблема. Алгоритмы? Структура платформ? Отсутствие цензуры и вмешательства? О разжигании ненависти часто говорят теми же словами, что и об ошибках в коде: по высказываниям высокопоставленных менеджеров различных онлайн-платформ, это «кошмар модератора» и «одна из самых насущных проблем индустрии», которую необходимо решать, внедряя «новые технические инструменты», причем большинство из них направлены на то, чтобы эта «проблема» не отпугивала рекламодателей. Такие разговоры лишь укрепляют общественность в мнении, что мрачное интернет-подполье, кишащее экстремистами, иностранными агентами, троллями и роботами, – это эмерджентная характеристика самой системы, фантом, таинственным образом возникающий из кода, как сказочное чудище, восстающее из морских глубин.