Юваль Харари – 21 урок для XXI века (страница 19)

В среднесрочной перспективе этот массив данных открывает дорогу к совсем иной бизнес-модели, причём её первой жертвой станет сама рекламная индустрия. Новая модель основана на передаче власти от людей к алгоритмам, в том числе власти выбирать и покупать товары. После того как алгоритмы начнут выбирать и покупать вместо нас, традиционная рекламная индустрия обанкротится. Возьмём, к примеру, Google. Алгоритм Google стремится достичь такого положения, при котором мы будем спрашивать его обо всём и получать лучший в мире ответ. Что произойдёт, если однажды у нас появится возможность спросить: «Привет, Google, какой автомобиль мне больше подойдёт, если исходить из всего, что ты знаешь об автомобилях и обо мне (включая мои потребности, привычки, отношение к глобальному потеплению и мнение о ближневосточной политике)?». Если Google сумеет дать хороший ответ на этот вопрос и если на основе личного опыта мы привыкнем доверять мудрости алгоритма, а не собственным чувствам, которыми легко манипулировать, реклама автомобилей станет не нужна[80].

В отдалённом будущем цифровые гиганты, объединив огромные массивы данных и огромные вычислительные мощности, смогут проникать в самые глубокие тайны жизни, а затем использовать это знание не только для того, чтобы делать за нас выбор и манипулировать нами, но и для переделки органической жизни и создания её неорганических форм. В краткосрочной перспективе цифровые гиганты ещё будут нуждаться в продаже рекламы, но уже сейчас они часто оценивают приложения, товары и компании исходя не из того, сколько денег они на этом заработали, а из того, как много данных сумели на этом собрать. Популярное приложение сегодня может не соответствовать бизнес-модели или даже быть убыточным, но, если оно способствует сбору данных, завтра его ценность будет исчисляться миллиардами долларов[81]. Даже если сегодня вы не знаете, как заработать на накопленной информации, собирать её всё равно стоит, поскольку в будущем она даст вам ключ к контролю над меняющейся жизнью. Я не уверен, что цифровые гиганты преследуют именно такие цели, но их действия говорят о том, что сбор данных значит для них больше, чем доллары и центы.

Обычному человеку трудно сопротивляться этому процессу. Сегодня люди с готовностью отдают свой самый ценный актив — личные данные — в обмен на бесплатную почтовую программу и забавные видео с котиками. Точно так же коренные жители Африки и Америки наивно отдавали европейским колонизаторам целые страны в обмен на цветные бусы и дешёвые безделушки. Если потом простые люди попытаются заблокировать поток данных, то выяснится, что сделать это очень трудно, особенно если алгоритмы начнут принимать за них все решения, в том числе касающиеся здоровья и физического выживания.

Слияние людей и компьютеров может стать настолько полным, что люди, отсоединившись от сети, просто не выживут. Они будут подключены к ней ещё в утробе матери, а если захотят отключиться, то страховые агентства откажутся заключать с ними договоры, работодатели не примут на работу, а медицинские учреждения не станут их обслуживать. В битве между здоровьем и приватностью здоровье, скорее всего, одержит лёгкую победу.

По мере того как будет увеличиваться поток данных, поступающих к умным машинам от биометрических датчиков, корпорации и правительственные учреждения научатся понимать вас, манипулировать вами, принимать за вас решения. Но что ещё важнее, они смогут расшифровать глубинные механизмы работы тела и мозга и таким образом получить власть над жизнью. Если мы хотим помешать немногочисленной элите монополизировать возможности, которые раньше приписывали богам, и не хотим, чтобы человечество разделилось на биологические касты, необходимо ответить на главный вопрос: кто владеет информацией? Кому принадлежат данные о нашей ДНК, нашем мозге и нашей жизни — нам, правительству, корпорации или человеческому сообществу?

Позволив государству национализировать данные, мы, вероятно, ограничим власть корпораций, но в результате получим ползучую цифровую диктатуру. Политики чем-то похожи на музыкантов, но их инструмент — эмоциональная и биохимическая система человека. Они произносят речь — и страну захлёстывает волна страха. Они делают публикацию в Twitter — и ответом на неё становится взрыв ненависти. По моему мнению, не стоит предоставлять этим музыкантам более изощрённый инструмент. Если политики начнут напрямую управлять нашими эмоциями, по своей прихоти вызывая тревогу, ненависть, радость или скуку, политика превратится в эмоциональный цирк. Да, мы должны остерегаться власти больших корпораций, но история учит нас, что под властью смогущественных государств нам живётся немногим лучше. По состоянию на март 2018 года я бы предпочёл предоставить свои данные Марку Цукербергу, чем Владимиру Путину (хотя скандал вокруг компании Cambridge Analytica показал, что, возможно, здесь нет большой разницы, поскольку любые данные, доверенные Цукербергу, вполне могут утечь к Путину).

Частная собственность на персональные данные выглядит более привлекательным вариантом, чем приведённые выше, но не совсем понятно, что это значит. Наш опыт регулирования собственности на землю исчисляется не одной сотней лет. Мы можем огородить поле, поставить охранника на воротах, составить список тех, кому разрешён доступ за ограду. За последние два века мы очень хорошо научились регулировать собственность на средства производства — сегодня ничто не мешает мне владеть небольшой частью General Motors и небольшой частью Toyota, достаточно купить акции этих компаний. Но у нас нет опыта в регулировании владения данными, что по определению гораздо сложнее, поскольку, в отличие от земли и машин, данные находятся везде и одновременно нигде, они перемещаются со скоростью света и поддаются бесконечному числу копирований.

Поэтому следует обратиться к юристам, политикам, философам и даже поэтам, чтобы они обратили внимание на эту головоломку: как регулировать владение данными? Возможно, это главный политический вопрос нашей эпохи. Если нам не удастся ответить на него в ближайшее время, нашей общественно-политической системе грозит крах. Люди уже чувствуют приближение катастрофы. Вероятно, именно поэтому граждане самых разных стран теряют веру в либеральную концепцию, которая каких-то десять лет назад казалась неопровержимой.

Как же нам двигаться вперёд и справиться с вызовами, которые несут с собой революции в биотехнологиях и информационных технологиях? Быть может, те же учёные и предприниматели, руками которых разрушается привычный мир, найдут технологические решения для его спасения? Например, сетевые алгоритмы могут сформировать некие инструменты для всего человечества, которое будет коллективно владеть всеми данными и управлять будущим развитием жизни. Или по мере усиления глобального неравенства и роста социальной напряжённости в мире Марк Цукерберг обратится к двум миллиардам френдов с просьбой объединиться для совместных действий?

Часть II

Политический вызов

Слияние информационных технологий и биотехнологий угрожает таким базовым современным ценностям, как свобода и равенство. Любой ответ на технологический вызов должен основываться на глобальном сотрудничестве. Однако национализм, религия и культура делят человечество на враждебные лагеря и серьёзно затрудняют сотрудничество в масштабе планеты.

5

Сообщество

У человека есть тело

Калифорния привыкла к землетрясениям, но от политической встряски президентских выборов 2016 года жители Кремниевой долины не отошли до сих пор. Осознав, что они сами, возможно, стали частью проблемы, компьютерные гении отреагировали так, как обычно реагируют инженеры: начали искать техническое решение. Самой сильной реакция была в штаб-квартире Facebook в Менло-Парке. Это понятно: бизнес Facebook — социальная сеть, и поэтому компания крайне чувствительна к социальным потрясениям.

16 февраля 2017 года, после трёх месяцев самоанализа, Марк Цукерберг опубликовал смелый манифест о необходимости построения глобального сообщества и о роли Facebook в этом проекте[82]. В своей речи перед выпускниками Гарварда 22 июня 2017 года Цукерберг объяснил, что социально-политические проблемы нашего времени — от волны наркомании до жестоких тоталитарных режимов — в значительной степени связаны с разобщённостью человечества. Он с горечью отметил, что «за последние десятилетия членство в различных группах сократилось на целую четверть. Появилось много людей, которым нужно найти цель в чём-то новом»[83]. Цукерберг пообещал, что Facebook возглавит движение по возрождению сообществ и что его разработчики возьмут на себя роль приходских священников: «Мы собираемся предложить несколько инструментов, которые облегчат создание сообществ».

Далее он объяснил: «Мы запустили проект, чтобы понять, способны ли мы предложить группы, которые будут значимыми для вас. Для этого мы начали создавать искусственный интеллект. И это работает. За первые шесть месяцев с нашей помощью на 50 % больше людей присоединилось к важным для них сообществам». Конечная цель состоит в том, чтобы «помочь 1 миллиарду людей присоединиться к действительно значимым группам… Если у нас получится, это не только повернёт вспять процесс сокращения членства в группах, который наблюдался на протяжении десятилетий, но и укрепит социальные связи и объединит мир». Эта цель настолько амбициозна, что Цукерберг поклялся «ради этого изменить всю миссию Facebook»[84].