Юваль Харари – Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта (страница 58)
Разумеется, распознавание образов имеет и огромный положительный потенциал. Алгоритмы могут помочь выявить коррумпированных чиновников, преступников и корпорации, уклоняющиеся от уплаты налогов. Алгоритмы также могут помочь сотрудникам санитарных служб из плоти и крови выявлять угрозы для нашей питьевой воды, врачам - распознавать болезни и развивающиеся эпидемии, а полицейским и социальным работникам - выявлять супругов и детей, подвергшихся насилию. На следующих страницах я уделяю относительно мало внимания положительному потенциалу алгоритмических бюрократий, поскольку предприниматели, возглавляющие революцию ИИ, и так уже завалили общественность достаточно радужными прогнозами о них. Моя цель - уравновесить эти утопические видения, сосредоточившись на более зловещем потенциале алгоритмического распознавания образов. Надеюсь, мы сможем использовать положительный потенциал алгоритмов, одновременно регулируя их разрушительные возможности.
Но для этого мы должны сначала осознать фундаментальное различие между новыми цифровыми бюрократами и их предшественниками из плоти и крови. Неорганические бюрократы могут быть "включены" двадцать четыре часа в сутки, они могут следить за нами и взаимодействовать с нами в любом месте и в любое время. Это означает, что бюрократия и слежка больше не являются чем-то, с чем мы сталкиваемся только в определенное время и в определенном месте. Система здравоохранения, полиция и манипулирующие корпорации становятся вездесущими и постоянными элементами жизни. Вместо организаций, с которыми мы взаимодействуем только в определенных ситуациях - например, когда посещаем поликлинику, полицейский участок или торговый центр, - они все чаще сопровождают нас каждую минуту, наблюдая и анализируя каждый наш поступок. Как рыба живет в воде, так и человек живет в цифровой бюрократии, постоянно вдыхая и выдыхая данные. Каждое наше действие оставляет след в виде данных, которые собираются и анализируются для выявления закономерностей.
НАБЛЮДЕНИЕ ПОД КОЖЕЙ
К лучшему или худшему, но цифровая бюрократия может не только следить за тем, что мы делаем в мире, но даже наблюдать за тем, что происходит внутри нашего тела. Возьмем, к примеру, отслеживание движений глаз. К началу 2020-х годов камеры видеонаблюдения, а также камеры в ноутбуках и смартфонах начнут регулярно собирать и анализировать данные о движениях наших глаз, включая крошечные изменения зрачков и радужной оболочки, длящиеся всего несколько миллисекунд. Человеческие агенты едва ли способны заметить такие данные, но компьютеры могут использовать их для расчета направления нашего взгляда, основываясь на форме наших зрачков и радужных оболочек, а также на отражении ими света. Аналогичные методы позволяют определить, фиксируются ли наши глаза на стабильной цели, преследуют ли они движущуюся цель или блуждают по сторонам более бессистемно.
По определенным паттернам движения глаз компьютеры смогут отличать, например, моменты осознанности от моментов рассеянности, а людей, ориентированных на детали, от тех, кто уделяет больше внимания контексту. По нашим глазам компьютеры могли бы определять многие дополнительные черты личности, например, насколько мы открыты для нового опыта, и оценивать уровень нашей компетентности в различных областях - от чтения до хирургии. Эксперты, обладающие хорошо отточенными стратегиями, демонстрируют систематические модели взгляда, в то время как глаза новичков бесцельно блуждают. Паттерны взгляда также указывают на уровень нашего интереса к объектам и ситуациям, с которыми мы сталкиваемся, и различают позитивный, нейтральный и негативный интерес. Из этого можно сделать вывод о наших предпочтениях в самых разных областях - от политики до секса. Многое также можно узнать о состоянии здоровья и употреблении различных веществ. Употребление алкоголя и наркотиков - даже в неинтоксикационных дозах - оказывает заметное влияние на свойства глаз и взгляда, например, изменяет размер зрачка и ухудшает способность фиксироваться на движущихся объектах. Цифровая бюрократия может использовать всю эту информацию в благотворных целях - например, для раннего выявления людей, страдающих наркоманией и психическими заболеваниями. Но, очевидно, она также может стать основой для самых навязчивых тоталитарных режимов в истории.
Теоретически диктаторы будущего могут заставить свою компьютерную сеть не просто следить за нашими глазами, а гораздо глубже. Если сеть захочет узнать наши политические взгляды, черты характера и сексуальную ориентацию, она сможет следить за процессами в нашем сердце и мозге. Необходимые биометрические технологии уже разрабатываются некоторыми правительствами и компаниями, например Neuralink Элона Маска. Компания Маска провела эксперименты на живых крысах, овцах, свиньях и обезьянах, вживляя в их мозг электрические зонды. Каждый зонд содержит до 3 072 электродов, способных распознавать электрические сигналы и потенциально передавать их в мозг. В 2023 году компания Neuralink получила разрешение американских властей начать эксперименты на людях, а в январе 2024 года стало известно, что человеку был имплантирован первый мозговой чип.
Маск открыто говорит о своих далеко идущих планах в отношении этой технологии, утверждая, что она может не только облегчить различные медицинские состояния, такие как квадриплегия (паралич четырех конечностей), но и улучшить способности человека и тем самым помочь человечеству конкурировать с искусственным интеллектом. Однако следует понимать, что в настоящее время зонды Neuralink и все другие подобные биометрические устройства страдают от целого ряда технических проблем, которые значительно ограничивают их возможности. Трудно точно отслеживать деятельность организма - мозга, сердца или чего-либо еще - извне, а вживление электродов и других контролирующих устройств в тело - навязчивое, опасное, дорогостоящее и неэффективное занятие. Например, наша иммунная система атакует имплантированные электроды.
Что еще более важно, никто пока не обладает биологическими знаниями, необходимыми для того, чтобы на основе данных, полученных из-под кожи, например, о мозговой активности, определить точные политические взгляды. Ученые еще далеки от понимания тайн человеческого мозга или даже мозга мыши. Простое картирование каждого нейрона, дендрита и синапса в мозге мыши - не говоря уже о понимании динамики их взаимодействия - в настоящее время находится за пределами вычислительных возможностей человечества.18 Соответственно, хотя сбор данных изнутри мозга людей становится все более осуществимым, использовать эти данные для расшифровки наших секретов далеко не просто.
Одна из популярных теорий заговора начала 2020-х годов утверждает, что зловещие группы, возглавляемые миллиардерами вроде Элона Маска, уже вживляют компьютерные чипы в наш мозг, чтобы следить за нами и контролировать нас. Однако эта теория направляет наши тревоги не на ту цель. Мы, конечно, должны опасаться возникновения новых тоталитарных систем, но сейчас слишком рано беспокоиться о компьютерных чипах, вживленных в наш мозг. Вместо этого люди должны беспокоиться о смартфонах, на которых они читают эти теории заговора. Предположим, кто-то хочет узнать ваши политические взгляды. Ваш смартфон отслеживает, какие новостные каналы вы смотрите, и отмечает, что в среднем вы смотрите сорок минут Fox News и сорок секунд CNN в день. Тем временем имплантированный компьютерный чип Neuralink отслеживает частоту сердечных сокращений и активность мозга в течение дня и отмечает, что ваша максимальная частота сердечных сокращений составляла 120 ударов в минуту и что ваша миндалина примерно на 5 % активнее, чем в среднем у человека. Какие данные будут более полезны для определения вашей политической принадлежности - данные, полученные со смартфона или с имплантированного чипа? В настоящее время смартфон все еще является более ценным инструментом слежки, чем биометрические датчики.
Однако по мере расширения биологических знаний - не в последнюю очередь благодаря компьютерам, анализирующим петабиты биометрических данных, - подкожное наблюдение может со временем стать реальностью, особенно если оно будет связано с другими инструментами мониторинга. Если биометрические датчики будут регистрировать сердечный ритм и мозговую активность миллионов людей, просматривающих на своих смартфонах тот или иной выпуск новостей, то это сможет научить компьютерную сеть гораздо большему, чем просто наша общая политическая принадлежность. Сеть может узнать, что именно вызывает у каждого человека гнев, страх или радость. Затем сеть сможет как предсказывать наши чувства, так и манипулировать ими, продавая нам все, что захочет, - товары, политиков или войны.
КОНЕЦ ПРИВАТНОСТИ
В мире, где люди следили за людьми, приватность была по умолчанию. Но в мире, где компьютеры следят за людьми, впервые в истории может стать возможным полное уничтожение частной жизни. Самые экстремальные и известные случаи навязчивого наблюдения связаны либо с чрезвычайными ситуациями, такими как пандемия COVID-19, либо с местами, которые считаются исключительными по отношению к обычному порядку вещей, такими как оккупированные палестинские территории, Синьцзян-Уйгурский автономный район в Китае, регион Кашмир в Индии, оккупированный Россией Крым, американо-мексиканская граница и афгано-пакистанские пограничные территории. В эти исключительные времена и в этих исключительных местах новые технологии наблюдения в сочетании с драконовскими законами и мощным полицейским или военным присутствием неустанно следили и контролировали передвижения, действия и даже чувства людей. Однако важно понимать, что инструменты наблюдения на основе ИИ развертываются в огромных масштабах, и не только в таких "исключительных государствах". Теперь они стали неотъемлемой частью обычной жизни повсюду. Эра постприватности наступает как в авторитарных странах, от Беларуси до Зимбабве, так и в демократических мегаполисах, таких как Лондон и Нью-Йорк.