Юваль Харари – Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта (страница 59)
Во благо или во вред, но правительства, намеренные бороться с преступностью, подавлять инакомыслие или противостоять внутренним угрозам (реальным или мнимым), покрывают целые территории вездесущей сетью онлайн- и офлайн-наблюдения, оснащенной шпионскими программами, камерами видеонаблюдения, программами распознавания лиц и голоса, а также обширными базами данных с возможностью поиска. Если правительство пожелает, его сеть наблюдения может охватить все - от рынков до мест отправления культа, от школ до частных домов. (И хотя не каждое правительство хочет или может устанавливать камеры в домах людей, алгоритмы регулярно следят за нами даже в наших гостиных, спальнях и ванных комнатах через наши собственные компьютеры и смартфоны).
Правительственные сети наблюдения также регулярно собирают биометрические данные у всего населения, с его ведома или без него. Например, при подаче заявления на получение паспорта более 140 стран обязывают своих граждан предоставить отпечатки пальцев, сканы лица или радужной оболочки глаза. Когда мы используем паспорт для въезда в другую страну, эта страна часто требует, чтобы мы также предоставили ей отпечатки пальцев, сканы лица или радужной оболочки глаза. Когда граждане или туристы идут по улицам Дели, Пекина, Сеула или Лондона, их движения, скорее всего, будут записаны. Ведь в этих городах и многих других по всему миру в среднем на один квадратный километр приходится более ста камер наблюдения. Всего же в 2023 году в мире работало более миллиарда камер видеонаблюдения, то есть примерно одна камера на восемь человек.
Любая физическая активность человека оставляет след в виде данных. Каждая совершенная покупка заносится в какую-нибудь базу данных. Онлайн-активность, например обмен сообщениями с друзьями, фотографиями, оплата счетов, чтение новостей, назначение встреч или заказ такси, также может быть зафиксирована. Полученный океан данных может быть проанализирован средствами искусственного интеллекта для выявления противоправных действий, подозрительных моделей, пропавших людей, носителей болезней или политических диссидентов.
Как и любая мощная технология, эти инструменты могут быть использованы как в хороших, так и в плохих целях. После штурма Капитолия США 6 января 2021 года ФБР и другие американские правоохранительные органы использовали самые современные средства наблюдения, чтобы выследить и арестовать участников беспорядков. Как сообщается в расследовании Washington Post, эти агентства опирались не только на записи с камер видеонаблюдения в Капитолии, но и на сообщения в социальных сетях, данные считывания номерных знаков по всей стране, записи расположения сотовых башен и уже существующие базы данных.
Один из жителей Огайо написал в Facebook, что в тот день он был в Вашингтоне, чтобы "стать свидетелем истории". Facebook была направлена повестка в суд, который предоставил ФБР записи мужчины в Facebook, а также информацию о его кредитной карте и номер телефона. Это помогло ФБР сопоставить фотографию мужчины с водительских прав с записями камер видеонаблюдения в Капитолии. Еще один ордер, выданный Google, позволил получить точную геолокацию смартфона мужчины 6 января, что дало агентам возможность проследить все его перемещения от входа в зал заседаний Сената до офиса Нэнси Пелоси, спикера Палаты представителей.
Опираясь на записи номерных знаков, ФБР точно определило передвижения нью-йоркца с момента, когда он пересек мост Генри Гудзона в 6:06:08 утром 6 января, направляясь в Капитолий, и до пересечения моста Джорджа Вашингтона в 23:59:22 той же ночью, когда он возвращался домой. На снимке, сделанном камерой на шоссе 95, видно, что на приборной панели мужчины лежит огромная шляпа с надписью "Make America Great Again". Шляпа была сопоставлена с селфи в Facebook, на котором мужчина предстал в ней. Далее он уличил себя в том, что опубликовал в Snapchat несколько видеороликов из Капитолия.
Другой участник беспорядков пытался защитить себя от обнаружения, надев 6 января маску на лицо, избегая прямых трансляций и используя мобильный телефон, зарегистрированный на имя его матери, но это ему мало помогло. Алгоритмам ФБР удалось сопоставить видеозапись, сделанную 6 января 2021 года, с фотографией из заявления на получение паспорта, поданного мужчиной в 2017 году. Они также сопоставили отличительную куртку рыцарей Колумба, в которую он был одет 6 января, с курткой, которая была на нем по другому поводу, запечатленному в ролике на YouTube. Телефон, зарегистрированный на имя его матери, был геолокационно привязан к территории Капитолия, а считыватель номерных знаков зафиксировал его машину возле Капитолия утром 6 января.2
Алгоритмы распознавания лиц и базы данных, основанные на искусственном интеллекте, сегодня являются стандартными инструментами полицейских сил по всему миру. Они используются не только в чрезвычайных ситуациях или в целях обеспечения государственной безопасности, но и для решения повседневных задач. В 2009 году в китайской провинции Сычуань преступная группировка похитила трехлетнего Гуй Хао, когда он играл возле магазина своих родителей. Затем мальчик был продан в семью в провинции Гуандун, расположенную примерно в 1500 километрах. В 2014 году главарь банды торговцев детьми был арестован, но найти Гуй Хао и других жертв оказалось невозможно. "Внешность детей настолько изменилась бы, - объяснил один из полицейских следователей, - что даже родители не смогли бы их узнать".
Однако в 2019 году алгоритму распознавания лиц удалось идентифицировать тринадцатилетнего Гуй Хао, и подросток воссоединился со своей семьей. Чтобы правильно идентифицировать Гуй Хао, ИИ опирался на его старую фотографию, сделанную, когда он был совсем маленьким. ИИ смоделировал, как должен выглядеть тринадцатилетний Гуй Хао, с учетом резкого взросления, а также возможных изменений в цвете волос и прическе, и сравнил полученную симуляцию с реальными кадрами.
В 2023 году были зафиксированы еще более удивительные случаи спасения. Юэчуань Лэй был похищен в 2001 году, когда ему было три года, а Хао Чэнь пропал в 1998 году, также в возрасте трех лет. Родители обоих детей не теряли надежды найти их. Более двадцати лет они колесили по Китаю в их поисках, размещали объявления и предлагали денежное вознаграждение за любую значимую информацию. В 2023 году алгоритмы распознавания лиц помогли найти обоих пропавших мальчиков, теперь уже взрослых мужчин двадцати лет. Подобные технологии сегодня помогают найти пропавших детей не только в Китае, но и в других странах, например в Индии, где ежегодно пропадают десятки тысяч детей.
Тем временем в Дании футбольный клуб Brøndby IF в июле 2019 года начал использовать технологию распознавания лиц на своем домашнем стадионе, чтобы выявлять и запрещать футбольных хулиганов. Когда до 30 000 болельщиков приходят на стадион, чтобы посмотреть матч, их просят снять маски, шапки и очки, чтобы компьютер мог просканировать их лица и сравнить их со списком запрещенных нарушителей порядка. Очень важно, что процедура была проверена и одобрена в соответствии со строгими правилами GDPR ЕС. Датское управление по защите данных пояснило, что использование технологии "позволит более эффективно следить за соблюдением запретительного списка по сравнению с ручными проверками, и это может уменьшить очереди у входа на стадион, снизив риск общественных беспорядков из-за нетерпеливых футбольных фанатов, стоящих в очередях".
Хотя в теории такое использование технологий похвально, оно вызывает очевидные опасения по поводу неприкосновенности частной жизни и чрезмерного вмешательства государства. В неумелых руках те же технологии, которые позволяют обнаруживать участников беспорядков, спасать пропавших детей и запрещать футбольных хулиганов, могут быть использованы для преследования мирных демонстрантов или принуждения к жесткому конформизму. В конечном итоге технология наблюдения с помощью ИИ может привести к созданию режимов тотальной слежки, которые будут круглосуточно контролировать граждан и способствовать новым видам вездесущих и автоматизированных тоталитарных репрессий. В качестве примера можно привести иранские законы о хиджабах.
После того как в 1979 году Иран стал исламской теократией, новый режим обязал женщин носить хиджаб. Однако иранской полиции нравов было трудно обеспечить соблюдение этого правила. Они не могли поставить полицейского на каждом углу, а публичные столкновения с женщинами, которые не носили хиджаб, периодически вызывали сопротивление и недовольство. В 2022 году Иран возложил большую часть работы по обеспечению соблюдения законов о хиджабах на общенациональную систему алгоритмов распознавания лиц, которая неустанно следит как за физическими пространствами, так и за онлайн-средой. Высокопоставленный иранский чиновник объяснил, что система "выявляет неуместные и необычные движения", включая "несоблюдение законов о хиджабах". Глава парламентского комитета по правовым и судебным вопросам Ирана Муса Газанфарабади в другом интервью заявил, что "использование камер с записью лиц может систематически выполнять эту задачу и сократить присутствие полиции, в результате чего больше не будет столкновений между полицией и гражданами".