Мадумита Мурджия – Кодозависимые. Жизнь в тени искусственного интеллекта (страница 1)

Мадумита Мурджия

Кодозависимые. Жизнь в тени искусственного интеллекта

Madhumita Murgia

CODE DEPENDENT

Copyright © 2024 by Madhumita Murgia This edition published by arrangement with PEW Literary Agency Limited and Synopsis Literary Agency

Russian Edition Copyright © Sindbad Publishers Ltd., 2025

Перевод с английского Заура Мамедьярова

Правовую поддержку издательства обеспечивает юридическая фирма «Корпус Права»

© Издание на русском языке, перевод на русский язык, оформление. Издательство «Синдбад», 2025

Посвящается Майе и Мире

Введение

Немногим более десяти лет назад, на заре своей журналистской карьеры, я заинтересовалась безобидной на первый взгляд цифровой сущностью под названием куки.

Я думала, что знаю, что это такое. Это хранящийся на моем устройстве фрагмент кода, который работает в качестве маркировочного механизма и позволяет интернет-компаниям опознавать меня и получать сведения о моих действиях в интернете. Напоминания о куки всплывали всякий раз, когда я заходила на какой-либо сайт с телефона или компьютера, и просили разрешить им отслеживать меня по цифровым хлебным крошкам. В итоге я захотела разобраться, куда ведет этот след.

Работая над той статьей для журнала WIRED{1}, я то и дело проваливалась в очередные кроличьи норы, от которых у меня кружилась голова, и я по сей день еще не выбралась из них. Зато я открыла для себя темный мир «брокеров данных» – подпольных организаций, которые собирают данные о нашей онлайн-жизни и превращают их в ценные профили, содержащие информацию о том, каковы мы сегодня и какими станем в будущем. В конце концов я не только узнала о брокерах, но и детально изучила бизнес-модели самых дорогих в мире технологических компаний, условно объединяемых в «большую пятерку». Все они зарабатывают одним способом: превращая наши жизни в клубящиеся облака данных, чтобы затем их продать.

Но прежде чем отправиться по этому следу, я какое-то время сомневалась, хочу ли я вообще потратить несколько месяцев на статью о какой-то статистике. Мне нужно было прочувствовать этот материал. Как на самом деле выглядят все эти пресловутые данные? В итоге я решила изучить профиль хорошо знакомого мне человека. Свой собственный.

Для этого я нашла небольшой стартап Eyeota, работающий в сфере рекламных технологий. Его сотрудники помогли мне извлечь из моего браузера информацию, которую собирают разные сайты, и затем расшифровали для меня эти данные.

В тот день, когда мне прислали из Eyeota полный профиль «обезличенной» версии меня, я ехала на поезде в Брайтон. Файл содержал растянувшийся более чем на десяток страниц отчет, составленный рейтинговым агентством Experian, которое также выступает брокером данных.

По заключению Experian, я входила в категорию «золотой молодежи» – одну из шестидесяти четырех, которыми тогда оперировало агентство, – которая охватывала молодых профессионалов, живущих в городских квартирах.

В профиле описывалась 26-летняя британка азиатского происхождения, которая работает в сфере медиа и живет на северо-западе Лондона. Там указывались ее предпочтения при просмотре телепередач (видео по запросу, а не кабельное телевидение), пристрастия в еде (тайская и мексиканская кухня), а также типичные планы на вечер и выходные. Приводилась даже детализация ее расходов: больше на рестораны и путешествия, меньше – на мебель и автомобили.

В данных, присланных Eyeota, называлось количество отпусков, которые эта женщина взяла за прошедший год, и прогнозировалась скорая покупка авиабилета. Судя по отчету, у нее нет ни детей, ни ипотеки, а продукты она обычно покупает в супермаркете Sainsbury’s, но только потому, что он находится по пути к ее дому. Данные позволяли предположить, что женщина пользуется услугами уборщицы, которая приходит к ней домой в рабочее время, открывая дверь своим ключом.

Помимо повседневных занятий, в маленьком разделе в конце документа описывались «либеральные взгляды» женщины, включая уровень амбиций, политические предпочтения и черты характера (оптимистична, амбициозна, слабо подвержена чужому влиянию).

Остаток пути я провела как в тумане, изучая полученный набор характеристик, которые довольно точно мне соответствовали. Разумеется, это облако данных не было истинным отражением реальности – в нем недоставало множества нюансов, которые делали меня мной. Однако, проанализировав мои онлайн-следы, куки написали приблизительный портрет меня – изобразили мою тень, которая была при этом вполне узнаваемой.

В статье, вышедшей в журнале WIRED в 2014 году, я рассказала о многомиллиардной сфере, где работают компании, которые, опираясь на наше поведение в интернете и офлайн, собирают, упаковывают и продают детализированные профили вроде того, что попал ко мне в руки. Это открытие усилило мои опасения по поводу системы, которая создана специально, чтобы записывать наши действия всякий раз, когда мы взаимодействуем с цифровым миром, и затем извлекать из этого прибыль.

Я начала изучать структуру этой доходной экономики данных. Каждый раз, когда я одним кликом взаимодействовала с онлайн-продуктом – скажем, с приложениями Google Maps, Uber, Instagram или с бесконтактными кредитными картами, – они записывали мое поведение в эти маленькие куки. В сочетании с информацией из открытых источников, например об уплате муниципальных налогов и об участии в выборах, а также с данными о моих покупательских привычках в интернете и поступающими в реальном времени сведениями о моем местоположении эти безобидные наборы данных рассказывали обо мне очень многое – от моего пола и возраста до особенностей моего характера и того, какие решения я приму в будущем.

Моя жизнь – как и ваша – превращается в пакет данных, выставляемый на продажу. В конечном счете мы все оказываемся продуктами.

Когда десять лет назад мы заглянули в зарождающийся мир сбора данных, я стала обращать гораздо больше внимания на то, сколько подобных инфоследов мы оставляем, просто живя в современном мире, и на то, как их используют.

С тех пор я веду летопись финансовых и иных успехов компаний, опирающихся на такие хранилища данных, – корпоративных гигантов вроде Google, Facebook и Amazon. Они отточили искусство обращения с данными, в огромных количествах поступающими на их платформы от миллиардов людей по всему миру. В стремлении заработать эти компании научились добывать данные и использовать их, чтобы продавать персонализированные и таргетированные рекомендации, контент и продукты.

Наследником бизнеса больших данных стала технология, о которой я впервые узнала в 2014 году: искусственный интеллект (ИИ). В последние годы понятие «искусственный интеллект» по-разному менялось, но, по сути, ИИ представляет собой сложное статистическое программное обеспечение, применяемое для поиска закономерностей в больших наборах реальных данных.

Значительный прогресс этой технологии в последние несколько лет обусловлен тремя факторами: взрывным ростом объема доступных данных о человеческом поведении и творчестве, повышением мощности микросхем, необходимых для работы с этими данными, а также консолидацией усилий нескольких крупных технологических компаний, способных выделять существенные ресурсы для ускорения ее развития.

Применяя машинное обучение для максимально точного таргетирования рекламы, такие техногиганты, как Google и Meta, довели свою капитализацию до триллиона долларов. Эту прибыльную бизнес-модель, в основе которой лежит монетизация персональных данных, американский философ и социальный психолог Шошана Зубофф называет «надзорным капитализмом».

В прошлом году художник Джеймс Бридл написал: «Эти компании сколотили капиталы, внедрившись во все аспекты повседневной жизни, включая самые личные и творческие ее сферы: наши тайные страсти, наши частные разговоры, наши общие интересы и наши мечты»{2}.

Сегодня мы живем в тесном соседстве с автоматизированными системами, основанными на данных, и их внутренние механизмы влияют на наши личные связи, расстановку сил в рабочем коллективе и наши отношения с государством. Мы опираемся на алгоритмические технологии, как в прошлом опирались друг на друга, и образ жизни людей во всем мире меняется, постепенно подстраиваясь под эти технологии.

Когда вы открываете Google Maps, чтобы продумать маршрут своего следующего путешествия, когда вы обращаетесь к Alexa, вызываете Uber или беспилотный Waymo, вы взаимодействуете с различными формами ИИ. С помощью ИИ формируются ленты ваших социальных сетей, в которые специально вставляется реклама клюшек для гольфа и детской одежды. ИИ проверяет вас, когда вы подаете заявку на кредит. ИИ решает, сколько вам платить за дом и за автомобильную страховку. Когда вы проходите собеседование, ИИ может анализировать ваши реакции и ответы на вопросы. Не исключено, что вы использовали ИИ даже при составлении своего резюме. А если вы однажды окажетесь за решеткой, возможно, именно ИИ будет решать, выпускать ли вас под залог.

Современные программы ИИ помогают специалистам принимать жизненно важные решения в таких сферах, как медицинская диагностика, общественное благосостояние, ипотечное и потребительское кредитование, наем и увольнение сотрудников и многое другое. Самыми продвинутыми ИИ-программами пользуются исследователи, включая химиков, биологов и генетиков, чтобы с помощью этих программ быстрее развивать научные направления{3}.