Мадумита Мурджия – Кодозависимые. Жизнь в тени искусственного интеллекта (страница 2)

В последний год мы наблюдаем подъем нового типа ИИ-технологий – порождающих моделей ИИ, программ, способных писать тексты и создавать изображения, аудио и видео, практически неотличимые от тех, что создает человек. Порождающий, или генеративный ИИ строится на фундаменте человеческого творчества и обучается на оцифрованных книгах, газетах, блогах, фотографиях, картинах, музыке, видеороликах с YouTube, постах с Reddit, картинках с Flickr и всем содержимом интернета. ИИ поглощает эти знания и обретает способность создавать собственные переработанные версии различных творческих продуктов, радуя нас почти человеческим умением воспроизводить и креативно переделывать знакомые вещи.

Для многих из нас сегодня воплощением этого процесса стал ChatGPT – сайт, который дает подробные ответы на наши запросы в форме диалога. Он впервые позволил нам напрямую взаимодействовать с системой ИИ, и настоящим чудом стало то, что он может отвечать нам, используя привычный нам способ коммуникации – письменный язык.

Появление ChatGPT ознаменовало фундаментальный сдвиг во взаимодействии людей с машинами. Общаясь с нами с помощью слов и изображений, ИИ-системы нового поколения, обученные на продуктах нашей научной и творческой деятельности, могут гораздо более эффективно, чем когда-либо ранее, манипулировать нашими эмоциями и настроением, а также диктовать нам, что думать и как себя вести.

На протяжении прошлого десятилетия я наблюдала, как ИИ коварно пробирается в нашу жизнь. Решив написать эту книгу, я захотела найти реальные примеры взаимодействия с ним, которые явно показали бы, чем грозит наша зависимость от автоматизированных систем. Расцвет порождающего ИИ сделал поиск таких угроз насущной необходимостью. В прошлом году мы уже начали замечать, как технологии вроде ChatGPT влияют на нашу работу, на образование детей, на творчество. Но вместе с тем ИИ оказывает влияние и на другие важные сферы жизни общества: здравоохранение, охрану правопорядка, общественное благосостояние и военное дело, – что приводит к долгосрочным последствиям и социальным трансформациям. В результате меняется само понимание того, что значит быть человеком. Именно об этом и пойдет речь в моей книге.

Работа в журнале WIRED превратила меня в закоренелого технооптимиста. Когда каждый день пишешь о редактировании генома, летающих автомобилях, 3D-печати лунных баз и нейрокомпьютерных интерфейсах, просто невозможно не восхищаться человеческой изобретательностью и нашими высокотехнологичными творениями. Меня пленяли и сами инноваторы – взбалмошные выдумщики, дерзкие предприниматели и безрассудные визионеры.

Когда я только начинала собирать материал для этой книги, я ожидала найти истории о том, как искусственный интеллект решил сложные проблемы, не спасовал перед непреодолимыми препятствиями и существенно улучшил жизнь людей. Таков потенциал всех новых технологий – по крайней мере, так я искренне полагала на протяжении многих лет.

Любая из рассказанных мной историй могла бы быть вашей. Совсем скоро – если этого еще не случилось – ИИ-системы начнут влиять на ваше здоровье, вашу работу, ваши финансы, ваших детей, ваших родителей, ваши гражданские права и оказываемые вам коммунальные услуги.

Я хотела задавать простые человеческие вопросы. Каково «говорить» с системой, которая представляет собой «черный ящик»? Есть ли у вас выбор между человеком и машиной? Как обжаловать судьбоносное решение, принятое приложением? Что нужно знать, чтобы доверять такой программе? И как понять, когда доверять ей вовсе не стоит?

Чтобы найти ответы на эти вопросы, я отправилась в путешествие по миру и стала выяснять, как вездесущие автоматизированные системы влияют на жизнь самых разных сообществ. Каждая из историй, с которыми вы познакомитесь, показывает, как именно и насколько непредсказуемо ИИ влияет на нашу самооценку, а также на наши семьи, сообщества и культуры. Я надеюсь, что опыт встреченных мною людей поможет мне ответить на вопрос, с которого я начала: как искусственный интеллект меняет само понимание того, что значит быть человеком?

Несмотря на присущий мне технологический оптимизм, истории, которые я собрала, в итоге сложились в довольно мрачную картину.

Я намеренно сосредоточилась на людях, которые живут за пределами Кремниевой долины, вдали от центра технологического влияния, но все равно испытывают на себе воздействие технологий нового типа. Однако, изучая их истории шаг за шагом, я поняла, что невозможно не приметить за ними слона: дело в том, что власть над технологиями сосредоточена в руках немногочисленных компаний, которые и заказывают музыку{4}.

Анализируя этот дисбаланс, я наткнулась на книгу социологов Ника Колдри и Улисеса Мехиаса «Цена связи» (The Costs of Connection), где рассматривается понятие колониализма данных. Вместо территорий объектом колонизации становятся человеческие жизни, преобразованные в непрерывные потоки информации. Конкурентная борьба за эти данные представляет собой историческое продолжение колониализма и усугубляет неравенства прошлого в условиях «датафикации» общества, которая есть не что иное, как новая форма грабежа и угнетения.

Колдри приводит в пример гиг-работников – людей, работающих через приложения в таких структурах, как Uber, Deliveroo и DoorDash, – чьи заработки и жизни зависят от алгоритмов, которые среди прочего определяют, кто получит заказ, как он будет оплачен и кого в конце концов уволят. «Это тирания, – объяснил он мне. – Возникают этические вопросы о том, какие границы мы должны установить, чтобы сделать жизнь людей сносной. Очень важно, чтобы люди всего мира были в этом солидарны. Работники в Бразилии, Индии, Китае и США сталкиваются с одинаковыми проблемами – может, в Сан-Франциско они сегодня стоят не особенно остро, но вскоре они дадут о себе знать и там».

В такой формулировке эта истина стала для меня откровением. Постепенно, подобно тому как из размытых силуэтов складывается четкий полароидный снимок, стали проявляться связи между отдельными героями этой книги. Я вдруг поняла, что структура, объединяющая собранные мной истории о взаимодействии с алгоритмами, в которых фигурировали совсем разные люди, времена и места, на самом деле вполне закономерна – и уже описана небольшим, но растущим сообществом ученых из разных стран. Некоторые имена тех, кто в числе первых излагал эти идеи, были мне знакомы: Тимнит Гебру, Джой Буоламвини, Кейт Кроуфорд, Кэти О’Нил, Мередит Уиттакер, Вирджиния Юбенкс{5} и Сафия Умоджа Нобл{6}. Я обратила внимание, что все они женщины, изучающие несоразмерно большой вред, который ИИ наносит маргинализированным сообществам.

Прочитав их работы и просмотрев научные статьи, на которые они ссылались, я обнаружила и другие, не столь известные имена. В основном это были небелые женщины, которые живут и работают за пределами англоговорящего Запада: Паола Рикаурте{7} из Мексики, Абеба Биране из Эфиопии, Урваши Анеджа из Индии, Милагрос Мисели и Пас Пена из Латинской Америки. Они были непосредственными свидетелями того, как в их сообществах проявляются дискриминация и социальное неравенство, и многие из них жили именно в тех местах, о которых пойдет речь в этой книге.

Снова и снова в своих работах они приходили к тому же выводу, что и Колдри с Мехиасом в своей теории колониализма данных. Такие масштабируемые системы, как машинное обучение, создаются на благо крупных социальных групп, но обычно работают за счет других людей. Этими «другими», как правило, оказываются индивиды и сообщества, которые уже отчуждены большинством и существуют на размытых границах основного общества, пытаясь сделать так, чтобы их все-таки было слышно и видно. На одних только примерах из этой книги я увидела, как ИИ-системы вредят женщинам, чернокожим и смуглокожим людям, мигрантам и беженцам, религиозным меньшинствам, беднякам, инвалидам и многим другим.

Люди сегодня оказались в созависимости с бесконечными строками кода, который прочно вошел в их жизнь. Не понимая, как работают ИИ-системы, мы просто не замечаем, когда они выходят из строя или причиняют вред – особенно представителям уязвимых групп. И наоборот, не понимая природу, этику, историю людей и саму нашу человеческую сущность, ИИ-системы никак не могут нам помочь.

Сила моделей машинного обучения состоит в их способности находить статистические связи, часто незаметные для людей. Принимаемые ими решения и методы их работы не диктуются людьми, которые их создают, поэтому их и называют черными ящиками. Считается, что благодаря этому они гораздо объективнее людей, но вместе с тем их логика бывает непрозрачной и неочевидной – даже для их создателей.

Например, исследователи, которые разрабатывали алгоритмы диагностики COVID–19, использовали в качестве контрольной группы рентгеновские снимки грудной клетки больных пневмонией, но оказалось, что в выборку попали только снимки детей в возрасте от одного до пяти лет. В результате построенные учеными модели научились отличать детей от взрослых, вместо того чтобы отличать COVID–19 от пневмонии{8}. Эти системы – загадочные сущности с непознаваемыми когнитивными паттернами.

Помимо того, что автоматизированные системы технически непрозрачны, люди не всегда замечают, какое воздействие они оказывают на жизнь. Особенности внедрения алгоритмов в общество привели к размытию нашего чувства личной автономии, а также к снижению влияния и степени участия в нашей жизни тех, кому мы доверяем как специалистам, что в итоге спровоцировало общественную трансформацию.