Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 9)

Секрет устройства был прост: внутри машины скрывался талантливый игрок в шахматы, который через оптическую систему мог видеть, что происходит на доске. Зрителей, убежденных, что с ними играет машина, попросту обманули. Через два с лишним века Amazon.com не без юмора назвала «Механическим турком» свою краудсорсинговую платформу. Ее целью было восполнить недостатки искусственного интеллекта, который не смог справиться с задачей распознавания дублей пользовательских страниц на своей торговой онлайн-площадке.

После долгих и бесполезных попыток как-то наладить работу системы инженеры обратились к людям, поручив им работать в параллель с компьютерами. Джефф Безос, которому и принадлежала идея «Механического турка», назвал платформу «искусственным искусственным интеллектом». Безос объяснил принцип ее работы так: «Обычно человек обращается с запросом к компьютеру, и тот выполняет запрос. Но «Механический турок» делает все наоборот. Перед компьютером стоит задача, сложная для него, но очень простая для человека. Поэтому вместо того, чтобы обратиться с запросом к компьютерному сервису, чтобы выполнить функцию, она обращается к человеку».

Людям платят по несколько центов, если они обнаружат страницу-дубликат существующего сайта —с этой простой задачей искусственный интеллект справиться не может. И в случае «Механического турка» для Марии-Терезии, и в случае его современного аналога человек работает за машину, а перед зрителями (и инвесторами) разворачивается спектакль «искусственного интеллекта», который якобы в одиночку решает задачи.

Платформа была запущена в 2005 году, и уже через пару лет после этого на нее работало 100 тысяч «турок», которые получали микровознаграждения за выполнение простых задач, требующих обычно одного или нескольких кликов мышкой. Безос сумел продать услугу другим компаниям, развивающим искусственный интеллект: они должны платить «Амазону» 10 процентов стоимости каждой операции или полцента за все операции, стоимость которых меньше цента.

Невидимый, скрытый, малооплачиваемый труд отдается на аутсорсинг или краудсорсинг многочисленным «кликерам» из стран Третьего мира, которые сегодня присваивают данным ярлыки, классифицируют цифровые архивы для того, чтобы «кормить» этими данными прожорливые нейросети. Часто, впрочем, этот труд не оплачивается, например, в случае программы reCAPTCHA, когда вы выполняете работу по распознаванию образов для нейросетей «Гугла» просто за то, чтобы продолжить пребывание на его сайте. Это делается под тем предлогом, что вы должны доказать, что сами не являетесь искусственным интеллектом.

Как выясняется, современный «искусственный разум» не так уж и разумен. В работу систем, которые продаются как «разумные» и «принимающие решения», вложено много физического труда шахтеров и взрывотехников, моряков, грузчиков, складских работников, монотонного труда сборщиков на конвейере, сотен тысяч «когнитивных кликеров» и «механических турок», а также неоплачиваемого труда миллионов простых пользователей.

ОБЛАЧНАЯ ЭКСПЛУАТАЦИЯ

Итак, чтобы произвести и эксплуатировать масштабную систему искусственного интеллекта, требуется постоянно извлекать материальные ресурсы, человеческий труд и большие данные. Оставим пока в стороне финансовые ресурсы, которые также необходимы — при том, что модель приносит собственникам прибыль на каждом этапе процесса. Извлечение это имеет поистине планетарный масштаб —то есть современный капитализм буквально вытягивает материалы как из Земли, так и из биосферы, монетизируя человеческое общение, коммуникацию и социализацию.

Когда мы говорим об «облаке» и «облачных вычислениях», многим представляется что-то эфемерное. Меж тем для обработки данных в таких «облаках» требуется самое настоящее «железо» серверов и инфраструктуры, в процессе изготовления которых в разных странах мира из недр извлекаются самые реальные редкоземельные элементы.

Экономика извлечения отнюдь не нова, и добыче ресурсов из глубин Земли всегда сопровождалась тяжелыми формами эксплуатации человека. Процессу всегда сопутствовали войны, мятежи, рабство, насилие...

Для извлечения ресурсов из недр прежде всего нужны работники. Работники — тоже своего рода инструменты, и в экономике «искусственного интеллекта» о них вполне можно говорить как об аристотелевских «одушевленных орудиях» или «говорящих машинах».

Роль людей сводится к тому, чтобы подправлять огрехи, вызванные несовершенством искусственного интеллекта.

Аристотель писал, что если бы ткацкие челноки сами ткали, а плектры сами играли, тогда господам не нужны были бы рабы. То есть до тех пор, пока без людей в процессе работы пирамиды ИИ нельзя обойтись, это «наиболее совершенное орудие труда» будет выполнять свою роль. При этом суть инструмента состоит в том, чтобы быть послушным, неважно, одушевленный этот инструмент или неодушевленный. Как только ИИ сможет выполнять работу по запросу хозяина или даже предвосхищая его запрос, «говорящая машина» станет не нужна. Что будет тогда с человеком, мы обсудим дальше, а пока обратимся к истории рабства.

Очевидно, что несмотря на всю шумиху о свободах и правах человека, оно никогда практически не прекращалось, и причиной этому был спрос на рабов, прежде всего со стороны крупных империалистических держав и корпораций.

Великобритания и другие европейские страны в течение нескольких веков получали огромные прибыли от работорговли. Принудительный труд использовался на каучуковых плантациях Малайи, а индейцы Боливии в нечеловеческих условиях добывали серебро и массово гибли на рудниках ради металла, который шел на изготовление монет, то есть обеспечивал финансовое обращение в Европе. И тогда, и сегодня есть связь между трудом, добычей ресурсов и добычей данных.

ПОТРЕБИТЕЛЬ КАК РЕСУРС

Под трендовыми названия «цифровая экономика» и «экономика внимания» скрывается модель эксплуатации, характерная для старой доброй экономики извлечения ресурсов. «Лукойл» и «Шелл» добывают, забираясь все глубже и дальше, нефть, выкачивают ее и продают. Для «Гугла», «Фейсбук», «Инстаграма», «Твиттера» и других компаний «экономики внимания» природным ресурсом служит человек, его время и контент, который он создает.

Пользователь владеет собственным контентом весьма условно, данные его профиля, содержимое постов, реакции на контент, эмоции, выражающиеся эмотиконами — все это открыто потребляется самой платформой, классифицируется, разбивается на части, упаковывается и продается, переупаковывается и перепродается. В обмен на то, что вы даете себя потреблять, вам предоставляется право бесплатно пользоваться некоторыми услугами.

Человек — это новая нефть, ценнейшая в экономике больших данных, но он еще не осознал своего превращения в товар. Есть попытки создания на блокчейне платформ по модели вклада, где пользователи являются владельцами созданного ими контента и получают за него вознаграждение. Впрочем, пока что у создателей таких платформ не получается масштабировать свою модель — возможно потому, что они не обладают столь значительными средствами, как ведущие соцсети.

В системах с использованием искусственного интеллекта это происходит еще более явственно.

Наша история началась с Даниэль, хозяйки дома, где установлена система Echo. Она оплачивает работу устройства как потребитель услуги и клиент компании. Но Amazon зарабатывает на ней и в скрытой форме, используя ее как человеческий ресурс.

Ее голосовые команды поступают в центр обработки данных Amazon, анализируются там и хранятся для пополнения базы человеческих голосов, эмоций и инструкций, которая потом используется для машинного обучения нейросетей. Хозяйка дома является неоплачиваемым тренером искусственного интеллекта и осуществляет за свой счет уход за устройством и его энергообеспечение.

Поставляя компании бесплатный контент, она к тому же служит объектом постоянного анализа и таргентинга. Она также бесплатно работает как оценщик качества ответов Алексы, их полезности и своевременности, тем самым помогая Amazon совершенствовать системы распознавания и обработки речи.

Есть ключевое отличие систем с искусственным интеллектом от других технологий: они сами потребляют, анализируют и оптимизируют содержание, созданное человеком по всем каналам, его речь, изображения и видео. Таким образом, технически потребитель становится частью системы, которая может его эксплуатировать, не сообщая ему об этом.

Греческая химера, мифологическое животное, была частично львом, козлом, змеей и драконом —точно так же пользователь Алексы является для ИИ-индустрии одновременно потребителем, ресурсом, работником и продуктом.

ЧЕРНЫЙ ЯЩИК ПРИНИМАЕТ РЕШЕНИЯ

Оптимизируя бюджеты, государства внедряют по всему миру автоматизированные системы принятия решений с использованием искусственного интеллекта. Для бюрократии это своего рода аутсорсинг ответственности: не надо ничего объяснять, ибо решения принимает, по факту, черный ящик. При этом у тех, кого непосредственно касаются эти решения, нет реальных возможностей их изменить или даже оспорить.

Пионером таких систем выступают Соединенные Штаты и Китай, и каждая страна имеет в их применении свои особенности.