Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 47)
Текстовый диалог с теми, кто присылает запросы с компьютеров, планшетов, ноутбуков и телефонов ведут сегодня тоже чатботы, виртуальные агенты с элементами ИИ. Чатботы, конечно, волшебники, но они еще учатся, поэтому не всегда правильно понимают вопрос клиента. Те самые индийские выпускники, которые раньше оттачивали безукоризненный оксфордский акцент, теперь кодируют запросы клиентов. На тренингах их учат оценивать работу чатбота: насколько верно виртуальный помощник —или, как правило, помощница —понимает намерение клиента, в какой момент перестает понимать и каково было на самом деле это намерение.
От человека в Бангалоре требуется не дать правильный ответ, а, скорее, присвоить метку запросу, на который чат-бот не ответил или ответил неверно. Все это кодируется и отправляется в облако, откуда ученые берут эти данные, чтобы создать в ИИ новый слой нейронов или внести в сеть коррективы. И в следующий раз чатбот с прекрасным женским именем должен ответить на вопрос правильно.
Часто ученые, работающие над обновлением чатботов, сидят там же, где и операторы, обрабатывающие запросы. Операторы — недавние выпускники, а ученые, как правило, закончили престижные вузы. Может быть, это как раз те ребята, что 20 лет назад отвечали на звонки. Теперь для них появились новые специальности — «дизайнеры по цифровой конверсии» (это те, кто совершенствует нейросети) и «дизайнеры по голосовым разговорам» (они учат чатбо-ты лучше понимать людей). Индия знаменита своей «Кама-сутрой», которая создала своего рода язык желаний, и где, как не в Индии, искать учителей этого языка?
Появился и новый термин: «степень сдерживания». Она характеризует, насколько далеко чатбот может пройти в разговоре с человеком, правильно реагируя на вопросы. Чем меньше этот показатель, тем хуже бот понимает человека, а при ста процентах считается, что он понимает клиента на человеческом уровне.
Сегодня «степень сдерживания» варьируется от 20 до 50 процентов в зависимости от компании. Вполне вероятно, в ближайшие год-два этот показатель вырастет в большинстве случаев до 80, то есть бот будет в состоянии вести разговор как средний сотрудник банка или мобильного оператора.
Банки хотят, чтобы их боты разговаривали как солидные клерки, другие компании часто предпочитают ботов, которые общались бы не на формальном, а на разговорном языке, ученые выбирают правильные языковые оттенки, характерные для каждого из этих ботов. Вероятно, в будущем машины смогут сами делать подобный выбор, но пока что подобные оттенки требуют человеческого вмешательства. В боты — точнее, в алгоритмы сетей, которые ими управляют, —также встраивается «детектор негативного отношения», который следит за степенью довольства или недовольства клиента. При повышении градуса недовольства включается «автогенерация симпатии».
КРАТКИЙ КУРС ПОЛИТЭКОНОМИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Чтобы взаимодействовать с системой Amazon Echo, нужен не просто многослойный технический стек моделирования данных, серверов, железа, инфраструктуры, софта и сетей. Полный стек, который моделируется системой — это еще и капитал, труд, природа, люди, которые становятся придатками к машине.
Соединяя человеческий труд, добычу ресурсов и добычу данных для построения систем с Искусственным интеллектом в единую цепочку, нужно сказать о том, что их объединяет, а именно о капитале и эксплуатации. Но как оценить стоимость, которая извлекается через ИИ-системы?
Здесь можно обратиться к трудам работающих в Британии социологов Кристиана Фукса и Кристиана Севиньяни, например, к их статье «Что такое цифровой труд? Что такое цифровая работа? В чем между ними разница? И почему эти вопросы имеют значение для понимания социальных сетей?»
Они ввели в оборот термин «цифровой труд», говоря о разных формах нематериального труда. Цифровой труд— это работа по построению и поддержанию цифровых систем—далек от виртуального и эфемерного, невыразимого в реальном мире. На самом деле он воплощен во вполне земную активность. От тяжелого физического труда по добыче полезных ископаемых, которые необходимы для «железа» вычислительных машин, серверов и инфраструктуры, до конвейерного производства и сборки этих устройств на жестко регулируемых фабриках Китая и других стран, зачастую с детским трудом, до нанятых на аутсорсе индийцев, «когнитивных рабочих», кликателей, которые ставят метки на данные нужные для обучения ИИ, до нанятых по-черному африканских бедняков и бомжей, которые работают на свалках химических отходов. И весь этот труд создает добавочную стоимость, аккумулируют власть и богатство для очень тонкого социального слоя.
Здесь данные — это ресурс, такой как нефть или человек, и одновременно средство социального контроля. Это циклический поток, в котором продукт при участии потребителя становится ресурсом, а тот, в свою очередь, при помощи вложенного в него труда становится новым продуктом, который, в свою очередь, используется как ресурс.
Каждый треугольник представляет собой фазу в процессе производства. Работает марксистская диалектика субъекта и объекта в экономике, где из ресурса при помощи средств производства (объект) и работы (субъект) получается продукт (субъект-объект).
Лучше представить этот процесс в виде фрактальной структуры, известной как треугольник Серпинского. Каждый следующий шаг производства и эксплуатации содержит предыдущие фазы. Посмотрим через эту фрактальную структуру на процесс производства и эксплуатации.
Наименьший треугольник представляет натуральные ресурсы и средства производства для добычи, то есть шахтера как труд и руду как продукт.
Следующий, больший треугольник, представляет процесс обогащения руды при помощи средств производства и получение металла. Труд вкладывают работники горно-обогатительных фабрик.
Следующий треугольник — производство компонентов (например, микросхем). Следующий треугольник —производство продукта, допустим, устройства Amazon Echo (труд работников сборочной линии).
Каждый треугольник сопровождается извлечением прибыли владельцем средств производства. Можно ли это назвать цифровой экономикой, якобы чистой и экологичной, о которой каждый год за дорогим шампанским рассуждают в Давосе?
На самом деле в среднем человек XXI века использует в десять раз больше металла, чем человек прошлого века. В обычном айфоне содержится 75 элементов — две трети периодической таблицы Менделеева. В процессе труда —рудники, ГО заводы, контейнерные суда, портовое оборудование, фабрики по производству микросхем и т. п., сборочные производства.
На самом верху пирамиды извлечения прибыли как фараон восседает Джефф Безос, владелец «Амазона».
Каждый такой треугольник создает прибавочную стоимость и прибыль. Если посмотреть на то, сколько получает каждый работник в процессе производства, можно увидеть гигантскую разницу в доходах наверху и внизу пирамиды извлечения.
Во время добычи кобальта для литиевых батарей самых главных брендов работникам платят эквивалент 1 доллара в день, при том что этот труд опасен для жизни и вреден для здоровья. Эти работники также подвергаются насилию, запугиванию и вымогательству, штрафам. На рудниках работают, по данным Amnesty International, дети семи лет.
А Джефф Безос наверху фрактальной пирамиды зарабатывает в день в среднем $275 миллионов (в первые полгода 2018 г., согласно индексу миллиардеров Блумберга). Мальчику на руднике в Конго потребуется проработать 700 тысяч лет, чтобы заработать столько же, сколько Безос зарабатывает за день. Шахтеры в Китае, мусорщики, разгребающие свалки электронных отходов в Индии — их заработок составляет менее 200 долларов в месяц (для примера, шахтер в США зарабатывает в среднем 5300 долларов, в Канаде —5800, сборщик мусора в США получает 3500).
В 2008 году в прекрасном районе Лос-Анджелеса Санта Моника была основана компания TaskUs, этакая многонациональная служба поддержки для ведущих технологических компаний мира. Стиль управления компании крайне демократичен, рядовые сотрудники могут записаться на игру в гольф с топ-менеджерами или принять участие в корпоративе на специально зафрахтованном круизном лайнере.
Глобальные компании сегодня стремятся мотивировать сотрудников работать, отдыхая, и отдыхать, работая, так что офисы TaskUs оборудованы плетеными креслами и комнатами медитации.
Чем же занимается TaskUs? Компания берет на аутсорсинг создание колл-центров крупных брендов или модерацию контента на «Фейсбуке». То есть, говоря по-русски, фирма берет на откуп ответы на звонки потребителей и цензуру содержания социальных сетей. И первая, и вторая задача все больше становится делом искусственного интеллекта, но пока что филиппинские сотрудницы TaskUs составляют роботам конкуренцию: ведь платят им менее 400 долларов в месяц. Примерно столько же получают филиппинцы, обслуживающие по всему миру контейнерные перевозки.
Чем больше размер фракталов в треугольнике Серпинского, тем больше зарплаты, но соответственно росту прибавочной стоимости растет и прибыль собственников средств производства.
Китаец-ремонтник аппаратуры получает порядка 500 долларов в месяц, индиец-инженер в InfoSys —компании, которая берет на аутсорс разработку софта для ведущих технологических компаний, —получает около 600. Китайский рабочий на фабрике где-нибудь в Шеньджене обходится уже в 700-800 долларов, столько же стоит ведущий инженер-разработчик софта на Украине.