Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 48)
Разработчик в Китае или в Румынии стоит уже побольше-около 1000 долларов в месяц, работница на конвейере производителя микросхем Foxconn в Китае обходится в 1300 долларов, а в Штатах на конвейере зарабатывают примерно вдвое больше.
Оператор грузов на складе Amazon в США получает 2100, техник в компании Intel — 2400. Вообще, зарплаты в США уже существенно выше, даже сборщик мусора получает там 3500 ежемесячно. Водитель доставки Amazon зарабатывает под 3000 долларов, грузчики и складские работники в портах-3200, рабочий на производстве компонентов для оборудования — 3600.
Операторы горнодобывающих машин, рабочие на взрывных работах, а также те, кто устанавливает оборудование Amazon в домах американцев и обслуживает его, получают 4200-4600 долларов, железнодорожники и техники центров данных — от 5000.
Затраты на труд в сфере IT в США достаточно высоки. Вебразработчик получает 6000, администратор баз данных — 7200, системный аналитик — 7600, специалист по информационной безопасности —8000. Еще больше — до 10 тысяч долларов — получают ученые и инженеры-геологи, менеджеры по логистике, разработчики софта и приложений, ученые, занимающиеся базами данных, компьютерные инженеры и специалисты по машинному обучению.
Менеджеры по продажам Amazon, инженеры по облачным вычислениям получают уже от 10 до 12 тысяч, а топ-менеджеры — в среднем 16200 долларов (разумеется, речь идет о США).
За каждым из треугольников стоят человеческие истории наплевательского отношения к природе, разрушенных ради прибылей экосистем, бешеной эксплуатации, бесчеловечных условий труда и разрушенных надежд на лучшую жизнь.
Система, в которой функционирует искусственный интеллект, стала глобальной и требует для своего поддержания в том числе и гигантских финансовых ресурсов, которые извлекаются из обычных отраслей. Пылесос мировой финансовой системы выкачивает из множества стран деньги, которые могли бы пойти на их развитие, для того, чтобы создать этого всемирного монстра.
Подлинная цена этих систем —социальная, экономическая, политическая, экологическая — остается скрытой.
ОГОРАЖИВАНИЕ ЧЕЛОВЕКА
Корпорации создают новые механизмы и строят инфраструктуру для еще большего накопления капитала с тем, чтобы закрепить свое право на эксплуатацию всех человеческих и планетарных ресурсов.
Такой ничем не сдерживаемый порыв за горизонт к новым ресурсам и новым полям когнитивной эксплуатации движет поиском все новых, более глубоких слоев данных, которые могут быть использованы с тем, чтобы оцифровать человеческую душу, сознательное и подсознательное, частное, интимное и общественное, политическое, социальное и даже священное.
Так на наших глазах из экономики внимания рождается целый веер когнитивных экономик: экономика эмоций, экономика массовой слежки, экономика репутации и экономика прозрачности, возникающая на основе блокчейна и критопвалют через коммодификацию доверия.
Процесс оцифровывания и обсчитывания всего теперь запускает свои щупальца в миры человеческого познания, душевных и телесных движений. Обучающие наборы данных существуют для определения человеческих эмоций, происхождения и семейных уз, процессов старения, не говоря уже о физических действиях.
Мы поднимаем упавший на пол стакан, поднимаем его в тосте, плачем или смеемся — и наши действия считываются и поставляются на вход черного ящика нейросети. Каждая форма биоданных — биометрия, социометрия, психометрия, данные судебно-медицинских экспертиз — все это регистрируется и загружается в базы данных для машинного обучения ИИ. Наборы данных для ИИ-систем берутся из всех сторон жизни, но при этом они повторяют стереотипы и предубеждения, записывая их как социальные паттерны сегодняшнего дня и проецируя их на будущее.
«Огораживание» биоразнообразия и знаний — последнее из огораживаний, начавшихся с развитием капитализма. Сначала огораживались леса и земля, они переводились из общественного достояния в ресурс и приватизировались. Затем «огородили» и приватизировали через дамбы водные ресурсы и подземные воды. Это произошло, как только ученые и футурологи стали предсказывать скорую нехватку воды.
Теперь пришел черед биоразнообразия и знаний, которые «огораживаются» через копирайт, законы об охране интеллектуальной собственности. Уничтожение общины было необходимо для промышленной революции, чтобы промышленность получала в неограниченном количестве сырье для производства.
Система (например, источник), от которой зависело само выживание общины, не могла находиться в частной собственности и ее нельзя было эксплуатировать ради прибыли: ее ресурсы делились между всеми. Поэтому общину приватизировали, а чтобы запитать двигатель прогресса и накопления капитала, присвоили базу для выживания общины. Тот же процесс произошел с правами на интеллектуальную собственность, теперь то же самое происходит с машинным обучением.
В контексте искусственного интеллекта началась золотая лихорадка интенсивного «огораживания» разных областей человеческого знания, чувств и действий для того, чтобы захватить и приватизировать эти области.
Когда в 2015 году лаборатория DeepMind Technologies получила доступ к медицинским данным 1.6 миллиона пациентов лондонской больницы Royal Free, это была особая форма приватизации: извлечение ценности из знаний. Сам набор данных пациентов может быть и сейчас в общественном пользовании, но модель, созданная на основе метаданных, стала частная собственностью. Ее можно купить, продать, сдать в аренду, внести в капитал и так далее.
Лаборатория объявила, что данные ей были нужны для того, чтобы улучшить медицинское обслуживание, но независимо от реальных или скрытых мотивов в условиях современного капитализма это играет против общества, приводя к скрытой приватизации медицины.
В будущем человеческий труд в медицинских учреждениях будет дополнен или вовсе заменен частной корпоративной ИИ-системой медицинских услуг. Скорей всего, централизованной. Таким образом данные, принадлежащие отдельным людям и обществу, будут служить той же цели, что и все остальные ресурсы: создавать богатства для немногих.
Сегодня мы видим, как возникает новая форма экономики извлечения. Капитализм в его новой форме достигает не только самых дальних уголков биосферы, но и самых глубоких слоев человеческого существа, он моделирует, копирует и в конечном итоге приватизирует познание, эмоциональную сферу, психику и в конечном итоге само физическое тело.
Машинное обучение, на котором строится сегодня развитие систем с искусственным интеллектом, весьма несовершенно. В результате эти системы усиливают неверные представления и нагружены стереотипами, они не поддаются контролю и плохо модифицируются.
Они похожи на динозавров с их огромными телами и маленькими мозгами, им все время нужно жрать информацию, которую они берут всюду, куда могут дотянуться. В процессе ее получения они готовы вытоптать целые материки, а на выходе они со скрипом и ревом поворачивают свою маленькую голову, издавая какие-то хрипы, то есть предвзятые, неуклюжие суждения, зачастую ошибочные.
На основе представлений этих динозавров все больше строится новая реальность, прекрасный новый мир, и они играют все возрастающую роль в том, как распределяются не только знания, но и возможности, благосостояние и сам капитал.
Их суждения мы порой просто обязаны исполнять, ведь в такую безвыходную позицию нас поставили власть имущие. Так, газета «Нью-Йорк Таймс» писала о том, что во многих местных сообществах в Соединенных Штатах у родителей нет другого выхода, кроме как отдавать детей в школы с дистанционным обучением. Других вариантов просто нет.
Этот подход навязывают прежде всего сами компании и их лоббисты в правительстве, заинтересованные в продвижении своих продуктов, тех же ноутбуков, без которых невозможно учиться в таких школах. Они убеждают педагогов и родителей принимать новые стандарты дистанционного обучения, ничего не говоря о побочных эффектах, например, о все меньшей социализации подростков и, как следствие, росте среди них насильственных преступлений. У детей просто нет опыта общения, что в условиях потребительского общества приводит к агрессии.
Но в то время как в Канзасе детей фермеров возят в учебное заведение, где они все время проводят перед экранами, в колыбели прогресса, Силиконовой долине, топ-менеджеры технокорпораций оставляют своих отпрысков в Уолдорфской школе, где все обучение принципиально построено по старинке, без использования компьютеров. Есть точка зрения, что полноценное развитие лучше обеспечивается при человеческом контакте с учителем. Но человеческий контакт нынче превратился в роскошь, и такое обучение стоит денег. Уолдорфская школа и система Монтессори все более популярны среди тех, кто может это себе позволить, то есть среди технократической элиты.
Системы на базе ИИ уже сейчас углубляют неравенство между немногими, кто ими владеет, и теми, которые становятся подопытными кроликами для новых технологий, не осознавая этого. Те, кто получает от ИИ прибыль, заинтересованы в том, чтобы ускорять развитие и внедрение этих систем, не обращая внимание на их явную и скрытую цену для рынка труда, общества, окружающей среды. У тех же, на ком тестируются эти системы, нет денег и влияния, чтобы отстоять свои права.