Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 7)
Echo — это просто ухо Большого Брата, которым он прослушивает дом, находясь при этом за тридевять земель, а если быть совсем точным, находясь одновременно во многих местах.
Технологии ИИ практически уничтожили понятие о частной жизни человека, при этом сами компании, которые зарабатывают на этом, превратились в «черные ящики». Это было очевидно даже на слушаниях в американском конгрессе, куда вызвали главу «Фейсбука» Марка Цукерберга. Сенаторы в своих вопросах в основном гадали на кофейной гуще, явно не имея базовой информации о работе компании. Исходя из этого, Цукербергу было сравнительно легко манипулировать вопросами и ответами, и в конечном итоге, при всем запале законодателей, он отделался малой кровью.
Крупным монополиям, занимающимся разработкой и внедрением систем с ИИ, есть что скрывать, и их можно понять: ведь потребители могут испугаться новых технологий, и их продажи замедлятся. Поэтому даже если электронные гомункулусы уже сегодня играют в свою игру, у «Гугла» или «Фейсбука» нет никакого резона об этом распространяться.
Потребители на самом деле уже привыкли пользоваться искусственным интеллектом. Мобильные телефоны, домовые помощники типа Алексы, автопилоты в автомобилях—все эти устройства передают данные в облака и получают оттуда команды. Это происходит невидимо и неслышно для потребителей, которые не представляют, что происходит внутри системы, но даже если сделать ее прозрачной, это не поможет.
Информация и на входе, и на выходе устройств никак не контролируется их весьма условными «хозяевами» — а на самом деле потребители тоже становятся частью системы, которая их эксплуатирует и ничем перед ними не отвечает.
Кто владеет данными, владеет миром — так что, получая все больше власти, технологические корпорации будут пользоваться ею, чтобы получить еще больше информации. Возникает замкнутый круг, который, если ничего не делать, приведет к реальному тоталитаризму. Только полная подотчетность корпораций и сознательный выбор потребителя может как-то укротить систему, но это, пожалуй, невозможно без существенных социальных преобразований.
За ответом искусственного интеллекта Алексы на вопрос хозяйки стоит целая пирамида извлечения вполне материальных ресурсов и человеческого труда, переплетенные друг с другом глобальные сети добычи редкоземельных металлов, логистики, распределения, аутсорсинга, сбора и обработки данных, машинного обучения и, наконец, финансовых и политических учреждений.
СЛЕЗЫ ТУНИПЫ: ГЕОЛОГИЧЕСКИЕ ТАЙНЫ ИИ
Индейцы аймара — может быть, самый богатый и самый несчастный народ на Земле. Они живут на высоких равнинах в боливийских и перуанских Андах. Горы эти славятся богатыми залежами серебра, олова, меди, вольфрама, платины, сурьмы, ванадия и других ценных металлов. Миллионы аймара погибли от непосильного труда на рудниках знаменитой Серебряной горы Потоси и других месторождений, которые со времен прихода испанцев и по сей день приносят колоссальные прибыли своим владельцам.
По местной легенде, когда-то вулканы были живыми и свободно бродили по равнинам. Среди них была красивая девушка Тунипа, которую добивались все мужчины-вулканы. Наконец, Тунипа родила, но не сказала, от кого. Мужчины-вулканы из ревности забрали у нее ребенка и спрятали. За это боги наказали их всех, приковав к земле. А слезы Тунипы перемешались с ее молоком и образовали озеро Салар де Уюни.
Как раз там, на плато Салар, на высоте более 3600 метров над уровнем моря, находится от половины до двух третей мировых запасов лития. Аймара до сих пор живут в хижинах из самана, а без лития не ответит на ваш вопрос Алекса, не зазвонит ваш смартфон и не тронется с места распиаренное детище Илона Маска. Для батареи этой модной машины, запущенной уже и в космос, нужно около семи килограммов металла, который называют «серым золотом».
Так на слезах и грудном молоке Тунипы держится благополучие ведущих мировых компаний и их акционеров, которые слыхом не слыхивали об индейцах аймара.
В Нью-Йорке есть институт Al NOW, который занимается изучением воздействия ИИ на общество. Его основательница Кейт Крауфорд вместе с исследователем Владаном Йолером опубликовала карту ресурсов, которые нужны для создания систем искусственного интеллекта типа домашних помощников.
Каждый объект в расширенной системе производства ИИ, от сетевых роутеров до батарей и микрофонов, построен из вполне материальных элементов. Для их создания потребовались сотни миллионов лет эволюции Земли и ее геологической структуры. Чтобы создать устройства, которые через несколько лет будут выброшены на свалку (например, срок службы смартфона оценивается меньше чем в пять лет), мы безвозвратно извлекаем из Земли ее историю. А ведь чтобы нарастить прибыли, компании придумывают, как побудить человека покупать больше и чаще!
С геологической точки зрения, индустрия ИИ начинается с извлечения руды из горных пород где-нибудь в Южной Америке и заканчивается на африканской свалке. Но это только общая канва. Между точками начала и конца производства лежит еще много слоев с запутанными цепочками поставок при расширенной эксплуатации человеческих и природных ресурсов. Всё это ведет к концентрации корпоративной и геополитической власти и растущему потреблению энергии.
Средневековые алхимики зашифровывали и держали в глубоком секрете рецепты преобразования обычных металлов в «благородные». Точно так же как сегодня поступают сегодня изготовители смартфонов и лэптопов, которые добавляют редкоземельные металлы в сплавы, чтобы делать свои устройства легче и производительнее.
Это ключевые элементы не только в цветных дисплеях, батареях питания, динамиках, жестких дисках, но и в оптоволоконных кабелях, вышках мобильной связи и системах GPS. Компании скрывают результаты исследований, защищаясь законами о коммерческой тайне и соглашениями о неразглашении, но специалисты знают, что добыча этих металлов наносит порой огромный экологический ущерб.
Так, редкоземельные элементы диспрозий и тербий извлекают из глины в провинции Цзянси в Китае. При этом лишь 0,2 процента добытой руды содержит эти ценные элементы, все остальное выбрасывается, создавая горы шлака, отравляющего окружающие леса и холмы.
По данным Китайского общества редкоземельных элементов, при добыче одной тонны металлов производится в среднем 75 тысяч литров окисленной воды и тонна радиоактивных отходов. В этих данных не говорится о большом количестве углекислого газа, вырабатываемого в ходе процесса.
Олово для полупроводниковых микросхем той же компании Foxconn поставляется из Индонезии, занимающей второе место в мире по экспорту этого металла. Вот как описывает британская газета «Гардиан» воздействие такого бизнеса на природу индонезийского острова Бангка: «Добыча олова очень прибыльное, но разрушительное занятие, которое исполосовало ранами пейзажи острова, стерло бульдозерами его фермы и леса, убило рыбу и коралловые рифы. Ущерб лучше оценивать с воздуха, где на фоне огромных пространств опустошенной оранжевой земли еще остались карманы с густыми зарослями. Там, где уже нет выработок, видны могилы тех, кто погиб здесь за сотни лет извлечения олова».
После использования слезы и молоко Тунипы выбрасывают.
ТАНТАЛОВЫЕ ВОЙНЫ
Когда говорят об ИИ как о черном ящике, имеют в виду невозможность понять решения, принятые алгоритмами. Но есть и еще один черный ящик —сам процесс производства, обучения и работы систем с искусственным интеллектом, таких как Amazon Echo.
Потребитель хочет иметь продукт здесь и сейчас, и его не интересует история производства его компонентов. Но за каждым из них стоят целые слои контракторов, дистрибьюторов, логистических партнеров, аутсорсинга по всему миру. В бизнес-школах сегодня любят говорить о тренде на сокращение цепочки посредников на основе уберизации и блокчейна, о том, что уже очень скоро конечные потребители и производители будут связаны напрямую.
Однако этот тренд, если он существует, совершенно не применим к поставкам металлов для нужд ведущих мировых технологических компаний.
Торговля металлами проходит через длинную цепочку посредников, которые часто имеют дело с нелегальными поставщиками. Чтобы замести следы, металлы придерживаются, перевозятся с места на место, переплавляются вместе с ломом, так что источник их происхождения установить практически невозможно.
Например, производитель полупроводниковых микрочипов Intel поставляет компании Apple процессоры. У Intel, в свою очередь, есть сеть из почти двадцати тысяч поставщиков материалов, машин, логистических и прочих услуг. Эти поставщики расположены более чем в ста странах.
В 1990-2000-е годы в восточной Африке шла кровопролитная война, сопровождавшаяся геноцидом целых народов. Погибли миллионы людей. При этом поставки редкоземельных металлов, золота и олова на мировые рынки из охваченных войной районов не прекращались. На полученную выручку воюющие стороны втридорога, через посредников, покупали оружие у тех самых стран, которым задешево продавали ресурсы. Это оружие подхлестывало войну, но для западных правительств и компаний ситуация выглядела как win-win, то есть выигрышной со всех сторон.