Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 8)

Запад продолжает получать дешевые ресурсы, деньги за них возвращаются туда же на Запад в оплату оружия, правительства африканских стран слабеют от вооруженных конфликтов и все сильнее зависят от своих бывших колонизаторов и вездесущих Соединенных Штатов. Эта стратегия «win-win» для западного бизнеса требует человеческой крови, но она успешно применяется, и не только в Африке.

Когда правозащитные организации в начале 2000-х уже не могли не обращать внимание на жуткие военные преступления, в прессе стали появляться очерки о том, как крупные технологические компании способствуют войне. Это ударило по репутации компаний, получающих металл из военной зоны.

Тогда Intel решил показать, что тантал для чипов не поставляется из Конго. На расследование своей собственной цепочки поставок эта ведущая глобальная технологическая компания потратила четыре года! Возможно, конечно, что реальное расследование продолжалось не так долго, а большая часть времени ушла на то, чтобы замести следы, но факт остается фактом: схема цепочек поставщиков была настолько сложна, что для ее составления пришлось привлечь искусственный интеллект!

Что уж говорить об обычных журналистах, которым недоступна внутренняя кухня транснационалов — у них мало шансов на то, чтобы распутать подобные цепочки. Остается надежда на «свистунов» —то есть сотрудников самих компаний, которые из благородных побуждений, страха или по иным причинам сливают информацию о неблаговидных делишках корпораций.

И это лишь один элемент пирамиды создания стоимости высокотехнологичных продуктов XXI столетия!

Десятки тысяч компонентов для устройств Apple поставляют сотни компаний. Чтобы попасть на сборочный конвейер Foxconn, их нужно привезти с примерно 750 складов и фабрик в 30 странах мира. Реальную структуру производства сможет нарисовать разве что сам ИИ — и понятно, что эта схема будет надежно скрыта от посторонних глаз.

Сети поставщиков компонентов, оборудования, сервисов, обслуживающих системы с ИИ по сложности и запутанности напоминают интернет с его тысячами сайтов с перекрестными ссылками — не широкую и прямую информационную автостраду, о которой так любит говорить Билл Гейтс, а скорее паутину, призванную запутать и скрыть и от налоговиков, и от общества реальное положение вещей.

КОМПОНЕНТЫ ВЕЗУТ НА СБОРКУ

Производство систем с искусственным интеллектом стало бы невозможным без контейнерных перевозок. В 1952 году в США разработали стандартный контейнер CONEX, с которым можно управляться как с элементом лего, без проблем перегружая с корабля в железнодорожный вагон, а оттуда в грузовик.

Согласно конвенции, принятой Международной морской организацией в 1972 году, каждый контейнер должен был нести стандартную табличку с данными. Типовой контейнер служит более 10 лет и стоит при этом менее 2000 долларов (90 процентов их делается в Китае). Эти нововведения радикально сократили стоимость глобальной доставки и превратили планету в огромную фабрику.

Большие прибыли от морских грузовых перевозок были бы невозможны без сопутствующего ущерба, который редко принимается во внимание. Одни контейнеровозы произвели в 2018 году около трех процентов мировых выбросов в атмосферу углекислого газа — больше, чем вся Германия. Чтобы сократить расходы, крупные перевозчики — а этот рынок принадлежит прежде всего компаниям из Дании, Швейцарии и Франции — используют топливо с высоким содержанием серы. Подсчитано, что контейнеровозы косвенно отвечают за ежегодные 60 тысяч смертей, вызванных повышенным содержанием токсичных веществ в атмосфере Земли.

Кроме того, каждый год тысячи контейнеров теряются в море и либо погружаются на дно океана, либо блуждают по его просторам. Некоторые из них содержат токсичные вещества, которые просачиваются в воду. Таким образом, за прибыль, приносимую логистикой систем с ИИ, приходится расплачиваться загрязнением экосистемы океана, атмосферы и сверхэксплуатацией моряков, которые проводят в море зачастую по 9-10 месяцев без перерыва.

Треть из этих моряков филиппинцы, для которых высокие технологии означают прежде всего безжалостную эксплуатацию.

НЕВИДИМОЕ ЗОЛОТО ДАННЫХ

Агент искусственного интеллекта не может работать без постоянного потока данных от системы, которой он управляет. Данные для Алексы, амазоновского интерфейса между человеком и искусственным интеллектом, поставляет система «Эхо», которая содержит семь направленных микрофонов. Пользователя в результате можно слышать всегда и везде, даже поверх музыки. Данные, собранные с микрофонов, поступают в принадлежащее «Амазону» облако, доступ к которому дается разнообразным сервисам и приложениям, в том числе, в целях быстрейшего развития сети, и независимым структурам. Данные оттуда распределяются по множеству каналов.

Разговоры хозяев, в частности, переводятся в текст, который анализируется на предмет ключевых слов, семантического построения фраз и индивидуальных звуковых характеристик. Этот анализ используется для получения ответов из хранилищ данных, но не только.

Как для пользователя, так и для самих сотрудников «Амазона» «Эхо» — это черный ящик. Является ли он лишь передаточным звеном от пользователя к облаку, и даже если так — собирает ли он только ту информацию, которая нужна для адекватного приема команд? Едва ли — эксперты сообщали о том, что датчики собирают о пользователях всю возможную информацию, а не только ту, которая необходима для оказания тем услуг.

Пользователь Алексы является для «Амазона» потребителем, ресурсом, работником и продуктом одновременно. Как потребитель, он покупает продукт и пользуется им — но при этом его голосовые команды поступают в облако данных Amazon, анализируются в чрезвычайно сложных сетях обработки информации и хранятся там, пополняя базу человеческих голосов, эмоций и инструкций.

Эта база, которая растет как снежный ком, используется в целях машинного обучения нейросетей, которые действительно становятся все умнее. При этом потребители, через свою реакцию, постоянно оказывают компании бесплатные услуги по оценке качества ответов Алексы, их полезности и своевременности. Алекса учитывает обратную реакцию и с каждым разом учится лучше слышать и понимать, допускать все меньше ошибок, выполнять команды как можно точнее. Например, если пользователь повторил вопрос, значит, он считает, что не был услышан. При этом Алекса — то есть агент искусственного интеллекта, стоящий за бесплотным голосом —все время обновляет профиль пользователя, строит модель его предпочтений, привычек и желаний.

Не за горами разработка и внедрение системы взаимодействия между мозгом человека и агентом машины напрямую, минуя голос или пальцы. Можно, с оговорками, о которых пойдет речь дальше, называть это чтением мыслей. Когда это будет достигнуто, мысли человека поступят в общую копилку данных, а облачные серверы смогут накапливать информацию, скажем, о том, насколько действие человека соответствует его мысли.

Алекса получает возможность следить за поведением человека 24 часа в сутки 7 дней в неделю. Разумеется, 15-сантиметровый цилиндрик не занимается сложным анализом, это лишь интерфейс, но в облаке в режиме реального времени создаются и обновляются профили пользователей, со всеми их привычками и интимными подробностями. Агенты ИИ с доступом к облачному хранилищу смогут прогнозировать поведение оригиналов, исходя из этих моделей, и делать это все точнее, и точнее, и точнее.

Ресурсы, которые нужны для того, чтобы агент ИИ ответил на вопрос, включил свет, спел колыбельную ребенку во множество раз превышают то, что требуется для подобных действий человеку. Искусственному интеллекту необходимо «железо» серверов, создание целой инфраструктуры, труд множества людей, которые вручную удаленно вводят данные в нужном формате...

И еще нужна энергия, энергия, энергия.

Энергия нужна ИИ для передачи, сохранения и обработки данных, огромные потоки которых текут в разных направлениях по всей инфраструктуре. Связанные с этим затраты трудно подсчитать из-за непрозрачности операций таких компаний, как Apple, Facebook или Amazon. Как-то организация Greenpeace попыталась получить у этой компании данные об энергопотреблении ее облачных серверов и воздействии этого процесса на окружающую среду, однако руководство отказалось пойти навстречу природозащитникам.

Пользователи в общении с технологическими платформами практически прозрачны для «Фейсбука», «Гугла», «Амазона» и других, которые легко отслеживают, хранят, анализируют, упаковывают и продают данные о каждом их них. В то же время информация о работе самих этих компаний остается закрытой.

С приходом на рынок все более совершенных ИИ-систем подавляющая часть их операций производятся в облаках, и, таким образом, отследить или хотя бы как-то строить по их поводу хоть какие-то догадки становится все труднее.

МЕХАНИЧЕСКИЕ ТУРКИ

В 1770 году австрийский изобретатель Вольфганг фон Кемпелен сконструировал «шахматный компьютер», прозванный «Механическим турком». Он хотел произвести впечатление на императрицу Марию-Терезию, и это ему удалось. Он возил машину, которая выигрывала почти все матчи, по всей Европе и даже по американскому континенту.