Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 10)

С момента прихода к власти президент США Трамп распорядился резко сократить выплаты по социальным программам, затрагивающим интересы наименее обеспеченных слоев населения. При этом для оптимизации процессов уже сейчас широко применяется искусственный интеллект, который, например, анализирует данные малообеспеченного инвалида и решает, сколько часов бесплатного ухода в неделю ему полагается от государства.

Если ИИ решил отказать или назначил меньше часов, чем было раньше, больному просто некуда обратиться: ему говорят, что решение, принятое «черным ящиком», невозможно изменить. Более того, чиновники не могут даже объяснить принятое решение — примерно как сотрудник банка может лишь гадать, почему система не выдала потребителю кредит. Во всем мире сегодня намечается переход от решений, принимаемых людьми, к решениям на базе непрозрачных алгоритмов. При этом у людей, которых это непосредственно затрагивает, практически нет средств контроля за государственными органами, не говоря уже о частных компаниях. «Черные ящики» устройств, где обработка данных осуществляется в наднациональном «облаке», недоступны для того, чтобы опротестовать эти решения или изменить их.

Эффективность систем автоматического принятия решений в вопросе помощи инвалидам или неимущим никем не доказана, хотя бюджеты на социальные нужды они, конечно, экономят — перекладывая при этом ответственность за результаты с людей-чиновников на безответные машины.

И чиновники, и крупный бизнес оказываются кровно заинтересованы в быстрейшем продвижении технологий. Одних он освобождает от ответственности, другим обеспечивает прибыль. При этом личные и конституционные права, которые граждане развитых стран отстаивали на протяжении веков, борясь за социально ответственное государство, мало кого интересуют.

Практически везде крупный бизнес обеспечил себе режим наибольшего благоприятствования в создании новых технологий. Прикрываясь стремлением помочь родному государству, компании вывели из-под легального надзора свои бизнес-практики, в которых много серых или даже откровенно черных схем. Конечно, сегодня даже транснациональные корпорации имеют дом, чаще всего в США, и должны демонстрировать и всячески доказывать свою лояльность. Однако это лояльность отнюдь не народам этих стран, а лицам или структурам, принимающим реальные решения. Поэтому тем же пенсионерам не стоит надеяться на правовую защиту государства: им в лучшем случае скажут, что все делается для их же блага, и что по-старому работать нельзя, потому что у страны нет на это денег.

Казалось бы, есть юристы, которые могли бы защитить права людей в подобных случаях. Но суды требуют доказательств, а у юристов резко сузилась возможность предоставить информацию о том, какой, собственно, алгоритм привел к нарушению прав.

Необходимая юристам информация о том, как собираются, обрабатываются и используются данные, защищена не только законами о коммерческой тайне, но и практикой аутсорсинга, когда для проведения сомнительных с точки зрения закона работ и исследований нанимаются сторонние контракторы где-нибудь в Индии, где на тонкости, связанные с защитой данных, никто не будет обращать внимания.

Например, на компанию Facebook работают десятки тысяч людей в самых разных странах мира. При этом отработка сомнительных алгоритмов передается, как правило, на аутсорсинг. В известном скандале вокруг компании Cambridge Analytica, которая получила подробные профили всех американских избирателей и использовала их в бизнесе политического маркетинга, самое интересное было не то, что искусственный интеллект проанализировал все лайки, эмотиконы, комментарии и посты этих людей. Не то, что на основе собранных данных система набросала психологический портрет каждого человека с отнесением его или ее к пяти основным типам личности. Не то, что затем люди стали получать персонализированную политическую рекламу и видеть посты, которые были предназначены именно для личности данного типа. Не то, что люди аккуратно таргетировались, а их эмоции просчитывались для того, чтобы вызвать запланированный результат. Самое интересное заключалось в том, что все эти операции проделала малоизвестная компания Cambridge Analytica, которая формально не имеет отношения к «Фейсбуку» — но на деле получала от него самые эксклюзивные данные. Корпоративная система аутсорсинга, отдачи на сторону исполнения самых скользких делишек не получала бы огласки и дальше, если бы в какой-то момент дело не затронуло интересы влиятельных политических кругов США.

Facebook и сейчас может беспрепятственно вмешиваться в политику таких стран, как Россия, или определять исход голосования в какой-нибудь банановой республике, но ему дали по рукам, когда он использовал имеющиеся возможности, чтобы влиять на политические процессы в Соединенных Штатах и Великобритании.

ЭЛИТА СЛУШАЕТ ПЛОЩАДЬ

В Риме тех времен, когда папы любили ставить на площадях обелиски в египетском стиле, жил ученый иезуит, немец по происхождению, Атанасиус Кирхер. Он считается отцом египтологии и даже утверждал, что разгадал язык фараонов.

Увлеченный криптографией, на пустых местах обелисков он рисовал иероглифы настолько фантастические, что они до сих пор ставят исследователей в тупик. Плодовитый автор, на обложке одной из своих работ написавший «Нет ничего прекрасней, чем знать все», Кирхер опубликовал более сорока книг по медицине, геологии, сравнительной религии и музыке.

В трактате, посвященном магнетизму, он описал и другие силы притяжения —гравитацию, любовь. Кирхнер изобрел магнитные часы и мегафон, а в 1673 создал «говорящую статую», statua citofonica. В сущности, это был первый микрофон, сделанный на основе гигантской спиральной трубы, которая передавала разговоры с городской площади. Те звучали словно бы изо рта статуи, расположенной в частных покоях владельца.

Вот как ее описывал изобретатель: «Статуя будет способна издавать звуки не переставая, говоря голосом то человека, то животного, она будет смеяться и скрежетать зубами, будет казаться, что она реально кричит или стонет, а иногда к удивлению она будет дуть со страшной силой».

Statua citofonica была, возможно, первой системой массовой прослушки, данные которой поступали во дворцы итальянских олигархов. Люди на площади, конечно, не знали, что их разговоры используются когда для развлечения, а когда и для интриг, связанных с властью или обогащением. Тогда, как и сегодня, инфраструктура массовой прослушки была доступна лишь элите.

С тех пор изменилось удивительно мало — разве что широкомасштабная слежка за населением с применением ИИ давно перешла границы отдельных стран и стала глобальным явлением.

Об этом свидетельствует прежде всего бурный рост рынка сенсорных сетей, контролируемый компаниями из Швейцарии и США (на 14% в год; ожидается, что к 2020 году число установленных устройств достигнет 50 млн. По всему миру каждый год устанавливаются также сотни миллионов «интеллигентных» камер наблюдения, этот рынок растет на 16% в год, и достигнет 800 млн долларов к 2022 году). Промышленные масштабы принял мониторинг социальных сетей и, конечно, внедрение технологий распознавания лиц и эмоций. ИИ автоматизировал слежку, сделав ее охват практически тотальным — и тем самым ускорил процесс утраты одной из основ современной западной цивилизации-неприкосновенности частной жизни.

ИИ-технологии, которыми пользуются государства по всему миру, подталкивают их к внедрению систем тотальной слежки и контроля за гражданами. Эти системы слишком удобны, чтобы от них отказаться. Французский журналист как-то спросил президента Барака Обаму, почему США прослушивают иностранных лидеров. Тот ответил в духе: мы делаем это, потому что можем.

Сознание новых возможностей пьянит политиков и лидеров бизнеса, открывая путь к еще большей централизации власти и концентрации ресурсов планеты в руках немногих.

Пресса много писала о примерах слежки, проводимой при помощи ИИ в Китае, где правительство открыто признает эти факты. Однако вся подобная инфраструктура существует и в США, она производится частными компаниями, которые в публичном пространстве акцентируют внимание на других проектах, выставляющих их в благоприятном свете.

Инструменты, которые можно использовать для слежки в США, не афишируются правительством и правоохранительными органами страны, но при наличии политической воли или рыночного спроса легко могут быть применены. Так, известно, что Пентагон финансировал и, вероятно, до сих пор финансирует слежку при помощи ИИ в соцсетях для того, чтобы предсказать поведение больших масс населения.

ИИ РАСКОВАННЫЙ: ОТ ЖАККАРДОВА СТАНКА К ЧЕЛОВЕКУ ТРАНСФОРМЕРУ

РОЖДЕНИЕ ИИ ИЗ ДУХА ПОЭЗИИ

Рождение Искусственного Интеллекта напрямую связано с поэзией, любовью и сепаратизмом.

«Не как у матери ль черты твои, дитя прекрасное мое! Ада! Единственная дочь моего дома и сердца моего?»

Так вопрошал себя лорд Байрон перед тем, как отправиться в мятежную Грецию, где он вступил в ряды сепаратистов, воюющих против признанного тогдашним мировым сообществом законного правительства Великой Оттоманской Порты. Байрон был знаменитый поэт-романтик, по популярности сравнимый разве что с сегодняшними звездами рэпа, и свои строки он обращал к единственной законной дочери Аде. Если бы тогда существовал инстаграм, Байрон получил бы немало язвительных комментов и издевательских гифок. Как же «единственная» — ведь у него была еще пара, а скорее всего и больше, незаконных дочерей — Аллегра, Элизабет Медора Ли и так далее.