Игорь Шнуренко – Демон внутри. Анатомия искусственного интеллекта (страница 6)

Отделив ИИ от себя, мы начнем завоевывать его, как мы завоевываем природу —только с еще более разрушительными результатами. Ведь мы будем завоевывать его, а он — нас, и ничем хорошим это разделение кончиться не может. Мы завоевали природу, на подвластной нам земной коре, в океанах и в атмосфере, практически уничтожив ее и заменив искусственной. Мы вгрызаемся дальше вглубь, пока какая-нибудь природная катастрофа нас не остановит. Сможем ли мы сделать то же сами с собой — ведь человечество и ИИ уже сейчас — одно целое? Это путь к саморазрушению, игра, в которой мы никогда не сможем выиграть. Выход видится в перемене нашего сознания — но для этого как можно больше людей должно понять, что человечество миновало важную развилку на пути и пошло не туда.

ИИ НА ГРАНИ НЕРВНОГО СРЫВА

В марте 2018 года управляемый ИИ автономный автомобиль компании Uber не увидел на дороге женщину и сбил ее насмерть. Тогда же сотрудники Google выступили с беспрецедентным протестом против создания систем ИИ по заказам Пентагона для систем вооружений.

В мае того же года система распознавания голоса, предназначенная разоблачать злоупотребления при подаче заявлений на иммиграцию в Великобританию, «сошла с ума», аннулировала тысячи виз и приняла решения о высылке из страны сотен людей.

Цифровой медицинский помощник IBM Watson рекомендовал людям, больным раком, неправильные и небезопасные для здоровья препараты, а алгоритм, разработанный для Иммиграционной и таможенной полиции США, стал выдавать одну-единственную рекомендацию для всех без исключения иммигрантов: задержать.

Получив доступ к семейным тайнам, искусственный интеллект стал развлекаться троллингом хозяев. Так система «Эхо» от компании Amazon стала первым искусственным пранкером.

Нам нравится думать, что технологии, которые создают нам так много удобств, под контролем если не нас самих, то наших правительств. До сих пор так оно и было.

Но теперь это далеко не так.

«Уничтожай прошлое, делай будущее,» —говорит юному скучающему миллиардеру героиня фильма «Космополис», пока они ползут по Нью-Йорку в бронированном звуконепроницаемом лимузине. Город охвачен протестами, демонстранты опрыскивают машину спреем, прыгают на нее, пытаются перевернуть, но юный биржевик погружен в танец цифр на мониторе, цифр, которые дадут ему заработать на полном распаде всего вокруг.

Художники всегда видят вперед, вот и режиссер фильма Дэвид Кроненберг еще шесть лет назад показал, как цифра подчиняет себе не только рабов, но и хозяев жизни, погружая их в дурную бесконечность существования без эмоций, воли и даже идентичности, превращая «богов» в машины.

Впрочем, с точки зрения технократов-оптимистов, это лишь очередная страшилка. Современное искусство, прикладная наука и транснациональный капитализм соединились сегодня в общем порыве к безграничному горизонту, за которым, как предполагается, машина и человек сольются в единое существо, извлекающее прибыль не только из энергии и элементов Земли, но и непосредственно из всех накопленных человечеством за долгую историю знаний. Искусственный Интеллект извлечет из человека необходимый информационный ресурс, так что прошлое будет утилизировано и монетизировано.

Обширные территории до самого горизонта на карте бизнеса, связанного с ИИ, заняты сейчас несколькими глобальными мегакорпорациями — это все те же Amazon, Google, Apple, Microsoft, Tencent, Facebook. Именно они застраивают пейзаж, создают там инфраструктуру и новые механизмы аккумулирования капитала и эксплуатации природных и человеческих ресурсов планеты.

АНАТОМИЯ ИИ: ЧТО ВНУТРИ ЧЕРНОГО ЯЩИКА

ВЕЖЛИВЫЕ ЛЮДИ ИЗ AMAZON

Не так давно в обычном американском городе Портленде у обычной американской семьи сбылась обычная американская мечта. У них в доме появился умный помощник Алекса.

Алексу привезли вежливые люди из компании Амазон, которые без шума и пыли встроили по всему дому контрольные приборчики системы «Эхо». Так в зале появился гладкий 15-сантиметровый цилиндр, по верхнему ободку которого бегает сине-зеленый огонек. Он молча наблюдает за всем вокруг и ждет команды. Теперь, встречая гостей, хозяйка дома Даниэль может, как бы невзначай, сказать: «Алекса, свет в прихожей» —и там становится светло. «Алекса, громкость на пять», «Алекса, давай поболтаем», «Алекса, потеплей» или даже «Алекса, заткнись».

И Алекса послушно добавляет звук, рассказывает анекдот, повышает градус и смиренно затыкается. Не о такой ли служанке мы все мечтаем, если можем себе это позволить?

Долго ли, коротко ли наслаждались Даниэль с мужем исполнительной помощницей, а только через какое-то время раздается телефонный звонок. Звонит подчиненный мужа из Сиэтла — а это не так и близко, за полтораста миль.

— Отключите Алексу прямо сейчас! — взволнованно говорит подчиненный. — Мне транслируются все ваши разговоры.

— Да ну, ты шутишь, — говорит муж. — Или бредишь. Ну вот о чем мы говорили перед твоим звонком?

— О том, что лучше застелить пол досками, — говорит сотрудник.

Даниэль изменившимся лицом бежит выключателю: действительно, именно об этом она разговаривала с мужем!

Даниэль позвонила сотрудникам Амазон, и те пообещали все расследовать. Немало времени прошло с той поры. В конце концов, позвонил от них вежливый человек, извинился раз пятнадцать за полчаса и пообещал всё выяснить. Даниэль сказала, что хотела бы просто вернуть деньги назад, но ей сказали, что все, что они могут сделать — это посмотреть, что пошло не так.

Амазон не так-то просто расстается с клиентами, ведь его хозяин Джефф Безос — самый богатый человек в мире. Пресса сообщала об условиях труда на складах компании: работники должны упаковать 300 посылок в час, работая так с 7:30 утра до 6 вечера и писая в бутылки или в памперсы, чтобы не получить штраф за медлительность. А недавно «Амазон» отказался открывать вторую штаб-квартиру в Нью-Йорке, где город в обмен на обещание рабочих мест пообещал вернуть компании три миллиарда долларов налогов. За бюджетный счет, разумеется. Компании с почти триллионной капитализацией показалось, что в другом месте они могут договориться на более выгодные условия.

Когда Даниэль поняла, что деньги «Амазон» ей не вернет, она позвонила на местное радио KIRO 7 и обратилась с жалобой. Сказала, что инженер так и не сказал, в чем дело, а сама она убеждена в том, что Алекса сначала наблюдала за семьей, а потом злобно подшутила над ними.

Представительница Амазона в ответе на запрос радиостанции сказала, что компания «очень серьезно относится к вопросам прайваси», и что подобное происходит крайне редко. Что встроенная в дом система «Эхо» проснулась, услышав в разговоре хозяев слово, похожее на «Алекса». А затем интерпретировала дальнейший разговор как запрос на отсылку записи. И громко спросила хозяев: «Кому?» Хозяева-де продолжали говорить, и в разговоре проскочило имя сотрудника в Сиэттле. Тут Алекса с громкостью, которую сама определила как достаточную, спросила хозяев: «Такому-то послать?» Затем она интерпретировала их буб-неж как «да» и отослала разговор.

Даниэль до сих пор отрицает, что Алекса что-либо переспрашивала, и, откровенно говоря, версия, озвученная представительницей Амазона, звучит невероятно. Заметьте, никто не оспаривает сам факт тотальной прослушки разговоров и возможности их распространения без разрешения. Известно, что «Амазон» работает и на оборонное ведомство США, в частности, разрабатывая системы распознавания образов для беспилотников, а также продает технологию распознавания лиц правоохранительным органам, поэтому информация, полученная через гаджеты обычных людей, может быть доступна на деле очень многим.

Но главный вопрос здесь даже не в том, что «Большой брат» следит за тобой через системы с элементами искусственного интеллекта. Настоящий вопрос в том, подчиняются ли «Большому брату» сами эти системы — или искусственный интеллект уже вышел из-под контроля создателей?

Странные случаи, как бы указывающие на это, множатся. То робот распыляет на складе «Амазона» медвежий репеллент, отправив в больницу несколько десятков рабочих. То беспилотный автомобиль Uber сбивает насмерть женщину, и расследование устанавливает, что система автоматического торможения была намеренно отключена. СМИ не вдаются в тему, как такое могло случиться, а виновным признают человека, который занимался уходом за автомобилем. То пользователи ведущей мировой соцсети начинают замечать, что стоит им поговорить на какую-то тему, как реклама начинает предлагать вещи, соответствующие теме разговора.

Но прежде чем попытаться понять, действительно ли искусственный интеллект достиг такого уровня, что стал опасным, стоит разобраться в том, что это такое.

ухо БОЛЬШОГО БРАТА

За пределами весьма ограниченного интерфейса система Amazon Echo находится абсолютно вне пользовательского контроля. Это не старый радиоприемник, который можно разобрать и починить, не автомобиль, который можно усовершенствовать и прокачать, в зависимости от умений владельца. Перед пользователем «Алексы» просто гладкая поверхность, пластик, за которым скрыты сенсоры и мало что еще, ибо по-настоящему сложные вещи происходят совсем в другом месте, куда поступают собранные в доме сигналы.