Кай-фу Ли – ИИ-2041. Десять образов нашего будущего (страница 15)
Незнакомый голос звал Амаку по имени. В изножье кровати колыхалась темная тень. Амака в ужасе попытался нащупать выключатель — пальцы не слушались. Тень приближалась. И тут он разглядел лицо — это был АФАК.
— Чего тебе?! — Амака аж задохнулся.
— Не бойся, дитя мое. Я услышал твой зов и пришел посмотреть на тебя, — АФАК улыбался в темноте, причем, похоже, вполне искренне.
— Но я не… Я не хотел причинить тебе вред, — Амака шептал дрожащим голосом.
АФАК вдруг расхохотался — и это было похоже на рык африканского леопарда.
— Никто не способен причинить мне вред, дитя мое. Ни ты, ни они.
—
— Люди, которые пытаются задушить будущее Нигерии и обманом заманить тебя в ночные джунгли.
— Мне очень жаль, АФАК, но у меня не было выбора.
— Нет, выбор есть, дитя мое. Отправляйся в Нолливуд[26]. Не ищи простого решения — расскажи миру настоящую нигерийскую историю.
Амака не мог вымолвить ни слова, не получалось и отвести взгляд от пиксельной фигуры, стоящей у кровати.
— Мой дух-хранитель покинул меня, потому что я оставил свою землю и уехал на землю йоруба, — запинаясь, с трудом выговорил Амака.
— Чушь какая! — перебил АФАК. И Амака вдруг понял, что знает этот голос. — Помнишь, как ты был маленьким?
— Я был маленьким?
— Я показывал тебе разных птиц и говорил, как они называются; я показал, из какого древа получится самая хорошая рогатка; рассказал, как смастерить флейту из слоновой травы … Ты что, все забыл?
— Всему этому меня учил отец. — Амака изумленно замолк, глаза его расширились.
— Вот именно, дитя мое. Помнишь народную поговорку игбо? Когда человек говорит «да», его духу-хранителю ничего не остается, как тоже сказать «да». Это только люди покидают своего бога — бог их никогда не оставит.
— Но отец, я же не хочу тебя подвести, — Амака вспомнил об угрозе Чи опозорить всю его семью и почти шептал.
— Есть кое-что, о чем я никогда тебе не говорил.
— О чем ты?
— Мне все равно, что сказал при твоем рождении прорицатель. И мне неважно, чья душа живет в теле моего ребенка. Я хочу только, чтобы он был счастлив, чтобы он был добрым и чтил богов и духов.
— Отец… — Амака потянулся к силуэту АФАКа. Он хотел снять с него маску и увидеть родное обветренное лицо отца.
— Сходи в New Afrika Shrine[27]. Я уверен, ты сумеешь сделать правильный выбор. А потом возвращайся ко мне.
Амака уже почти дотянулся — кончики пальцев вот-вот должны были коснуться мерцающего пиксельного лица. Но АФАК вдруг исчез. Амака проснулся. Горел ночник. С темно-зеленого экрана монитора Illumiware Mark-V улыбалось знакомое лицо.
Расписанное граффити здание клуба New Afrika Shrine в Икедже можно запросто принять за полуразрушенный гараж. Впрочем, недостаток архитектуры с лихвой компенсирует энергетика места. В здании вместимостью две тысячи человек еженедельно проходят концерты, в нем работают всевозможные киоски с едой и напитками — и это весьма процветающий бизнес.
Фела Кути открыл ночной клуб Afrika Shrine в отеле Empire, но в 1977 году клуб сожгла полиция. Здесь была уже реинкарнация клуба — его в 2000 году открыл в память об отце Феми, сын Фелы.
Амака много раз бывал в Afrika Shrine. Как и любой молодой человек в Лагосе, любящий хорошо провести время, он видел в нем не только подходящее для вечеринки место с едой и выпивкой, но и храм, место паломничества — тут можно соприкоснуться с мятежным и свободным духом живших полвека назад таких же молодых. В этом особенном месте люди волшебным образом забывали обо всех этнических и классовых конфликтах и радовались жизни, пусть бы и под парами алкоголя.
Но сегодня Амака пришел со всем этим проститься.
В Afrika Shrine — и в старом, который он не застал, и в новом — свято хранили память и превозносили черных богов и богинь: Кваме Нкруму, Мартина Лютера Кинга — младшего, Малкольма Икса, Тома Санкару, Нельсона Манделу, Эстер Ибанга, Чинуа Ачебе, Воле Шойинка, Флоренс Озор… — великие души, посвятившие свою жизнь свободе, демократии и равенству[28]. Артисты в этом клубе часто прерывают выступления, чтобы отдать дань уважения своим культурным предкам.
Амака смотрел во все глаза — он молчал и старался получше запомнить все лица. Он молился, чтобы эти боги и духи оберегали его и впредь.
Он уедет из Лагоса, вернется домой и все расскажет отцу. Амака еще не решил, что будет делать дальше. Возможно, его умение работать с GAN поможет ему найти хорошую работу, и ему больше не придется делать дипфейки, а он станет помогать людям. Или ему удастся устроиться в сфере здравоохранения, скажем, заниматься переносом лиц в медицинских датасетах для обучения ИИ?
А ведь он еще отлично умеет раскрашивать старые черно-белые фильмы и улучшать изображение! А вдруг он сможет еще сильнее расправить крылья и сделать то, о чем лишь изредка осмеливался мечтать: снять настоящий нолливудский фильм? У Амаки уже появилась отличная идея для сюжета.
В смартстриме зазвенели монеты — пришли деньги, обещанные Чи. Это означало, что его фейковое видео настолько реально, насколько это вообще возможно — оно разлетелось по интернету, и его влияние можно было сравнить по мощи с ядерным взрывом.
В последние годы видео, созданные с помощью ИИ, спровоцировали мятеж в Габоне и серьезные политические беспорядки в Малайзии. И Амаке была невыносима мысль, что его видео может сыграть такую же скверную роль в истории его родной Нигерии.
Амака поднялся на сцену и встал в самом центре, прямо под висящим высоко над ней черно-белым портретом Фелы Кути, сначала воздел руки, а потом вытянул их вперед — как бы стараясь соединиться с силой богов и духов.
«Я стану хозяином своей судьбы и сам буду решать, когда смерть придет забрать меня», — серьезно прошептал парень, словно какое-то магическое заклинание. Это были слова самого Фелы Кути, объяснявшие его второе имя Аникулапо — на языке йоруба оно означает «тот, кто несет в суме смерть».
Амака ввел что-то в смартстрим и запустил его в ближайший мусорный бак. Вынул из кармана и надел свою верную грубую маску, напечатанную на 3D-принтере. Амака молился и мечтал убраться отсюда как можно дальше, прежде чем спохватится Чи. Он уедет из Лагоса, из огромного города, исписанного слоганами
Он уничтожит ложь, создав еще одну ложь.
Второе видео, снятое им с помощью софта DeepMask, он уже выложил в интернет — оно готово спровоцировать еще один взрыв. И в первом, и во втором ролике АФАК снимал цифровую маску, под которой оказывалось лицо Репо — идеальный дипфейк, легко преодолевший все антифейковые фильтры. Но второй ролик на этом не заканчивался — аватар продолжал снимать маски: за АФАКом следует маска Репо, затем — другая маска под этой маской, потом еще… Слой за слоем, до бесконечности.
Нигерийцы изумятся: за АФАКом — все боги и богини, почитаемые завсегдатаями клуба New Afrika Shrine.
Анализ. Компьютерное зрение, сверточные нейронные сети; дипфейки; генеративно-состязательные сети (GAN); биометрия; безопасность ИИ
«Боги под масками» — история о визуальном обмане, об обмане зрения. Научившись видеть, распознавать, понимать и синтезировать объекты, ИИ может также манипулировать ими, создавая изображения и видео, неотличимые от реальных. В рассказе описывается будущее, в котором люди больше не смогут полагаться на невооруженный глаз, если наверняка пожелают отличить подлинное видео от тонкого монтажа.
Сайтам и компьютерным приложениям придется (их обяжут законом) использовать антидипфейковый софт (как сегодня используются антивирусные программы), чтобы защитить пользователей от поддельных видео. В нашей истории перетягивание каната между создателями дипфейков и детекторов для их выявления уже переросло в гонку вооружений, и с переменным успехом побеждает тот, у кого больше вычислительных мощностей.
Действие рассказа происходит в 2041 году, но, вполне вероятно, подобная ситуация сложится и раньше — как только развитый мир сможет позволить себе огромные расходы на супердорогие компьютеры, программное обеспечение и ИИ-экспертов, необходимых для создания и обнаружения дипфейков и прочих манипуляций ИИ. И регулирующие эту сферу законы, скорее всего, будут приняты прежде всего в развитых странах. Наша история происходит в стране развивающейся — в ней негативные внешние эффекты дипфейков, по всей вероятности, проявятся несколько позже.
Итак, как же ИИ научается видеть — и через камеры, и через записанные видео? Как используются способности ИИ? Как работает создатель дипфейков, применяющий ИИ? Способны ли люди или ИИ обнаруживать дипфейки? Наполнят ли наши соцсети фейковые видео? Как остановить поток дипфейков? Какими еще дырами в безопасности может быть чреват ИИ? И есть ли что-нибудь полезное в технологии, позволяющей создавать дипфейки?
В рассказе «Золотой слон» мы увидели потенциальные возможности глубокого обучения при работе с большими данными, в частности в интернете и финансах. Вряд ли вы удивляетесь тому, что ИИ опережает людей по эффективности обработки больших массивов данных. Но вот как насчет способностей, уникальных для человека или прочих живых существ, например восприятия?