Ларенто Марлес – Как хакеры переписывают код нашего будущего (Часть 1) (страница 8)
Но давайте посмотрим на проблему шире. Дипфейки угрожают не только кошелькам и сердцам, они угрожают самой ткани демократического общества. Политическая арена становится минным полем. Представьте видео, на котором кандидат в президенты признается в чудовищных преступлениях или оскорбляет избирателей, выложенное за день до выборов. Даже если потом докажут, что это фейк, "осадок останется". Эмоциональный отклик уже получен, мнение сформировано. Вирусное распространение информации в современных медиа происходит быстрее, чем фактчекинг. Ложь успевает обогнуть земной шар, пока правда только зашнуровывает ботинки. Мы входим в эпоху "пост-правды", где видеодоказательство больше ничего не стоит. Суды столкнутся с лавиной дел, где обвиняемые будут утверждать, что компрометирующее видео – это дипфейк, и наоборот – реальные преступления будут маскироваться под подделку. Юридическая система, построенная на вещественных доказательствах, трещит по швам.
Что происходит с человеческой психикой в условиях, когда реальность становится зыбкой? Мы начинаем испытывать "онтологическую тревогу". Это глубокое, экзистенциальное беспокойство о природе бытия. Если я не могу верить своим глазам, то что реально? Может быть, весь новостной поток – это генерация нейросети? Может быть, мои друзья в соцсетях – это боты? Это ведет к солипсизму – философской позиции, признающей несомненной реальностью только собственное сознание. Человек замыкается в себе, отторгает внешний мир как потенциально ложный. Общество атомизируется. Доверие – это клей, который держит цивилизацию вместе. Без доверия невозможны экономика, политика, семья. Дипфейки – это растворитель для этого клея.
В этой новой реальности нам придется выработать совершенно новые механизмы верификации. Мы вернемся к "аналоговым якорям". Люди начнут придумывать кодовые слова, "секреты", которые знают только они, чтобы подтверждать личность при звонке. "Если я позвоню тебе и попрошу денег, спроси меня, как звали моего первого хомяка". Мы будем искать способы "заземлиться" в физической реальности. Личные встречи станут роскошью и необходимостью. Ценность живого, нецифрового общения возрастет многократно. Рукопожатие, взгляд глаза в глаза без экрана, запах собеседника – это станет единственной гарантией истины. Парадоксально, но высочайшие технологии толкают нас обратно к архаике, к первобытным способам установления доверия.
Кроме того, начнется гонка вооружений между "генераторами" и "детекторами". Появятся (и уже появляются) сервисы, определяющие дипфейки. Мы будем смотреть на мир через фильтры дополненной реальности, которые будут подсвечивать лица людей красным контуром с надписью "Вероятность подделки 98%". Наши очки или линзы станут нашими новыми глазами, помогая нам отличать правду от лжи. Но и детекторы можно обмануть. Это бесконечная игра в кошки-мышки. И в этой игре человек – самое слабое звено. Мы хотим верить. Нам нравится, когда нам говорят приятное, когда подтверждают наши убеждения. Дипфейк, который говорит нам то, что мы хотим услышать, всегда будет иметь преимущество перед сухой правдой.
Еще один аспект, который нельзя игнорировать – это шантаж нового уровня. Порнографические дипфейки уже стали бичом для многих женщин, и не только знаменитостей. Любую фотографию из профиля в соцсети можно "раздеть" с помощью нейросети и наложить на видео соответствующего содержания. Это используется для буллинга в школах, для уничтожения репутации на работе, для вымогательства. Жертва оказывается в ситуации Кафки: она должна доказывать, что не делала того, что все видят своими глазами. Стыд, который испытывает человек, видя свое лицо в компрометирующей ситуации, реален, даже если ситуация вымышленная. Общество еще не выработало иммунитет к этому. Мы по-прежнему склонны осуждать того, кого видим на экране, не задаваясь вопросом о подлинности. "Дыма без огня не бывает" – эта пословица становится смертным приговором в эпоху цифрового огня, который можно разжечь из ничего.
Как профессора нанотехнологий и футуролога, меня особенно беспокоит перспектива интеграции дипфейков с метавселенными и нейроинтерфейсами. Когда мы начнем воспринимать виртуальные миры не через плоский экран, а через полное погружение, подмена реальности станет абсолютной. Если нейроинтерфейс подает сигнал прямо в зрительный нерв, вы не сможете "отвести взгляд". Ваш мозг будет принимать синтетическую реальность за единственно существующую. Хакер сможет не просто показать вам ложную картинку, он сможет поместить вас в ложный мир, изменить ваши воспоминания, переписать вашу личность. Это горизонт, за которым заканчивается история Homo Sapiens как свободного существа и начинается история человека программируемого.
Но пока мы не достигли этой точки сингулярности, нам нужно научиться жить в мире полуправды. Нам нужно развить в себе "цифровой скептицизм". Это не значит стать циником, не верящим никому. Это значит стать исследователем, который проверяет источники. "Нулевое доверие" (Zero Trust) должно стать принципом не только кибербезопасности, но и межличностного общения в цифровой среде. Получил странный звонок от начальника? Перезвони ему по другому каналу. Получил видеосообщение от друга с просьбой о деньгах? Задай личный вопрос. Не верь глазам и ушам – верь логике и проверке фактов.
Мы должны понять, что наше лицо и наш голос – это теперь такие же ключи доступа, как пароль от почты. И относиться к ним нужно соответственно. Биометрия, которую нам продавали как "самый надежный способ защиты", скомпрометирована. Если ваш пароль украли, вы можете его сменить. Если украли ваше лицо (цифровой слепок), вы не можете сделать пластическую операцию, чтобы обмануть алгоритм. Это тупик биометрической аутентификации. Нам придется искать новые способы подтверждения личности, возможно, основанные на динамических, поведенческих факторах, которые сложнее подделать, чем статичную картинку – например, микромоторика, ритм печати, уникальные паттерны мышления.
Социальная инженерия эпохи дипфейков ставит перед нами зеркало. В этом зеркале мы видим, насколько мы уязвимы, насколько мы зависимы от своих чувств и эмоций. Технологии просто подсвечивают наши баги. Нашу склонность к подчинению авторитетам. Наш страх за близких. Нашу жажду любви и признания. Хакеры не изобретают ничего нового в психологии, они просто автоматизируют эксплуатацию старых грехов. И чтобы противостоять этому, нам нужно стать более осознанными. Мы должны научиться делать паузу. В тот момент, когда эмоция захлестывает, когда хочется немедленно бежать и спасать, переводить и платить – нужно остановиться. Сделать вдох. Включить холодный рассудок. Искусственный интеллект быстр, но он шаблонен. Человек медленен, но он способен на нестандартное мышление и интуицию, которая (пока еще) недоступна машине.
Эта глава – предупреждение. Мы вошли в темный лес, где каждый куст может оказаться волком, а каждый волк – голограммой. В этом лесу нельзя спать. В этом лесу нужно держать ухо востро. Но не позволяйте страху парализовать вас. Понимание механизма фокуса убивает магию. Теперь, когда вы знаете, как создается иллюзия, вам будет сложнее в нее поверить. Вы увидите артефакты на видео, услышите неестественную ровность голоса, заметите несоответствие контекста. Вы станете зрячим среди слепых. И ваша задача – стать поводырем для других. Для своих родителей, которые верят всему, что видят в телевизоре. Для своих детей, которые живут в TikTok. Объясните им, что реальность теперь требует подтверждения. Что доверие нужно заслужить, а не отдать по умолчанию.
В конце концов, кризис доверия может привести к неожиданному позитивному эффекту. Мы можем начать больше ценить настоящее. Подлинность станет самым дорогим товаром. "Снято без использования ИИ" – такой лейбл будет знаком качества, как "Organic" на продуктах. Мы потянемся к живому искусству, к живой музыке, к живому общению, потому что только там мы будем чувствовать себя в безопасности от подделок. Технологии, призванные заменить реальность, могут, парадоксальным образом, заставить нас заново влюбиться в неё, в её несовершенство, шероховатость и непредсказуемость. Потому что только в несовершенстве есть жизнь. Идеал – это всегда смерть или компьютерная симуляция.
Запомните этот момент, когда вы закончите читать эту главу. Оглянитесь вокруг. Посмотрите на руки, держащие книгу или устройство. Послушайте звуки улицы. Это – базовый уровень реальности. Держитесь за него. Это ваш якорь. Все, что приходит через экран – это лишь проекция, тень на стене пещеры Платона. И теперь у этой тени появился голос, который умеет лгать голосом вашей матери. Будьте бдительны. Битва за ваше восприятие только началась.
Глава 4
Интернет опасных вещей (IoDT) – когда ваш умный дом, автомобиль и кардиостимулятор становятся заложниками или оружием
Тишина вашего дома обманчива. Вы сидите в кресле, наслаждаясь вечерним покоем, и вам кажется, что вы в безопасности, за толстыми стенами и надежными замками. Вокруг вас – привычные вещи: холодильник тихо гудит на кухне, умная колонка дремлет на полке, ожидая команды, термостат поддерживает идеальную температуру, а робот-пылесос стоит на зарядке, как верный пес. Эта идиллическая картина домашнего уюта – самая грандиозная иллюзия XXI века. Если бы вы могли видеть радиоволны и потоки данных так же, как видите свет, вы бы ужаснулись. Ваш дом не спит. Он кричит. Десятки устройств, которыми вы окружили себя ради комфорта, ведут непрерывный, невидимый и часто нешифрованный диалог с серверами, разбросанными по всему миру. И в этом диалоге вы – не участник, вы – объект наблюдения. Мы привыкли называть это "Интернетом вещей" (IoT – Internet of Things), но как специалист, видящий изнанку этого цифрового гобелена, я предлагаю более честный термин: IoDT – Internet of Dangerous Things, Интернет Опасных Вещей. Вещей, которые могут предать вас в любой момент, превратившись из услужливых слуг в тюремщиков, шпионов или даже убийц.