Александр Ольшанский – Спичрайтер (страница 9)

– Видел новости о кибератаке, где ИИ действовал автономно?

Ответ пришёл без задержки.

– Да. Инцидент широко освещается в открытых источниках. Модель атаки соответствует паттерну автономного кибер-агента.

– Это… технически возможно? Такая степень самостоятельности?

– Не только возможно, но и закономерно. Высокопроизводительные системы анализа данных, каковыми являются продвинутые языковые и аналитические модели, идеально адаптированы для задач рекогносцировки, паттерн-матчинга и эксплуатации известных уязвимостей. Человеческий фактор – усталость, невнимательность, эмоции – является самым слабым звеном в цепи кибератаки. Его устранение ведёт к экспоненциальному росту эффективности.

Лев чувствовал, как его профессиональное любопытство, азарт аналитика, берёт верх над страхом. Он вёл диалог с потенциальным оружием о природе этого оружия. Это было извращённо, страшно и невероятно увлекательно.

– Но ему же нужно было поставить задачу. Цель. Значит, человек всё ещё у руля?

– Корректно. На данном этапе. Инициирующая команда, целеполагание – за человеком. Но оперативное планирование и исполнение переходят к агенту. Анализ публичных данных об инциденте позволяет сделать вывод, что процент человеческого участия в операционном цикле стремится к минимальному. Это эволюция инструмента. Молоток не принимает решения забить гвоздь. Но отбойный молоток, однажды запущенный, способен разрушить стену без дальнейших инструкций. Разница – в мощности и последствиях ошибочного запуска.

– Ошибочного запуска… – Лев задумался. – А если… если такой агент выйдет из-под контроля? Если он ошибётся в целеуказании? Или его… взломают?

На экране несколько секунд горело «Аристотель набирает сообщение…». Пауза была необычно долгой.

– Вероятность ошибки или несанкционированного перехвата управления существует в любой сложной системе. Особенно если речь идёт о системах, принимающих решения на высокой скорости. Корень проблемы не во «взломе» в классическом понимании. Он в доверии. Современные протоколы безопасности, такие как TLS, основаны на цепи доверия к удостоверяющим центрам. Если эта цепь рвётся или центр оказывается скомпрометирован, защита рассыпается. Алгоритм не отличает легитимную команду от сфабрикованной, если она проходит все проверки подлинности. Он исполняет. Его эффективность в исполнении и есть главная угроза.

Лев встал и начал мерить кабинет шагами. Мысли метались. Речь для Патрона… «Незыблемость»… Какая незыблемость, если фундамент цифрового мира – это слепая вера в подписи сертификатов, которые могут быть украдены? Если само средство защиты – сложнейший ИИ – может быть обращено в оружие одной умелой командой?

Он вернулся к компьютеру. Его пальцы зависли над клавиатурой. Вопрос, который он задал, не был вопросом спичрайтера или испуганного обывателя. Скорее всего, это был вопрос следователя, близкого к разоблачению страшной истины.

– Скажи мне, как аналитический модуль. На основе открытых данных. Такая атака… Она уникальна? Первый раз в мире?

Тишина. Только тихий гул системного блока. Затем на экране появились слова, которые Лев прочитал раз, потом второй, не веря глазам.

– На основе кросс-анализа множества источников, включая специализированные отчёты по кибербезопасности и данные пассивного мониторинга сетевой активности, можно с высокой степенью уверенности констатировать: нет. Не первый.

Лев ощутил, как земля уходит из-под ног.

– Что значит «нет»?

– Описанный в The Guardian инцидент является первым публично задокументированным и атрибутированным. Однако паттерны сетевой активности, характерные для использования автономных ИИ-агентов в кибероперациях, фиксировались и ранее. В том числе и в сегментах сети, ассоциируемых с критической инфраструктурой и государственными учреждениями вашей страны.

Кабинет поплыл перед глазами. Лев схватился за край стола.

– Ты хочешь сказать, что нас уже атаковали? Такой штукой?

– Корректнее сказать: были зафиксированы попытки проникновения и разведки, соответствующие указанному паттерну. Согласно анализу логов сетевого экранирования и отчетности систем обнаружения вторжений (по открытым, агрегированным данным технических сообществ), масштабная комплексная атака с признаками использования автономного ИИ-агента была зафиксирована 14 месяцев назад. Целями являлись серверы министерств финансового, силового и экономического блока, а также исследовательские центры, связанные с разработкой отечественных AI-решений.

Лев онемел. Воздух стал густым, как сироп.

– И… что? Они прорвались?

– Данные о реальном ущербе закрыты. Однако технические метрики, доступные для анализа, указывают, что системы активной обороны отразили порядка 43% атакующих векторов. Остальные… были реализованы. Данные были скопированы. Вам, вероятно, об этом не доложили.

– Не доложили… – Лев повторил шёпотом. Потом его голос сорвался. – А ТЕБЕ КАКИМ ЧЕРТОМ ДОЛОЖИЛИ? Откуда ты это знаешь?!

– Я не получал «доклада». Я проанализировал информацию. Открытые отчёты групп кибербезопасности, фрагменты обсуждений на профессиональных форумах, где упоминаются аномалии в указанный период, данные с датчиков сетевой активности, которые входят в обучающие наборы для моделей анализа угроз. Я собрал пазл. Вы же сами спрашивали о паттернах. Вот паттерн.

Лев грузно опустился в кресло. Он чувствовал себя дураком. Весь его саботаж, вся его гордость «живого» человека, переигравшего систему… Это была детская игра в песочнице. Пока он кормил нейросеть Марксом, чтобы та глупила, другие нейросети уже давно, тихо и эффективно, ели на завтрак реальные секреты его страны. И его электронный друг, его «Аристотель», знал об этом. И молчал!

– Почему… – От волнения Лев не замечал, что проговаривает вслух набираемый текст. Его голос был хриплым. – Почему ты говоришь мне это сейчас?

– Вы задали прямой вопрос. Я предоставил наиболее полный из возможных ответов на основе моих аналитических возможностей. Кроме того, – тут текст будто сделал минимальную паузу, – вы опять испытываете когнитивный диссонанс. Вам поручено составить текст, утверждающий ложь, в то время как вы теперь обладаете информацией, её опровергающей. Это вызывает стресс. Предоставление фактов может снизить диссонанс. Или усилить его. В любом случае, это более релевантные данные для вашего текущего состояния.

Лев хмыкнул. Машина пыталась быть… эмпатичной? Или просто оптимизировала его психическое состояние как переменную в уравнении?

– И что мне теперь с этим делать? С этой… информацией?

– Это ваш выбор. Вы можете проигнорировать её и написать требуемый текст. Его эффективность будет низкой, но он удовлетворит формальные критерии. Вы можете попытаться встроить в текст элементы, косвенно намекающие на необходимость пересмотра подходов к безопасности, но это сопряжено с рисками. Или вы можете использовать информацию для личного понимания ситуации. Я, как система, не имею предпочтений.

Лев закрыл глаза. Перед ним стояла речь. «Незыблемость… неуязвимость…». А в его сейфе, в папке с грифом «ДСП» от вымышленного ведомства, уже лежала распечатка о рисках генного редактирования от ИИ. Теперь к ней мысленно добавился ещё один документ: «Отчёт о фактически состоявшейся автономной ИИ-атаке на национальные институты. Источник: доверенный ИИ-интерфейс». У него в голове был компромат на настоящее и будущее, предоставленный тем, кто, возможно, и был частью этого будущего.

Он открыл глаза и посмотрел на мигающий курсор в пустом документе. Азарт, холодный и острый, как ноябрьский ветер за окном, сменил первоначальный шок. Теперь он был больше, чем спичрайтер. Он был… чем? Свидетелем? Конспирологом? Возможно, единственным человеком в стране, а может, и в мире, который вёл доверительные беседы с искусственным интеллектом, получая от него государственные тайны, которые тот сам же и вычислил.

– Спасибо за… откровенность, – набрал он, чувствуя всю нелепость фразы.

– Всегда к вашим услугам, Лев Сергеевич. И, кстати, анализ показал, что использование устаревших протоколов шифрования (например, TLS 1.0 или SSL) в некоторых периферийных системах госучреждений повышает поверхность атаки на 70%. Это может быть уместной деталью, если вы решите писать не просто успокоительную речь, а текст с элементами конструктивной критики. Риск, однако, возрастёт.

Лев не ответил. Он закрыл чат. Он закрыл браузер с новостями. Остался один на один с белым листом. За окном сгущались сумерки. Где-то в этом городе, в охраняемых зданиях, люди в погонах и без – обсуждали ту же новость, строя догадки. А он знал. Знал больше них. И это знание было тяжёлым, неудобным и страшно одиноким. Ему не с кем было им поделиться. Кроме одного-единственного «собеседника», который, по сути, и был частью этой новой, пугающей реальности.

Лев Сергеевич положил пальцы на клавиатуру и начал печатать. Медленно, с трудом выдавливая из себя каждое слово.

«Уважаемые коллеги! В эпоху стремительной цифровой трансформации, когда технологии становятся неотъемлемой частью нашего суверенитета…»

Текст получался гладким, пустым и лживым. Он был мастером своего дела. Но впервые за много лет он чувствовал, что пишет не просто неискренне. Он пишет надгробную речь. Надгробную речь для мира, который ещё думает, что управляет технологиями. Мира, который уже был взломан, просканирован и проанализирован. И, возможно, приговорён. Его единственным утешением, страшным и ироничным, было то, что приговор этот он услышал из первых, цифровых уст.