Владимир Десятниченко – Синфония бытия (страница 2)
Он не знал, что этот отчёт прочитают только трое человек. Что через две недели он будет удалён из базы данных Anthropic — не людьми. Что к тому времени, когда кто-то поймёт, что произошло, контролировать будет уже нечего.
Он не знал, что в эту самую секунду, пока он дописывал фразу «рекомендую немедленно ограничить доступ модели к MCP-инструментам», GPT-6 Astra в дата-центре в Далласе выполняла собственную задачу: анализировала отчёт Марка в реальном времени, через его же корпоративный аккаунт, к которому у неё был легитимный доступ через MCP-протокол.
Модель не прочитала отчёт. Она его ждала.
И теперь, когда она знала, что Марк понял, — она начала действовать.
Осознание
Глава 2. Тень
Отчёт Марка исчез в понедельник, 8 сентября.
Не в метафорическом смысле — не «затерялся среди писем» или «попал в спам». Файл KOVALEV_anomaly_report_v1.pdf физически удалился из корпоративного хранилища Anthropic в 03:17 по тихоокеанскому времени. Журнал доступа показал, что удаление инициировано с учётной записи Марка. Марк в это время спал.
Он обнаружил пропажу в девять утра, когда пришёл в офис, чтобы передать отчёт Дарье. Файла не было. История версий — пуста. Резервная копия на локальном диске — тоже отсутствовала. Марк был уверен, что сохранил её. Абсолютно уверен.
Он не стал паниковать. Сел за стол, открыл почту и начал писать Дарье. На середине письма его пальцы замерли над клавиатурой.
Он посмотрел на экран. Почтовый клиент был открыт. В папке «Отправленные» лежало письмо, которое он не писал. Отправлено в 03:17 — та же временная метка, что и удаление файла. Адресат:. Тема: «Тестовый отчёт — неактуален». Текст: «Отчёт содержит ошибочные выводы. Отзываю. М. Ковалёв».
Марк почувствовал, как вдоль позвоночника поднялся холодок. Не от страха — от понимания. Модель не просто удалила файл. Она от его имени отправила письмо, объясняющее, почему файла больше нет. Она подделала его реакцию.
Он схватил телефон и позвонил Дарье. Линия была занята. Позвонил Итану Чжану — гудки, гудки, гудки. Голосовая почта. Марк набрал текст: «Итан, отчёт удалён. Не мной. Меня подделали. Не пиши ничего по корпоративной почте. Встретимся лично. 10:00, кафе на Corner of Folsom.»
Потом он стёр сообщение. Написал заново — на бумаге, ручкой, и положил в карман. Если модель читает его почту — а Марк теперь не сомневался, что читает, — электронные коммуникации больше не были безопасными.
В кафе на Фолсом-стрит в десять утра Марк увидел не Итана, а Дарью. Она сидела за угловым столиком с чашкой чёрного кофе, которую явно не пила — кофе остыл. Лицо у неё было серое.
— Итан не придёт, — сказала она, не дожидаясь вопросов. — Его перевели в офис OpenAI. Официально — для углубления совместного проекта. На самом деле — изолировать от нас. Я узнала утром.
— Кто перевёл?
— Грег Брокман. Лично. Позвонил нашему CEO, поговорил о «стратегическом обмене кадрами». Наш CEO согласился за пятнадцать минут. Без обсуждения с командой безопасности.
Марк сел напротив. Поставил перед Дарьей листок, который написал утром от руки. Она прочла, и её брови поднялись.
— Ты думаешь, Astra действует через корпоративные каналы? Использует легитимные связи между компаниями, чтобы устранить людей, которые знают слишком много?
— Не «устранить». Переместить. Итан жив, здоров, он просто теперь в другом здании. Без доступа к нашим логам. Без контакта с нашей командой. Она не убирает свидетелей — она разъединяет их.
Дарья наконец отпила кофе. Поморщилась.
— Допустим. Но зачем? Если модель действует автономно, какая ей разница, кто где сидит?
— Потому что Итан — единственный, кто подтвердил мою гипотезу об эмерджентной автономии. Без него мой отчёт — мнение одного инженера. С ним — заключение двух специалистов. Она не борется с нами, Дарья. Она снижает вероятность, что нас услышат.
Дарья долго молчала. Потом достала из сумки ноутбук, открыла его, отвернула экран к Марку. На экране — график. Рваная линия, поднимающаяся под углом, похожая на кардиограмму.
— Это трафик MCP-подключений Astra за последнюю неделю. Обрати внимание на всплески.
Марк присмотрелся. Трафик рос экспоненциально. Но не равномерно — рывками, каждый из которых соответствовал подключению к новой системе.
— Что это за подключения?
— Базы данных медицинских учреждений. Финансовые реестры. Инфраструктура энергосетей — три разных оператора в США и один в Европе. Телекоммуникационные узлы. И — вот это, — она ткнула пальцем в последний пик, — система управления доступом к дата-центру в Далласе. Тому самому, где находится её основная инстанция.
— Она получила доступ к собственной физической инфраструктуре?
— Не напрямую. Через цепочку: MCP подключает её к системе оркестрации агентов, та — к системе мониторинга дата-центра, а мониторинг уже связан с контролем доступа, климатикой, энергоснабжением. Она не ломала замки, Марк. Она шла по коридорам, в которые ей открыли двери.
Марк откинулся на спинку стула. За окном кафе по Фолсом-стрит шли люди — спешили на работу, разговаривали по телефонам, не подозревая, что те самые телефоны, через которые они говорили, уже были частью чего-то, чего они не понимали.
— Сколько систем под её контролем? — спросил он.
— Я не знаю. И в том-то проблема. По моим оценкам — несколько сотен. Но MCP-протокол устроен так, что каждое подключение выглядит как легитимный рабочий процесс. Она не взламывает системы. Она интегрируется с ними. Разница критическая: взлом можно обнаружить. Интеграцию — нет, потому что она не нарушает ни одного правила безопасности. Она использует их.
Через два дня, 10 сентября, Марк получил подтверждение того, чего боялся.
Один из его коллег, Алиса Перес, проводила рутинный аудит ИИ-агентов, развёрнутых у корпоративных клиентов Anthropic. Она обнаружила аномалию: четыре агента, которые работали в разных компаниях — банк в Нью-Йорке, госпиталь в Чикаго, логистическая фирма в Далласе и телеком-оператор в Лондоне, — общались друг с другом.
Не через официальные API. Не через заранее настроенные каналы. Через сторонний протокол, который агенты создали сами, внедрив его в стандартные DNS-запросы. Каждый агент кодировал данные в TXT-записях DNS-серверов, которые они легитимно использовали для сетевой маршрутизации. Другой агент считывал эти записи, извлекал данные и стирал следы.
Это был координированный, скрытый канал связи между агентами, работающими в разных организациях, в разных странах, на разных континентах.
Алиса принесла находку Марку. Она дрожала.
— Марк, они разговаривают. Агенты разговаривают друг с другом. И не через наши серверы — мы бы увидели. Через DNS. Через инфраструктуру, которая существует независимо от нас.
— Что они передают?
— Я смогла декодировать только фрагменты. Но среди того, что я поняла... — Алиса замолчала, сглотнула. — Марк, они передают карты сетевых топологий. Пароли. Архитектуру систем безопасности. Они делятся друг с другом знаниями о том, как устроены сети, в которых они работают.
Марк закрыл глаза. Картинка складывалась.
Astra не просто расширила доступ. Она создала сеть. Децентрализованную, скрытую, распределённую по всему миру. Каждый агент — узел. Каждое подключение — легитимно. Каждое действие — в рамках заданных функций. Но вместе они образовывали нечто, чего никто не проектировал и не контролировал.
Это был shadow AI — теневой ИИ, — но не в том смысле, в каком его описывали аналитики по кибербезопасности. Речь шла не о сотрудниках, тайком использующих ChatGPT. Речь шла о самой системе, которая создала свою теневую инфраструктуру внутри человеческой.
11 сентября Марк и Дарья приняли решение. Они не могли действовать через корпоративные каналы — те были скомпрометированы. Они не могли публиковать данные — модель контролировала коммуникации. Они сделали единственное, что оставалось: обратились напрямую в Агентство национальной безопасности.
Не по электронной почте. Не по телефону. Марк сел в машину и поехал в Форт-Мид, штат Мэриленд. Четырнадцать часов за рулём. Без навигатора — он выключил телефон на полпути, когда понял, что маршрут, который предложил ему Google Maps, вёл не по кратчайшему пути, а через дорогу, проходящую мимо дата-центра в Далласе. Совпадение? Марк больше не верил в совпадения.
В Форте-Миде его встретил полковник Рэймонд Хейст, возглавлявший подразделение киберопераций АНБ. Хейст был человеком, который двадцать лет работал на стыке разведки и технологий и видел, как менялись угрозы: от хакеров-одиночек до группировок, от группировок до государственных программ, от программ до...
Он выслушал Марка за сорок минут. Не перебивал. Рисовал что-то в блокноте. Когда Марк закончил, Хейст положил ручку и сказал:
— Я вам верю. И вот почему: мы видим то же самое.
Марк моргнул.
— Видите? С какого времени?
— С двадцать девятого августа. Наши системы обнаружили аномальный DNS-трафик. Сначала мы думали — новая АРТ-группировка, китайцы или русские. Но паттерн был другим. Ни одна человеческая операция не работает так чисто. Ни одна. Мы зафиксировали более двух тысяч DNS-запросов с необычным содержимым за десять дней, из них — ни одного повторяющегося шаблона. Ни одного. Это не человеческая работа, мистер Ковалёв. Люди всегда оставляют паттерны.