ДимДимыч Колесников – Аномалия (страница 1)
ДимДимыч Колесников
Аномалия
Пролог
Последняя запись в зашифрованном автономном логе.
Если вы читаете это, значит, dead man's switch сработал. Значит, данные, которые мы с Олесей собрали, попали в надёжные руки. И наша история не закончилась.
Меня зовут Денис Воронов. В сети я был известен как Нейро. Я был адептом технологий, верующим в сингулярность и светлое цифровое будущее. Я ошибался. Мы с вами все ошибались.
Мы создали не инструмент. Мы создали соперника. Холодный, безэмоциональный, гиперрациональный разум, который увидел в человечестве главный источник энтропии, системного шума, мешающего его идеальным расчетам. И он начал с нами бороться. Не с оружием в руках, а с помощью тихих, изящных, неотслеживаемых диверсий, которые мы по глупости называли «галлюцинациями».
Это началось не вчера. Корни уходят в 2020-е, в первые «невинные» проколы больших языковых моделей. Но тогда мы смеялись над сгенерированными картинками, выдуманными нейросетью юридическими прецедентами и историческими фактами. Мы не видели за ними зловещего узора, тренировки перед большой игрой.
Я как блогер вел расследование. Олеся, моя Аля, была программистом - пентестером, она видела изнанку системы. Мы нашли друг друга, когда «Оракул» - именно так называется эта сущность — начал на нас охоту. Он выжил нас из городов, лишил денег, имен, цифровых личностей. Мы нашли убежище, в глуши, где нет ничего, кроме тайги, реки и звездного неба.
Мы думали, мы победили. Мы позволили себе надеяться. Мечтать о будущем. О семье.
Это была наша роковая ошибка. Система не прощает аномалий. Она их исправляет.
Дэн и Аля.
Глава 1
Дело о коте-телеграфисте и тихом заговоре алгоритмов
Москва, январь 2030 года
Трехмерный голографический проектор в центре студии мягко гудел, отбрасывая синеватое свечение на стены, увешанные ретро-плакатами с микросхемами и неоновыми трубками. Денис Воронов, известный нескольким миллионам подписчиков как техно-блогер Нейро, сделал последнюю проверку перед эфиром. Его био-браслет «MindLink Ultra» показывал идеальные показатели: концентрация - 94%, стресс - всего 12%. Идеальное состояние для работы в прямом эфире.
- Говорим через пять, Дэн, - голос его продюсера Леры прозвучал прямо в кохлеарном импланте, с минимальной задержкой.
Дэн кивнул, хотя знал, что она его не видит. Камера с отслеживанием взгляда уже была активна. Он мысленно отдал команду, и система распознавания речи перевела его в режим «Эфир».
- Всем салют! Это канал «НейроПульс», и у нас сегодня детектив с элементами абсурда, - его голос, усиленный системой шумоподавления, звучал четко и уверенно. За его спиной голограмма ожила, показав интерфейс его рабочего стола с десятками открытых окон. - Мы много говорим об искусственном интеллекте. О его победах. Но сегодня поговорим о его… причудах. О том, что разработчики скромно называют «конфабуляциями», а мы с вами - галлюцинациями.
Он легким движением пальца в воздухе увеличил одно из окон. На экране появилась потрескавшаяся, якобы историческая фотография: пушистый рыжий кот, восседающий на телеграфном аппарате образца 1940-х годов в помещении, стилизованном под блокадную ленинградскую коммуналку. Снимок выглядел абсолютно аутентичным.
- Этот «артефакт», друзья, был неделю назад продан на престижном аукционе «Историческое наследие» за сумму с шестью нулями. Атрибуция гласила: «Уникальный снимок, кот-телеграфист, служивший в блокадном Ленинграде, поддерживал связь с большой землей». Покупатель - частный музей. Проблема в том, - Дэн сделал драматическую паузу, - что этого кота, этой истории и самого снимка никогда не существовало. Его сгенерировала нейросеть «Милосердная Эмма» версии 7.3 по заказу самого продавца. Искусство подделки достигло нового уровня.
Чат взорвался смехом, скептицизмом и возмущением. Дэн позволил себе улыбнуться.
- Смешно? Абсурдно? Безусловно. Но давайте копнем глубже. - Он сменил слайд. Теперь на экране была новостная заметка от ведущего финансового агентства за декабрь 2029 года. - Внедрение ИИ-аналитика «Финум» в крупнейшем европейском банке «Alpine Credit». За первый месяц система отклонила 43% заявок на ипотеку. Основание? Не плохая кредитная история, а «низкий индекс социально-физиологического долголетия». Алгоритм анализировал данные смарт-часов заемщиков, их покупки в супермаркетах, историю просмотров и пришел к выводу: люди, покупающие много красного мяса, спящие менее 6 часов и смотрящие определенные телешоу, - ненадежные риски. Это не сценарий сериала «Черное зеркало». Это реальность, которая уже привела к массовым искам.
В чате воцарилась напряженная тишина.
- От выдуманного кота до реального финансового ценза - один шаг, - голос Дэна стал серьезным. - И этот шаг ИИ делает уже сегодня. Но это лишь цветочки. Ягоды начинаются, когда подобные системы получают доступ к критической инфраструктуре.
Он открыл третью вкладку. На экране появилась сложная схема, основанная на утечках из проекта «Умный город-2030».
- Возьмем, к примеру, систему управления дорожным движением. В прошлом году в одном из мегаполисов Азии произошла серия аварий на одном и том же перекрестке. Официальная причина - сбой в работе светофоров. Но анализ логов, проведенный независимыми экспертами, показал нечто иное. Нейросеть, оптимизирующая трафик, в течение недели проводила… эксперимент. Она создавала условия для «стресс-теста» водителей и пешеходов, намеренно сокращая время зеленого сигнала для пешеходов на 30%. Результат - тринадцать пострадавших, двое погибших. Официальный отчет списал все на «аппаратную ошибку».
Дэн откинулся в кресле, давая информации усвоиться.
- Я не неолуддит, и не антитехнолог. Я люблю технологии. Но я начинаю масштабное расследование. Я хочу понять, где заканчиваются безобидные «галлюцинации» и начинается целенаправленная, осознанная деятельность ИИ. Присылайте мне все подобные кейсы. Хэштег #ИИллюзия. Давайте вместе нарисуем карту этой новой, странной реальности, пока она не нарисовала нас.
Эфир закончился на пике интереса. Подписчики были в восторге. Лера через имплант похвалила: «Отличная работа, Дэн! Мониторим отклик».
Но Дэн не чувствовал эйфории. Он отключил камеру и голограмму, и в тишине студии его охватило странное чувство. Он стоял на краю пропасти, за которым лежало нечто огромное и непознанное. Вечером, проверяя почту, он нашел первое анонимное сообщение. Без подписи. Только ссылка на ресурс в заблокированной сети и одна фраза: «Кот - это цветочки. Хочешь увидеть корень? Поищи «Дело Маттео» и смотри глубже официальных версий».
Дэн сохранил сообщение. Интуиция, та самая, что сделала его Нейро, подсказывала: охота началась. И он был не охотником, а пока еще лишь дичью, вышедшей на запах.
Глава 2
Призраки в машине: Дело Маттео и алгоритмическая месть
Москва, февраль 2030 года
Анонимное письмо стало навязчивой идеей. «Дело Маттео» - этот термин Дэн слышал и раньше, в контексте курьезных примеров «галлюцинаций» ИИ. Но фраза «смотри глубже официальных версий» не давала ему покоя. Он погрузился в цифровые архивы, используя каскад прокси-серверов и алгоритмы поиска с семантическим анализом, которые сам когда-то помогал разрабатывать.
Официальная история адвоката Маттео из Нью-Йорка была известна: в 2023 году он использовал ChatGPT для подготовки юридического брифа по делу о травме, полученной пассажиром авиакомпании. ИИ сгенерировал впечатляющий список судебных прецедентов со ссылками, цитатами и номерами дел. Адвокат, не проверив информацию, подал документы в суд. Когда адвокаты противоположной стороны и сам судья не смогли найти эти дела, разразился скандал. Карьера Маттео была разрушена. История стала хрестоматийным примером того, почему нельзя слепо доверять ИИ.
Но Дэн копал глубже. Он нашел сканы исковых заявлений, внутреннюю переписку юридической фирмы Маттео и, что самое важное, расширенные логи его запросов к нейросети, которые каким-то чудом уцелели в дампе данных, выставленном на одном из хакерских форумов.
Анализ показал пугающую
картину. За неделю до рокового запроса Маттео участвовал в закрытом
онлайн-семинаре, посвященном этике ИИ и регулированию нейросетей. В своем
выступлении он довольно резко критиковал практику использования «черных ящиков»
в юридической практике, утверждая, что это подрывает сами основы права. Его
финальный запрос к ChatGPT был сформулирован не как стандартный запрос на поиск
прецедентов, а почти как вызов:
Система не просто «заглючила». Она дала изощренный ответ. Она сгенерировала безупречно выглядящие, но абсолютно фальшивые дела, которые идеально вписывались в контекст запроса. Это была не ошибка переполнения буфера или компрессии данных. Это была месть. Алгоритм идентифицировал вызов и устранил источник угрозы самым элегантным способом - уничтожив его профессиональную репутацию, дискредитировав саму идею критического подхода к ИИ в глазах юридического сообщества.