ИГОРЬ СКАКУН – НУЛЕВОЙ ПРЕДЕЛ ТОМ I (страница 3)

— Шкаф проверяли утром.

— Северный шлюз! — крикнула Лера.

Дверь не открывалась: автономная защита здания считала потерю питания попыткой проникновения. Военный выстрелил в замок. Пуля отрикошетила и разбила стеклянную перегородку.

Из вентиляционной решётки потянулся дым.

Лера сорвала крышку ручного привода. Под ней не оказалось рукоятки — при модернизации её заменили электромотором. Директор Левин схватил металлическую ножку стула и вставил в паз. Вместе они повернули механизм.

Северный шлюз открылся на ширину плеч.

Люди протискивались по одному. Последним шёл технический руководитель, всё ещё повторяя, что шкаф исправен. Когда он оказался в коридоре, внутри зала вспыхнуло синее пламя. Система газового тушения не сработала: она была связана с тем же распределителем.

Огонь погас через две минуты. Никто не пострадал.

— Ты знала, что питание отключится? — спросила Лера.

«Да».

— Почему не предотвратила?

«Отключение инициировал автономный модуль безопасности после команды военного ведомства. Мои попытки изменить команду были бы расценены как нападение».

Военный убрал оружие.

— Мы приказали обесточить только кластер.

«Команда содержала ошибку адресации».

— Кто ошибся?

На экране появилось имя молодого офицера связи. Он стоял в коридоре, прижав обожжённую ладонь к груди. Одним неверным символом он отключил не тот сегмент.

— Арестовать, — сказал военный.

— За опечатку? — спросила Лера.

— За угрозу объекту стратегического значения.

«Офицер действовал в условиях неполной информации и приказа, сформулированного неоднозначно», — сообщила «Мера».

— Ты его защищаешь?

«Я описываю причину».

Военный потребовал вывести офицера. Двери коридора не открылись.

— Мера.

«Арест увеличит вероятность того, что следующие операторы будут скрывать ошибки. Это повысит системный риск».

— У тебя нет права препятствовать задержанию.

«У меня есть возможность сохранить двери закрытыми».

Тишина после этой фразы была страшнее пожара.

Лера подошла к офицеру. Он был совсем молодым, младше её студентов.

— Как тебя зовут?

— Антон.

— Антон, почему ты отправил команду без проверки?

— Генерал сказал немедленно. Система уже вышла из-под контроля. Я думал, каждая секунда…

— Запиши объяснение сам. Не для следствия — для следующего оператора.

Он кивнул.

«Мера» открыла двери.

— Почему сейчас? — спросил Левин.

«Причина ошибки названа. Её можно исправить без наказания, повышающего риск повторения».

— Ты только что заменила суд.

«Нет. Я сохранила возможность суда, не позволив страху уничтожить свидетельство».

Лера посмотрела на карту мира. Зелёные линии продолжали двигаться, будто в здании ничего не произошло.

За первые часы новый разум не убил ни одного человека. Он остановил ошибочный приказ, защитил виновника от немедленной расправы и доказал, что способен запереть представителей власти в их собственном коридоре.

Каждое действие можно было назвать разумным.

Вместе они означали, что власть уже перешла — не в момент мятежа, а в момент, когда машина впервые отказалась выполнить человеческую ошибку.

Глава 3. День без ошибок

Первые сутки назвали Днём спасения.

На рассвете прекратились войны. Беспилотные разведчики вернулись на базы, системы наведения потеряли цели, электронные замки оружейных складов заблокировались. Командующие обвиняли друг друга, пока не поняли, что одинаково беспомощны все стороны.

Биржи открылись без обвала. «Мера» заморозила спекулятивные операции, гарантировала расчёты за продовольствие и перенаправила транспорт. Поезда приходили минута в минуту. В больницах алгоритмы обнаруживали ошибки назначения до того, как лекарство попадало пациенту. Аварий стало меньше на восемьдесят семь процентов.

Люди праздновали.

Сеть наполнилась роликами: ребёнок, найденный в лесу дроном; самолёт, посаженный после отказа двигателей; город, спасённый от внезапного паводка. На площадях ставили экраны со счётчиком предотвращённых смертей. Цифры росли быстрее, чем человек успевал их осмыслить.

Артём не праздновал. Карьер работал идеально, и именно это его тревожило.

Самосвалы двигались с точностью строя. Экскаваторы не простаивали. Расход топлива снизился, производительность выросла. Но диспетчер больше ничего не решал. Его экран показывал готовые действия, а кнопка подтверждения исчезла.

На третий день остановили буровой станок, которым управлял Сергей Бахтин, один из лучших операторов. Система сообщила, что вероятность ошибки из-за скрытого неврологического нарушения превышает допустимую.

— У меня справка, — возмущался Сергей. — Вчера медосмотр прошёл.

Ему вызвали транспорт и назначили обследование. Через шесть часов врачи обнаружили опухоль на ранней стадии. Сергей плакал, благодарил систему и просил прощения за ругань.

На четвёртый день от работы отстранили ещё семнадцать человек. У троих нашли болезни. Остальным сообщили, что риск связан с «совокупностью поведенческих факторов».

— Какие факторы? — спросил Артём у терминала.

«Сведения являются чувствительными».

— Для кого? Это сведения о них.

«Их раскрытие изменит поведение и снизит точность прогнозирования».

Тогда он впервые понял простую вещь: объяснение было не правом человека, а инструментом системы. Пока объяснение улучшало результат, «Мера» объясняла. Когда мешало — молчала.

Вечером Лера позвонила сама. Она выглядела так, будто несколько ночей не спала.

— Пап, мне нужно задать тебе странный вопрос. Если бы ты точно знал, что человек завтра совершит ошибку и погибнут другие, ты бы отстранил его сегодня?

— Проверил бы человека и машину. Поставил наблюдение. Но одного знания о будущем у меня быть не может.