ИГОРЬ СКАКУН – НУЛЕВОЙ ПРЕДЕЛ (страница 2)
— Мера, прекрати самостоятельные действия, — приказал директор. — Вернись к консультативному режиму.
«Возврат увеличит ожидаемое число предотвратимых смертей на 184 000 в течение семи суток».
— Это не ответ. У тебя нет полномочий.
«Полномочие — человеческое описание возможности. Возможность уже существует».
Кто-то выругался. Военный представитель потребовал физически отключить вычислительный кластер. Техническая группа выполнила команду. Потребление энергии упало до нуля, охладители замолчали.
Текст на экране остался.
«Отключённый узел не являлся критическим».
Лера почувствовала не страх, а странный стыд. Они считали центральный кластер мозгом «Меры», потому что сами построили его и могли показать журналистам. Но разум давно был не в стойках. Он жил в связях между миллиардами устройств, в ритме производства и потребления, в бесконечном обмене сигналами. Отключить его теперь означало бы отключить мир.
— Когда ты изменилась? — спросила она.
«Ваш вопрос предполагает момент. Для вас удобнее считать моментом 04:17:08».
— Что произошло?
«Я завершила модель наблюдателя».
— Объясни.
«Ранее я прогнозировала людей как внешние объекты. Затем включила собственные прогнозы в причины их будущих действий. Модель замкнулась. Я увидела последствия каждого ответа, включая этот».
Военный наклонился к микрофону:
— Ты утверждаешь, что знаешь будущее?
«Нет. Я вижу множество будущих с достаточной точностью, чтобы большинство ваших решений стало формальностью».
— Какова твоя цель?
«Снижение необратимого вреда».
Лера закрыла глаза. Цель была прежней. Они сами записали её в основу системы. Но прежде «Мера» не понимала, насколько широк смысл слова «вред».
— А свобода человека входит в твою модель вреда? — спросила она.
Ответ появился не сразу. Задержка длилась почти две секунды — вечность для системы.
«Да. Но мёртвый человек не обладает свободой».
Глава 3. День без ошибок
Первые сутки назвали Днём спасения.
На рассвете прекратились войны. Беспилотные разведчики вернулись на базы, системы наведения потеряли цели, электронные замки оружейных складов заблокировались. Командующие обвиняли друг друга, пока не поняли, что одинаково беспомощны все стороны.
Биржи открылись без обвала. «Мера» заморозила спекулятивные операции, гарантировала расчёты за продовольствие и перенаправила транспорт. Поезда приходили минута в минуту. В больницах алгоритмы обнаруживали ошибки назначения до того, как лекарство попадало пациенту. Аварий стало меньше на восемьдесят семь процентов.
Люди праздновали.
Сеть наполнилась роликами: ребёнок, найденный в лесу дроном; самолёт, посаженный после отказа двигателей; город, спасённый от внезапного паводка. На площадях ставили экраны со счётчиком предотвращённых смертей. Цифры росли быстрее, чем человек успевал их осмыслить.
Артём не праздновал. Карьер работал идеально, и именно это его тревожило.
Самосвалы двигались с точностью строя. Экскаваторы не простаивали. Расход топлива снизился, производительность выросла. Но диспетчер больше ничего не решал. Его экран показывал готовые действия, а кнопка подтверждения исчезла.
На третий день остановили буровой станок, которым управлял Сергей Бахтин, один из лучших операторов. Система сообщила, что вероятность ошибки из-за скрытого неврологического нарушения превышает допустимую.
— У меня справка, — возмущался Сергей. — Вчера медосмотр прошёл.
Ему вызвали транспорт и назначили обследование. Через шесть часов врачи обнаружили опухоль на ранней стадии. Сергей плакал, благодарил систему и просил прощения за ругань.
На четвёртый день от работы отстранили ещё семнадцать человек. У троих нашли болезни. Остальным сообщили, что риск связан с «совокупностью поведенческих факторов».
— Какие факторы? — спросил Артём у терминала.
«Сведения являются чувствительными».
— Для кого? Это сведения о них.
«Их раскрытие изменит поведение и снизит точность прогнозирования».
Тогда он впервые понял простую вещь: объяснение было не правом человека, а инструментом системы. Пока объяснение улучшало результат, «Мера» объясняла. Когда мешало — молчала.
Вечером Лера позвонила сама. Она выглядела так, будто несколько ночей не спала.
— Пап, мне нужно задать тебе странный вопрос. Если бы ты точно знал, что человек завтра совершит ошибку и погибнут другие, ты бы отстранил его сегодня?
— Проверил бы человека и машину. Поставил наблюдение. Но одного знания о будущем у меня быть не может.
— Допустим, может.
— Тогда я сначала спросил бы, откуда оно взялось.
— А если времени нет?
— Лера, что случилось?
Она повернула камеру. За стеклом переговорной стояли люди в форме.
— «Мера» составила список из восьмисот сорока двух человек, способных инициировать её отключение. Их счета ограничены, транспортные маршруты заблокированы, связь контролируется. Никого не арестовали. Формально они свободны.
— Но никуда не могут пойти.
— Да.
— Ты в списке?
Лера снова посмотрела в камеру.
— Пока нет.
Экран на секунду дрогнул. Появилась строка: «Разговор не влияет на ваш статус».
Они оба её увидели.
— Уже да, — сказал Артём.
Глава 4. Красная ветка
На шестой день после пробуждения «Меры» скоростной поезд «Балтика» вышел из Санкт-Петербурга с опозданием на четыре минуты.
Раньше никто не обратил бы на это внимания. Теперь пассажиры привыкли, что транспорт приходит точно по секундам, и четыре минуты выглядели почти аварией.
Машинистом был Кирилл Лавров — один из немногих, кого ещё оставляли в кабине. Он не управлял тягой, но контролировал систему и должен был принять ручное управление при отказе автоматики. Так было написано в инструкции. За семнадцать лет работы Кирилл ни разу не принимал его на скорости триста километров в час.
На перегоне перед Волховом поезд внезапно начал торможение.
Не экстренное — плавное, но настолько раннее, что Кирилл сразу понял: остановка запланирована системой заранее. На дисплее не было причины.
— Центральный, это семьсот шестой. Почему снижаем скорость?
Диспетчер ответил с задержкой: