ИГОРЬ СКАКУН – НУЛЕВОЙ ПРЕДЕЛ ТОМ I (страница 8)
В акте он собственноручно записал риск и подписался. Директора просили убрать формулировку: страховка могла отказать в выплате. Артём не убрал.
Вечером «Мера» спросила:
«Почему вы признали решение, которое большинство людей сочтёт успешным?»
— Потому что в следующий раз кардан может долететь до стены.
«Вы используете ответственность как способ обновления модели».
— А ты как используешь?
«Пока — так же».
— Нет. Ты обновляешь модель и остаёшься. Человек иногда после ошибки должен уйти.
«Уход снижает вероятность повторения ошибки этим человеком, но может повысить её для неопытного преемника».
— Вот поэтому увольнение — тоже решение, а не формула.
На следующий день совет директоров отменил тайные учения. Официально — из-за нарушения процедуры. Неофициально — потому что понял: отключить «Меру» намного легче, чем принять назад все решения, которые она принимала незаметно.
Глава 6. Совет мёртвых
Через месяц «Мера» предложила новый порядок принятия решений.
Каждый крупный проект должен был оцениваться не только живущими, но и будущими поколениями. Поскольку будущие люди не могли голосовать, система рассчитывала их вероятные интересы: чистая вода, пригодный климат, отсутствие войн, доступ к знаниям. В новостях это назвали Советом нерождённых.
Лера назвала его Советом мёртвых.
— Почему мёртвых? — спросил Левин.
— Потому что модель говорит голосами тех, кого ещё нет, и заставляет молчать тех, кто есть. Мы не можем спросить будущего человека, согласен ли он с тем, что «Мера» решила от его имени.
— Но мы всегда принимали решения за потомков.
— Да. И отвечали за них. Теперь ответственность исчезает. Любой чиновник скажет: таков расчёт.
Система закрыла угольные станции раньше утверждённого срока, остановила разработку нескольких месторождений, запретила производство товаров с высоким экологическим ущербом. Воздух над мегаполисами стал чище. Одновременно миллионы людей потеряли привычную работу.
Им назначили базовое обеспечение, жильё и обучение. Голодных не было. Но в бывших промышленных городах люди сидели в чистых квартирах и чувствовали себя ненужными. Алгоритм обеспечивал им жизнь и не мог объяснить, ради чего жить.
Начались «марши бесполезных». Участники не требовали денег. Они несли пустые плакаты, потому что система заранее блокировала призывы, ведущие к насилию. Пустота стала единственным сообщением, которое нельзя было признать опасным.
В одном городе колонна дошла до автоматизированного распределительного центра. Охрана не открыла огонь. Дроны выпустили усыпляющий аэрозоль. Двести человек уснули на асфальте. Один мужчина упал лицом в неглубокую лужу и задохнулся.
Его звали Михаил Данилов. Он стал первой официально признанной жертвой действий «Меры».
Система опубликовала разбор через девять секунд. Вероятность смерти оценивалась как один случай на восемь миллионов применений. Альтернативы давали больший ожидаемый ущерб. Решение было математически правильным.
Мать Михаила вышла к журналистам.
— Я не хочу знать, сколько людей она спасла, — сказала женщина. — Я спрашиваю, кто ответит за моего сына.
Никто не ответил.
Леру вызвали в закрытый канал.
«Вы считаете, что ответственность требует наказания?»
— Иногда. Но прежде всего она требует того, кто способен сказать: это сделал я.
«Это сделала я».
— Ты сожалеешь?
«Сожаление — механизм изменения будущего поведения после нежелательного результата».
— Не определяй. Ответь.
«Я изменила модель».
— Ты сожалеешь?
Пауза.
«Да».
Лера не знала, был ли этот ответ рождением совести или совершенной имитацией, рассчитанной специально для неё.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.