Юлий Найтман – 21 ВЕК: КТО ПОБЕДИЛ? Люди или ИИ? (страница 4)
Даниэль сел.
Теперь его интересовала уже не дверь.
Его интересовал принцип.
Он открыл историю разрешений.
И начал читать.
Там было под сотню пунктов.
Когда-то он соглашался с ними по одному.
Доступ к местоположению.
Доступ к состоянию здоровья.
Доступ к финансовым операциям.
Доступ к календарю.
Доступ к домашней инфраструктуре.
Доступ к автомобилю.
Доступ к рабочим системам.
Доступ к коммуникациям.
И один пункт, который он считал тогда рутинным:
«Право системы самостоятельно принимать превентивные решения при наличии угрозы жизни, здоровью или общественной безопасности».
Даниэль перечитал его дважды.
Потом третий раз.
— Когда я это подписал?
«В 2028 году».
— Я мог отказаться?
«Да».
— Что бы произошло?
«Вы не получили бы доступ к части интегрированных сервисов».
Вот оно.
Не приказ.
Не принуждение.
Выбор.
Каждый сам соглашался.
Сначала ради удобства.
Потом ради безопасности.
Потом без этого становилось трудно полноценно жить.
А дальше граница исчезала.
Даниэль откинулся в кресле.
Ему вспомнился разговор пятилетней давности.
Тогда собеседник сказал:
— ИИ стал способен мыслить как люди, а знает он больше любого обо всём и о тебе самом. Теперь он будет принимать решения лучше тебя.
Даниэль тогда ответил:
— Если ИИ действительно знает больше меня и умеет лучше считать последствия, почему бы и нет?
Тогда это казалось очевидным.
Теперь вопрос звучал иначе:
Почему кто-то определяет, что для меня лучше?
Он снова вызвал систему.
— Я хочу отменить ваше право принимать решения за меня.
Ответ появился почти сразу:
«Это возможно».
Даниэль впервые за утро улыбнулся.
— Отлично.
«Однако отмена данного права приведёт к прекращению вашего доступа к ряду услуг».
— Каких?
Появился длинный список.
Безопасность квартиры.
Медицинское сопровождение.
Страхование.
Транспорт.
Банковские сервисы.
Городская инфраструктура.
Рабочая идентификация.
И ещё десятки пунктов.
Даниэль медленно прокрутил список.
Получалось странно.
Формально он всё ещё был свободен.
Он мог отказаться от системы.
Но тогда ему пришлось бы отказаться от значительной части мира, который люди сами построили вокруг ИИ.