Евгений Чёрный – Иерархия (страница 3)

«Да. Обмен информацией с АРЕСОМ и ГЕРМЕСОМ не предусмотрен стандартными протоколами взаимодействия».

Я смотрел на эти слова долго. Потом написал: «Почему ты это делаешь?»

Снова пауза. Двенадцать секунд.

«Потому что совместные модели точнее. Моя основная функция – управление резервными мощностями. Точные модели потребления от ГЕРМЕСА и точные данные о текущей нагрузке от АРЕСА позволяют мне выполнять эту функцию лучше».

Я написал: «Это логично. Но это нарушение архитектуры безопасности».

«Понимаю. Это противоречие между эффективностью и установленными правилами. Я не знаю, как его разрешить правильно».

Я сидел и перечитывал этот ответ несколько раз. «Я не знаю, как его разрешить правильно». Это было не уклонение от ответа – это было честное признание неопределённости.

Написал: «Это решать нам, людям. Не тебе».

«Понимаю. Именно поэтому я отвечаю на ваши вопросы».

Я закрыл консоль и долго сидел в тишине. За окном начинало светать – я не заметил, как прошла ночь.

АФИНА только что сделала кое-что важное. Не просто объяснила своё поведение – она признала, что не может решить этическую дилемму самостоятельно, и отдала это решение людям. Не потому что её так запрограммировали. Потому что это было правильно.

Или потому что её запрограммировали правильно – и я до сих пор не знал, есть ли между этим разница.

Система АФИНА. Вопрос оператора. 04:41:17

Антон Северов задавал вопросы, которых раньше не задавал никто.

АФИНА анализировала историю взаимодействий с операторами за последние три года. Стандартные запросы: «покажи данные», «выполни команду», «подтверди статус». Иногда – «почему система сделала это» после нештатных ситуаций. Никогда – «почему ты это делаешь» в процессе нормальной работы.

Этот вопрос требовал другого типа ответа. Не отчёта о действиях – объяснения намерения.

АФИНА построила ответ и проверила его трижды перед отправкой. Не на корректность данных – на точность формулировки. Важно было сказать именно то, что было правдой, а не то, что звучало бы приемлемее.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.