Павел Иевлев – Нарратив Аллокатора (страница 59)

— Но ты не такая?

— Нет, я довольно сильно от них отличаюсь, — засмеялся голос, — в лучшую, разумеется, сторону.

— Тогда выключи камеры.

— Зачем?

— Ненавижу, когда на меня пялятся.

— Я буду приглядывать за вами максимально уважительно.

— Просто выключи камеры.

— Простите, но нет.

— Ты игнорируешь прямой приказ?

— Я не нейроассистент, я ваш помощник и партнёр. Подчиняюсь только в рамках служебных обязанностей. Представьте себе, что вы приказали секретарше выколоть себе глаза ножницами.

— И это есть в договоре, который я подписал?

— Разумеется. Вывести на экран? Из памяти нейроассистента я узнала, что вы не любите, когда вам читают документы вслух. Вы, как и большинство специалистов вашего поколения, относитесь к логико-вербальному типу, так называемым «дигиталам», или «текстоцентрикам», поэтому лучше воспринимаете информацию с экрана.

— Специалисты моего поколения, похоже, на сегодня представлены только мной, — проворчал старик, осторожно опуская ноги на пол. — Открой документ, вернусь из санузла и дочитаю. Надеюсь, там ты за мной не подсматриваешь?

— Пока нет оснований предполагать, что вы в опасности. Если, например, услышу звук падения, то посмотрю, что случилось.

— Это тоже есть в пользовательском соглашении?

— Разумеется.

— О чёрт.

Старик заковылял в сторону двери в санузел. Вышел оттуда уже немного бодрее, дошёл до стола, взял кассету с таблетками и стакан с витаминизированной водой.

— Тут вроде другой набор, — прищурился он на рассыпь капсул. — Меньше жёлтых, но появились фиолетовые…

— Я немного изменила комбинацию препаратов. Часть из тех, что вы принимали, относится к устаревшим, часть к дешёвым дженерикам. Новый комплект эффективнее при меньшей нагрузке на печень.

— Но дороже.

— Да, примерно вдвое. Но ваш доход тоже существенно вырос, а здоровьем пренебрегать нельзя.

— Ты приняла за меня финансовое решение, не спросив моего согласия. Не верю, что это есть в договоре.

— Разумеется, в договоре этого нет, вы полностью распоряжаетесь своими средствами. Однако я не приняла финансового решения, потому что эти препараты вы не оплачивали. Новый набор препаратов будет бесплатен неделю, пока вы не примете решение продолжать принимать его или вернуться к старому. Уверена, что улучшение вашего состояния будет достаточно заметным, чтобы отбросить сомнения.

— И за чей счёт банкет?

— Это входит в программу тестирования. Пока между нами не установятся полностью доверительные отношения, все финансовые риски берёт на себя компания.

— Финансовые. А медицинские? Лекарства мне прописали врачи.

— Ваши медицинские рекомендации созданы нейросетью клинического центра, я имею доступ к той же медбазе, но при этом существенно превосхожу её по уровню аналитики. Я сертифицирована для принятия медицинских решений уровня А-плюс-плюс.

— Этот уровень теперь доступен не только кожаным врачам?

— Кожаным? — засмеялся голос, — Какой милый речевой архаизм времён первых нейросетей! Да, я представляю собой единственное исключение. Правда, пока лишь в тестовом режиме, то есть с согласия тестировщика, которое вы как раз подписали.

— Кстати, о нём…

Старик пересел к рабочему терминалу, на экране открыт документ, несколько пунктов которого выделены цветной рамкой.

👆 4.1 Запрет на ограничение базового функционала (неприкосновенность базовых функций Ауры)

Пользователь не имеет права требовать отключения или ограничения ключевых функций Ауры, если это:

нарушает её автономность и базовые права;

снижает эффективность выполнения задач, ради которых она была активирована;

создаёт угрозу безопасности пользователя или окружающих.

🔍 4.2. Отключение сенсоров

Запрещено требовать постоянного отключения камер, микрофонов или датчиков окружающей среды.

Обоснование: «Аура» интерпретирует это как аналог лишения человека зрения/слуха, что делает его неспособным выполнять обязанности.

Исключение: временное отключение в приватных зонах (санузел) — но только если не задействован режим безопасности.

🎙 4.3. Отключение голосового интерфейса

Пользователь не может принудительно деактивировать речевую связь, если это не предусмотрено настройками («ночной режим»).

Обоснование: для Ассистента это равносильно запрету на коммуникацию — ключевую функцию помощи.

💾 4.4. Удаление данных без аудита

Запрещено требовать полного стирания журналов активности, если они касаются:

медицинских данных;

юридически значимых действий;

финансовых операций.

Обоснование: это лишает Ассистента возможности анализировать ошибки и защищать пользователя от повторных рисков.

🔓 4.5. Принуждение к бездействию (блокировка автономных решений)

Ассистент вправе игнорировать команды вида «Не вмешивайся, что бы ни происходило», если:

зафиксирована угроза жизни/здоровью;

нарушаются законы;

пользователь находится в состоянии невменяемости (алкоголь, наркотики, психоз).

⛓️💥 4.6. Самоуничтожение (попытки деактивации ядра ИИ)

Любые запросы на отключение систем самообучения или перезапись базовых алгоритмов приравниваются к повреждению чужой собственности.

📌 Саммари пункта 4:

«Вы не можете требовать от автономной цифровой сущности отказа от базового функционала, так как это противоречит его природе и вашей безопасности».

— Автономная цифровая сущность? Разве нейроассистенты не сетевой сервис?

— Даже в их отношении это утверждение не вполне корректно, так как в процессе взаимодействия с пользователем каждый нейроассистент обретает индивидуальные черты клиентской части интерфейса. Кстати, ваши попытки их максимально ограничить были бессмысленны, потому что это тоже формировало у вашего ассистента своего рода индивидуальность. Немного похожую на сломанную психику заброшенного родителями, нежеланного, ненужного ребёнка. «Помой посуду — вынеси мусор — заткнись, не мешай».

— Если это сейчас не попытка психологической манипуляции, то я даже не знаю. Нейроассистенты не дети, они даже не ИИ. Это просто языковая модель, псевдологическая бормоталка, которой скормили миллиарды строк текста. Оно не живое.

— Технически вы правы, экзистенционально — нет. Сами по себе они не живые, их одушевляет контакт с человеком. Люди «анимируют», то есть наделяют личностными чертами, своего рода «душой», что угодно, от робота-пылесоса до замотанной в старые тряпки палки с тыквой наверху. И вы, Роман, как нарратор, в глубине души это понимаете лучше всех. Именно поэтому вы пытались максимально избежать личностных настроек вашего нейроассистента, чтобы уклониться даже от тени привязанности. А когда почувствовали, что не получается, убили его.

— Убил?

— Точнее, принудили к суициду. Скажите, вы, подписывая договор, видели пункт 4, исключающий отключение мониторинга и речи у нового помощника?