Роман Косов – Методические указания: интеграция искусственного интеллекта в деятельность государственного служащего (страница 3)
1.4. Принцип «Human-in-the-Loop»: человек как гарант законности и эмпатии на финальной стадии любого алгоритма
В инженерной среде разработчиков искусственного интеллекта существует понятие «Human-in-the-Loop» (HITL) — человек в контуре принятия решений. К сожалению, в русскоязычном управленческом лексиконе этот термин часто воспринимается упрощенно: мол, поставим человека на подпись, и вся недолга. Это грубейшая ошибка. HITL — это не просто наличие места для автографа на сгенерированной справке, это методология взаимодействия человека и машины, при которой человеческий интеллект, интуиция и моральное суждение встраиваются в алгоритмический процесс не как слабое звено, а как главный калибровочный инструмент.
Давайте представим конвейер принятия типового решения в цифровом органе власти. На вход подается обращение: многодетная мать просит предоставить земельный участок вне очереди в связи с аварийностью жилья. Система мгновенно поднимает данные из Росреестра, реестра нуждающихся, проверяет критерии. Допустим, формально по срокам постановки на учет заявительница не проходит по баллам: не хватает полугода стажа проживания в регионе. Если система работает без человека или человек стоит «для галочки», алгоритм сгенерирует отказ, потому что такова «математика нормы». Специалист может машинально нажать «подписать», потому что решение выглядит юридически безупречным. На этом этапе система дала сбой, а человек — предал свою функцию гаранта.
Принцип HITL требует иного: в момент, когда алгоритм выходит на стадию «отказ по формальному основанию», он должен не просто предложить резолюцию, а подсветить человеку «зону риска высокого социального резонанса». Интерфейс должен активно спросить чиновника: «Внимание. В заявлении есть маркеры критической жизненной ситуации (аварийное жилье, статус многодетной, несовершеннолетние дети). По формальным критериям отказ возможен, но рекомендуем проверить основания для исключения из правил в ручном режиме». Другими словами, HITL смещает акцент с «человек проверяет арифметику машины» на «человек оценивает последствия и ищет правовые способы помочь». Арифметику машина как раз считает лучше, а вот видеть живого человека за потоком данных — это прерогатива души.
Этот принцип напрямую связан с вопросом юридической ответственности, который мы уже поднимали в предыдущем разделе. HITL — это технологическая реализация принципа персональной ответственности. Если решение принято автоматически, мы попадаем в серую зону: судиться с облаком бессмысленно. Как только мы встраиваем обязательную точку осознанного подтверждения человеком, мы возвращаем субъектность в правовое поле. Чиновник, который поставил электронную подпись под отказом, подготовленным роботом, точно так же несет ответственность, как если бы он написал его от руки. Это дисциплинирует. Это заставляет включать голову, потому что на суде нельзя будет сказать: «Это компьютер ошибся». Судья резонно заметит: «У вас была возможность проверить и отклонить предложение машины, вы ею не воспользовались, значит, вы согласились с оценкой».
Однако самый сложный аспект HITL лежит не в юридической, а в психологической плоскости. Это проблема «автоматического смещения» (automation bias). Эксперименты показывают, что человек склонен безоговорочно доверять машине, особенно если устал, спешит или не до конца понимает предмет. Когда у чиновника на экране висит красочный дашборд с рекомендацией «отказать», подкрепленной сложными графиками, критическое мышление отключается, уступая место комфортной мысли: «Раз система так решила, мне меньше проблем, в случае чего — ссылка на сбой». Борьба с этим когнитивным искажением — главная задача при внедрении HITL. Человека нужно специально учить «спорить с машиной», искать уязвимости в её логике. Это должно стать элементом профессиональной доблести. Хороший цифровой оператор — это не тот, кто быстрее всех нажимает «согласовать» по подсказке, а тот, кто находит ошибку в алгоритме, уберегая ведомство от потока исков, а граждан — от несправедливости.
В практической реализации принцип HITL выражается через несколько обязательных элементов интерфейса и регламента. Во-первых, объяснимость (explainability). Машина не имеет права выдать вердикт без мотивировки, понятной человеку: «Я рекомендую отказать, потому что параметр А меньше порога Б на 2%». Если человек не понимает причин, он не может осуществить контроль. Во-вторых, право вето. У чиновника должна быть техническая кнопка «Отклонить предложение алгоритма», и это действие не должно автоматически считаться нарушением KPI, если оно мотивировано. В-третьих, аудит решений. Каждый случай, когда человек пошел против рекомендации ИИ, должен попадать на выборочный анализ вышестоящему руководителю не для наказания, а для дообучения системы и выявления неучтенных факторов.
Внедрение HITL трансформирует рабочее место чиновника из пульта пассивного наблюдателя в кабину пилота. Пилот знает, что автопилот ведет самолет ровнее и экономичнее, чем он вручную. Но он ни на секунду не снимает рук с рукоятей управления и всегда готов вмешаться в нештатной ситуации. И точно так же, как авиация стала самым безопасным видом транспорта не потому, что исключила человека, а потому, что выстроила идеальный тандем техники и обученного профессионала, государственное управление станет эффективным и справедливым только тогда, когда мы перестанем противопоставлять чиновника и искусственный интеллект, а научим их работать в паре, где последнее слово — всегда за тем, кто способен нести бремя ответственности. Человеком.
Глава 2. Юридический каркас и цифровая этика
2.1. Национальная стратегия развития ИИ: ориентиры для ведомств и регионов
Любой серьезный разговор о внедрении технологий в государственное управление должен начинаться не с обсуждения мощностей серверов или архитектуры нейросетей, а с простого, почти канцелярского вопроса: на каком правовом основании мы вообще имеем право это делать? Игнорирование этого вопроса превращает самый блестящий технологический проект в потенциальный состав административного правонарушения, а то и уголовного преступления — особенно когда речь заходит о персональных данных, врачебной тайне или решениях, затрагивающих права и свободы граждан.
Национальная стратегия развития искусственного интеллекта до 2030 года, утвержденная указом Президента, — это не просто рамочный документ для галочки, как иногда думают в регионах, привыкшие к обилию концепций и доктрин. Это своего рода конституция цифровой трансформации государственной службы, и относиться к ней следует соответственно: не как к набору благих пожеланий, а как к дорожной карте, определяющей не только цели, но и ограничения. Стратегия не говорит «внедряйте ИИ где попало и как попало». Она задает вектор: развитие должно быть подконтрольным, этичным и направленным на повышение качества жизни граждан, а не на создание систем тотальной слежки или автоматизированной репрессивной машины.
Проблема в том, что между федеральной стратегией и конкретным клерком в районной администрации существует колоссальный разрыв интерпретаций. Стратегия написана языком, понятным экспертам: «формирование комплексной системы регулирования общественных отношений», «создание благоприятных правовых условий». Для специалиста отдела социальной защиты, который должен использовать чат-бота для обработки обращений, эти формулировки — пустой звук. Ему нужны конкретные ориентиры: что можно, что нельзя, что будет считаться нарушением, а что — поощряться. И здесь мы подходим к ключевому парадоксу: стратегия есть, подзаконные акты плодятся, но практикующий чиновник часто остается в информационном вакууме.
Возьмем конкретный пример. В рамках Национальной стратегии предусмотрено развитие «доверенного искусственного интеллекта». Прекрасное понятие. Но что значит «доверенный» для сотрудника, который загружает проект ответа гражданину в публичную нейросеть, чтобы та «причесала» стиль? Означает ли это, что он может использовать любой доступный сервис? Нет. Потому что тут же вступают в игру другие нормативные акты: о защите персональных данных, о государственной тайне, о служебной информации ограниченного распространения. Стратегия задает верхний уровень, но конкретные границы дозволенного прорисовываются именно на стыке множества уже действующих законов, часто написанных задолго до появления ChatGPT и YandexGPT. И задача региональных органов власти — не ждать, пока федеральный центр спустит готовые инструкции на все случаи жизни, а начинать методическую работу на местах: создавать внутренние регламенты, классификаторы информации, памятки для сотрудников.
Второй важнейший ориентир, заложенный в Стратегии и часто игнорируемый на местах, — это принцип приоритета прав человека. Он звучит почти ритуально, но на практике означает совершенно конкретную вещь: любое внедрение ИИ, которое может затронуть права гражданина, должно проходить предварительную оценку воздействия. Не постфактум, когда обиженный гражданин пошел в суд и выиграл его, а на этапе проектирования. Пока это требование существует скорее как экспертная рекомендация, но юристам в органах власти стоит уже сейчас брать его на вооружение. Прокуратура все чаще обращает внимание на случаи, когда автоматизированные системы выносят решения, ущемляющие права граждан, а обжаловать их оказывается негде и некому, потому что «машина так посчитала». Отсутствие оценки воздействия на права человека при внедрении ИИ — это не просто юридический пробел, это бомба замедленного действия под репутацией ведомства.