Роман Косов – Методические указания: интеграция искусственного интеллекта в деятельность государственного служащего (страница 4)

Третий аспект, который необходимо держать в голове руководителю любого уровня: Стратегия прямо указывает на необходимость обеспечения технологического суверенитета. Для практика это означает, что выбор между условным зарубежным облачным сервисом и отечественной разработкой — это не вопрос вкуса или удобства интерфейса. Это вопрос соответствия государственной политике. В условиях санкционного давления использование зарубежных нейросетей для обработки даже несекретной, но чувствительной информации — это не просто риск утечки, это действие, противоречащее духу и букве стратегических документов. Руководитель, закрывающий глаза на использование сотрудниками публичных зарубежных сервисов для работы с обращениями граждан, по сути, расписывается в неспособности организовать рабочие процессы в соответствии с национальными приоритетами.

Отдельно следует остановиться на том, что Национальная стратегия — это живой документ, а не мертвый памятник бюрократической мысли. Она обновляется, корректируется с учетом технологических прорывов. Появление генеративных моделей, способных создавать убедительные тексты и изображения, произошло уже после утверждения первой редакции. Сейчас мы видим, как законодатель пытается догнать реальность: вводятся нормы о маркировке дипфейков, об ответственности за распространение синтетического контента, о защите голоса и изображения. Для госслужащего это означает одно: недостаточно прочитать Стратегию один раз и забыть. Нужно быть в курсе изменений, потому что то, что было допустимо вчера (например, использование сгенерированного изображения для иллюстрации отчета без маркировки), завтра может стать основанием для служебной проверки.

Наконец, самый тонкий момент. Стратегия декларирует развитие ИИ как инструмента поддержки принятия решений, но не замены человека. Однако грань между «поддержкой» и «заменой» в реальной управленческой практике стирается мгновенно. Когда система автоматически формирует проект решения, а чиновник лишь нажимает «согласовать», потому что у него нет времени вникать, — это уже де-факто замена. И вот здесь возникает вопрос юридической квалификации: кто в этой ситуации принимает решение? Формально — чиновник. Фактически — алгоритм, написанный неизвестно кем и обученный неизвестно на каких данных. Внутренние регламенты ведомств должны четко описывать процедуру верификации машинных рекомендаций. Если такой процедуры нет, а решение принято с нарушением прав гражданина, виноват будет не разработчик алгоритма, а тот, кто поставил подпись. Это подводит нас вплотную к вопросу о цифровом кодексе — своде правил, которые должны стать настольной книгой каждого чиновника, работающего с ИИ.

2.2. Цифровой кодекс госслужащего: границы дозволенного при взаимодействии с нейросетями

Профессиональная этика государственного служащего всегда базировалась на нескольких незыблемых принципах: законность, беспристрастность, конфиденциальность, ответственность. До недавнего времени эти принципы реализовывались в среде, где основными инструментами были ручка, телефон и компьютер без доступа к генеративным моделям. Появление ИИ не отменяет эти принципы, но требует их радикального переосмысления и конкретизации применительно к новым инструментам. Цифровой кодекс — это не отдельный закон, а скорее свод правил поведения, который должен быть инкорпорирован в должностные регламенты, типовые контракты и программы повышения квалификации.

Первый и главный постулат такого кодекса: не вводи в нейросеть то, что не готов опубликовать в открытом доступе. Это звучит как паранойя, но давайте посмотрим правде в глаза. Большинство сотрудников не имеют технической возможности проверить, куда именно уходят данные, введенные в окно публичного чат-бота. Даже если провайдер обещает конфиденциальность, у нас нет никаких гарантий, что завтра его политика не изменится или что серверы не окажутся под контролем третьих лиц. Для государственного служащего это означает простое практическое правило: любая информация, содержащая персональные данные, сведения ограниченного распространения или просто внутреннюю кухню ведомства, не должна покидать защищенный контур. Если для выполнения задачи требуется помощь ИИ — либо используем ведомственную систему, развернутую на собственных серверах (on-premise), либо обезличиваем данные до такой степени, чтобы даже при утечке нельзя было идентифицировать граждан или внутренние процессы.

Второй постулат: всегда помни, что нейросеть — это не эксперт, а статистический попугай. Красиво изложенная справка, сгенерированная ИИ, может содержать ссылки на несуществующие нормативные акты, придуманные цифры и логически безупречные, но полностью вымышленные прецеденты. Принимать такой текст за готовый документ, не проверив каждый тезис, — это грубое нарушение профессиональных обязанностей, сопоставимое с подделкой подписи. Цифровой кодекс должен прямо запрещать использование непроверенного машинного вывода в качестве основы для управленческого решения. ИИ предлагает — человек проверяет и отвечает.

Третий постулат касается этики взаимодействия с гражданами. Допустимо ли, чтобы ответ на обращение гражданина был полностью сгенерирован нейросетью, а чиновник лишь поставил подпись? С точки зрения формальной законности, если ответ корректен, реквизиты на месте, сроки соблюдены — состав нарушения найти сложно. Но с точки зрения профессиональной этики возникает серьезный вопрос. Гражданин пишет в орган власти, ожидая, что его проблемой займется живой человек, обладающий компетенцией и властью. Если он получает бездушный, пусть и грамматически безупречный, синтетический ответ, это подрывает доверие к институту государства. Цифровой кодекс должен требовать разумной прозрачности: в определенных случаях гражданин имеет право знать, что первичный проект ответа подготовлен автоматизированной системой, а финальную проверку провел такой-то специалист. Это не только этично, но и прагматично: если ответ окажется ошибочным, гражданин будет знать, к кому обращаться за исправлением, а не воевать с безликой машиной.

Четвертый постулат — запрет на использование ИИ для создания фальсифицированных доказательств или имитации бурной деятельности. Генеративные модели позволяют за минуту создать фотографию «отремонтированного» объекта, видео с «проведенным» совещанием или аудиозапись «согласования». Использование таких материалов в отчетности — это не просто служебный подлог, это уголовно наказуемое деяние, и ссылки на «шутку» или «проверку технологий» здесь не работают. Кодекс должен содержать прямой и недвусмысленный запрет на генерацию синтетического контента, имитирующего результаты реальной работы, без явной и нестираемой маркировки.

Пятый постулат: соблюдай цифровую гигиену. Это включает в себя не только запрет на использование личных аккаунтов в публичных сервисах для служебных задач, но и более тонкие моменты: не обучай публичные модели на служебных документах (даже обезличенных без разрешения), не устанавливай непроверенные расширения и плагины с ИИ-функциями на служебный компьютер, не пересылай служебные документы на личную почту, чтобы «быстренько обработать через нейросеть дома». Каждое из этих действий — потенциальная дыра в безопасности, за которую отвечать придется не системному администратору, а самому сотруднику.

Кодекс не должен быть набором запретов, написанных в стиле «не лезь — убьет». Он должен объяснять, почему именно эти правила важны, и предлагать безопасные альтернативы. Если мы запрещаем использовать публичный чат-бот для обработки обращений, мы обязаны предоставить сотруднику аналогичный инструмент, работающий в защищенном контуре. Если мы требуем проверять каждый машинный вывод, мы должны обучить сотрудника методикам такой проверки и дать ему на это время. Иначе кодекс превратится в очередную бумажку, которую все подпишут и забудут, а реальная работа пойдет по-прежнему — через личные Telegram-боты и зарубежные сервисы.

2.3. Проблема предвзятости алгоритмов (Bias): как не допустить дискриминации граждан из-за «кривых данных»

Самый коварный враг цифрового государства — не хакеры и не отказы серверов. Самый коварный враг — это тихая, незаметная, встроенная в саму ткань данных предвзятость, которую алгоритм впитывает, как губка, и начинает воспроизводить в масштабе, недоступном ни одному человеку. Проблема algorithmic bias — это не абстрактная страшилка из западных университетских кампусов, это практический риск, который может привести к массовым нарушениям прав граждан, многомиллионным искам и полной дискредитации идеи цифрового государства.

Давайте на конкретном, почти бытовом примере. Предположим, региональное министерство социальной защиты внедряет систему скоринга нуждаемости, которая на основе исторических данных предлагает решение о назначении или отказе в пособии. Система обучается на данных за последние десять лет. Если исторически сложилось так, что жители определенного района (скажем, депрессивного, с низким уровнем образования) получали отказы чаще — не потому что они меньше нуждались, а потому что хуже оформляли документы или сталкивались с предвзятостью конкретных исполнителей, — алгоритм воспримет этот паттерн как норму. Он начнет систематически занижать скоринговый балл жителям этого района, маскируя дискриминацию под объективную математику. И самое страшное — выявить это будет крайне сложно, потому что в каждом конкретном случае отказ будет выглядеть обоснованным: «доход на члена семьи ниже порога на три процента», «стаж не дотягивает до минимального». Но в совокупности мы получим системную дискриминацию, зашитую в «черный ящик» нейросети.