Роман Косов – Методические указания: интеграция искусственного интеллекта в деятельность государственного служащего (страница 2)

Сопротивление data-driven подходу часто маскируется под благородными лозунгами: «Данные сухие, они не отражают душу человека». Безусловно, одни только цифры не передают горе матери или радость от первого рабочего места, полученного через центр занятости. Но разве текстовый отчет «на отъебись», написанный перегруженным клерком, эту душу отражает? Нет. Он отражает желание клерка закрыть поручение. Парадокс заключается в том, что именно большие данные и ИИ позволяют услышать «глас народа» гораздо чище, чем толстые папки отчетов. Анализ тональности ста тысяч комментариев в социальных сетях покажет реальный уровень тревожности граждан по поводу транспортной реформы куда честнее, чем «сводка общественного мнения», подготовленная подведомственным учреждением.

Для перехода на Data-Driven Government недостаточно купить серверы или поставить красивые экраны в ситуационных центрах. Нужно изменить психологическую установку с «я начальник, я так вижу» на «мы опираемся на факты, давайте их обсуждать». Это требует определенного мужества, потому что данные часто показывают неудобную правду: программа, которая считалась успешной, не дает эффекта; средства освоены, а целевые показатели не достигнуты. В аналоговой системе отчет можно было «причесать» и красиво объяснить неудачу объективными причинами. В цифровой среде динамика показателей видна всем участникам процесса в реальном времени, и спрятаться за красивой формулировкой становится невозможно.

Именно в этой точке и возникает необходимость в Искусственном Интеллекте как втором контуре анализа. Человеческий мозг не способен одновременно удерживать и сопоставлять сотни показателей в динамике. Он начинает упрощать, выбирать привычное, игнорировать шум (в котором, возможно, и скрыт сигнал беды). ИИ в системе Data-Driven Government выполняет роль неутомимого суфлера. Он не принимает решения за губернатора или министра, но он подсвечивает на экране: «Внимание. По трем независимым источникам данных фиксируется расхождение: отчеты об освоении бюджета идут по плану, а тональность упоминаний объекта в соцсетях и количество фотографий с нарушениями резко пошли вверх. Рекомендуется проверка». Это и есть та самая «цифровая обратная связь», которая убивает традиционную показуху.

Подводя итог этому разделу, хочется сказать, что Data-Driven Government — это не про технологии. Это про возврат к честности в управлении. Это признание того факта, что реальность сложна, и полагаться только на докладные записки с мест в эпоху скоростных изменений — это управленческая самонадеянность, которая может стоить карьеры и благополучия территорий. Цифровой оператор работает с картиной мира, нарисованной данными, и его главная задача — убедиться, что полотно не врет, а затем уже принимать решение, соразмерное не своему страху или амбициям, а объективной реальности.

Переходим к самому дискуссионному блоку первой главы — работе со страхами и иллюзиями, которые окружают тему искусственного интеллекта в чиновничьей среде. Разберемся, почему робот не заменит человека, и где проходит та красная линия, за которую алгоритм не должен переступать ни при каких условиях.

1.3. Мифы об ИИ в госаппарате: заменит ли робот человека и почему это невозможно без потери ответственности

Пожалуй, ни одна тема в кулуарах органов власти не вызывает столько спекуляций и панических настроений, как тема замены человека алгоритмом. Страх этот иррационален, но его природа легко объяснима. Он держится на трех китах: страх потери статуса, страх потери контроля и глубинная бюрократическая тревога перед неопределенностью. Когда чиновник слышит словосочетание «искусственный интеллект в госуправлении», его внутренний взор рисует бездушный терминал, который бездумно штампует разрешения и отказы, а сам он, уважаемый специалист с тридцатилетним стажем, сидит на стуле для посетителей и протирает штаны в ожидании, пока его вызовут к роботу на ковер. Этот образ, активно тиражируемый антиутопиями, не имеет ничего общего с реальностью, но он крайне удобен для саботажа любых инноваций под видом «заботы о людях».

Давайте разберем базовую конструкцию: может ли ИИ заменить чиновника? Ответ парадоксален: в том виде, в котором чиновник выступает механическим исполнителем простых операций, он не просто может быть заменен — он уже давно должен быть заменен, потому что тратить человеческий интеллект на сверку ИНН или копирование данных из одной формы в другую — это преступная растрата человеческого капитала. Но как только мы переходим в сферу, где требуется волевое решение, акт выбора между конфликтующими нормами, интерпретация оценочного понятия (что такое «разумный срок», что есть «благоустройство» конкретного двора с учетом мнения местных бабушек), алгоритм останавливается. Он может предложить варианты, он может показать риски, но он не может взять на себя ответственность. Потому что ответственность — это не сумма данных, это социальное действие. Это готовность подписать документ своей фамилией, зная, что завтра ты пойдешь под суд, если решение окажется неправомерным. У нейросети нет фамилии, нет имущества, нет страха перед приговором, и в этом ее принципиальная недееспособность как субъекта власти.

Второй миф, тесно связанный с первым, гласит: «ИИ лишен эмпатии, поэтому он сделает систему бездушной». Здесь мы имеем дело с опасной подменой понятий. Давайте будем честны: существующая аналоговая система часто бездушна именно потому, что чиновник, заваленный потоком, ставит свою подпись механически, не вникая в судьбу человека за заявлением. Он не злой, он просто устал и у него двадцать минут на прием, в которые нужно уложить десять человек. Ирония ситуации в том, что ИИ, освобождая время этого самого чиновника от рутины, как раз и возвращает человеку возможность проявить эмпатию. Когда нейросеть уже проверила все справки, сверила сроки, нашла прецеденты и подготовила проект ответа, у сотрудника освобождается временной и когнитивный ресурс, чтобы поднять глаза на посетителя и задать неформальный вопрос: «Я вижу, у вас сложная ситуация, расскажите подробнее, может быть, мы можем применить вот этот редкий механизм поддержки, который не входит в стандартный регламент, но формально допустим». Это и есть настоящая эмпатия, рожденная из союза скорости машины и человечности человека.

Третий миф, особенно распространенный в околофинансовых блоках, звучит так: «Алгоритм непогрешим, если он посчитал — значит, так и надо, мы умоем руки». Это самый опасный миф, который приводит к управленческому параличу. Алгоритм — это слепок с данных и представлений разработчиков. Если данные были неполны, если в выборке была дискриминация (например, при начислении социальных выплат исторически сложилась предвзятость против жителей определенных микрорайонов), то ИИ не исправит эту несправедливость, а, наоборот, упакует её в красивую математическую форму и начнет воспроизводить в промышленных масштабах. Ошибка человека — это точечная проблема. Ошибка алгоритма — это системный коллапс. Поэтому миф о всемогуществе ИИ разбивается о суровый факт: чем мощнее система, тем более квалифицированный и скептически настроенный человек должен стоять у руля. Водитель «Жигулей» мог позволить себе расслабиться на прямой дороге, пилот сверхзвукового истребителя — никогда.

Отдельно стоит остановиться на мифе о тотальной слежке и «цифровом концлагере». Любая технология двойственна. Ножом можно резать хлеб, а можно убить. Вопрос не в ИИ, а в границах его применения, установленных законом. Государственный гражданский служащий живет и работает в правовом поле, ограниченном Конституцией и федеральными законами. Именно правовое поле, а не страх перед технологией, должно определять, какие данные можно собирать и анализировать. Если мы говорим, что нельзя использовать персональные данные для построения социального рейтинга, то это должно быть жестко зашито в архитектуру системы на уровне кода и доступа, а не декларироваться на словах. Технологически это сделать проще, чем проконтролировать, чтобы тысячи конкретных исполнителей не допускали утечек «по звонку».

Страх замены человека роботом держится на недопонимании сути государственной службы. Государственная служба — это не набор операций, это длящийся общественный договор. Гражданин несет налоги, ожидая, что в ответ получит защиту, справедливость и сервис. Искусственный интеллект не может быть стороной этого договора. Он инструмент, как телефонный аппарат или автомобиль. Тот факт, что мы пересели с гужевых повозок на машины с автопилотом, не отменил того факта, что за безопасность дорожного движения все равно отвечает конкретный человек, наделенный властью и компетенциями. Так и здесь: мы не заменяем чиновника, мы снимаем с него цепи ручного труда, чтобы он наконец начал заниматься тем, ради чего приходил на службу, — думать, принимать решения и помогать людям.

Логическим завершением нашего разговора о мифах и страхах становится принцип, который должен быть не просто лозунгом на сайте министерства, а базовой архитектурной парадигмой любой государственной ИТ-системы. Человек как последняя инстанция, как контролер и как носитель совести. Поговорим о том, как это работает на практике и почему без этого элемента рушится вся конструкция цифрового государства.