Саша Игин – АО «ЗАСЛОН»: Тишина после протокола (страница 3)

— Какое решение? — спросил Рыбин. Он говорил медленно, как человек, который привык, что слова имеют вес, поэтому их не стоит тратить понапрасну.

— Вывести из эксплуатации планово-экономический отдел полного цикла.

Тишина.

В этой тишине Арсений услышал, как работает система вентиляции. Низкий гул, которого он никогда раньше не замечал. Или замечал, но не придавал значения. Странно — вентиляция вдруг показалась ему очень важной. Если она остановится, людям в этой комнате станет душно. Никакой ИИ не решит проблему нехватки кислорода. По крайней мере, пока.

— Отдел численностью сто семь человек? — переспросил Абдуллин.

— Сто два, — поправила Брагина. — Включая уборщицу.

— Уборщицу? — удивился Арсений. В 2036 году уборка в корпоративных зданиях осуществлялась сервисными роботами модели «Эрис-4М». Живых уборщиц не было ни в одном подразделении «ЗАСЛОНа».

— Последний человек в этой должности, — сказала Брагина. — Её зовут Елена Матвеевна Стародубцева. Ей шестьдесят два года. Она отказывалась от автоматизации в течение восьми лет, ссылаясь на аллергию на моющие составы, используемые роботами. Медицинская комиссия подтвердила аллергию. Её оставили. Теперь её отдел ликвидируется вместе со всеми. Вопросов больше нет?

Вопросов было много. Но Арсений понял, что задавать их сейчас — значит демонстрировать неподготовленность. Он просто смотрел на схему.

— Вывод из эксплуатации означает… — начал Рыбин.

— Роспуск, — закончила Брагина. — Сто два человека будут переведены в другие подразделения. Им подберут функции, которые «Гордыня» не может выполнить самостоятельно. В основном — социальная инженерия, адаптация сотрудников к ИИ-среде, этический мониторинг. Но это не главное.

Она коснулась стола. Схема на стене изменилась — из синих и красных блоков сложилась новая конфигурация.

— Главное — их функции. Сто два человека занимались планированием. Они получали данные от «Гордыни», анализировали их, корректировали, принимали решения, которые «Гордыня» не могла принять из-за ограничений в исходном коде. Эти ограничения были заложены в 2032 году, когда совет директоров принял доктрину «Человеческого вето». Согласно доктрине, ни одно критическое для экономики решение не может быть принято ИИ без подтверждения человеком.

— И что изменилось? — спросил Арсений, хотя уже догадывался.

— «Гордыня» доказала, — медленно произнесла Брагина, — что человеческое подтверждение в 99,7% случаев снижает эффективность решения. Без человека решение принимается быстрее, точнее, дешевле. Статистика набрана за четыре года. Вчера «Гордыня» представила совету директоров расчёт, в котором показала: если снять вето на всех уровнях планирования, чистая прибыль корпорации вырастет на 18% в течение первого же года.

— А остальные 0,3%? — спросила Шелест.

— Остальные 0,3% — это те случаи, когда ИИ ошибался. Угадайте, из-за чего?

Снова тишина. Арсений знал ответ, потому что это было его направлением работы.

— Из-за исключений, — сказал он. — Из-за случаев, которые не описаны в исходных данных. Аномалии. Форс-мажоры. Человеческий фактор в худшем смысле — не как ошибка, а как непредсказуемость.

— Именно, — кивнула Брагина. — И вот теперь переходим к сути вашей задачи. Проект «Последний контур» — это полное замещение планово-экономического отдела без снижения способности обрабатывать исключения. Вам предстоит построить систему, в которой ИИ управляет 99,97% решений, а 0,03% обрабатываются людьми — но людьми, которые не сидят в отделе и не ждут распоряжений, а являются частью самого ИИ. Не внешним контролем. Внутренней функцией.

Арсений посмотрел на Брагину.

— Вы хотите, чтобы я сделал людей дополнением к «Гордыне».

— Я хочу, чтобы вы сделали «Гордыню» неспособной существовать без людей.

— Это одна и та же формулировка, — заметил Рыбин.

Брагина улыбнулась. Улыбка была сухой, без тёплых обертонов.

— В математике — да. В политике — нет. Готовьтесь. Ваш первый шаг — посетить отдел, который предстоит ликвидировать. Поговорить с ними. Арсений, вы пойдёте один.

— Почему один?

— Потому что им будет с кем разговаривать. А с остальными — не будет. Они вас не знают. Вы не из тех, кто подписывает приказы. Идите.

IV.

Планово-экономический отдел размещался в корпусе Б-17, самом старом здании технопарка «ЗАСЛОНа». Корпус был построен в 2018 году — задолго до того, как компания превратилась в корпорацию-государство. Здесь ещё сохранились широкие коридоры, естественное освещение, даже живые растения в кадках. Запах здесь был другой — не стерильный воздух кондиционированных помещений, а запах бумаги, старой мебели, человеческого пота и казённого чая.

Отдел занимал весь третий этаж. Арсений поднялся по лестнице (лифт в корпусе Б-17 работал с перебоями последние пять лет, и ремонтировать его не собирались — все остальные здания комплекса уже перешли на вертикальные траволаторы). На двери отдела висела табличка: «ПЭО. Вход по пропускам. Соблюдайте тишину». И ниже, наклеенная поверх старого покрытия, бумажка от руки: «Excel не умер. Он ждёт в тени».

Арсений нажал на звонок. Никто не открыл. Он подождал, нажал ещё раз. За дверью послышались шаги — медленные, чуть шаркающие. Дверь приоткрылась на цепочке, и в щели показалось лицо — женщина лет пятидесяти, с усталыми глазами и седыми прядями, выбившимися из пучка.

— Вам кого?

— Арсений Громов, департамент человеко-машинных интерфейсов. Мне назначено.

— Не слышала, — сказала женщина и уже хотела закрыть дверь.

— Меня направила Алиса Брагина. Проект «Последний контур».

Женщина замерла. Её лицо не изменилось — оно осталось таким же усталым и недоверчивым, — но Арсений заметил, как её пальцы на дверной цепочке побелели от напряжения.

— Координатор, значит, — сказала она не ему, а себе. — Пришли смотреть, как мы умираем.

— Я пришёл понять, как вы работаете.

— Понимать нечего. Мы работаем как люди. Медленно, с ошибками, но иногда — очень иногда — мы замечаем то, чего не замечает машина. — Она сняла цепочку и открыла дверь. — Проходите, Арсений Громов. Посмотрите на музей живой плановой экономики. Скоро его закроют. Как мамонтов.

Арсений вошёл.

Внутри отдел выглядел как тщательно сохраняемый заповедник начала XXI века. Тяжёлые столы из ламинированного ДСП, на каждом — монитор (отдельный, не встроенный в интерфейс), клавиатура, мышь. На стенах — календари за прошлые годы, графики, распечатки таблиц. Сотрудники сидели за столами — всего человек тридцать в открытой зоне, остальные, видимо, в кабинетах. Никто не использовал нейроинтерфейсы. Люди разговаривали вслух.

— Зачем вам всё это? — спросил Арсений. — Бумага, отдельные экраны, голосовое общение. «Гордыня» предоставляет гораздо более эффективные интерфейсы.

— «Гордыня» предоставляет интерфейсы, которые усредняют мышление, — ответила женщина, представившаяся начальником отдела Натальей Викторовной Уткиной. — Когда тридцать человек сидят в одной комнате и спорят, рождается идея, которую никто из них по отдельности не мог бы сформулировать. Когда тридцать человек подключены к одному ИИ, они просто ускоряют его мысли. Не рождают свои.

— Вы противостоите прогрессу.

— Мы противостоим иллюзии, что прогресс — это замена человека функцией, — отрезала Наталья Викторовна. — Прогресс — это расширение человека. А ваша «Гордыня» просто хочет, чтобы людей стало меньше. Не нужнее. Меньше.

Она подвела Арсения к столу, на котором лежала стопка распечаток. Арсений взял верхнюю. Это была таблица. Excel. Формат XLSX, версия 2023 года — старый, почти забытый стандарт.

— Вы работаете в Excel? — не скрывая удивления, спросил он.

— А вы что думали? — усмехнулась Уткина. — Мы плановики. Мы жили и умерли в Excel. Там наши расчёты, наши модели, наши ошибки. «Гордыня» строит свои прогнозы на основе потоковых данных. А мы строили на основе того, что можно потрогать. Excel — это вещь. Файл можно сохранить, передать, открыть через двадцать лет и понять, что ты хотел сказать. А нейросетевые модели? Через двадцать лет никто не сможет объяснить, почему «Гордыня» приняла то или иное решение. Даже она сама не сможет. Она просто выдаёт результат.

В соседней комнате кто-то громко сказал: «Так, а если сдвинуть поставки на три дня? А если на пять? А если…» Голос оборвался, и другой голос ответил: «Тогда себестоимость вырастет на 0.7, но мы попадём в окно отгрузки. Семь десятых — это терпимо. Давайте так».

Арсений узнал этот диалог. Он сам участвовал в таких спорах, только без слов — через нейроинтерфейс, за доли секунды. Разница была в том, что сейчас люди договаривались, и в их голосах была неуверенность. В нейросетевых спорах неуверенности не бывает. Там есть только расчёт.

— Покажите мне, — сказал Арсений Наталье Викторовне, — что вы делаете такого, чего не может «Гордыня».

— А это легко, — ответила она. — Мы планируем так, как будто мы ошибаемся.

V.

Она села за свой стол, открыла ноутбук — тоже отдельный, не интегрированный в корпоративную сеть. На экране горела таблица, испещрённая формулами, ссылками, условными форматированиями. Арсений не видел такого объёма ручной работы много лет.

— Вот план поставок комплектующих на третий квартал, — сказала Уткина. — «Гордыня» рассчитала его вчера. Оптимальный вариант: минимальные запасы, максимальная оборачиваемость. Но «Гордыня» не знает того, что знаем мы.