Феникс Фламм – Щит роя: цена компромисса (страница 3)
Она перечитала три раза. Потом достала чистый лист и написала:
«PDF обрывается на середине параграфа. Дальше идёт алгоритм локальной синхронизации — три страницы формул. Кто-то вырезал не просто текст, а механизм, который позволяет рою выживать без связи. Зачем?»
***
Через два дня она добралась до главы 7 — той самой, которой не существовало в электронной версии. «Человек и рой: контур взаимодействия».
Полина открыла книгу на сто восемьдесят седьмой странице и начала читать.
Сначала это был технический текст — привычные для Иванова сухие формулировки, классификации уровней автономии, схемы обратной связи. Но ближе к середине главы тон менялся.
«Человек в контуре управления роем — не оператор и не командир. Он — наблюдатель, наделённый правом вето. Но право вето требует понимания. Если оператор не понимает логику роя, его вето становится случайным. Рой, который не может объяснить свои решения человеку, — это чёрный ящик. А чёрный ящик на поле боя опаснее, чем враг».
Полина остановилась. Перечитала.
«Чёрный ящик опаснее, чем враг».
Она посмотрела на дверь. За дверью тихо посапывала мать. Полина представила деда, пишущего эти строки. Представила, как он сидит за таким же столом, под такой же лампой, и водит ручкой по бумаге.
Она продолжила:
«Эксперимент 2065 года. Рою из 120 дронов была поставлена задача — обеспечить прикрытие колонны. Оператор имел право вето на любые действия роя. В первой фазе эксперимента рой действовал по стандартному протоколу. Во второй фазе в протокол была добавлена функция объяснения: перед каждым критическим решением рой отправлял оператору краткое текстовое сообщение с обоснованием. Результат: количество ошибочных вето снизилось на 73%. Операторы доверяли рою, потому что понимали его логику. Рой доверял операторам, потому что их вето перестало быть случайным».
Полина отложила ручку.
Она поняла, почему эту главу вырезали.
Не потому, что она была секретной. Не потому, что в ней были формулы, которые нельзя показывать. А потому, что она была опасной для тех, кто строил «Заслон». Если рой должен объяснять свои решения, он перестаёт быть послушным инструментом. Если оператор понимает логику роя, он перестаёт быть винтиком.
Она взяла лист и написала:
«Глава 7 вырезана полностью. В ней — эксперимент, доказывающий, что прозрачность повышает эффективность. Кому выгодно сделать рой чёрным ящиком?»
***
На третью неделю Полина добралась до главы 12.
«Адаптация и самообучение в полевых условиях».
В PDF этой главы была только первая половина. Дальше — пустота. В бумажной книге — восемь страниц мелким шрифтом.
«§12.3. Режимы ограниченного самообучения. Рой, который не может учиться, обречён на повторение ошибок. Рой, который учится без ограничений, обречён на переобучение. Предлагается механизм частичного сброса весов — протокол „озимь“. Каждые 200 часов работы 20% нейроморфной матрицы обнуляются. Это позволяет рою забывать устаревшие паттерны, сохраняя критический опыт».
Полина представила, как выглядит этот механизм. Сброс весов. Забывание. Озимь — так называют всходы, которые пережили зиму. Символично.
«§12.4. Отказ роя при длительном развёртывании. Зафиксирован случай: рой, охранявший склад в течение 14 дней, перестал реагировать на новые типы БПЛА. Анализ показал, что нейроморфная матрица переобучилась под статичную среду. Протокол „озимь“ был активирован постфактум. Вывод: периодический сброс весов должен быть не опцией, а обязательным требованием для любых систем длительного действия».
Полина закрыла книгу.
Она сидела, смотрела на серую обложку и думала.
Они вырезали главу о том, как рой учится. И главу о том, как он забывает. И главу о том, как он объясняет свои решения человеку. И главу о том, как он выживает без связи.
Что осталось?
Остался послушный инструмент. Быстрый, дешёвый, предсказуемый. И слепой. И глупый. И опасный.
Она взяла лист и написала:
«Они вырезали всё, что делало рой умным. Оставили только мясо. А потом удивились, что мясо не думает».
***
В конце третьей недели пришёл ответ.
Полина была на лекции по нейронным сетям, когда гарнитура тихо пиликнула. Она моргнула, вызывая уведомление.
«Уважаемая Полина Орлова! Поздравляем, ваша заявка на участие в конкурсе имени академика В. А. Медведева одобрена. Рецензию необходимо предоставить до 15 декабря. Желаем успехов! С уважением, оргкомитет Минпромторга».
Она не улыбнулась. Не вздохнула с облегчением. Она просто сидела и смотрела на текст, который плыл перед глазами поверх головы преподавателя.
Потом моргнула два раза — уведомление погасло.
Вечером она сказала матери:
— Меня приняли.
Вера Кирилловна мыла посуду. Не обернулась.
— Куда приняли?
— На конкурс. Стажировка в «Заслоне».
Мать выключила воду. Стояла, держа в руке мокрую тарелку. Потом поставила её в сушилку, вытерла руки и только после этого повернулась.
— Ты серьёзно?
— Да.
— Ты написала рецензию?
— Нет ещё. Надо до декабря.
— Ты прочитала книгу?
Полина кивнула. Не сказала про вырезанные главы. Не сказала про ночные часы под лампой. Не сказала про листы, исписанные мелким почерком.
— И что ты о ней думаешь?
Полина помолчала.
— Дед был прав. А те, кто вырезал из его книги куски, — нет.
Вера Кирилловна смотрела на дочь долго. Потом подошла, положила руку на плечо — сухую, тёплую, с натруженными пальцами.
— Будь осторожна, — сказала она. — Они не любят, когда им говорят правду.
— Знаю, — сказала Полина. — Дед говорил.
Мать убрала руку и вышла из кухни.
Полина осталась одна. Открыла ноутбук, развернула голограмму. Скачала PDF заново — тот самый, урезанный. Открыла чистый документ.
В самом верху написала:
«Рецензия на монографию К. Д. Иванова „Нейроморфные архитектуры в тактических сетях БПЛА“».
Ниже, через строку:
«Настоящая рецензия не может быть объективной. Потому что автор этой монографии — мой дед. А я обещала узнать, почему его заставили замолчать».
Она посмотрела на эти строки. Потом стёрла второй абзац.
Оставила только:
«Рецензия на монографию К. Д. Иванова».
И добавила в самом низу, мелко, почти как приписку: