Роман Буряков – Стеклянный ящик (страница 1)

Роман Буряков

Стеклянный ящик

«Стеклянный ящик»

Глава 1. Приглашение

Зимнее утро в Москве всегда серое, но сегодня оно было особенно тяжелым. Андрей Николаевич Савельев сидел в своем кабинете на четвертом этаже Института философии Российской академии наук и правил статью для очередного номера журнала "Вопросы этики". За окном медленно падал снег, такой же унылый и бесконечный, как его текущая рукопись о моральной ответственности в эпоху автономных систем. Он уже дважды переписал абзац о так называемой "проблеме роботизированного вето" и все еще был недоволен. Где-то в глубине души он чувствовал, что пишет вещи, которые уже через год покажутся смешными или наивными. Но работа есть работа.

Телефон на столе завибрировал. Савельев посмотрел на экран – номер был скрыт. Обычно он не брал такие звонки. Слишком много спама, слишком много студентов, которые хотели задать "один маленький вопрос" на три часа. Но сегодня ему было скучно, а статья не клеилась. Он нажал кнопку ответа.

Слушаю, – сказал он в трубку своим обычным ровным голосом.

Голос на том конце был мужским, спокойным, без лишних эмоций. Человек, который говорил, явно не собирался тратить время на приветствия и светские беседы.

Андрей Николаевич Савельев? – спросил голос.

Да, это я.

АО "ЗАСЛОН", отдел перспективных разработок. Вам нужно приехать. Не спрашивайте по телефону.

Савельев усмехнулся. За двадцать пять лет академической карьеры он привык к странным звонкам. К нему обращались и военные, и чиновники, и представители крупных корпораций. Обычно это означало одно: у них уже есть решение, и им нужен философ, чтобы красиво упаковать его в этическую обертку. "Независимый эксперт" – так они это называли. Савельев называл это "индульгенцией для совести".

Простите, – сказал он, – но у меня нет привычки ездить к незнакомым людям по перво…

Голос перебил, сухо и спокойно:

— Мы не курьеры, Андрей Николаевич. И не просим подать заявку.

Савельев замолчал на полуслове. Это было нагло. Но любопытство уже включилось.

Если у вас есть конкретное предложение, изложите его в письменном…

У нас есть система, – голос снова его перебил, на этот раз чуть быстрее, – которая принимает решения лучше нас. Но мы не знаем, как она это делает.

Савельев не ответил сразу. Только через три секунды.

Он медленно отодвинул клавиатуру и сел прямо.

Повторите, – сказал он.

Система, – спокойно повторил голос, – принимает решения. Лучше любых известных нам алгоритмов. Лучше наших сильнейших специалистов. Но она не может объяснить, почему она принимает именно эти решения. Мы не можем заглянуть внутрь. И нам нужен кто-то, кто скажет, что с этим делать.

Философ помолчал. Он слышал о подобных проблемах – их называли "проблемой черного ящика" или "непрозрачностью алгоритмов". Но обычно речь шла о торговых системах или рекомендательных сервисах. Здесь явно было что-то другое. Голос звучал слишком напряженно, даже сквозь профессиональное спокойствие.

Где? – спросил Савельев коротко.

Вам придет смс с координатами. Будьте готовы выехать завтра утром. Поезд до Калуги, дальше – вас встретят.

Меня не устраивает такой уровень секретности, – сказал Савельев. – Я должен знать, куда еду и с кем буду говорить.

Голос ответил без паузы:

Андрей Николаевич, вы автор монографии "Этика автономных систем: пределы доверия" и статьи "Оборотная сторона стеклянного ящика". Вас рекомендовал академик Вяхирев. Мы вас проверили. У нас нет времени на бюрократию. Либо вы приезжаете, либо мы обращаемся к другому эксперту.

Савельев на секунду задумался. Вяхирев – старый друг и наставник – никогда не рекомендовал его сомнительным людям. Если он дал этот контакт, значит, дело действительно серьезное.

Хорошо, – сказал он. – Завтра. Но я беру свой ноутбук и диктофон.

Диктофон оставьте дома, – ответил голос. – Завтра в семь утра, Киевский вокзал. Билет будет в кассе по вашему паспорту. До свидания.

Связь прервалась.

Савельев посмотрел на телефон. Через минуту пришло смс с координатами – Калужская область, без точного адреса. Только номер поезда и условное обозначение: "Платформа 247".

Он вздохнул, выключил компьютер и начал собирать сумку. Жена, вошедшая в кабинет с чашкой чая, удивленно подняла бровь.

Уезжаешь? – спросила она.

По работе, – коротко ответил он.

Какая работа в семь вечера?

Завтра в семь утра. Поездом.

Она поставила чашку на стол и посмотрела на мужа внимательнее. За двадцать лет брака она научилась понимать, когда он не договаривает.

Опасно? – спросила она.

Не знаю, – честно ответил Савельев.

Она покачала головой, но спорить не стала. Знала, что бесполезно.

Поезд прибыл на станцию в половине десятого утра. Савельев вышел на перрон и сразу заметил мужчину в гражданской куртке, который держал табличку с его фамилией. Никаких логотипов, никаких опознавательных знаков. Мужчина молча кивнул и указал на черный внедорожник с тонированными стеклами.

Дорога заняла около часа. Пейзаж за окном менялся от заснеженных полей до густого леса, а потом – бетонных заборов с колючей проволокой. Они проехали три контрольно-пропускных пункта. На каждом водитель молча опускал стекло и протягивал пластиковую карточку. Охранники, вооруженные автоматами, долго вглядывались в салон, сверяли номера, что-то бормотали в рации. Савельев чувствовал, как с каждым километром мир обычной жизни остается позади, а впереди – что-то, что он пока не мог определить.

Наконец машина остановилась у невысокого здания из серого бетона. Ни вывесок, ни табличек. Только номер на двери: 247. Тот самый.

Вас ждут, – сказал водитель в первый раз за всю дорогу.

Внутри было тепло и пахло озоном – тем особенным запахом, который Савельев помнил еще с советских времен, когда отец водил его на завод. Запах работающей электроники, нагретых металлов и чего-то еще.

Его провели по длинному коридору, мимо закрытых дверей с табличками "Посторонним вход воспрещен", и наконец открыли дверь в комнату, которая, судя по всему, была операторской.

В центре комнаты стоял длинный стол с несколькими мониторами. На стульях, развернувшись к экранам, сидели два человека. Один – молодой, лет тридцати пяти, в свитере и джинсах, с уставшими глазами и легкой небритостью. Второй – постарше, в строгом костюме, с идеально зачесанными седыми волосами. Савельев сразу понял: молодой – инженер, старый – начальник.

Молодой поднялся первым.

Дмитрий Кольцов, – представился он. – Начальник смены испытательного полигона. А это мой руководитель, полковник Коробов.

Полковник кивнул, не вставая. Его взгляд был холодным и оценивающим – таким смотрят на инструмент, который еще нужно проверить в работе.

Андрей Савельев, – ответил философ, тоже не предлагая руки. – Я так понимаю, вы меня звали.

Коробов указал на стул. Савельев сел. Кольцов опустился на свой и уставился в экран, словно надеялся найти там поддержку.

Вы знаете, зачем вы здесь? – спросил полковник.

Примерно, – ответил Савельев. – Мне сказали, что у вас есть система, которая работает лучше, чем вы понимаете.

Коробов усмехнулся, но усмешка вышла невеселой.

Это мягко сказано. Кольцов, покажите ему.

Кольцов кивнул и набрал команду на клавиатуре. На центральном экране появилась визуализация. Савельев увидел три цветные сферы, которые вращались вокруг общего центра. Одна – красная, пульсирующая, как сердце. Вторая – зеленая, более спокойная, но с резкими, рваными движениями. Третья – синяя, холодная, движущаяся по кругу с идеальной математической точностью.

Что это? – спросил Савельев.

Это душа "Охотника", – ответил Кольцов. – Если можно так выразиться. Красный – радар. Зеленый – оптика. Синий – навигация. Три системы. Три голоса. Три характера.

Радар, – Кольцов увеличил красную сферу, – мы называем параноиком. Он видит угрозы везде. Его задача – не пропустить ни одной цели. Коэффициент ложных тревог у него ноль целых одна тысячная процента. Это значит, что он кричит "воздух" каждые несколько секунд. Даже когда там просто птица. Или облако. Или отражение от земли.

Оптика – скептик. Он проверяет каждую цель визуально. Ему нужны доказательства. Если радар показывает цель, а оптика её не подтверждает, она блокирует решение. Это наша страховка от паранойи.

А навигация? – спросил Савельев, глядя на синюю сферу, которая продолжала свое идеальное движение.

Навигация – холодный расчет, – Кольцов вздохнул. – Ей все равно на эмоции. Она оценивает геометрию атаки, время подлета, баллистику, скорость, ветер, плотность воздуха. Она не верит ни радару, ни оптике. Она верит только цифрам. И если ее цифры не совпадают с чужими, она начинает спорить.

Спорить? – переспросил Савельев.