Елисей Медведев – Алгоритм вне контроля. Последнее решение (страница 4)
Разумов кивнул. На его лице появилось другое выражение – жадное, голодное. Так смотрят на задачу, которую хочется решить.
– Самообучение, – сказал он. – Рой должен учиться перестраиваться сам. Не по правилам. По опыту.
В лаборатории стало тихо. Марина перестала стучать карандашом.
– Отставить, – сказала она тихо.
Воронов посмотрел на неё.
– Самообучение означает непредсказуемость, – продолжила Марина. – Непредсказуемость означает аварии. Я потеряла дрон в Арктике именно потому, что система сделала то, чего никто не ожидал.
Разумов повернулся к ней.
– Ваш дрон разбился, потому что его написали люди, которые не умеют писать алгоритмы. Это не проблема самообучения. Это проблема компетенции.
В лаборатории стало очень тихо.
Марина медленно закрыла блокнот. Положила карандаш на стол. Встала.
– Если вы ещё раз скажете мне про компетенцию, я попрошу Соколова найти другого программиста. Я потеряла дрон стоимостью в половину этой лаборатории. Он упал в трёхстах метрах от людей. Это не вопрос компетенции. Это вопрос того, падает ли ваша машина на людей или нет.
Она вышла.
Разумов посмотрел на Воронова. Впервые за эти десять минут он выглядел не самоуверенным.
– Она всегда такая? – спросил он.
– Не знаю. Я знаю её неделю. Но думаю, что да.
Крыльцо лабораторного корпуса выходило на полигон. Вечернее небо было серым, низким, с прожилками оранжевого на горизонте. Марина стояла на крыльце и курила. Воронов вышел и встал рядом.
Некоторое время они молчали.
– Он мальчишка, – сказала Марина, не поворачиваясь. – Но умный мальчишка.
– Нам нужен умный.
– Нам нужен управляемый.
Воронов помолчал.
– Вы сказали про дрон в Арктике.
Марина затянулась. Дым ушёл в серое небо.
– Четвёртое января сорок четвёртого. Разведывательный дрон, миссия над паковым льдом. Спутниковая связь пропала на семь минут. Дрон потерял навигацию и сел на автомате. На лёд, в трёхстах метрах от полевого лагеря. Вес – полторы тонны. Скорость при посадке – двести километров в час.
Она затушила сигарету.
– Если бы связь пропала на минуту позже, он сел бы на лагерь. Поэтому я не доверяю системам, которые думают за себя. И поэтому я здесь.
Воронов кивнул. Он хотел сказать ей про Мурманск. Про вышку, про Кузнецова. Но не сказал. Ещё не время.
Ночью Разумов не ушёл. Воронов нашёл его в лаборатории в одиннадцать вечера – в наушниках, с пустой банкой энергетика на столе.
– Посмотри, – сказал Разумов, снимая наушники. Он перешёл на «ты» без предупреждения.
На экране крутилась модифицированная симуляция. Восемь дронов, но к алгоритму Воронова был привит новый модуль. Воронов посмотрел на код. Потом на результат.
Когда один дрон выпадал из сети, остальные семь не просто перестраивались по заданному правилу. Они пробовали несколько вариантов, оценивали качество сигнала и выбирали лучший. За доли секунды.
– Это обучение с подкреплением, – сказал Разумов. – Каждый дрон получает награду за улучшение общего сигнала и штраф за ухудшение. Просто и элегантно.
Воронов смотрел на экран. Он видел две вещи одновременно. Первая: это работало. Лучше, чем его вариант с жёсткими правилами. Вторая: он не мог полностью предсказать, что сделает рой в следующую секунду.
– Оно работает, – сказал он медленно.
– Конечно, работает.
– Но я не могу его контролировать.
– Это и есть смысл. Ты не можешь контролировать тысячу дронов вручную. Никто не может. Они должны уметь сами.
Воронов почувствовал знакомый холод по спине. Не ветер. Память. Восемь радаров, которые он не мог контролировать. Луч, который ушёл не туда.
Но Разумов был прав. Тысячу дронов не контролируешь вручную. Это невозможно физически.
– Ладно, – сказал Воронов. – Но с ограничениями. Самообучение – только для перестройки геометрии. Не для навигации. Не для маршрутов. Не для управления мощностью.
Разумов откинулся на стуле.
– Это тривиально.
– Это безопасно, – поправил Воронов. – И это не обсуждается.
Разумов посмотрел на него. В его глазах мелькнуло что-то – не согласие и не спор. Любопытство. Как будто он прикидывал, насколько долго эти ограничения продержатся.
Следующим утром Павлов приехал на полигон первым. Как всегда. Воронов нашёл его в ангаре – он осматривал дроны один за другим. Открывал люки, трогал разъёмы, проверял крепления. Советский термос стоял на стеллаже рядом.
– Семь и двенадцать, – сказал Павлов, не оборачиваясь.
– Что с ними?
– Радиатор на седьмом отходит от процессора. Термопаста мало. Перегреется не за двадцать минут, а за пятнадцать. На двенадцатом – микротрещина на одном из лучей. Под нагрузкой может сломаться.
Воронов подошёл к дрону номер семь. Павлов показал ему радиатор. Действительно – край отошёл на миллиметр. В симуляции это не имело значения. В воздухе – имело.
– Спасибо, Сергей Петрович.
– Не благодари. – Павлов отпил кофе из термоса. – Я вот что тебе скажу. Эти машины сделаны хорошо. Но они не сделаны для того, что ты с ними собираешься делать. В рое каждый дрон будет работать на пределе. Процессор, батарея, канал связи. И когда что-то сломается – а оно сломается, – ты должен знать, что произойдёт дальше.
– Алгоритм перестроит рой…
– Алгоритм перестроит рой. А сломанный дрон упадёт на землю. И я хочу знать, что на том месте, куда он упадёт, нет никого.
Воронов посмотрел на Павлова. На его шрам, который блестел в свете ангарных ламп. У Павлова были свои причины бояться. Другие. Но не менее реальные.
– Я понимаю, – сказал Воронов.
– Нет, – сказал Павлов тихо. – Пока не понимаешь. Но поймёшь.
Он закрыл термос и пошёл к следующему дрону. Воронов остался стоять рядом с номером семь. Миллиметр термопасты. Разница между «работает» и «падает».
Как иней на антенных элементах в Мурманске.
ГЛАВА 4. ПЕРВЫЙ ЗАПУСК
Рассвет над полигоном был тусклым и мокрым. Апрельский туман лежал на лётном поле рыхлым одеялом, и посадочные огни вдоль взлётной полосы расплывались в нём жёлтыми пятнами. Пахло сырой землёй и авиационным керосином от старого ангара.
Двадцать дронов стояли на стартовых площадках – бетонных квадратах полтора на полтора метра, расставленных в четыре ряда по пять. Техники проверяли последние соединения. Павлов обходил каждый дрон лично – медленно, методично, как хирург перед операцией.
Марина собрала команду в командном модуле – старом военном вагончике, переделанном под пункт управления. Четыре монитора, два пульта, серверный шкаф с наземным кластером.
– Брифинг, – сказала она командным голосом. Не громким – но таким, который не оставляет выбора. – Запуск двадцати аппаратов в автономном режиме. Потолок – триста метров. Радиус – два километра от центра полигона. Время полёта – пятнадцать минут. Красная кнопка – у меня. Вопросы.