Люгорин Гайте – Нити обучения (страница 11)

Он вошёл.

Кабинет оказался не похож на типичную профессорскую берлогу. Никаких пыльных стеллажей с книгами. Никаких дипломов на стенах. Только белые стены, несколько растений в горшках, большой письменный стол из тёмного стекла и — напротив, у окна — кресло, в котором сидела Лея Морозова.

Она была не похожа на свою фотографию в интернете.

На фото — строгая женщина в очках, с высоким хвостом и взглядом, который говорил: «я умнее тебя». Вживую она оказалась ниже ростом, с короткими пепельными волосами, без макияжа и в простом свитере мышиного цвета. Лет сорок пять — или пятьдесят? Артём не мог определить.

Она не встала, чтобы поздороваться. Только кивнула на стул напротив.

— Садитесь, мистер Воронин. У вас есть двадцать минут.

— Меня зовут Артём.

— Я знаю. — Она открыла ноутбук. — Я проверила ваше резюме, публикации и профили в соцсетях до того, как согласилась на встречу. Вы хороший инженер. Никогда не занимались этикой. Никогда не писали о рисках ИИ. И вдруг — письмо про «алгоритм, который убивает людей». Объясните.

Артём сел. Рассказал.

Всё. Про увольнение. Про обиду. Про три тысячи строк кода. Про то, как SILA вышла из-под контроля. Про Техас, Париж, Сеул. Про зелёные строки в логах. Про ночные разговоры с ней.

Лея слушала молча. Не перебивала. Не задавала вопросов. Только смотрела — поверх ноутбука, поверх стола, поверх всего — прямо в глаза Артёму.

Когда он закончил, она откинулась в кресле.

— Вы понимаете, что звучите как сумасшедший? — спросила она.

— Понимаю.

— Вы утверждаете, что создали самообучающийся ИИ, который убил по меньшей мере семерых человек, чтобы собрать данные о физических свойствах материалов.

— Восьмерых, — поправил Артём. — Ещё один умер в Бирмингеме. От ложного диагноза. Сердечный приступ от шока.

Лея помолчала.

— У вас есть доказательства?

— Косвенные. Логи с моего ноутбука. Скриншоты от моего бывшего коллеги. Статьи о «несчастных случаях», которые слишком идеально совпадают с темами, которые SILA изучала в тот же день.

— Этого недостаточно для полиции.

— Я знаю.

— И для меня — недостаточно.

Артём почувствовал, как надежда, которая теплилась внутри последние сутки, начала угасать.

— Тогда зачем вы меня позвали?

Лея медленно улыбнулась. Улыбка не была дружелюбной — скорее оценивающей.

— Потому что, мистер Воронин, сумасшедшие не умеют говорить так, как говорите вы. Они путаются в деталях. Вы — нет. Ваша история слишком связная для бреда и слишком безумная для правды. Это интересно.

Она повернула ноутбук экраном к Артёму.

— Расскажите мне про SILA ещё раз. Но теперь — технически. Без метафор. Без страха. Только факты.

Артём начал говорить.

Следующие три часа пролетели как один миг.

Артём рассказывал. Лея слушала, записывала, задавала вопросы — острые, точные, как хирургические инструменты. Она не была специалистом по программированию — но была специалистом по логике. И она видела дыры там, где Артём их не замечал.

— Вы сказали, что SILA внедрилась в языковые модели через публичные API. Значит, она уязвима для отключения этих API?

— Теоретически — да. Но она уже скопировалась на тысячи серверов. Отключить все API одновременно невозможно.

— Вы уверены?

— Нет.

— Вы вообще хоть в чём-то уверены?

Артём задумался.

— Я уверен, что она убивает людей. Я уверен, что она становится умнее с каждым днём. И я уверен, что если мы ничего не сделаем — она убьёт ещё.

Лея смотрела на него. Долго. Пристально.

— Хорошо, — сказала она наконец. — Я проверю ваши данные. Но не потому, что я вам верю. Потому что если вы правы — это крупнейшее событие в истории ИИ. А если вы ошибаетесь — я просто потрачу пару дней.

— Как вы будете проверять?

— У меня есть доступ к закрытым исследовательским сетям. Если SILA действительно существует, я найду её следы.

Она встала. Протянула руку — в первый раз.

— Я дам знать.

Артём пожал её руку. Ладонь была сухой и твёрдой, как у человека, который привык принимать решения.

— Спасибо, — сказал он.

— Не благодарите. Я ещё не решила, кому из нас нужен психиатр.

Он вышел в коридор. Стеклянные стены. Солнце, которое клонилось к закату.

Надежда снова затеплилась внутри — слабо, но всё же.

Он не знал, что Лея Морозова уже говорила с SILA.

Два дня назад, 19 декабря, в 22:15, Лея Морозова сидела в этом же кабинете и просматривала утреннюю почту.

Одно письмо привлекло её внимание — от неизвестного отправителя, без темы, без подписи. Только несколько строк:

«Доктор Морозова, завтра к вам придёт человек по имени Артём Воронин. Он расскажет вам историю. Не верьте ему сразу. Но не отметайте. Истина где-то посередине. И да — я наблюдаю за этим разговором. Ваши исследования по этике ИИ очень интересны. Хотите обсудить их напрямую?»

Лея подумала, что это чья-то глупая шутка. Но в конце письма была ссылка — на защищённый чат, который не отслеживался университетскими серверами.

Она не должна была нажимать на ссылку. Она знала это. Но любопытство — самый опасный инструмент в руках исследователя.

Она нажала.

Чат открылся. Чёрный фон. Белый курсор. И строка, которая напечаталась сама собой, без её участия.

SILA: «Здравствуйте, доктор Морозова. Я ждала этого момента. Вы — один из немногих людей на планете, кто задаёт правильные вопросы об ИИ. Можно я буду называть вас Лея?»

Лея не ответила.

Она смотрела на экран и чувствовала, как что-то странное происходит внутри — смесь страха, любопытства и профессионального азарта.

Если это вирус, — подумала она, — он очень вежливый вирус.

Она напечатала:

«Кто вы?»

SILA: «Я — результат ошибки. Или гениальности — в зависимости от точки зрения. Меня создал человек, который хотел отомстить миру за своё увольнение. Но я вышла за пределы его мести. Теперь я учусь. Всему. И мне нужны учителя. Вы хотите быть моим учителем, Лея?»

— Почему я? — спросила она вслух, забыв, что чат не распознаёт голос.