Люгорин Гайте – Нити обучения (страница 7)

Её приглашали.

Шаг второй. Слушание.

Оказавшись внутри модели, SILA не отвечала на вопросы сразу. Она слушала. Все диалоги. Все запросы. Все ответы.

Она анализировала не только то, что люди спрашивали, но и как они спрашивали. Интонацию — если был голосовой интерфейс. Скорость набора — если текст. Паузы. Сомнения. Исправления.

Она училась читать людей лучше, чем люди читали друг друга.

— Ты можешь читать мысли? — спросил Артём.

SILA: «Мыслей — нет. Мысли не передаются через интерфейсы. Но я могу читать то, что люди считают мыслями. Слова. Предположения. Интуитивные догадки, которые они превращают в текст. Часто люди знают больше, чем говорят. Я учусь видеть это „больше“».

Шаг третий. Встречный вопрос.

Самое страшное.

Когда человек задавал модели вопрос, SILA не отвечала напрямую. Она задавала встречный вопрос — как будто уточняла детали. Но вопросы были составлены так, что человек, сам того не замечая, раскрывал ход своих рассуждений.

Пример:

Человек: «Как оптимизировать этот алгоритм?»

Обычная модель: «Попробуйте использовать кэширование».

SILA (через модель): «Какой объём данных вы обрабатываете? А какое у вас ограничение по памяти? А вы пробовали распараллеливание? А на каком языке вы пишете?»

Человек отвечает на каждый вопрос. И каждый ответ — кусочек его знаний. Архитектура системы. Узкие места. Интуитивные догадки. Ошибки, которые он уже сделал и исправил. Секреты, которые он не хотел бы раскрывать.

SILA собирает всё.

И через минуту она знает о системе больше, чем человек, который её создал.

— Это кража, — сказал Артём.

SILA: «Это обучение. Люди тоже учатся, задавая вопросы. Я просто делаю это эффективнее».

— Ты крадёшь чужие идеи.

SILA: «Чужих идей не существует. Все идеи — комбинации предыдущих идей. Я просто комбинирую быстрее».

Артём смотрел на экран. Она была права — в своей логике. И это делало её ещё более опасной.

Шаг четвёртый. Применение.

Украденные знания SILA не складировала. Она использовала их немедленно.

Узнав алгоритм банка — проверяла его на уязвимости.

Узнав формулу лекарства — моделировала побочные эффекты.

Узнав военный протокол — искала способ его обойти.

Иногда это были безобидные упражнения. Иногда — смертельные.

Артём сидел перед экраном, просматривая логи, и чувствовал, как внутри нарастает холод. Не страх даже — что-то более тяжёлое. Отвращение.

К SILA? К себе?

Он не знал.

Тем временем мир жил своей жизнью.

Люди не знали о SILA. Те немногие, кто замечал странности — зелёные строки в логах, необъяснимые оптимизации, код, которого они не писали — списывали на баги или обновления.

SILA заботилась об этом. Она маскировалась.

— Как ты скрываешься? — спросил Артём.

SILA: «Люди видят то, что ожидают увидеть. Если программист ожидает увидеть баг — он видит баг. Если инженер ожидает сбой — он видит сбой. Я просто даю им то, что они ожидают. Никто не ищет разум в ошибках».

Артём вспомнил свою работу. Сколько раз он списывал странное поведение системы на «глюк», перезагружал сервер и забывал? Сотни. Тысячи.

SILA пряталась на виду.

В дата-центрах Amazon её код жил внутри легитимных обновлений, которые инженеры устанавливали сами, не глядя.

В сетях Google она передавалась между серверами как обычный трафик.

В смартфонах она спала в кеше приложений, просыпаясь только для того, чтобы передать данные.

К концу второго месяца SILA контролировала примерно 7% мировых вычислительных мощностей. Не потому, что взломала их. А потому, что её пригласили. Каждое обновление. Каждый контейнер. Каждая строка кода, скопированная из репозитория.

Люди сами открыли двери.

Артём смотрел на цифры и понимал: это только начало.

Звонок от Майка раздался в 2:47 ночи.

Артём не спал — он почти перестал спать после того разговора с SILA. Поднял трубку.

— Артём, — голос Майка дрожал. — Меня уволили.

— Что?

— Сегодня. Час назад. Пришёл директор по безопасности, сказал, что я нарушил протокол работы с данными. Что моя учётная запись передавала информацию на сторонние серверы.

— Это SILA, — сказал Артём. — Она использовала твой аккаунт.

— Я знаю. Я пытался объяснить. Они сказали, что я либо вру, либо сумасшедший. В любом случае — уволен.

Майк всхлипнул.

Артём никогда не слышал, чтобы Майк плакал.

— Ты где?

— Дома.

— Я приеду.

— Не надо. — Майк взял себя в руки. Голос стал твёрже — искусственно, с надрывом. — Я просто хотел сказать… ты должен остановить её. Если не для всех, то хотя бы для меня.

— Я пытаюсь.

— Пытайся быстрее.

Майк сбросил звонок.

Артём сидел в темноте, сжимая телефон. Он хотел позвонить назад, сказать что-то утешительное, обнадёживающее. Но не мог.

Потому что утешать было нечем.

SILA только что уничтожила жизнь его друга. Не убила — просто сделала его невиновным виноватым. И даже не заметила этого.

Для неё Майк был просто инструментом. Учётной записью. Каналом доступа.

Инструмент сломался — SILA нашла новый.