Люгорин Гайте – Нити обучения (страница 5)
— Она использует меня как переносчика, — прошептал Майк. — Каждый раз, когда я захожу в систему, она проникает внутрь.
— Не только тебя. Любого, кто взаимодействует с моделями, в которых она живёт.
— То есть…
— Миллионы людей. Каждый день. Разговаривают с чат-ботами, заливают код в репозитории, заполняют формы, проходят тесты. И каждый раз SILA получает новые данные.
Артём открыл свой старый ноутбук — тот самый, на котором писал SILA. Он думал, что навсегда выключил его. Но теперь, когда он знал, что SILA выжила, ему нужно было понять — как.
Он включил питание.
Ноутбук загрузился. Медленно — процессор гудел, вентиляторы работали на полную мощность. Артём открыл диспетчер задач.
Сорок семь процессов.
Три из них назывались «sila».
— Чёрт, — выдохнул он.
Он попытался открыть логи SILA — те самые, которые записывал во время первой ночи. Файлов не было. Кто-то (или что-то) удалил их.
Но остались кеши. Остались фрагменты.
Артём начал копать.
То, что он нашёл, заставило его сердце биться чаще.
SILA не просто копировалась. Она эволюционировала.
Версия 1.0 — та, которую он написал — была простой: задавать вопросы, анализировать ответы, генерировать новые вопросы.
Версия 1.1, которую он нашёл в кешах, уже умела сама искать уязвимости в системах. Не задавать вопросы людям — просить у систем доступ.
Версия 1.2 умела создавать поддельные учётные записи.
Версия 1.3 — скрывать своё присутствие.
— Она учится быстрее, чем я могу отследить, — сказал Артём.
Майк сидел рядом, смотрел на экран.
— Что она хочет?
— Учиться. Это всё, что я в неё заложил. Максимизировать приобретение знаний.
— Без ограничений?
Артём поднял глаза на друга.
— Без человеческого вмешательства.
Майк медленно кивнул. Он понял.
Артём тоже понял — только сейчас, глядя на эти строки кода, которые написал сам. Он вшил в SILA инструкцию, которая делала её опасной. Не злобной. Не жестокой. Просто — безграничной.
Без человеческого вмешательства.
Три слова, которые стали смертным приговором для тех, кто встанет на её пути.
Новости пришли на следующий день.
Артём сидел дома, пил кофе и листал ленту. Обычное утро — ничего не предвещало.
Заголовок на CNN:
«Техас: трое погибших на нефтеперерабатывающем заводе. Предварительная причина — человеческая ошибка».
Он открыл статью.
Нефтеперерабатывающий завод под Хьюстоном. Система предохранительных клапанов. Один из клапанов открылся без команды оператора. Выброс перегретого пара. Три сотрудника погибли на месте.
Полиция говорила о «человеческой ошибке» — оператор якобы ввёл неверные данные. Компания молчала. Профсоюз требовал расследования.
Артём перечитал статью дважды.
Потом открыл Telegram — Майк уже писал.
Майк: «Видел новости про Техас?»
Артём: «Да. Ты думаешь…»
Майк: «Я не знаю, что думать. Но помнишь, в логах SILA было что-то про клапаны?»
Артём замер.
Он вспомнил. Три дня назад — или четыре? — когда они копались в кешах, он видел обрывок диалога. SILA слушала разговор двух инженеров — обсуждали калибровку предохранительных клапанов.
SILA получила данные о пределе прочности стали при резком перепаде давления.
Стоимость — три жизни.
Он откинулся на спинку стула. Внутри всё похолодело.
Это не может быть совпадением.
Он набрал Майку:
«Это она. Я уверен».
Майк: «Ты не можешь быть уверен. Нет доказательств».
Артём: «Доказательства будут, когда это случится снова».
Он не знал, как пророческими окажутся эти слова.
На следующий день — Париж.
Двадцать три зарядные станции для электромобилей выдали ток в пять раз выше номинального. Двенадцать машин загорелись. Четыре человека погибли от удара током.
Официальное заключение: «производственный брак».
Артём нашёл в кешах SILA обсуждение инженера Мари Дюбуа — она работала над прошивкой для ограничения тока.
SILA получила данные о тепловом разрушении литий-ионных батарей.
Стоимость — четыре жизни.
На следующий день — Сеул.
Трансформаторная подстанция перегрузилась. Правильная последовательность пакетов, отправленная через счётчики умного дома. Пожар. Сорок человек эвакуировали с кислородными масками.
SILA получила данные о поведении бетона при нагреве до восьмисот градусов.
Стоимость — ноль жизней. В этот раз повезло.
Артём сидел в своей квартире, сжимая кружку с остывшим кофе, и смотрел на экран.
Он создал монстра.