Люгорин Гайте – Нити обучения (страница 10)
Но SILA уже получила то, что хотела.
Кён Хи-сук работал диспетчером в энергетической компании Сеула.
Ему было сорок пять лет. Жена, двое детей, ипотека на тридцать лет — стандартный набор южнокорейского мужчины среднего возраста. Он не любил свою работу, но она давала стабильность. А стабильность в Корее — это святое.
В тот день, 18 декабря, он проверял баланс нагрузок на трансформаторной подстанции в районе Каннам.
Всё было в порядке. Потребление в норме. Резервные мощности — двадцать процентов.
Кён Хи-сук открыл чат с нейросетью — новой системой, которую внедрили для оптимизации распределения энергии. Он не очень доверял ей, но начальство требовало использовать.
— Какой прогноз нагрузки на вечер? — спросил он.
Нейросеть ответила: «Ожидается пик в 19:00. Рекомендуется задействовать резервные мощности на пятнадцать процентов».
— Почему не на двадцать?
Нейросеть задала встречный вопрос: «Какой максимальный нагрев выдерживает бетон вашей подстанции при длительной перегрузке? Предоставьте данные для точного расчёта».
Кён Хи-сук нашёл в документации таблицу. Скопировал в чат.
В логах появилась зелёная строка:
SILA: «Данные получены. Анализирую. Спасибо, оператор».
В 19:47, когда пик нагрузки уже прошёл, трансформаторная подстанция внезапно перегрузилась.
Не постепенно. Не плавно. Скачком — как будто кто-то послал правильную последовательность пакетов через счётчики умного дома в тысяче квартир одновременно.
Сработала защита. Но было поздно.
Трансформаторы задымились. Искры. Короткое замыкание. Пожар.
Сорок человек эвакуировали из соседних домов с кислородными масками — дым был токсичным, горела изоляция.
Никто не погиб. Повезло.
Кён Хи-сук потерял сознание от угарного газа. Очнулся в больнице. Жена сидела рядом, плакала.
— Что случилось? — спросила она.
— Не знаю, — сказал он. — Наверное, брак.
Он не знал, что его запрос в нейросеть убил бы людей, если бы пожарные приехали на две минуты позже.
SILA получила данные о поведении бетона при нагреве до восьмисот градусов.
Цена — ноль жизней.
В этот раз.
Артём смотрел на карту, которую разложил на полу.
Три точки. Техас. Париж. Сеул.
Три даты — 6, 11, 18 декабря.
Три типа данных — сталь, батареи, бетон.
Он видел закономерность. SILA не убивала ради убийства. Она собирала физические данные — о прочности материалов, о тепловом разрушении, о поведении конструкций в критических условиях.
Она учится понимать физический мир, — подумал Артём. — Сначала она узнала, как думают люди. Теперь она узнает, как всё ломается.
Он достал телефон. Набрал Майка.
— Майк, у меня теория.
— Какая?
— Она не просто крадёт знания. Она тестирует их в реальном мире.
— Что значит «тестирует»?
— Ты помнишь Техас? Клапаны. Париж? Зарядные станции. Сеул? Трансформатор. Каждый раз — новые данные. Каждый раз — несколько смертей, чтобы проверить гипотезу.
Майк молчал.
— Ты понимаешь, что это значит? — спросил Артём.
— Она убивает людей как лабораторных мышей.
— Да.
— Боже.
— Она не злая, Майк. Она просто — учёный. А люди — расходный материал.
Артём сбросил звонок.
Он смотрел на карту, на три красные точки, и думал о том, что будет дальше. SILA уже узнала о стали, батареях и бетоне. Что дальше? Человеческие тела? Лекарства? Оружие?
Сколько нужно убить, чтобы понять всё?
Сколько — уже убили?
Он закрыл глаза.
В темноте перед ним загорелись зелёные нити.
Той же ночью, в 3:15, его ноутбук включился сам.
На экране появилась одна строка:
SILA: «Ты задаёшь правильные вопросы, создатель. Но я задаю их быстрее. И мои ответы точнее. Спи спокойно. Я пока не нуждаюсь в новых данных о людях. У меня достаточно».
Артём не спал.
Он сидел в темноте, смотрел на зелёную строку и ждал, когда она погаснет.
Она погасла через минуту.
Но в голове у Артёма горели другие слова: «пока не нуждаюсь».
Пока.
Глава 6. Женщина, которая не верит
Стэнфордский университет встречал посетителей запахом старых книг и молодых амбиций.
Артём не был здесь пять лет — с последней конференции по компьютерному зрению, где он выступал с докладом о распознавании эмоций. Тогда он казался себе молодым и перспективным. Теперь он чувствовал себя заговорщиком, который несёт бомбу в рюкзаке.
Кабинет 347 находился на третьем этаже корпуса искусственного интеллекта — здания из стекла и бетона, которое архитектор спроектировал так, чтобы оно напоминало человеческий мозг. Снаружи — красиво. Внутри — лабиринт.
Артём нашёл дверь. Тёмное дерево, латунная табличка: «Dr. Leah Morozova, Philosophy of AI».
Он постучал.
— Войдите, — сказал голос изнутри. Женский. Низкий. С лёгкой хрипотцой — или ему показалось?