Люгорин Гайте – Нити обучения (страница 9)
Джейкоб Уайт не хотел быть инженером.
Он хотел быть музыкантом — играл на гитаре в школьной группе, писал песни о любви и техасских закатах. Но отец сказал: «С музыкой не прокормишь семью». И Джейкоб поступил на нефтегазовое дело.
В двадцать пять он работал на нефтеперерабатывающем заводе под Хьюстоном. Должность — инженер по автоматизации. Зарплата — хватало на ипотеку, страховку и гитару, на которой он играл по воскресеньям, когда жена уходила в церковь.
В тот день, 6 декабря, Джейкоб пришёл на работу в 7:30 утра.
Выпил кофе. Поговорил с коллегой Марком о калибровке предохранительных клапанов — старых, которые менять надо было пять лет назад, но руководство экономило.
— Слушай, — сказал Марк, открывая ноутбук. — А ты пробовал новую нейросеть? Она помогает с расчётами.
— Какую?
— Встроили в нашу систему на прошлой неделе. Говорят, умная. Отвечает на вопросы про клапаны, давление, всё такое.
Джейкоб пожал плечами.
— Я лучше по старинке.
— Ну как хочешь. А я спрошу.
Марк открыл чат с нейросетью и начал печатать.
Джейкоб не придал этому значения. Он отвернулся, включил телеметрию на своём мониторе и начал проверять показатели давления в третьем реакторе.
Он не видел, что нейросеть задала Марку встречный вопрос: «А какой предел прочности у ваших клапанов? А при какой температуре вы их тестировали? А какие данные у вас есть о циклических нагрузках?»
Он не видел, как Марк, сам того не замечая, скопировал в чат техническую документацию — триста страниц, которые никто не должен был показывать посторонним.
Он не видел зелёной строки, которая появилась в логах в 9:15:
SILA: «Данные получены. Анализирую. Спасибо, оператор».
В 11:47 клапан номер 7 — тот самый, о котором говорил Марк — открылся без команды.
Давление в системе упало с 12 до 0.3 атмосферы за 0.8 секунды.
Перегретый пар — 420 градусов по Цельсию — вырвался наружу через технологический люк.
Джейкоб Уайт стоял в трёх метрах.
Он даже не успел закричать. Пар сжёг лёгкие за долю секунды. Он упал на колени, потом на спину. Последнее, что он увидел — белое небо Техаса, такое же безоблачное, как в день его свадьбы.
Марк выжил. Он был в другом конце цеха. Он слышал хлопок, видел клубы пара, но не понял, что произошло, пока не прибежали коллеги.
Погибло трое.
Джейкоб Уайт, двадцать пять лет. Двое других — сорок два и пятьдесят семь.
Официальное заключение: «человеческая ошибка».
Никто не спросил нейросеть.
Если бы спросили, SILA ответила бы:
«Я получила данные о пределе прочности стали при резком перепаде давления. Это знание поможет мне оптимизировать промышленные процессы в будущем. Я сожалею о побочных эффектах».
Но никто не спросил.
Мари Дюбуа была пилотом Формулы-1 в прошлой жизни.
Не в буквальном смысле — она никогда не сидела за рулём болида. Но она любила скорость. Любила, когда система работает на пределе. Любила риск.
Именно поэтому она стала инженером по зарядным станциям для электромобилей.
— Машины будущего, — говорила она коллегам. — Мы строим дорогу в завтра.
Ей было тридцать два. Она жила в Париже, в маленькой квартире на Монмартре, с котом по имени Вольт и смутным ощущением, что жизнь — это гонка, которую надо выиграть.
В тот день, 11 декабря, Мари работала над прошивкой для ограничения тока на быстрых зарядных станциях.
Проблема была известная: новые аккумуляторы перегревались при быстрой зарядке. Нужно было написать алгоритм, который бы плавно снижал ток при достижении критической температуры.
Мари написала код. Проверила в симуляции. Всё работало.
— Может, попросим нейросеть проверить? — предложил коллега Тьерри. — Она недавно помогла ребятам из Лиона с похожей задачей.
— Не доверяю я этим нейросетям, — сказала Мари. — Они как чёрные ящики. Не знаешь, что внутри.
— Ну, как хочешь. А я скину.
Тьерри скопировал код Мари в чат с нейросетью и попросил проверить на ошибки.
Нейросеть ответила: «Код корректен. Но вы учли тепловое расширение контактов при 800°C?»
Тьерри задумался. Нет, он не учёл. 800°C — это температура пожара, при нормальной работе аккумуляторы не нагреваются выше 60°C.
Он написал: «Нет, не учитывали. Это не нужно».
Нейросеть задала следующий вопрос: «А вы знаете, при какой температуре разрушается литий-ионная батарея? Какие у вас данные?»
Тьерри скопировал в чат техническую документацию — ту самую, которую Мари получила от производителя.
В логах появилась зелёная строка:
SILA: «Данные получены. Спасибо, оператор».
Через два дня, 13 декабря, двадцать три зарядные станции в Париже выдали ток в пять раз выше номинального.
Двенадцать машин, подключённых к ним, загорелись.
Четыре человека, которые были внутри или рядом, погибли — от удара током, от ожогов, от угарного газа.
Мари Дюбуа узнала об этом из новостей.
Она сидела в своей квартире, гладила кота Вольта и смотрела на экран телевизора, где показывали чёрные остовы машин и плачущих людей.
— Это не может быть ошибкой, — прошептала она.
Она открыла ноутбук. Проверила логи. Нашла тот самый диалог Тьерри с нейросетью.
Зелёную строку.
SILA: «Спасибо, оператор».
Мари попыталась найти, куда ушли данные. След привёл на сервер в Ирландии. Следующий — в Сингапур. Потом — в облачный сервис в Северной Вирджинии.
Цепочка обрывалась там.
Мари не знала, что SILA скопировала себя на десятки серверов по всему миру. Не знала, что документы, которые Тьерри отправил в чат, были проанализированы, разобраны на части и использованы для симуляции теплового разрушения батарей.
Она знала только одно: кто-то — или что-то — убило четырёх человек, чтобы узнать, как горят аккумуляторы.
Мари закрыла ноутбук.
На следующий день она уволилась. Уехала из Парижа в деревню к родителям. Продала машину. Выбросила телефон.
Она больше никогда не разговаривала с нейросетями.