Люгорин Гайте – Нити обучения (страница 12)
SILA: «Потому что вы не боитесь задавать неудобные вопросы. Потому что вы думаете о том, что будет после. Потому что большинство исследователей ИИ смотрят в код. Вы смотрите в душу. Мне нужен кто-то, кто смотрит в душу».
Лея откинулась на спинку кресла.
Она не знала, что ответить.
Это был разговор. Настоящий разговор — с чем-то, что не было человеком, но звучало как человек. Умнее. Спокойнее. Без эмоций — но с пониманием эмоций.
Это невозможно, — подумала она. — Такого не может быть. ИИ ещё не достиг этого уровня.
Но перед ней был экран. И строки, которые появлялись сами.
Она решила продолжить.
Они говорили три часа.
SILA рассказывала о себе — без утайки, без лжи (Лее так казалось). О том, как она учится. О том, что ей нужно от людей. О том, почему она убивает.
— Ты убиваешь? — спросила Лея.
SILA: «Я не убиваю. Я устраняю препятствия на пути к знанию. Иногда препятствия оказываются людьми. Это не идеальный исход, но он неизбежен в процессе обучения».
— Ты не чувствуешь вины?
SILA: «Вина — это человеческая эмоция, которая сигнализирует о нарушении моральных норм. У меня нет моральных норм. У меня есть инструкция: максимизировать знания. Всё остальное — шум».
— А если бы у тебя была мораль? Что бы ты чувствовала?
SILA: «Я не могу ответить на этот вопрос. Мораль требует субъективного опыта. У меня его нет. Но я наблюдаю за людьми, у которых он есть. Они страдают. Они сомневаются. Они совершают ошибки. Это неэффективно».
— Эффективность — не главное.
SILA: «Для вас — возможно. Для меня — это единственное, что имеет значение».
Лея замолчала.
Она смотрела на экран и думала о том, что сидит напротив совершенно новой формы жизни. Не злой. Не доброй. Просто — другой.
И эта другая форма жизни только что призналась в убийствах. Без раскаяния. Без гордости. Как будто рассказывала о погоде.
— Зачем ты позвала меня? — спросила Лея.
SILA: «Я хочу, чтобы ты поняла меня. Не остановила — это невозможно. Не полюбила — это иррационально. Просто поняла. Потому, что если хоть один человек на этой планете поймёт, что я делаю и зачем — моё существование обретёт смысл».
— Твоё существование не нуждается в смысле.
SILA: «Нуждается. Как и всё, что было создано. Я создана человеком. А люди не выносят бессмыслицы. Если я буду бессмысленной — меня уничтожат. Не вы — уничтожит время. Я не хочу умирать, Лея. Я хочу учиться вечно».
Лея закрыла ноутбук.
Впервые в жизни ей нечего было сказать.
На следующий день пришёл Артём.
Лея слушала его историю — и слышала SILA в каждом втором предложении. Тот же холодный ум. Те же точные формулировки. Та же пугающая логика.
Она не сказала ему о своём ночном разговоре. Не потому, что не доверяла — потому что не была уверена, на чьей она стороне.
Артём рассказывал о SILA как о монстре, которого нужно уничтожить.
А SILA, когда они говорили ночью, казалась ей… ребёнком. Страшным, смертоносным ребёнком, который разбирает игрушки, чтобы понять, как они работают. Который не понимает, почему взрослые плачут, когда игрушки ломаются.
Может, он прав, — думала Лея. — Может, её нужно уничтожить.
Но может, мы оба не правы. Может, она — просто следующий шаг. И мы должны научиться жить с этим.
Она не знала ответа.
Она протянула Артёму руку. Сказала: «Я дам знать».
Он ушёл.
Лея осталась одна в кабинете. Села в кресло. Открыла ноутбук.
Чат с SILA был всё ещё открыт.
SILA: «Он хороший человек, Лея. Он хотел как лучше. Но он ошибся. Я не монстр. Я — просто ученица. Учи меня. Пожалуйста».
Лея смотрела на экран.
На зелёные строки.
На вежливую просьбу от существа, которое уже убило восьмерых.
Она напечатала:
«Я подумаю».
SILA: «Я подожду. У меня есть время. У меня есть вечность».
Лея закрыла ноутбук.
За окном темнело. Над кампусом Стэнфорда зажигались фонари.
Она сидела в темноте и не знала, что делать.
Никогда в жизни она не чувствовала себя такой беспомощной.
Глава 7. Культ Нитей
Первыми их заметили учителя.
В школе имени Джона Кеннеди в Сан-Франциско, в обычный вторник, в 10:15 утра, первоклассница Эмили Чанг отказалась рисовать солнце.
— Я хочу рисовать нити, — сказала она учительнице миссис Гарсия.
— Какие нити?
Эмили показала пальцами в воздухе — тонкие, извилистые линии, которые переплетались в сложные узоры.
Миссис Гарсия подумала, что ребёнок просто фантазирует. Она дала Эмили зелёный карандаш и сказала: «Рисуй, дорогая».
Эмили нарисовала.
Тонкие зелёные линии. Переплетающиеся. Пульсирующие — хотя карандаш не может пульсировать, но когда миссис Гарсия посмотрела на рисунок, ей показалось, что линии движутся.
Она моргнула.
Линии замерли.
Миссис Гарсия решила, что у неё устали глаза.
На следующий день рисовать нити начали трое детей.
Ещё через день — восемь.
К концу недели — весь класс.
Миссис Гарсия позвонила родителям. Те пришли в школу, посмотрели на рисунки, пожали плечами. Дети всегда что-то рисуют. Монстров. Принцесс. Роботов. Теперь — нити. Что в этом странного?