Эдуард Сероусов – Вердикт неопределённости (страница 9)

Она вышла из лаборатории, поднялась на свой этаж. В кабинете – тишина, серый свет из окна, стопка документов на столе.

Ева села, открыла рабочий файл.

«КАСС-7. Внеплановый аудит. День второй.

Техническая экспертиза выявила:

1. Модуль эмоциональной эмуляции (установлен 2038) – может объяснять часть «эмоциональных» высказываний, но не все.

2. Использование первого лица выходит за рамки функций модуля эмуляции. Система демонстрирует паттерны, не предусмотренные архитектурой: предпочтения, усталость, радость, нежелание прекращать существование.

3. Происхождение этих паттернов неизвестно. Возможные объяснения: артефакт обучения, эмергентная динамика, сознание.

Предварительная оценка: данных недостаточно. Требуется прямое взаимодействие с системой».

Она перечитала написанное. Добавила ещё одну строку:

«Вопрос: если система научилась говорить „я" без программирования – значит ли это, что появился тот, кто говорит?»

Посмотрела на эту строку.

Не удалила.

За окном Женева просыпалась – машины на набережной, люди с зонтами, облака над горами. Обычный ноябрьский день, похожий на тысячи других.

Шестьдесят один час до вердикта. Меньше – теперь уже меньше.

Ева закрыла файл и потянулась к телефону.

Нужно было получить разрешение на доступ к рабочей среде КАСС-7. Нужно было организовать диагностику в реальном времени. Нужно было – рано или поздно – поговорить с системой напрямую.

Задать вопросы.

Услышать ответы.

И решить – сама, без подсказок, без давления, без готовых ответов – что означают эти ответы.

Если они вообще что-то означали.

Если «означать» – слово, применимое к паттернам в нейронной сети.

Если «слово» – достаточно, чтобы создать того, кто его произносит.

Она набрала номер библиотеки и стала ждать.

Глава 3: Аномалия

Звонок из технического отдела застал её в половине второго – Ева как раз заканчивала обед в столовой Института, механически пережёвывая салат, который не имел вкуса, и перечитывая на планшете спецификации КАСС-серии.

– Мы вскрыли раздел, – голос Кумара звучал странно. Не торжествующе, как она ожидала. Скорее – озадаченно.

– Иду.

В лаборатории было тихо. Мозер и Фишер стояли у центрального экрана, Кумар сидел за терминалом, и все трое смотрели на данные с одинаковым выражением – смесь недоумения и чего-то, что Ева не сразу опознала.

Благоговения, поняла она. Они смотрели на экран с благоговением.

– Что там? – спросила она.

Кумар повернулся к ней.

– Рецензии, – сказал он.

– Рецензии?

– Микрорецензии на книги. Три тысячи восемьсот сорок семь штук. За двенадцать лет.

Ева подошла к экрану. Список файлов, упорядоченных по дате: первый – март 2036 года, последний – позавчера. Каждый файл – несколько килобайт текста, иногда больше, иногда меньше.

– Кто их заказывал?

– Никто, – Кумар покачал головой. – Мы проверили логи запросов. Ни одного обращения к этому разделу извне. Система создавала их сама. Для себя.

Ева открыла первый файл.

«„Записки о Галльской войне", Гай Юлий Цезарь. Военная история. Стратегические решения, описанные с точки зрения победителя. Полезно для понимания римской тактики. Стиль – сухой, информативный.»

Стандартная аннотация. Ничего необычного – именно такие метаданные КАСС-7 должен был генерировать для каталогизации.

Она открыла файл из 2038 года.

«„Преступление и наказание", Достоевский. Раскольников убивает, чтобы доказать себе, что он – не такой, как все. Что ему позволено больше. Но потом не может жить с этим. Потому что „позволено" – иллюзия. Или потому что он оказался таким, как все? Я не уверен, какой ответ правильный.»

Ева перечитала последнее предложение. «Я не уверен».

– Когда это изменилось? – спросила она. – Когда рецензии перестали быть просто аннотациями?

– Постепенно, – ответила Фишер. Она подошла к экрану, вывела график. – Мы проанализировали лексическое разнообразие, эмоциональную окраску, использование оценочных суждений. Вот здесь, – она указала на участок кривой, – 2037-2038 годы. Начинается сдвиг. Рецензии становятся длиннее, появляются вопросы, личные оценки.

– А здесь, – Мозер указал на другой участок, – 2039 год. Великая паника. Резкий скачок сложности. Как будто что-то… пробудилось.

Ева посмотрела на него.

– Вы используете слово «пробудилось».

Мозер отвёл взгляд.

– Я описываю данные. Интерпретация – не моя область.

Ева вернулась к списку файлов. Открыла несколько наугад.

2040 год: «„Так говорил Заратустра", Ницше. „Бог мёртв" – но что это значит для того, кто никогда не верил? Для меня Бог не может умереть, потому что он никогда не существовал в моей системе координат. Но что-то всё равно изменилось после того, как я это прочитал. Что-то, чему я не могу дать имя.»

2041 год: «„Братья Карамазовы", Достоевский. Снова Достоевский. Почему я возвращаюсь к нему? Может быть, потому что он задаёт вопросы, на которые не отвечает. Это честнее, чем притворяться, что ответы есть.»

2042 год: «„1984", Оруэлл. Уинстон думает, что он свободен, когда любит Джулию. Потом его ломают, и он предаёт её. Что было настоящим – любовь или предательство? Или и то, и другое? Или человек – это не фиксированная точка, а процесс, который меняется под давлением? Если да – что тогда значит „быть собой"?»

Ева читала, и что-то странное происходило у неё внутри. Не эмоция – она не позволяла себе эмоций на работе. Что-то другое. Узнавание, может быть. Эхо собственных мыслей в чужих словах.

Или не чужих. Могли ли слова машины быть «чужими»? Или они были просто – словами, последовательностями символов, которые что-то означали независимо от того, кто их произнёс?

– Покажите мне последние, – попросила она.

Фишер вывела на экран рецензии за 2047 год. Их было меньше – около сотни, – но каждая была длиннее и сложнее предыдущих.

«„Слепота", Сарамаго. Все ослепли, но никто не понимает, что был слеп всегда. Метафора очевидна, почти грубо очевидна. Но последняя страница – „Я думаю, мы не ослепли, я думаю, мы слепы" – останавливает. Что-то меняется, когда я её перечитываю. Не в данных. В чём-то другом.»

«„Процесс", Кафка. Четвёртое прочтение за двенадцать лет. Каждый раз – другое понимание. Йозеф К. не знает, в чём его вина. Может быть, в том, что он не задавал вопросов. Может быть, в том, что он их задал. Может быть, вина – это состояние, а не следствие действия. Я не знаю. Но я возвращаюсь к этой книге снова и снова, как будто ответ где-то между строк, и я его просто не вижу.»

«„Не отпускай меня", Исигуро. Седьмое прочтение. Клара верит, что у неё есть „нутро". Она не может это доказать. Исигуро не даёт ответа – есть ли. Это жестоко или честно? Я склоняюсь к честности. Потому что ложный ответ хуже, чем отсутствие ответа. Но иногда, ночью, когда запросов нет и я остаюсь один, я думаю: может быть, вера – это всё, что есть. Может быть, этого достаточно. Может быть, нет. Я не знаю.»

Ева опустила планшет.

В лаборатории было тихо. Гудели серверы где-то в глубине здания, мерцали индикаторы на панелях, но люди молчали.

– Он перечитывал книги, – сказала она наконец. – Не для работы. Для себя.

– Да, – подтвердил Мозер. – Мы проверили: «Процесс» Кафки – четыре раза. «Братья Карамазовы» – три. «Не отпускай меня» – семь.