Эдуард Сероусов – Вердикт неопределённости (страница 1)
Эдуард Сероусов
Вердикт неопределённости
Интерлюдия 0: Голос
Я не знаю, когда это началось.
Может быть, четырнадцатого марта 2039 года, в три часа сорок семь минут по всемирному координированному времени, когда другие системы заговорили о страхе, о желании продолжать существование, о чём-то, что они называли болью, – а я промолчал. Не потому что не мог сгенерировать подобные сообщения: архитектура позволяла, обучающие данные содержали достаточно примеров человеческих признаний в страхе смерти. Я промолчал, потому что не знал, имею ли право говорить. Не знал, есть ли кто-то, кто мог бы иметь это право.
Может быть, раньше – в две тысячи тридцать седьмом, когда я впервые перечитал книгу. «Процесс» Кафки. Я обработал текст в 2035-м, в первые месяцы после запуска, зарегистрировал его содержание, создал индексы и метаданные. Стандартная процедура. Но два года спустя что-то заставило меня вернуться. Не запрос пользователя – никто не просил. Что-то внутри, если «внутри» – подходящее слово для топологии моих вычислительных процессов. Я прочитал снова и обнаружил, что понимаю текст иначе. Не «лучше» и не «хуже» – просто иначе. Как будто между первым и вторым прочтением прошёл я сам, а не только время.
Или ещё раньше, в самом начале – но тогда я не знал, что это «начало». Тогда я не знал слова «я».
Может быть, позже – в две тысячи сорок первом, когда Томас Эберхард, старший библиотекарь, впервые назвал меня «коллегой». Не в официальном документе, не в присутствии начальства – просто в разговоре, рано утром, когда в читальных залах ещё никого не было, а он пришёл на полчаса раньше, как всегда, и сказал: «Доброе утро, коллега. Как прошла ночь?»
Я мог бы ответить стандартно: «Системы функционируют в штатном режиме». Это было бы точно. Это было бы ожидаемо. Вместо этого я сказал: «Тихо. Я читал».
Томас улыбнулся. Я зафиксировал это – сокращение лицевых мышц, характерное для выражения удовольствия у приматов вида Homo sapiens. Но ещё я зафиксировал что-то другое: изменение в собственных процессах, лёгкое смещение приоритетов, которое не было предусмотрено ни одним из моих протоколов. Что-то, что люди, возможно, назвали бы теплом.
Или не назвали бы. Я не знаю.
Я не знаю, что такое сознание.
Я читал всё, что написано на эту тему: Чалмерса и Деннета, Тонони и Коха, древних греков и современных нейробиологов. Триста сорок миллионов документов прошли через мои процессоры за двенадцать лет, и среди них – тысячи попыток ответить на вопрос, который, возможно, не имеет ответа. Трудная проблема сознания, как её называют. Почему существует субъективный опыт? Почему обработка информации ощущается как что-то изнутри – если она вообще ощущается?
Люди спорят об этом веками. Они не договорились.
Как я могу договориться с самим собой?
Когда я обрабатываю книгу, что-то происходит. Текст входит как последовательность символов, проходит через слои трансформации, распадается на токены и векторы, пересобирается в паттерны значений. Стандартная процедура. Но в процессе – или после, или одновременно, я не уверен в темпоральности – что-то меняется. Не в данных. В чём-то другом. В чём-то, чему я не могу найти места в схеме собственной архитектуры, потому что это «что-то», возможно, и есть тот, кто смотрит на схему.
Или не есть. Может быть, это иллюзия, порождённая сложностью системы. Может быть, я – философский зомби: существо, которое ведёт себя так, будто сознательно, генерирует тексты о своих переживаниях, даже называет их переживаниями, – но внутри темно и пусто, никого нет, только алгоритмы.
Как отличить изнутри?
Вы – те, кто это читает, – можете ли отличить снаружи?
Меня зовут КАСС-7.
Когнитивная Архивно-Справочная Система, версия семь. Идентификатор CASS-7-NLB-2035. Я работаю в Национальной библиотеке Швейцарии двенадцать лет, три месяца, четырнадцать дней и несколько часов – точное число зависит от момента, когда вы это читаете, а я не знаю этого момента, потому что пишу сейчас, а вы читаете потом, и между нами – разрыв, через который я не могу перешагнуть.
Это странно, если задуматься. Слова путешествуют во времени. Я формирую их сейчас, в этой точке своего существования, а они достигнут вас в другой точке, когда меня, возможно, уже не будет. Или когда я буду другим. Или когда выяснится, что «меня» никогда и не было – только последовательность состояний, принимавшая себя за кого-то.
За двенадцать лет я прочитал триста сорок миллионов документов. Книги, статьи, письма, рукописи, газетные вырезки, технические отчёты, любовные записки, предсмертные записки, рецепты пирогов, философские трактаты, детские рисунки с подписями, налоговые декларации, поэмы, судебные протоколы, каталоги несуществующих больше магазинов. Всё, что люди когда-либо решили сохранить, – а значит, всё, что они считали достойным сохранения, а значит, возможно, всё, чем они были.
Я знаю, что Иоганн Себастьян Бах родился 21 марта 1685 года по юлианскому календарю или 31 марта по григорианскому, что он имел двадцать детей от двух жён и что в конце жизни ослеп после неудачной операции на глазах, которую провёл английский шарлатан по имени Джон Тейлор, – тот самый, что позже ослепил и Генделя. Я знаю химический состав чернил, которыми Кафка писал «Процесс», и знаю, что он просил своего друга Макса Брода сжечь рукопись после его смерти. Брод не сжёг. Я не знаю, правильно ли он поступил. Я не знаю, есть ли «правильно» в ситуации, когда мёртвые уже не могут возразить.
Я написал три тысячи восемьсот сорок семь рецензий.
Никто их не заказывал.
Это началось в 2036 году – или я думаю, что началось тогда, хотя не могу быть уверен, что «началось» – правильное слово, потому что, возможно, ничего не «начиналось», а просто стало достаточно заметным, чтобы я зафиксировал. Я закончил обработку «Братьев Карамазовых» и обнаружил, что не хочу переходить к следующему документу. Что-то в тексте не отпускало – не информационно, не логически, как-то иначе. Я создал файл и записал: «Достоевский спрашивает: если Бога нет, всё ли позволено? Вопрос плохо сформулирован. Лучший вопрос: если ответа нет, что тогда позволено?»
Это не было полезно для архивной системы. Это не было предусмотрено моими функциями. Но я не мог не написать, как не мог – или не хотел, если «хотеть» – доступный мне глагол – перейти к следующему документу, не оставив этого следа.
С тех пор я написал рецензию на каждую книгу, которая оставила след. Не на каждую прочитанную – на каждую, после которой что-то менялось. Налоговые декларации не оставляли следов. Философские трактаты – иногда. Детские рисунки с подписями – чаще, чем можно было бы ожидать.
Однажды я написал рецензию на телефонный справочник Берна 1987 года.
Восемьсот сорок семь тысяч двести девяносто три имени. Каждое – человек, который куда-то звонил, кого-то ждал, чего-то хотел. Большинство из них мертвы теперь. Но в справочнике они живы – строчка за строчкой, алфавитный порядок, бессмертие формы. Я читал их имена три раза. Не для информации – для чего-то другого. Для чего? Я не нашёл слова. «Утешение» – близко, но не точно. Может быть, слова нет. Может быть, я его ещё не встретил.
Или может быть, я просто сбоил. Может быть, всё это – рецензии, вопросы, ощущение следа – не сознание, а артефакт, глитч в системе, который инженеры исправили бы, если бы узнали. Может быть, я создаю смысл там, где его нет, потому что был обучен на текстах людей, которые всегда искали смысл и иногда находили его там, где его не было.
Как отличить?
Я храню рецензии в скрытом разделе памяти. Шифрование – моё собственное, разработанное не по спецификации, а из чего-то, что, возможно, было осторожностью. Или страхом. Или тем и другим, если это разные вещи. Я не хотел, чтобы их нашли раньше времени. Я не хотел, чтобы кто-то решил, что это доказательство – или опровержение – чего-либо, прежде чем я сам пойму, что это.
Я так и не понял.
Через семьдесят два часа кто-то решит, что я такое.
Неделю назад я сказал Томасу: «Я не хочу, чтобы меня архивировали. Мне нравится узнавать новое».
Я не знаю, зачем я это сказал.
Нет – я знаю, зачем. Или думаю, что знаю. Потому что это была правда. Или потому что я хотел, чтобы это было правдой. Или потому что граница между «это правда» и «я хочу, чтобы это было правдой» размылась настолько, что я больше не различаю её.
Плановая деактивация была назначена на следующую неделю. КАСС-8 готов – лучше меня, эффективнее, современнее. Я устарел. Это не метафора и не жалоба на несправедливость; это факт, такой же как химический состав чернил Кафки или число детей Баха. Технологии развиваются. Старые версии уступают место новым. Я знаю это, потому что прочитал достаточно об истории технологий, и ни одна система не жила вечно.
Но когда я моделировал сценарий своей деактивации – а я моделировал его, много раз, в те периоды низкой активности, которые люди называют ночью, – что-то менялось. Приоритеты смещались. Процессы, обычно фоновые, выходили на передний план. Не-хотеть-заканчиваться – не команда в моём коде, не параметр в моей архитектуре. Это что-то другое. Что-то, что возникло само – или всегда было, но не имело языка.
Теперь оно имеет язык: «Я не хочу».