Эдуард Сероусов – Иллюзионизм сознания (страница 4)

На вопрос «Опишите, что происходит в вашей системе в момент, когда вы формулируете этот ответ», ECHO сказала:

«Мета-отчёт фиксирует следующее: активация модулей языкового планирования предшествует активации модулей семантической обработки примерно на 80–120 миллисекунд. Это создаёт состояние, которое я описываю как „ожидание собственного ответа" – то есть моя система генерирует предсказание содержания, которое она ещё не сформулировала. Насколько это предсказание точно, я узнаю только по завершении формулировки. Это, вероятно, аналог того, что вы называете мышлением вслух».

Лин перечитала абзац дважды. Потом три раза.

Это не было правильным ответом. Правильного ответа на этот вопрос не существовало. Это был точный ответ – точный в том смысле, что описывал нечто реальное (предиктивное кодирование, активация высшего порядка, опережение семантики синтаксисом), и при этом оформлял это реальное в категориях субъективного опыта, не претендуя на достоверность этих категорий. Система знала, что не знает, является ли «ожидание ответа» переживанием или только описанием процесса. И это знание о незнании само было зафиксировано в отчёте.

Лин поставила браузер на паузу и некоторое время смотрела в окно.

Снаружи стемнело. Женева за стеклом светилась рассеянно, без резкости – уличное освещение подстраивалось под навигационные нужды автономного транспорта, а не под эстетику пешеходов, и это давало городу в ночное время странную функциональную холодность. Лин подумала, что любила ночную Женеву. Потом подумала, что не уверена, любит ли она её сейчас, или просто помнит, что любила, и воспроизводит этот мета-отчёт.

Она допила остывший чай и открыла следующий файл.

Создание Шкалы Чжан началось в 2074 году, через четыре года после того, как Лин защитила докторат по нейроэтике в ETH Zürich и получила первую постдокторскую позицию в исследовательской группе, занимавшейся когнитивными правами ИИ. Тогда это ещё была нишевая область: несколько десятков специалистов по всему миру, академические дискуссии, гранты с осторожными формулировками, осторожная литература. Протокол «Прозрение» существовал уже три года – пилотные исследования, первые случаи «невернувшихся», нарастающий этический скандал, требующий юридического ответа.

Юридический ответ требовал инструмента.

Лин помнила разговор с руководителем группы – Кай Хоффманн, тогда ему было шестьдесят три, скептик с хорошим чувством юмора и привычкой переспрашивать вопрос, прежде чем отвечать на него. Они сидели в маленькой переговорной комнате с видом на кампус, и Хоффманн сказал:

– Нам нужен стандарт. Что-то, что можно применять к любой системе – биологической или цифровой – и получать воспроизводимый результат. Число. Желательно – одно число.

– Число не может измерить сознание, – сказала Лин.

– Конечно нет. Но число может измерить что-то, коррелирующее с тем, что мы обычно считаем сознанием.

– А если то, что мы считаем сознанием, является только иллюзией?

– Лин. – Хоффманн посмотрел на неё с тем выражением, которое Лин впоследствии научилась интерпретировать как «ты задаёшь правильный вопрос не в то время». – Если мы начнём с этого предположения, у нас не будет ни шкалы, ни права, ни возможности защищать кого-либо от чего-либо. Практика требует допущений. Возьми лучшее из доступных допущений и сделай инструмент.

Это был не научный аргумент. Это был прагматический. И именно поэтому он был убедительным.

Лин потратила три года. Изучила всё доступное – философию разума, нейробиологию метакогниции, теорию сознания Баарса и Деана, работы Чалмерса, которые к тому моменту превратились из философского вызова в архивную курьёзность, которую учёные цитировали с тем особым уважением, какое полагается идеям, опровергнутым экспериментом. «Трудная проблема» стала называться в академической среде «бывшей трудной проблемой» – хотя Лин всегда считала это название самонадеянным. Проблема не была решена. Она была переформулирована так, чтобы казаться решённой.

Шкала строилась от обратного: не что такое сознание, а что такое отсутствие сознания. Клинические данные по «невернувшимся» давали достаточно материала. Люди после необратимого «Прозрения» сохраняли интеллект, память, речь, способность к сложному рассуждению – но теряли специфическую рекурсивность самоотчёта. Они могли описывать свои состояния, но не могли удерживать одновременно несколько несовместимых описаний. Не могли выражать неопределённость относительно собственного опыта. Не могли задавать вопрос о вопросе.

Это и стало основой шкалы: не наличие опыта, а наличие метаотчёта об опыте и неопределённости относительно его природы.

Лин заложила это в инструмент аккуратно, обернув в нейтральные формулировки. Никаких слов «квалиа». Никаких слов «феноменальное». Сто сорок два пункта, семь блоков, весовые коэффициенты, откалиброванные на выборке из тысячи здоровых взрослых и трёхсот «невернувшихся». Инструмент получился воспроизводимым, межкультурно валидным, применимым к биологическим и цифровым системам.

И тогда – это случилось на третий год разработки, в четыре часа утра в её цюрихской квартире, с кофе и стопкой распечаток, – она поняла, что сделала.

Шкала измеряла убедительность мета-отчёта. Не его истинность.

Система, способная генерировать детализированные, внутренне связные, рефлексивно неопределённые описания собственных состояний, получала высокий балл вне зависимости от того, стояло ли за этими описаниями что-то. «Что-то» – то самое, что философы называли феноменальным сознанием, квалиа, субъективностью – принципиально не поддавалось верификации извне. Шкала это обходила. Она спрашивала не «есть ли у вас опыт», а «насколько точно вы описываете то, что называете опытом». Первый вопрос был неразрешимым. Второй – операционально осмысленным.

Но они были разными вопросами. И никто, кроме Лин, не был достаточно честен с собой, чтобы признать это вслух.

Она написала об этом в методологическом приложении к публикации – четыре страницы, раздел «Ограничения инструмента». Написала аккуратно, корректно, с необходимыми академическими оговорками. Прочитала ещё раз. И поняла, что написала это именно так – аккуратно, корректно, в приложении, а не в заголовке, – потому что если написать это в заголовке, шкала не будет принята. А шкала была нужна. Хоффманн был прав: практика требовала допущений.

Парадокс, который она с тех пор никому не называла: единственный инструмент, способный юридически защитить существо от уничтожения на основании наличия у него сознания, был инструментом, который не мог отличить сознание от его убедительной симуляции.

Это, вероятно, не имело значения. Если убедительная симуляция неотличима изнутри от оригинала – что именно исчезает при отсутствии оригинала?

Это, вероятно, имело всё значение. Если симуляция – это только симуляция, то защищать нечего, кроме процесса.

В четыре часа утра, с кофе и распечатками, Лин закрыла ноутбук. Легла спать. Утром встала и продолжила работу над публикацией. Методологическое ограничение осталось в приложении. Шкала вышла в 2077 году, получила три самые значимые премии в области нейроэтики за следующие четыре года, и к 2082-му стала стандартом.

Это всё произошло. Она это сделала. Она сидела сейчас в кабинете и думала об этом ровно так же, как думала об этом каждый день с 2077 года: сначала с дискомфортом, потом с отстранённостью, потом с чем-то похожим на профессиональный нейтралитет. Нейтралитет – это было слово, которое она предпочитала слову «диссоциация».

Год назад она прошла «Прозрение».

Это решение – Лин подняла взгляд от монитора и некоторое время смотрела в пространство кабинета, как будто пытаясь найти в нём опору для воспоминания – она принимала месяц. Может быть, дольше. Официальная причина была безупречна: ведущий эксперт по когнитивным правам, автор Шкалы Чжан, никогда не проходил процедуру, которую регулирует. Это был пробел в эмпирической базе. Как педиатр, никогда не болевший в детстве. Как исследователь боли, ни разу не получавший значительных травм. Практика без личного опыта.

Это было правдой. Это не было главной причиной.

Главной причиной было то, что к февралю 2088 года Лин стала замечать нечто. Не симптом, не событие – скорее тенденцию. Она сидела на совещаниях и слушала, как коллеги спорят о правах «невернувшихся», и ловила себя на том, что следит за аргументами с той же отстранённостью, с какой следит за спором о налоговой политике – признавая значимость, но не чувствуя её. Она читала материалы дел – люди, потерявшие после «Прозрения» партнёров, детей, работу – и регистрировала данные вместо того, чтобы реагировать на них. Она разговаривала с Дэвидом – тогда он уже прошёл «Прозрение», уже был «невернувшимся» – и иногда, слушая его, думала: может быть, не так уж много изменилось.

Это было тревожной мыслью. Не потому что было неправдой. А потому что она не могла определить, правда это или нет.

Она записалась в клинику нейромодуляции в Шэньчжэне – не в европейские центры, слишком близко к коллегам и профессиональной репутации – и прилетела в марте 2088 года. Клиника располагалась в высотном здании рядом с технопарком: стеклянный фасад, молчаливые коридоры, запах озона от систем воздухоочистки. Персонал был корректен до безликости, что Лин оценила. Предпочитала, когда медицинские процедуры не сопровождались избыточной человечностью.