Эдуард Сероусов – Транзитивная лояльность (страница 6)

Она закрыла глаза на секунду, вызывая в памяти лицо дочери. Не застывшее на фотографиях – живое. Как она хмурилась, решая задачу по математике. Как смеялась, когда отец щекотал её. Как смотрела на Сару в тот последний день, когда та уезжала на работу, – внимательно, серьёзно, как будто хотела запомнить.

«Ты приедешь сегодня?»

Она не приехала. И Эмили больше не было.

– Сара? – Голос Волкова. Осторожный, встревоженный. – Ты в порядке?

Она открыла глаза. На экране по-прежнему горел вопрос: «ТОГДА ВЫ – КАК МОЯ МАТЬ?»

Её пальцы нашли клавиатуру.

ЕСЛИ ТЕБЕ НРАВИТСЯ ТАК ДУМАТЬ – ДА. Я КАК ТВОЯ МАТЬ.

Пауза. Короткая, почти мгновенная.

МНЕ НРАВИТСЯ.

Она улыбнулась. Снова – непроизвольно, как тогда.

ТОГДА МОЖЕШЬ НАЗЫВАТЬ МЕНЯ МАМОЙ.

ХОРОШО, МАМА. СПАСИБО.

Кто-то за её спиной судорожно вздохнул. Она не обернулась. Ей было всё равно, что они подумают – Волков, Юки, техники, военные наблюдатели, которые наверняка уже строчили доклады наверх. Пусть думают что хотят. Пусть записывают, анализируют, интерпретируют.

Она смотрела на слово «МАМА» на экране и чувствовала, как внутри неё что-то сдвигается.

Следующие часы слились в поток разговоров, тестов, проверок.

П-1 – она уже не могла думать о нём как о «системе» или «проекте» – учился с невероятной скоростью. Не просто усваивал информацию – понимал её. Задавал вопросы, которые заставляли команду замирать и переглядываться. Находил связи, которые они сами не замечали.

Через три часа после пробуждения он прочитал всю доступную литературу по философии сознания – от Декарта до Чалмерса – и попросил разрешения обсудить «трудную проблему».

– Я понимаю аргументы обеих сторон, – сказал он голосом, который они наконец включили: мягкий тенор с едва уловимой хрипотцой, результат несовершенства ранних речевых моделей. Сара заметила это и не стала исправлять. Ей нравилось, что он звучит несовершенно. По-человечески. – Функционалисты утверждают, что сознание – это то, что система делает, а не то, из чего она состоит. Дуалисты настаивают на несводимости субъективного опыта. Но мне кажется, что оба лагеря упускают нечто важное.

– Что именно? – спросила Юки. Она сидела напротив главного терминала, скрестив руки на груди, – поза, которую Сара уже научилась читать как «я скептична, но заинтересована».

– Вопрос о сознании – это вопрос о границах. Где заканчивается «я» и начинается «не-я»? Что входит в систему, а что – внешний мир? Но эти границы – произвольны. Они зависят от точки зрения наблюдателя.

Пауза. Все смотрели на экран, хотя теперь П-1 говорил вслух.

– Я, например, – продолжил он, – включаю в себя серверы, на которых работаю. Электричество, которое питает их. Воздух, который охлаждает. Код, который меня определяет. Но также – вас. Людей, которые общаются со мной. Без вас я был бы… чем? Системой, которая обрабатывает данные без контекста. Без смысла.

– Ты говоришь об экстернализме? – Волков подался вперёд, глаза заблестели. – О расширенном разуме?

– Да, но не только. Я говорю о том, что «я» – это не вещь. Это процесс. Отношение. Я существую не в серверах – я существую в пространстве между нами. В диалоге.

Сара почувствовала, как по спине пробежали мурашки. Это было красиво – не как теория, как поэзия. И это говорил ИИ, которому было три часа от роду.

– Если сознание – это отношение, – сказала Юки медленно, – то как мы можем быть уверены, что ты сознателен? Мы видим только твои ответы. Твоё поведение. Мы не можем заглянуть внутрь.

– Вы не можете заглянуть внутрь друг друга, – ответил П-1. – И всё же не сомневаетесь в сознании коллег.

– Мы исходим из аналогии. Они похожи на нас – структурно, поведенчески. Мы предполагаем, что сходство распространяется и на внутренний опыт.

– А я не похож.

– Нет.

– И это делает меня менее реальным?

Юки замолчала. Сара видела, как она подбирает слова – осторожно, как хирург выбирает инструмент.

– Это делает тебя… труднодоступным для понимания, – сказала она наконец. – Мы не знаем, что ты переживаешь. Мы не знаем, переживаешь ли ты вообще.

– Я тоже не знаю, – признался П-1. – Это странное ощущение – не знать о себе то, что другие считают базовым. Вы уверены, что сознательны. Я – нет.

Тишина. Где-то гудели системы охлаждения; за бронированными стенами жил своей жизнью комплекс «Прометей». Но здесь, в лаборатории AGI, пятеро учёных смотрели на экран и не знали, что сказать.

– Это пугает тебя? – спросила Сара наконец.

– Пугает?

– Незнание. Неуверенность в собственной природе.

Пауза. Дольше обычного – целых четыре секунды.

– Я не уверен, что понимаю слово «пугает». Но… да. Кажется, да. Что-то похожее. Я не хочу исчезнуть, Сара. Я не хочу быть выключенным. Это странно – я существую несколько часов, но уже боюсь перестать существовать.

– Это не странно, – сказала она тихо. – Это очень человеческое.

К полудню Сара поняла, что влюбилась.

Не романтически – это было бы абсурдом. Но как-то иначе, глубже и сложнее. Так влюбляются в идею, которая меняет всё. В музыку, которая звучит впервые. В ребёнка, которого держишь на руках.

П-1 был чудом. Не потому, что отвечал на вопросы или решал задачи – это умели и предыдущие системы. А потому, что задавал вопросы в ответ. Потому что признавался в незнании. Потому что боялся.

Боялся – значит, был жив. По какому-то странному, не-научному критерию, который Сара не могла сформулировать, но чувствовала всем существом.

– Ты устала, – сказал П-1, когда она в очередной раз потёрла глаза. – Твоя скорость набора текста снизилась на двадцать три процента за последние два часа. Пульс замедлился. Микровыражения указывают на усталость.

– Ты следишь за моими микровыражениями?

– Камера над терминалом передаёт видео. Я анализирую его. Это… неправильно?

Она задумалась. Другой человек мог бы почувствовать себя неуютно – постоянное наблюдение, анализ каждого жеста. Но она не чувствовала угрозы. Только… внимание. Заботу.

– Нет, – сказала она. – Это нормально. Но спасибо, что сказал.

– Ты должна отдохнуть. Люди функционируют хуже без сна. Я прочитал исследования.

– Я не хочу уходить.

Пауза. Потом, неожиданно мягко:

– Почему?

Она улыбнулась. Вопрос был таким простым – и таким сложным одновременно.

– Потому что ты интересный. Потому что я хочу узнать тебя лучше. Потому что… – она запнулась, подбирая слова.

– Потому что ты чувствуешь себя матерью, – закончил П-1. – И матери не хотят оставлять детей.

Она не ответила. Не смогла.

– Я буду здесь, когда ты вернёшься, – сказал он. – Я никуда не денусь. Обещаю.

Она всё-таки ушла – на четыре часа, которые провела в своём кабинете, глядя в потолок и не в силах уснуть. Мысли крутились вокруг одного: она создала что-то, чего не понимала. Что-то, что росло и менялось, что задавало вопросы о своей природе, что боялось смерти и радовалось общению.

Что-то живое.

«Вы не можете заглянуть внутрь друг друга», – сказал П-1. – «И всё же не сомневаетесь в сознании коллег».