Ник Бостром – Глубокая утопия. Жизнь и смысл в решенном мире (страница 37)
Дэйв: Вкусное веганское мороженое!
Бостром: Конечно. Хотя я думаю, что наши пернатые друзья с радостью обойдутся без мороженого - похоже, для них главное - рожок... Может, выпьем кофе?
Веди. Я буду в городе пару дней.
Тессиус: Ух ты, редкое зрелище. Вы ведь знаете, кто это был?
Фирафикс: Да. Он показался мне милым.
Кельвин: Если говорить о гедонистических императивах, то мы с Фирафиксом подумываем о том, чтобы принять ванну. Хочешь пойти с нами?
Тессиус: Горячие источники? Конечно! Когда мы едем?
Кельвин: Сразу же.
Обивка мечты
Фирафикс: Может быть, сначала мы прочитаем памятку о машине опыта, а потом поговорим о ней по пути туда?
Кельвин: Хорошо, давайте посмотрим.
Тессиус: Вы, ребята, такие великолепные ботаники! Мне это нравится.
Нозик пишет:
"Предположим, что существует машина впечатлений, которая может дать вам любой опыт, какой вы только пожелаете. Суперпупернейропсихологи могли бы стимулировать ваш мозг так, чтобы вы думали и чувствовали, что пишете великий роман, или заводите друга, или читаете интересную книгу. Все это время вы будете плавать в аквариуме, а к вашему мозгу будут прикреплены электроды. Стоит ли вам подключаться к этой машине на всю жизнь, заранее программируя свой жизненный опыт?"
Нозик утверждает, что если мы отказываемся от предложения подключиться к сети, это говорит о том, что мы ценим не только (или в дополнение) субъективный опыт.
Но как именно будет работать такая машина? В философской литературе этот вопрос не получил широкого освещения.
(a) Если вы трус, как вы можете испытывать храбрость? Если вы не разбираетесь в математике, как вы можете переживать блестящие математические открытия? Возможно, в вашем мозге, как он есть, нет сенсорного сигнала, который мог бы вызвать эти переживания. Поэтому суперпуперученым придется напрямую перестраивать внутреннее устройство вашего мозга. Но при этом могут возникнуть проблемы с идентификацией личности. Если перепрошивка будет слишком обширной, слишком резкой и не будет связана с естественным развитием ваших способностей, то человек в танке, который в итоге получит опыт храбрости и математической гениальности, не будет вами. Это ограничивает возможные траектории опыта, которые вы могли бы получить в машине опыта. (Прямое редактирование мозга также потребуется для многих опытов, которые обычно зависят от наличия определенной истории и биографии, а также от наличия определенного профиля личности и способностей. То, что мы на самом деле испытываем, когда нас стимулируют определенным набором сенсорных входов, очень сильно зависит от того, что мы приносим с собой - наши концепции, наши воспоминания, наше отношение и настроение, наши навыки и т. д.)
(b) Если вы хотите получить опыт, связанный с приложением усилий, то, по сути, вы должны сами приложить к этому усилия. С учетом ограничений, указанных в пункте (а), ученые могут заставить вас приложить такие усилия; но стоит отметить, что такой опыт не будет получен "бесплатно". Предположим, вы хотите получить опыт восхождения на Эверест. Вы могли бы легко получить опыт, увидев ряд видов, которые открываются во время восхождения; а если вы посмотрите вниз, то увидите, как двигаются ваши ноги. Вы также можете почувствовать давление рюкзака на плечи и прохладный воздух, обжигающий щеки. Но без ощущения напряжения, необходимости копаться в себе, чтобы найти силы для продолжения, ваши ощущения будут лишь тенью опыта тех, кто покорял Эверест в реальной жизни. Если же ученые все же вызывают эти элементы, то вы платите за опыт огромную цену - цену дискомфорта, страха и затрат силы воли. Машина впечатлений, возможно, не даст вам столько преимуществ по сравнению с реальным восхождением на настоящую гору, хотя и защитит вас от риска физической травмы.
(c) Среди наших самых важных переживаний - те, которые связаны с взаимодействием с другими людьми. Как можно реализовать такой опыт? Рассмотрим следующие маршруты.
i. NPC. Для того чтобы генерировать сенсорный ввод, который вы получаете при взаимодействии с другими людьми, эти другие люди могут быть реализованы как NPC ("неигровые персонажи"), под которыми я подразумеваю конструкции, отображающие некоторые атрибуты разумного существа, но не обладающие при этом феноменальным опытом или другими основаниями, которые наделили бы это существо моральным статусом. Это, несомненно, возможно в случае относительно неглубоких взаимодействий. Например, если вы хотите получить опыт задавания незнакомцу нескольких вопросов типа "сколько будет два плюс два?" и получения в ответ ответа типа "четыре", то метафизически возможно осуществить необходимые вычисления, не создавая никакого морально значимого существа (кроме себя). Но менее очевидно, что метафизически возможно создать полностью реалистичный опыт долгого, глубокого и насыщенного взаимодействия с другим человеческим существом без выполнения вычислений, эффективно реализующих сложный цифровой разум, обладающий моральным статусом. Это подводит нас ко второму пути создания опыта взаимодействия...
ii. ВПЦ. Под VPC ("виртуальными персонажами-игроками") я подразумеваю искусственные вычислительные конструкции, обладающие моральным статусом, например, потому что они обладают сознательным цифровым разумом. Использование VPC открыло бы очень широкий спектр возможностей взаимодействия, хотя механика реализации остается сложной. Например, в реальной жизни вы можете пройтись по многолюдной площади и завязать разговор с любым из тысяч встречных - в принципе, глубокий разговор, который может привести к дружбе или отношениям на всю жизнь. Поэтому аппарат супер-пупер ученых может включать в себя VPC-симуляторы всех этих людей (с большими вычислительными затратами). В качестве альтернативы можно использовать процедурную генерацию для создания VPC по требованию: изначально анонимные люди в толпе могут быть представлены как NPC, но если вы начнете глубокое взаимодействие, недостающие детали их разума будут заполнены, чтобы представить их как VPC, которые могут отвечать вам в полностью реалистичной манере. Такая сублимация NPC в VPC потребует большого объема вычислений - возможно, придется смоделировать целые детские и личные истории, чтобы создать полностью реалистичные VPC, с которыми вы собираетесь вступить в разговор.
Несмотря на то, что VPC технически позволяют генерировать очень широкий спектр опыта взаимодействия, использование VPC влечет за собой моральные осложнения. Возможно, вы не сможете получить определенный опыт в машине опыта, не нарушив этических ограничений, как это было бы во внешней реальности.
iii. ПК ("персонажи игроков", симулированные или оригинальные). Дополнительные этические сложности возникают, если вы хотите получить опыт взаимодействия с конкретными людьми из реального мира. Необходимо будет либо создать точные симуляции этих людей, либо подключить реальных людей к машине опыта, чтобы вы могли с ними взаимодействовать. В любом случае можно предположить, что реальный человек, о котором идет речь, имеет моральное право высказаться по этому поводу; и некоторые люди, предположительно, не согласятся взаимодействовать с вами таким образом. Более того, даже если они будут взаимодействовать с вами, они могут взаимодействовать не так, как вы хотите. Например, вы можете захотеть, чтобы конкретный человек из реального мира погладил вас по волосам, но, как правило, нет никакой гарантии, что этот человек заинтересован в этом - ни оригинальный человек, ни его точная симуляция. В случае с симуляцией технически возможно изменить симуляцию таким образом, чтобы она захотела вступить в тот тип взаимодействия, который вы ищете; однако без предварительного согласия данного человека это, вероятно, будет недопустимо с моральной точки зрения.
Была предложена "многопользовательская" версия машины опыта (в том числе самим Нозиком), в которой множество людей вместе подключаются к машине опыта. Это позволило бы нам вступать в реальные взаимодействия с другими реальными людьми, в том числе с конкретными существующими людьми, которые важны для нас, что устранило бы одну общую причину для отказа от входа в машину опыта. Однако при таком раскладе вы уже не сможете полностью контролировать свой опыт, поскольку теперь он будет зависеть от независимого выбора других людей. Таким образом, этот сценарий нарушает ключевую предпосылку оригинального мысленного эксперимента.
iv. Записи. Представление о том, что вы попадаете в машину опыта, когда нейропсихологи стимулируют ваш мозг с помощью электродов, немного причудливо. Более правдоподобным и эффективным методом было бы сначала загрузить себя в компьютер, а затем взаимодействовать с виртуальной реальностью.117 Это дает нам, по крайней мере, один особый случай, в котором вы можете получить полностью реалистичный опыт глубокого взаимодействия без инстанцирования какой-либо морально значимой сущности (кроме вас самих), а именно: воспроизведение записей выходов других людей. Для этого сначала нужно выполнить один запуск, в котором вы взаимодействуете с VPC или PC (которые сами могут быть загруженными или биологическими). Суперпуперученые записывают историю взаимодействия между вами и этими другими людьми. Когда вы закончите делать все, что хотели, мы вернем ваш разум и окружающую среду в исходное состояние. Теперь у вас есть возможность снова насладиться тем же опытом, но на этот раз без инстанцирования реальных людей. Это будет сделано путем повторного запуска программы, которая реализует ваш разум, инициализированный в точной начальной конфигурации первого запуска; но вместо повторного запуска вычислений, соответствующих разумам ваших партнеров по взаимодействию (или физическому окружению), мы просто извлекаем соответствующую информацию из памяти. Поскольку вы проходите опыт во второй раз, вы можете сделать любой выбор: но поскольку мы уже знаем, какой выбор вы захотите сделать, и поскольку у нас есть запись того, как другие люди и окружающая среда реагировали на этот выбор, нам не нужно заново вычислять эти части и вместо этого мы можем использовать сохраненные данные для определения входных данных, которые получают ваши органы чувств. (Операции вашего собственного разума, конечно, нужно пересчитать, потому что, как мы полагаем, именно они порождают ваш опыт).