Ник Бостром – Глубокая утопия. Жизнь и смысл в решенном мире (страница 33)
Есть и другой тип "инвестиционной функции", которую может выполнять родительское воспитание, но он приносит прибыль иного рода. Родители могут вкладывать время и энергию в своих детей в надежде на то, что впоследствии у них будет кто-то, с кем их связывают особые отношения - взаимопонимание, доверие, не манипулятивная любовь, благодарность и чувство глубокой близости. Семейные узы - одни из самых близких и бескорыстных, на которые способно большинство из нас, людей. Однако и эта инвестиционная функция может быть подорвана с наступлением технологической зрелости, поскольку существует более легкий путь к достижению эквивалентного результата. А именно, мы могли бы создавать искусственные личности (полностью артикулированные сознательные человекоподобные существа с моральным статусом), которые находятся с нами в одинаковых отношениях: понимают нас, доверяют нам и похожи на нас так, как это делают наши дети. Это было бы гораздо быстрее и дешевле, чем воспитание человеческого ребенка традиционным способом. Более того, искусственные люди могли бы быть спроектированы таким образом, чтобы обладать большей способностью к любви, благодарности и тесной связи, чем это обычно свойственно нашему падшему виду.
Естественные дети, естественные друзья, естественные любовники: как они могут конкурировать с гораздо более совершенными искусственными альтернативами? Или с искусственными альтернативами, которые несовершенны именно в том смысле, в каком нужно?
По объективным функциональным характеристикам - красоте, обаянию, добродетели, юмору, верности, привязанности и т. д. - естественные люди будут превзойдены. Искусственные люди выиграют любое честное соревнование и сравнение. Они будут лучше.
Но это зависит от вкусов. Возможно, искусственный - это не ваш конек. Или же, возможно, вам не важно, естественный человек или искусственный, но важно, есть ли у вас совместная история, взаимодействовал ли этот человек с вами раньше определенным образом и брали ли вы на себя обязательства по отношению друг к другу. Если это так, то могут существовать физические лица, которые для вас незаменимы. Тогда не имеет значения, насколько технологически продвинутыми станут искусственные заменители, потому что ни один из них не сможет соответствовать вашим критериям. А если основанием для вашего предпочтения какого-то конкретного существующего человека являются общая история и взаимные обязательства, то ни один естественный заменитель также не сможет им соответствовать. Каким бы превосходным в других отношениях ни был заменитель, ему будет недоставать одного ключевого момента: он не будет тем самым Единственным.
В последующих лекциях мы еще вернемся к вопросу о межличностных связях и вообще к возможности того, что человек может отдавать базовое предпочтение человеческим или иным несовершенным, хлопотным и неудобным вещам.
На данный момент мы можем подвести итог нашему обсуждению воспитания детей как возможной целенаправленной деятельности в период технологической зрелости, заключив, что: (а) большая часть, возможно, подавляющее большинство, конкретных действий, связанных с воспитанием детей, может быть охарактеризована как "работа по дому", которую было бы очень заманчиво автоматизировать; (б) хотя качественное время, которое мы проводим с ребенком, кажется более ценным по своей сути, чем выполнение работы по дому, существует потенциальное препятствие, а именно наша вера в то, что мы приносим пользу ребенку, проводя с ним время: "Качественное время" может показаться не таким целенаправленным, если мы будем думать, что ничего не делаем для ребенка или даже слегка вредим ему; (c) по объективным функциональным показателям робо-родители могут превосходить человеческих родителей, так что по этим стандартам для ребенка будет лучше, если человеческие родители уйдут с дороги; (d) однако после того, как ребенок привязался к человеческому родителю, даже объективно лучший робо-родитель может быть не во всех отношениях так же хорош для ребенка, как его человеческий родитель, и, согласно некоторым теориям благополучия, это может быть верно, даже если ребенок не сможет обнаружить, что произошла подмена; (e) в итоге многие из способов, с помощью которых воспитание детей в настоящее время предоставляет возможности для целенаправленной деятельности, будут устранены в период технологической зрелости, хотя, возможно, останутся некоторые возможности, связанные с тем, как у нас возникают связи и желания, направленные на конкретных существующих людей или на общую категорию естественного; и, наконец, (f) наши положения об отношениях между родителями и детьми также применимы ко многим другим формам межличностного взаимодействия, таким как дружба и романтическое партнерство.
От мелкого к глубокому резервированию
На примере этих четырех примеров мы можем понять, что проблема целей гораздо глубже, чем принято считать.
Неглубокое резервирование
Традиционная и относительно поверхностная версия проблемы цели - назовем ее поверхностной избыточностью - заключается в том, что профессиональный труд человека может стать ненужным из-за прогресса в автоматизации, что при правильной экономической политике приведет к наступлению эры изобилия. Это будет состояние всеобщего процветания и материального изобилия. Поскольку в этом случае исчезнет как необходимость, так и возможность заниматься оплачиваемым трудом, это приведет к иссяканию одного источника цели, а именно цели, которую многие люди находят в своей работе.
Решение проблемы мелкой безработицы - развитие культуры досуга. Культура досуга будет воспитывать и обучать людей, чтобы они могли процветать в условиях безработицы. Она поощряет полезные интересы и хобби, способствует развитию духовности и ценит искусство, литературу, спорт, природу, игры, еду, разговоры и другие сферы, которые могут служить площадками для души, позволяющими нам проявлять творчество, узнавать друг о друге, о себе и об окружающей среде, получая при этом удовольствие и развивая свои достоинства и потенциал. Культура досуга будет основывать самооценку и престиж на факторах, отличных от экономического вклада, а люди будут строить свою социальную идентичность на ролях, отличных от роли кормильца (хотя могут быть и игровые среды, позволяющие тем, кто раньше преуспевал в финансовых показателях, проявить и получить признание за свою изобретательность).
Мы рассмотрели несколько примеров более или менее вдохновляющих культур досуга - таких, которые преобладают среди детей, студентов, аристократов, богемы, монахов и пенсионеров. Каждое из этих сравнений многократно запутано. В эпоху изобилия набор возможных культур досуга выйдет за рамки исторических примеров, отчасти из-за беспрецедентного изобилия, которое последует за переходом к ИИ (и продлится до тех пор, пока рост населения не уменьшит прирост на душу населения - или бесконечно долго, если рост населения будет контролироваться) и которое может универсализировать экономические привилегии; а отчасти из-за технологических и других изобретений, которые позволят получить множество новых видов удовольствия (наряду с освобождением от многих страданий, которые раньше мешали процветанию даже самых привилегированных элит).
Глубокое резервирование
Более фундаментальная версия проблемы цели, которая сейчас становится очевидной, - назовем ее глубокой избыточностью - заключается в том, что большая часть досуга также рискует потерять свою цель. Четыре примера показали, что многие из наших обычных причин заниматься нерабочей деятельностью исчезают в период технологической зрелости. И эти наблюдения можно обобщить. На сайте может даже показаться, что нам нет смысла заниматься чем-либо - не работать подолгу за деньги, конечно; но также нет смысла тратить силы на воспитание детей, ходить по магазинам, учиться, посещать спортзал или заниматься на фортепиано... и так далее.
Мы можем назвать это гипотетическое состояние, в котором у нас нет инструментальных причин делать что-либо, эпохой постинструментализма. По мере того как мы движемся к этому невесомому состоянию, отрываясь от гравитационного притяжения земли и ее жестких императивов "пота лба" в отношении наших дней и наших сил, мы можем начать испытывать отчужденное чувство бесцельности, неподкрепленной "легкости бытия". Нам остается смириться с открытием, что место максимальной свободы на самом деле - пустота.
Парадокс прогресса
Я много раз выступал с докладами о будущем ИИ. Почти неизменно мне задают хотя бы один вопрос, в котором поднимается та или иная версия проблемы цели.
Обычно этот вопрос немного запутан. Кажется, что людям трудно сформулировать свою озабоченность. Иногда оно даже не выражено явно, но можно почувствовать недоумение, таящееся под поверхностью, как бессловесный и слепой землекоп, который прокладывает тоннель и, возможно, подрывает фундамент нашего дома.
Попробуем разобраться в причинах этого скрытого беспокойства. Вот одна из возможных линий рассуждений, которая может побуждать задавать вопросы о жизни после успеха ИИ:
В настоящее время и на протяжении всей истории человечества существует множество неотложных задач, которые мы должны решать сами, и множество серьезных проблем, с которыми мы сталкиваемся вместе. Эти задачи и проблемы придают нашей жизни структуру, цель и смысл. Но технический прогресс (и, в более ограниченной степени, накопление капитала) позволяет нам достичь большего количества желаемого с меньшими усилиями. В пределе, при совершенных технологиях и изобилии капитала, мы сможем получить все, что захотим, не прилагая никаких усилий. Тогда нам не к чему будет стремиться. Тогда мы либо сойдем с ума от скуки, либо превратимся в "капельки удовольствия", пассивные умы, испытывающие искусственно вызванное чувство удовлетворения. В любом случае нас ждет антиутопическое будущее.