Ник Бостром – Глубокая утопия. Жизнь и смысл в решенном мире (страница 77)

Я выдвину три гипотезы, не исключающие друг друга:

Гипотеза о полезности усилий

Мы начинаем жизнь с простых целей. Через некоторое время мы замечаем, что если приложить усилия, то мы с большей вероятностью достигнем этих целей и получим соответствующее вознаграждение. Мы начинаем положительно оценивать само стремление, потому что оно полезно как средство достижения самых разных целей. В конце концов, широкая инструментальная ценность стремления превращается в ценность, преследуемую ради нее самой.

Это можно сравнить с деньгами. Вначале мы не заботимся о них; затем замечаем, что они полезны как средство достижения многих целей, и начинаем желать их по инструментальным причинам; наконец, некоторые люди начинают желать их ради них самих и становятся скрягами.

Вот еще одна гипотеза:

Гипотеза врожденного драйва

У нас есть врожденные психологические побуждения к деятельности и усилиям (наряду с другими побуждениями, например, к отдыху и расслаблению). Возможно, у нас также есть некий врожденный механизм, который хочет, чтобы наша активность и усилия были направлены на достижение определенных целей, и особенно на достижение долгосрочных, внутренне утвержденных целей. Чтобы дать выход этому стремлению, нам нужна цель. Без цели фрустрация этого стремления переживается как недомогание - своего рода внутреннее давление или изнуренное беспокойство, которое может также проявляться как неприятная усталость или неспособность мобилизовать ресурсы и жизненную энергию организма. Тогда цель начинает цениться как средство предотвращения этого неприятного состояния. В конце концов это средство превращается в нечто, что ценится как самоцель.

Мы также можем рассмотреть культурное объяснение:

Культурная гипотеза

В разных культурах целенаправленные усилия в разной степени превозносятся. Как и другие социально подкрепляемые модели поведения, целенаправленные усилия оказываются инструментально полезными - не только потому, что достигается какая-то конкретная цель, но и просто потому, что усилия прилагаются и видно, что они прилагаются. Эта инструментальная ценность целенаправленных усилий затем становится интериоризированной. (Мы можем быть особенно склонны к интроекции ценностей, которые прославляются в нашей культуре и среди наших сверстников, или высоко ценятся в группах, чьего признания мы добиваемся).

Эта гипотеза поднимает вопрос о том, почему в той или иной культуре вообще возникло стремление к целенаправленным нагрузкам. Функциональное объяснение может быть сосредоточено на том, как она помогает обществу процветать и благоденствовать. Сигнальное объяснение может быть сосредоточено на том, что она является трудно подделываемым индикатором других положительных качеств, таких как здоровье, энергия и возможности. Но сигнальное объяснение может также ссылаться на более исторически обусловленные факторы. В некоторых социальных контекстах может оказаться, что праздность и бесцельность посылают более позитивный сигнал, например, указывая на то, что человек настолько талантлив, богат или имеет другие привилегии, что ему не нужно прилагать много усилий. Можно привести и множество других возможных объяснений. Вероятно, реальная история о том, почему в любом обществе сложились те ценности, которые оно исповедует, очень запутанна и сложна.

Гипотезы полезности усилий и врожденного драйва могут предсказать меньшую культурную вариативность в степени, в которой люди в среднем ценят цель, хотя они все еще могут допускать множество индивидуальных вариаций (например, в готовности, с которой разные люди интроинизируют изначально инструментальные ценности). Биологические факторы, несомненно, также оказывают влияние: такие факторы, как уровень дофамина или тестостерона (и чувствительные к ним рецепторы), вероятно, оказывают большое влияние на то, насколько привлекательной кажется человеку жизнь, связанная с напряженной деятельностью. Однако если между разными обществами существуют значительные различия в том, насколько сильно они ценят цель, вероятно, культурная гипотеза играет важную объяснительную роль. Философам, возможно, следует обратить внимание на то, чтобы не интерпретировать идиосинкразическую черту личности или локальную культурную привязанность как универсальную истину о человеческих ценностях.

Чтобы завершить наше исследование ценности цели, давайте теперь предположим самый сложный случай: хотя наличие цели имеет ценность, эта ценность полностью аннулируется, если, как мы можем сказать, цель была порождена намеренно. Другими словами, давайте предположим (ради аргументации), что цели, которые мы либо ставим себе сами, либо искусственно вызываем в себе ради осознания ценности наличия цели или ради возможности активного опыта, не вносят никакого вклада в ценность цели; и давайте также предположим, что цели, полученные через "дар цели", также должны считаться бесполезными. При таких предположениях пластиковая утопия обречена в том, что касается ценности цели?

Это не так однозначно. Я подозреваю, что даже при таком самом строгом стандарте, при котором только (то, что мы назовем) "практические цели" проходят проверку, у нас все еще могут быть возможности обеспечить некоторую цель-ценность.

Есть два направления, в которых мы можем искать такие практические цели. Мы можем искать практические цели, в которых важно только то, чтобы что-то было сделано: мы назовем эти цели агент-нейтральными. Или мы можем искать их там, где важно, чтобы что-то было сделано каким-то конкретным агентом (или типом агента): мы назовем эти цели агентно-относительными.

Сначала мы рассмотрим возможность нейтральных для агента практических целей.

Когда мы обсуждали некоторые связанные с этим вопросы, кажется, во вторник, мы пришли к выводу, что для нас, старых добрых людей, нет никакой надежды угнаться за машинами в плане способности выполнять практически полезные задачи. Однако мы могли бы задуматься, возможно ли нам избежать устаревания, если мы будем готовы совершенствовать себя?

Очевидно, что для того, чтобы это было хотя бы отдаленно жизнеспособным предложением, потребуется нечто гораздо большее, чем анаболические стероиды или когнитивные стимуляторы. Даже тщательная генетическая перестройка человеческого организма была бы совершенно неадекватной, поскольку биологические субстраты фундаментально ограничены с точки зрения плотности энергии, силы, скорости вычислений и многих других основных параметров.190

Поэтому давайте рассмотрим несколько более радикальных вариантов модернизации. Самым естественным первым шагом будет загрузка вашего разума. Затем вы могли бы увеличить скорость своего мышления, пересев на более быстрый компьютер. После оцифровки вам будет легко увеличить количество нейронов, добавить новые типы процессоров, а также высокоскоростные соединения с внешней цифровой инфраструктурой. С помощью таких усовершенствований вы сможете стать сверхразумным.

Думаю, нам не стоит слишком суетиться по поводу непсихических составляющих вашего существа, поскольку мы, кажется, уже смирились с тем, что нас превосходят машины (и многие нечеловеческие животные) по силе, скорости и прочему. Но если вы настаиваете на том, чтобы сохранить свое конкурентное преимущество не только в умственных, но и в физических способностях, то в качестве тела мы могли бы дать вам, например, распределенную сеть продвинутых нанотехнологических актуаторов, позволяющих вам захватывать и манипулировать отдельными молекулами - несколькими числами Авогадро за раз; или, когда вам нужно будет работать с более крупными объектами, ваши наноразмерные актуаторы могут превратиться в большие придатки, достаточно сильные, чтобы позволить вам вырывать деревья из земли. Вы также сможете перепрыгивать высокие здания одним махом и т. д.

Сможете ли вы тогда не отставать от машин?

Я отношусь к этому скептически. На самом деле сомнительно, что мы сможем идти в ногу с машинами и что, даже если мы сможем, мы захотим этого. Но здесь нужно разобраться в нескольких вопросах, поэтому давайте рассмотрим их по порядку.

Первое, что следует рассмотреть, - это какие виды (нейтральных для агентов) практических задач необходимо решать в зрелой цивилизации. Предположим, например, что к моменту технологической зрелости вся инфраструктура достигла такого высокого уровня совершенства, что не нуждается ни в каком обслуживании или активной эксплуатации - все самовосстанавливается и работает само по себе, как самозаводящийся швейцарский часовой механизм. Предположительно, в эту инфраструктуру будет встроен определенный уровень интеллектуальной обработки, но, возможно, все это будет достаточно низкоуровневым и рутинизированным? В этом сценарии большинство задач наиболее эффективно выполняются с помощью простых автоматизированных процессов, действующих в соответствии с заранее вычисленными планами, выполнение которых практически не требует от человека высших познавательных или творческих способностей.

Мы можем представить это как крайнее продолжение тенденций, которые мы можем наблюдать в некоторых областях человеческого рынка труда. Когда-то сапожнику требовалось немного ума и изобретательности, чтобы сделать ботинок. На каком-то более позднем этапе развития работник, производящий обувь, может быть принят на фабрику, где ему поручат собирать подошвы из коробки и ставить их на конвейер: это требует гораздо меньше навыков. Возможно, к моменту технологической зрелости вся производственная деятельность будет оптимизирована и разложена на подзадачи, для выполнения которых не потребуется больше, чем интеллект на уровне насекомого? Тогда проблема не в том, что люди недостаточно способны, а в том, что мы слишком способны, а потому неэффективны. Использовать человеческий разум для выполнения задачи, для которой достаточно простого процессора, например чипа в старомодном карманном калькуляторе, было бы (если не сказать больше) энергетически расточительно.