Ник Бостром – Глубокая утопия. Жизнь и смысл в решенном мире (страница 4)

Другой студент: А как же глобальное потепление?

Тессиус (шепотом): Некоторые из них особенно легко автоматизировать.

Бостром: Ну, я думаю, мы должны сделать некоторые постулаты, чтобы сфокусировать наши исследования на главном вопросе, который мы будем изучать в этом цикле лекций. Это означает, что мы полностью отбросим ряд практических вопросов, чтобы добраться до философской сути. Если говорить более конкретно, мы проводим мысленный эксперимент, в котором предполагаем, что технологические и политические трудности каким-то образом преодолеваются, чтобы мы могли сосредоточиться на проблеме того, что я называю "глубокой утопией". Я планировал поговорить о технологических граничных условиях завтра, так что, надеюсь, тогда все станет немного яснее.

Так что, как я уже говорил, всегда можно создать больше людей, особенно цифровых. Количество цифровых умов, которые вы можете создать, пропорционально количеству вычислительных ресурсов, которые вы можете задействовать, а это, как мы можем предположить, пропорционально количеству денег, которые вы можете потратить.

Конечно, этот тип масштабируемой альтруистической мотивации предназначен только для моральной элиты. Если вы не заботитесь о том, чтобы в мире появилось больше радостных существ, и у вас нет достаточной универсальной заботы о благополучии и страданиях других разумных существ, которые уже существуют, и у вас нет какого-то другого бесконечно амбициозного неэгоистического проекта, которым вы могли бы увлечься, то вы не сможете пить из этого фонтана и вам придется искать другие способы утолить жажду цели. -Давайте зададим еще один вопрос.

Еще один студент: Что вы имеете в виду под "цифровыми умами"?

Бостром: Разум, реализованный в компьютере. Например, это может быть загрузка человеческого или животного разума или ИИ такой конструкции и сложности, которая делает его моральным пациентом, то есть тем, чье благосостояние или интересы имеют значение сами по себе. Я думаю, что в случае с сознательным цифровым разумом это было бы prima facie аргументом, хотя я не считаю, что сознание необходимо для морального статуса. Для целей данной дискуссии, вероятно, ничего существенного от этого не зависит.

Ладно, давайте продолжим. Нам нужно многое успеть.

Стремление к большему

Я уже упоминал третью причину, по которой мы можем продолжать упорно трудиться даже при очень высоком уровне дохода: а именно, что наши аппетиты могут быть относительными, что делает их коллективно ненасытными.

Предположим, мы хотим, чтобы у нас было больше, чем у других. Мы можем желать этого либо потому, что ценим относительное положение как конечное благо, либо, наоборот, потому, что надеемся получить преимущества от своего возвышенного положения - например, преимущества, связанные с высоким социальным статусом, или безопасность, которую можно надеяться обрести, имея больше ресурсов, чем у противников. Такие относительные желания могут стать неисчерпаемым источником мотивации. Даже если наши доходы вырастут до астрономического уровня, даже если у нас будут полные бассейны наличности, нам все равно нужно больше: ведь только так мы сможем сохранить свое относительное положение в сценариях, где доходы наших соперников растут соразмерно.

Заметьте, кстати, что в той мере, в какой мы жаждем положения - будь то ради него самого или как средство достижения других благ, - мы все могли бы выиграть, если бы скоординировали свои усилия. Мы могли бы создать государственные праздники, законодательно установить 8-часовой или 4-часовой рабочий день. Мы могли бы ввести круто прогрессивные налоги на трудовые доходы. В принципе, такие меры могли бы сохранить рейтинг всех участников и достичь тех же относительных результатов при меньшей цене пота и труда.

Но если такой координации нет, мы можем продолжать упорно работать, чтобы не отстать от других людей, которые продолжают упорно работать; и мы застряли в крысиных бегах миллиардеров. Вы просто не можете позволить себе халтурить, чтобы ваш чистый капитал не застрял в десятизначной цифре, в то время как у вашего соседа он взлетел до одиннадцати...

Представьте, что вы стоите на палубе своей мегаяхты SV Sufficiens. Вы скользите по океану, делая хорошие успехи со своей спутницей, которая впечатлена. Вы придвигаетесь ближе, готовясь к поцелую, и... в следующий момент вы позорно сваливаетесь на борт гигаяхты вашего коллеги, NS Excelsior, которая с ревом проносится мимо вас. А вот и он, на корме своего куда более грандиозного судна, покровительственно ухмыляется вам вслед и размахивает своей дурацкой капитанской фуражкой! Момент испорчен.

Также возможно стремление к улучшению как таковому: желание, чтобы завтра у нас было больше, чем сегодня. Это может показаться странным желанием. Но оно отражает важное свойство человеческой аффективной системы - тот факт, что наш механизм гедонистической реакции привыкает к достижениям. Мы начинаем воспринимать свои новые приобретения как должное, и первоначальный восторг проходит. Представьте, как бы вы сейчас радовались, если бы такого привыкания не происходило: если бы радость, которую вы испытали, получив свой первый игрушечный грузовик, не ослабевала до сих пор, а все последующие радости - ваша первая пара лыж, первый велосипед, первый поцелуй, первое повышение - продолжали складываться друг на друга. Вы были бы на седьмом небе от счастья!

Лимбическая система (этот старый хитрец) не дает нам покоя. Гедонистическая беговая дорожка постоянно проседает под нашими ногами, заставляя нас продолжать бежать, но не давая нам добраться до какого-нибудь принципиально более веселого места.

Но как это стимулирует к работе в мире радикального экономического изобилия? Мы можем жаждать улучшений как ради них самих, так и в качестве средства получения вознаграждения, но все равно кажется, что эта жажда зависит от наличия других желаний, определяющих, что считать улучшением. Я имею в виду, что если бы вы не хотели игрушечный грузовик с самого начала, то его получение не было бы улучшением и не принесло бы вам радости. Значит, нам нужно какое-то базовое благо, которое вы можете продолжать накапливать и получать больше. Если такое благо есть - возможно, это биомедицинские усовершенствования или альтруистические инициативы, о которых я говорил ранее, - то желание, чтобы все улучшалось, может служить усиливающим фактором, давая нам еще более веские причины продолжать работать сверх тех, что дает нам желание получить само базовое благо.

Вот вам и стремление к совершенствованию как таковому. Но давайте вернемся к желанию иметь больше, чем другие люди, - больше денег или больше эксклюзивных символов статуса. Это желание, кажется, может существовать само по себе, не предполагая, что есть какое-то другое, более базовое желание, определяющее беспредельную метрику совершенства. (Строго говоря, если то, что мы хотим иметь больше, чем другие, - это социальный статус, то конструкция может потребовать существования дополнительных желаний в том смысле, что мы особенно хотим иметь больше, чем другие люди, чего-то, чего они также жаждут: но предмет, о котором идет речь, в корне произволен и не должен быть желанным для кого-то ради него самого, кроме той роли, которую он играет как фокус такого социального противостояния - это может быть NFT или кофе циветты или что-то еще, чего вряд ли кто-то захочет, если другие не захотят этого тоже).

Таким образом, стремление к относительному положению - многообещающий источник мотивации, который может подтолкнуть к работе и напряжению даже в условиях, когда "экономическая проблема человека" решена. При условии, что доходы других людей будут расти примерно одновременно с нашими собственными, тщеславие может помешать нам бездельничать независимо от того, насколько богатыми мы станем.

Стремление к относительному положению имеет еще одну особенность, которая позволяет ему быть мотиватором в эпоху изобилия. Ранжирование в значительной степени носит порядковый характер. Иными словами, важно то, у кого больше, чем у кого, а не то, насколько больше. Так, если яхта вашего соперника имеет длину 10 метров, то важно, чтобы ваша яхта была не менее 11 метров. Аналогично, если его яхта 100 метров, важно, чтобы ваша была длиннее - но не обязательно на 10 %, чтобы сохранить преимущество; достаточно 101 метра. Это удобно, потому что означает, что в той степени, в какой мы жаждем такого рода порядкового социального ранга, объективные достижения, которые мы делаем, не должны быть пропорциональны нашим совокупным предыдущим достижениям, чтобы оставаться значимыми. Небольшие инкрементные достижения могут оставаться очень привлекательными, если они способны изменить наш ранг в соответствующей группе сравнения.

Совершенная или несовершенная автоматизация

Разве мы не можем работать только потому, что нам нравится работать? Ну, я не буду считать работу работой, если мы занимаемся ею просто потому, что нам это нравится. Но что, если мы получаем удовольствие, потому что это полезно? Тогда, кроме удовольствия, должна быть еще какая-то причина, например, одна из тех, которые мы обсуждали. Повторим, что три типа потребительских желаний, которые могли бы побудить людей работать даже при очень высоком уровне производительности и дохода, были следующими: приобретение новых товаров и услуг, которые обеспечивают некоторую несравнимую личную выгоду; реализация амбициозных социальных проектов; и приобретение позиционных товаров, которые помогают обрести статус.