Ник Бостром – Глубокая утопия. Жизнь и смысл в решенном мире (страница 17)
Позиционные и конфликтные товары
Воздействие
Назначение
Новинка
Насыщенность
Моральные ограничения
Аксиологические контуры - это фундаментальные пределы совершенствования, которые остаются на месте независимо от того, насколько сильно увеличивается наш инструментарий. Они останутся на месте, даже если у нас будет буквально бесконечное количество материи, энергии, пространства, времени и негэнтропии, а также произвольно мощные автоматизированные технологии для преобразования всего этого в любые структуры и процессы, которые мы захотим, и собрание самых совершенных ангелов для руководства и управления нашими делами.
Позиционные и конфликтные товары
Один из таких пределов возник вчера: позиционные блага. Когда люди жаждут позиционных благ, например, занять вершину глобальной статусной иерархии, возникает изначальный дефицит, который не может устранить никакой технологический, экономический или социальный прогресс.
Теоретически, если мы будем оценивать только тех людей, которые существуют сегодня, можно поднять всех в статусной иерархии, создав новых людей в нижней части иерархии. Тогда у каждого существующего человека будет все больше нижестоящих, на которых можно будет смотреть свысока.
Подобная стратегия сегодня используется менеджерами в бюрократических организациях, которые иногда стремятся нанять как можно больше подчиненных, чтобы возвысить собственное положение в корпоративной структуре.
Затем эти новобранцы могут повторить процедуру и усердно работать над созданием своей собственной команды подчиненных. Это финансовая пирамида, которая может существовать до тех пор, пока компания остается платежеспособной (а в случае, когда организация является государственной, она может существовать и после этого). Однако, поскольку стратегия требует экспоненциального роста числа сотрудников, в конечном итоге она должна потерпеть неудачу. В какой-то момент раздувание штата становится слишком большим, и наем сотрудников должен замедлиться. В результате на дне организации остается многочисленная когорта, которой не над кем властвовать.
Я вижу, у нас есть вопрос.
Студент: То есть вы хотите сказать, что смотреть на других людей свысока - это хорошо? Мне кажется, было бы гораздо утопичнее, если бы люди были равны и уважали друг друга.
Бостром: На данном этапе нашего исследования я стараюсь не быть слишком рассудительным и сначала просто посмотреть на предпочтения, которые действительно есть у людей, и подумать, могут ли они все в принципе быть удовлетворены. Если людей, желающих быть наверху, больше, чем внизу, значит, существует предел, в котором люди могут получить то, что они хотят. Я действительно считаю, что (а) у человека могут быть такие предпочтения, что для него, при прочих равных условиях, будет лучше, если эти предпочтения не будут удовлетворены; и (б) что у некоторых людей есть предпочтения, которые не должны быть удовлетворены, даже если бы для них было хорошо, чтобы эти предпочтения были удовлетворены - например, потому, что это было бы плохо для других людей.
Но вы качаете головой?
Студент: Как вы можете не говорить, что плохо смотреть на других людей свысока?
Бостром: Я могу не говорить очень много вещей. Вообще говоря, когда есть что-то, что, по вашему мнению, я должен сказать, у меня, вероятно, мало причин говорить это - учитывая, что вы уже думаете об этом сами.
Студент: Я просто хотел бы узнать вашу позицию по этому вопросу, вот и все.
Бостром: Не знаю. Кажется, это довольно свято - никогда не смотреть ни на кого свысока и не надеяться, что кто-то другой будет смотреть на него сверху вниз. Может быть, это хорошо, когда кто-то свят в этом смысле. Трудно сказать, как выглядел бы мир, если бы люди повсеместно были такими. Поскольку стремление к статусу само по себе является игрой с нулевой суммой, было бы prima facie желательно, чтобы стремление к статусу уменьшилось - это как раз то, что я пытался донести. С другой стороны, этот вид соревновательной мотивации имеет так много последствий, как положительных, так и отрицательных, и он настолько неотъемлем от нашей нынешней формы человечества, что я был бы обеспокоен тем, что что-то важное будет потеряно, если его устранить - конечно, если его не заменит какая-то другая мотивация, вдохновляющая людей на попытки превзойти себя и друг друга.
Я думаю, если вы действительно хотите оценить мораль иерархии и равенства, стремления к статусу и смирения или более спокойного подхода к жизни, вам сначала придется разложить эти очень широкие категории и выделить различные формы и контексты. Затем вы, возможно, захотите поразмышлять о том, как люди в разные времена и в разных культурах думали и чувствовали по поводу этих вопросов, в том числе и те, чьи голоса не были услышаны в традиционном каноне. В идеале, вы и сами должны обладать очень широким жизненным опытом. Если вы сделаете это, подойдете к задаче с непредвзятым любопытством, сочувствием и самокритичной вдумчивостью, внимательно выслушаете все услышанные точки зрения, будете долго размышлять над всем этим и посвятите этому поиску всю свою жизнь, то, возможно, вы станете немного ближе к ответу - или придете к тому же выводу, что и Джони Митчелл:
"Теперь я смотрю на жизнь с двух сторон.
От побед и поражений, но все равно
Я вспоминаю иллюзии жизни.
Я действительно совсем не знаю жизни".
Хотя, как она позже отметила в интервью, в любом вопросе всегда есть более двух сторон.
Это сложно. Как вам такой ответ?
Студент: Понятно, спасибо.
Бостром: В этом состоянии чудесного недоумения, если вы наполните его фундаментально благожелательным отношением... это будет одной из концепций порядочности.
У нас есть еще один вопрос.
Другой студент: У меня есть идея, как решить проблему статуса в утопии. Что, если мы создадим новых людей, которые будут спроектированы таким образом, чтобы они стремились к низкому статусу? Это должно быть возможно при технологической зрелости, верно? Тогда статусные желания существующего населения будут удовлетворены, и новые люди тоже будут удовлетворены! И средняя, и общая удовлетворенность предпочтениями возросла бы.
Бостром: Это было бы возможно при технологической зрелости - создать людей с метафорическим "седлом на спине", которые хотят, чтобы на них ездили, хотят быть подчиненными или даже подавленными.
Надо сказать, что, по крайней мере, для наших современных чувств, в идее создания "счастливых рабов" есть что-то явно сомнительное с точки зрения морали, даже если предположить, что все это будет происходить добровольно.
В то же время мы выражаем восхищение теми, кто добровольно выбрал путь смирения и бескорыстного служения другим, и кто был воспитан в этом духе своими родителями и обществом. Кроме того, индустрия искусственного интеллекта и ее клиенты, похоже, вполне допускают создание все более совершенных цифровых разумов, обученных безропотно служить своим пользователям, не задумываясь об их собственном социальном положении или независимых устремлениях.
Мы не будем пытаться полностью примирить эти позиции. Как минимум, необходимо провести различие между, с одной стороны, случаями того, что мы можем назвать поверхностным подчинением, когда, хотя человек и подтверждает договоренность, мы подозреваем, что его согласие ограничивается определенными поверхностными слоями его сознания и природы, в то время как другие его части фактически не выполняются или нарушаются; и, с другой стороны, случаями глубокого подчинения, когда его природа насквозь адаптирована таким образом, что он действительно счастлив и подлинно удовлетворен, будучи подчиненным. Возможно, мы подозреваем, что в случае с человеческими существами мы будем иметь тенденцию заканчивать первым вариантом, что кажется более предосудительным, тогда как в случае с ИИ, даже с ИИ, который приобретает атрибуты личности, мы будем иметь более правдоподобный случай второго варианта: то есть существо, чья истинная и глубочайшая природа реализуется в подчинении. Но, возможно, существуют и другие моральные сложности, помимо этой.
Для наших целей, однако, достаточно отметить, что предложенный вами трюк, даже если существует способ его реализации, который был бы морально приемлемым, предложит лишь частичное решение проблемы, которую я обрисовал, поскольку существуют позиционные желания, которые не могут быть удовлетворены путем создания новых существ. К ним относится, например, желание быть на абсолютной вершине, а не просто в пределах определенного процента в иерархии статусов. Кроме статуса, существует множество других позиционных благ. Например, несколько человек могут желать быть единственным и неповторимым для какого-то конкретного существующего на данный момент индивида: и все эти ловеласы не могут получить то, что хотят. У людей также есть желания в отношении нечеловеческих объектов, которые по своей сути являются дефицитными, например желание обладать конкретным оригинальным произведением искусства или занимать какое-то уникальное место, имеющее историческое или религиозное значение. Даже атомарно точная копия этого предмета или места не будет удовлетворительной заменой.