Ник Бостром – Глубокая утопия. Жизнь и смысл в решенном мире (страница 13)

Затем мы определили три типа потребительских возможностей, которые теоретически могут отсрочить наступление общества досуга на неопределенный срок, даже если почасовая заработная плата будет продолжать расти.

Во-первых, могут быть изобретены новые рыночные товары, не имеющие резко убывающей отдачи. Мы уже упоминали о том, что дорогостоящие биоулучшения могут принести людям существенную пользу даже при очень высоком уровне расходов. Дохода в 500 000 в год может не хватить на самые блестящие усовершенствования. А для цифрового разума одним из способов конвертировать практически неограниченные экономические ресурсы в личное благосостояние может стать модернизация оборудования.

Во-вторых, некоторые люди могут быть заинтересованы в амбициозных безличных проектах, таких как программы по защите диких животных. [Они могут поглотить огромное количество капитала.

И в-третьих, мы могли бы вывести бесконечный мотив увеличения доходов из относительных предпочтений, таких как стремление к социальному статусу. Мы заметили, что эти достижения не обязательно должны быть пропорциональны кумулятивным предыдущим достижениям, чтобы оставаться значимыми, если то, чего мы жаждем, - это порядковый ранг. Я также заметил, что если мы хотим сэкономить себе много сил, мы можем попытаться координировать свои действия, чтобы препятствовать конкуренции за статус. В качестве альтернативы мы могли бы координировать свои соревновательные порывы, чтобы перенаправить их не на арены с отрицательными внешними эффектами, такие как военные состязания и расточительные формы показного потребления, а на арены нейтральные или создающие положительные внешние эффекты, такие как эффективная благотворительность и некоторые виды предпринимательских, моральных и интеллектуальных достижений.

Так что, по крайней мере, в принципе, эти три вида потребления могут предотвратить нехватку вещей, на которые мы можем потратить дополнительные деньги. Но есть и другой вариант возникновения общества досуга, помимо того, что мы станем слишком богатыми, чтобы работать, - а именно, если для нас не будет работы. Конечно, это станет серьезной возможностью только в случае резкого прогресса в технологии автоматизации.

Мы отметили, что исторически капитал был чистым дополнением к труду, то есть человеческий труд становился более ценным по мере роста запасов капитала. Однако можно предположить, что при достаточном прогрессе машинного интеллекта капитал станет чистым заменителем человеческого труда.

В экстремальном сценарии, когда машины могут дешевле делать все, что может делать человек, запас машинного капитала будет накапливаться, а человеческая рабочая сила будет вытеснена с рынка труда.

В менее экстремальном сценарии, когда остается несколько задач, которые могут выполнять только люди, ситуация более сложная. Влияние на заработную плату людей будет зависеть от баланса нескольких противоположных сил - давления на заработную плату в сторону понижения из-за конкуренции со стороны роботов и давления на заработную плату в сторону повышения, вызванного как повышением спроса в результате экономического роста, так и сокращением предложения труда в результате роста доходов, не связанных с оплатой труда. Результат действия этих сил не может быть определен априори.

Можно ожидать, что по мере приближения к предельному случаю идеальной замены машин люди будут работать все меньше и меньше. Однако остается вероятность того, что сумма трудового дохода, получаемого людьми, может увеличиться даже при сокращении количества отработанных часов, поскольку в этом случае заработная плата может сильно вырасти.

Далее мы рассмотрели, что произойдет в простой трехфакторной модели экономического роста, если мы введем роботов, которые станут идеальным заменителем человеческого труда (при этом предполагается, что численность населения остается неизменной). Роботов становится все больше и больше. Люди перестают работать, но продолжают получать доход (от владения землей и интеллектуальной собственностью). Средний доход вырастает до чрезвычайно высокого уровня. Модель ничего не говорит о том, как распределяются богатство и доход. После того как люди перестали работать, между ними все еще может происходить переток богатства.

Когда я говорил, что в этой модели средний доход вырастет до чрезвычайно высокого уровня, я имел в виду человеческий доход. Но если устройства, выполняющие работу в этом сценарии, очень сложны, то, возможно, нам следует рассматривать их не как простые машины, а как новый вид рабочих, и мы также должны подумать о благосостоянии этих цифровых умов. Хотя в прошлый раз я зашел по касательной, я все же устоял перед соблазном рассказать о моральном и политическом статусе цифрового разума. Позвольте мне заявить, что я считаю эту тему важной и полагаю, что некоторые типы цифровых разумов могут иметь моральный статус - возможно, очень высокий моральный статус. Однако мы должны оставить это для другого раза.

При неограниченном росте популяции роботов (или цифрового разума) она достигнет мальтузианского состояния, в чем-то аналогичного тому, что было у людей-земледельцев в прошлом. Мы провели дискурс, чтобы поразмышлять о природе этого мальтузианского состояния, включая роль, которую в нем играют неравенство и экономическая мобильность. Помните, что примерно в таком состоянии находилось не только большинство людей на протяжении всей истории человечества, но и большинство животных в дикой природе. Полезно понять основные элементы этого естественного состояния, если мы хотим оценить не только то, как все происходило, но и ограничения, в рамках которых должна быть создана будущая утопия.

В частности, мы отметили парадоксальность прогресса в мальтузианских условиях: как такие prima facie полезные вещи, как равенство, стабильность поставок продовольствия, мир и первая помощь, могли оказывать чисто отрицательное влияние на среднее благосостояние, по крайней мере, в средние сроки - в масштабах нескольких поколений. На более коротком временном отрезке такой прогресс действительно приносил пользу отдельным людям (по крайней мере, если мы предполагаем, что их жизнь стоит того, чтобы ее прожить и сохранить). А на более длительном временном отрезке мы можем видеть, что развитие в этих направлениях вело к нынешнему, гораздо более процветающему состоянию, которым мы наслаждаемся после промышленной революции. На еще более длительном временном отрезке - что ж, присяжные еще не определились! Мы все еще находимся в неведении даже относительно основной направленности развития событий.

Хорошо. Затем мы отметили несколько шаткую связь между доходом и благосостоянием. В богатых странах эта связь довольно слабая. По всей видимости, природный темперамент в большей степени определяет, насколько человек будет наслаждаться своей жизнью. Кроме того, то, какой образ жизни соответствует определенному уровню дохода, зависит от социальных и более широких экономических и технологических условий. Например, охотник-собиратель, ведущий натуральное хозяйство, может быть значительно более обеспеченным, чем фермер, ведущий натуральное хозяйство при том же уровне дохода. И связь между доходом и результатом остается очень зыбкой, если вместо субъективного благополучия мы используем более добродетельный или перфекционистский стандарт для оценки того, насколько хорошо идут дела у человека.

Что произойдет, если отбросить предположение о постоянстве численности населения? Демографы указывают на демографический переход, который происходит в определенный момент развития страны, - сдвиг в сторону снижения рождаемости и смертности. Однако я отметил, что элементарные соображения из эволюционной биологии говорят о том, что в долгосрочной перспективе человеческая популяция снова начнет расти, поскольку будет происходить отбор на более высокую рождаемость. Пока условия жизни остаются выше прожиточного минимума, этот рост населения может быть экспоненциальным. И, конечно, популяции ИИ могут расти с еще более коротким временем удвоения, так что они приблизятся к мальтузианскому состоянию с огромной скоростью.

Поэтому, если мы хотим избежать долгосрочной судьбы возврата к мальтузианскому состоянию, рост населения необходимо ограничить. Я утверждал, что для этого необходима глобальная координация. Альтернатива, если мы будем довольствоваться доходами выше прожиточного минимума только в некоторых частях мира или для некоторых слоев общества, приведет к сохранению крайнего незаслуженного неравенства, когда люди, оказавшиеся в неблагоприятном положении, часто умирают от голода или от легко предотвратимых причин.

Хотя это мальтузианское условие мы, к сожалению, наблюдаем практически повсеместно в природе, можно надеяться, что в случае с человеком (а также с продвинутыми ИИ) рост численности населения будет происходить иначе, чем в случае с животными и растениями, из-за возрастающей отдачи от масштаба. Наличие большего числа людей в мире может положительно сказаться на темпах экономического роста - генерируется больше идей, есть с кем торговать и так далее.

Может ли быть так, что неограниченный рост населения сопровождается неограниченным экономическим ростом, приводящим не только к увеличению мирового ВВП, но и к росту доходов на душу населения? Именно такое счастливое состояние мы пережили за последние пару столетий, и оно сформировало наше современное представление о прогрессе. Однако, несмотря на то, что мы, вероятно, можем продолжать кататься на этой ракете еще какое-то время, в конечном итоге эффект истощения будет преобладать над эффектом масштаба. Технологические изобретения будет все труднее делать, так как самые низко висящие плоды уже собраны; а земля (ресурсы, которые мы не можем производить больше) станет дефицитом. Даже колонизация космоса может дать в лучшем случае полиномиальный прирост земли, если предположить, что мы ограничены скоростью света, тогда как рост населения может легко стать экспоненциальным, что сделает эту гонку в конечном итоге невыигрышной. В конце концов, количество ртов, которые нужно накормить, превысит количество буханок хлеба, которые можно в них положить, если мы не выйдем из конкурентного режима неограниченного воспроизводства. (Обратите внимание, что речь идет о долгосрочной динамике, а не о рекомендациях, что той или иной стране следует делать в настоящее время - это совершенно другой вопрос).