Ник Бостром – Глубокая утопия. Жизнь и смысл в решенном мире (страница 2)

"Это правда, что по мере того, как искусственный интеллект становится все более мощным, мы должны убедиться, что он служит человечеству, а не наоборот. Но это инженерная проблема... Меня же больше интересует то, что можно назвать проблемой цели. ...Если бы мы решили такие большие проблемы, как голод и болезни, а мир продолжал бы становиться все более мирным: Какая цель была бы тогда у людей? Какие задачи нас бы вдохновляли на решение?"

И Элон Маск в интервью CNBC:

"Как найти смысл жизни, если искусственный интеллект может сделать вашу работу лучше, чем вы сами? Если я буду думать об этом слишком много, то, честно говоря, это будет удручающе и демотивирующе. Потому что я вложил много крови, пота и слез в создание компаний, а потом я думаю: "А должен ли я этим заниматься?". Потому что если я жертвую временем с друзьями и семьей, которое я бы предпочел, то в конечном итоге все эти вещи может сделать ИИ. Имеет ли это смысл? Не знаю. В какой-то степени мне приходится сознательно отстраняться от неверия, чтобы оставаться мотивированным".

Может быть, в каком-то смысле беспокойство о цели - это проблема роскоши? Если так, то можно ожидать, что утопическое процветание увеличит ее распространенность. Но в любом случае, как мы увидим, проблема гораздо глубже, чем просто избыток денег и материальных благ.

Некоторые из моих друзей любят, чтобы существовала модель воздействия - история о том, почему из всех вещей, над которыми можно было бы работать, то, что они предлагают сделать, окажется самым влиятельным и полезным. Они стремятся к наибольшей ожидаемой полезности.

Если бы я попытался написать такую историю для наших сегодняшних событий, она могла бы выглядеть следующим образом. Наша цивилизация, похоже, приближается к критической точке, учитывая грядущее развитие сверхразума. Это означает, что в какой-то момент кто-то из нас или все мы можем оказаться перед выбором, какого будущего мы хотим, причем варианты будут включать в себя очень разные траектории, некоторые из которых приведут нас в радикально незнакомые места. Такой выбор может иметь серьезные последствия. Но, возможно, некоторые из этих выборов должны быть сделаны под давлением времени, потому что мир отказывается ждать, или потому что мы сами с каждой неделей становимся все безумнее, или потому что промедление означает опережение со стороны более решительных игроков, или потому что мы не хотим останавливаться, опасаясь, что потом никогда не сможем начать двигаться снова. Или, возможно, не существует дискретного времени, когда эти решения принимаются, а вместо этого они принимаются и будут приниматься постепенно с течением времени, но таким образом, что более ранние частичные решения ограничивают диапазон более поздних возможных исходов. В любом случае, может оказаться полезным, если вы направите себя в позитивное русло скорее раньше, чем позже. И если в действительности существует отдельный период решающих обсуждений, было бы полезно подготовить к нему подходящий материал - ну, знаете, снабдить участников обсуждений некоторыми соответствующими концепциями и идеями и помочь им настроиться на нужный лад.

Делайте с этой "историей влияния" что хотите. Еще одно возможное объяснение того, почему я читаю эти лекции, заключается в том, что я согласился на это давным-давно, в момент слабости.

Позвольте мне сказать, чем не является этот цикл лекций. Это не попытка "обосновать" что-то. Напротив, это исследование. При изучении такой глубокой и сложной темы, как та, что находится перед нами, хочется привлечь внимание к множеству соображений, проследить различные направления мысли, приложить руку к конкурирующим оценочным концепциям, позволяя ощутить притяжение каждой мысли и каждой склонности как можно острее и сочувственнее. Не стоит преждевременно отвергать естественную перспективу, даже ту, от которой в итоге придется отказаться. Ведь ценность мнения в подобном вопросе зависит от того, насколько великодушно человек позволил альтернативам играть со своей душой.

Стены из сосисок

Сначала рассмотрим самый простой вид утопии: утопию материального изобилия.

Примером этой утопической концепции является миф о Кокейне, или Стране изобилия. Он был важной частью средневекового воображения и часто находил отражение в народном искусстве и письменности, а также в устной традиции:

"Целый день ничего не делается,

Любой человек - старый, молодой, слабый или сильный.

Там никто не испытывает дефицита;

Стены сделаны из сосисок".

Кокейн - это, по сути, мечта средневекового крестьянина. В стране Кокейн нет изнурительного труда под палящим солнцем или в ночную стужу. Нет черствого хлеба, нет лишений. Вместо этого, как нам говорят, вареная рыба выпрыгивает из воды, чтобы приземлиться у ног человека; зажаренные свиньи ходят с ножами в спине, готовые к разделке; сыры сыплются с неба. По земле текут реки вина. Здесь вечная весна, прекрасная и мягкая погода. Вы зарабатываете деньги, пока спите. Сексуальные табу были ослаблены - мы находим описания монахинь, перевернутых вверх ногами и показывающих свою нижнюю часть. Болезней и старения больше нет. Непрерывные пиры, много танцев и музыки, а также много времени для отдыха и расслабления.

Подобные фантазии встречаются и во многих других традиционных обществах. Например, в классической древности Гесиод писал о счастливых жителях воображаемого ранее Золотого века:

"И жили они как боги, ни о чем не заботясь,

Ничего общего с тяжелой работой или горем,

И жалкой старости для них не существовало.

От пальцев до пальцев ног они никогда не старели,

И наступили хорошие времена. А когда они умерли

Казалось, что сон просто сгреб их.

У них было все хорошо. Земля приносила им плоды.

Все свое, и много чего еще. Веселый народ..."

Во многих отношениях мы сейчас живем в Золотом веке, или в Кокейне, или в Авалоне, Счастливом охотничьем угодье, Земле предков, Острове блаженных, Цветущем персиковом источнике, Большой скале Конфетной горы. "Мы" здесь, конечно, не включает в себя те сотни миллионов людей, которые до сих пор живут в крайней нищете, а также подавляющее большинство сельскохозяйственных и диких животных. Но если мы используем термин "мы" для обозначения людей в этой комнате (мы, счастливые немногие), то, кажется, будет справедливо сказать, что с нашими переполненными холодильниками и круглосуточными службами доставки мы на самом деле достигли довольно хорошего приближения к жареным свиньям, разгуливающим по улицам, и вареным рыбам, прыгающим к нашим ногам. Мы также добились вечной весны - по крайней мере, в наших кондиционированных зданиях и транспортных средствах. Фонтан молодости еще предстоит найти, но болезни значительно сократились, а продолжительность жизни увеличилась. Кроме того, я знаю, что если кто-то хочет посмотреть на женские попки, в том числе на попки явных монахинь, то поиск в Интернете не разочарует.

Тем не менее, мы по-прежнему много работаем. Наша работа в целом менее изнурительна, чем у средневековых крестьян, но все же немного удивительно, что мы продолжаем работать столько часов, сколько работаем.

Предсказание Кейнса

Это утопическое видение Кокейна предвосхищает концепцию прогресса, которую мы находим в современной экономике. В последней идеал выражается более абстрактным лексиконом "производительности", "дохода" и "потребления", а не колбасными изделиями. Но основная идея счастья через изобилие остается прежней.

Так что это может быть хорошим местом для начала нашего исследования - рассмотреть землю и ее ограничения в бинокль экономики и эволюции; а завтра мы также рассмотрим некоторые конечные технологические ограничения. Но я хочу сказать, что, если вы останетесь на весь цикл лекций, вы обнаружите, что направление нашего исследования будет постепенно меняться. Мы спустимся от внешних перспектив и холодных абстракций мрачных наук в долины, где получим более гуманистический и внутренний взгляд на проблемы глубокой избыточности. И он снова изменится, когда мы начнем углубляться в философскую мантию, пытаясь добраться до ядра - ядра наших ценностей, сердца проблемы утопии.

Так что держитесь!

Возможно, я мог бы подробнее рассказать о том, что именно я подразумеваю под проблемой утопии и как планирую к ней подойти. Но я думаю, что будет лучше, если мы просто перейдем к делу, и мы сможем разобраться с любыми дефиниционными или аргументативно-структурными вопросами по мере их возникновения.

Знаменитый экономист Джон Мейнард Кейнс рассматривал цель материального изобилия в своем широко известном эссе "Экономические возможности для наших внуков". В эссе, опубликованном в 1930 году, утверждается, что человечество находится на пути к решению своей "экономической проблемы". Кейнс предсказал, что к 2030 году накопленные сбережения и технический прогресс увеличат производительность труда по сравнению с его временем от четырех до восьми раз. Такой резкий рост производительности труда позволит удовлетворять человеческие потребности с гораздо меньшими затратами, и, как следствие, средняя продолжительность рабочей недели сократится до 15 часов. Такая перспектива обеспокоила Кейнса. Он опасался, что избыток свободного времени приведет к своего рода коллективному нервному срыву, поскольку люди будут сходить с ума, не зная, чем занять все свое свободное время.