Ник Бостром – Глубокая утопия. Жизнь и смысл в решенном мире (страница 21)
Если бы разумный робот принадлежал кому-то на правах собственности, возможно, это повысило бы нашу склонность говорить, что выполняемые им задачи были автоматизированы? Но, наверное, это все равно что сказать, что рабовладельческое общество "автоматизировало" задачи, выполняемые его рабами?
Я думаю, что в зависимости от того, как именно были созданы роботы, могут существовать глубокие этические различия между случаем человеческого рабства и случаем разумных машин, которые могут принадлежать людям и использоваться для выполнения задач. Эти различия могут быть настолько фундаментальными, что называть разумные машины "рабами" будет неуместно. Возможно, для обозначения этих случаев потребуется ввести новые термины: не автоматизация, не рабство, а некая новая третья категория.
Я не хочу погрязнуть в терминологическом вопросе. Предположим, мы принимаем точку зрения, что разумный труд не является "автоматическим". Тогда мы можем сразу же определить два способа, которыми наша способность к автоматизации может быть ограничена.
Один из них заключается в том, есть ли такие продукты или услуги, которые клиенты предпочитают, чтобы выполнялись разумным существом. Возможные примеры - работа доктора медицины и диджея. Возможно, некоторые люди просто предпочитают, чтобы существо, с которым они имеют дело, осознанно переживало взаимодействие. Тогда эти работы не могут быть полностью автоматизированы.
Другой способ ограничить нашу способность к автоматизации - если существуют определенные поведенческие характеристики, которых нельзя достичь, не генерируя сознательный опыт в качестве побочного эффекта. Например, может оказаться, что любая когнитивная система, способная вести себя очень похоже на человека в очень широком наборе ситуаций и в течение длительных периодов времени, может делать это только путем выполнения вычислений, которые инстанцируют феноменальный опыт. Я не берусь утверждать, так ли это на самом деле. Но если это так, то второе ограничение для автоматизации заключается в том, что может возникнуть потребность в определенных сложных видах поведения или взаимодействий, выполнение которых обязательно порождает разум; поэтому, если мы не считаем разумные процессы автоматическими, работа, требующая таких действий, не может быть полностью автоматизирована.
Все, что я сказал здесь о чувстве, можно сказать pari passu и о моральном статусе. Это актуально, если сознание не является необходимым условием для морального статуса. Например, если некоторые несенситивные формы агентства достаточны для морального статуса , могут существовать рабочие места (например, руководящие должности, требующие гибкого поиска целей в сложных условиях, но, возможно, и многие другие роли), которые могут выполнять только системы, обладающие моральным статусом. И если делегирование задач системам, обладающим моральным статусом, не считается автоматизацией, то и здесь мы имеем ограничение на возможность автоматизации.
Однако важно понимать, что даже если есть задачи, которые могут быть выполнены только разумным трудом или трудом, имеющим моральный статус, это не означает, что для людей не останется никакой работы. Ведь эти задачи могут выполнять нечеловеческие искусственные системы, обладающие разумом или моральным статусом. Такие "машины" (я не думаю, что было бы неправильно называть их так - они были бы высокотехнологичной робототехникой и вычислительной техникой) были бы гораздо эффективнее нас не только в производстве функционально или поведенчески определенных внешних представлений, но и в генерировании субъективной ментальности и в инстанцировании широкого спектра свойств, обосновывающих моральный статус (если это то, что требуется).
Много объявлений... но есть ли у вас необходимая квалификация?
Какие еще существуют потенциальные ограничения для автоматизации?
Регулирование?
Правительства могут запретить использование автоматизации в некоторых отраслях или обложить ее такими высокими налогами, что человеческий труд останется конкурентоспособным даже при достижении технологической зрелости.
Конечно, когда я говорю "оставаться конкурентоспособным", я имею в виду, что нанимать человека для выполнения этой работы было бы эффективно, учитывая действующие правила. Сами правила вполне могут быть неэффективными, снижая общий объем экономического производства по сравнению с более свободным режимом. Чем больше технологических преимуществ у машин, тем больше затраты на предотвращение их использования.
Вполне возможно, что некоторые профессии уже защищены от автоматизации негласным требованием закона о том, чтобы их выполняли люди. Хотя в судах это пока не проверяется, одна из возможных интерпретаций действующих законов заключается в том, что только люди, но не столь же квалифицированные интеллектуальные машины, могут занимать должности законодателей, судей, нотариусов, руководителей, попечителей, членов советов директоров корпораций, опекунов, президентов, монархов и другие подобные юридически или конституционно закрепленные роли. Однако законы могут быть изменены. Если не будет причин сохранять юридические ограничения, запрещающие ИИ, обладающим более высокой компетенцией, выполнять эти функции, некоторые из этих должностей могут оказаться не более защищенными от автоматизации, чем телефонные операторы и туристические агенты.
Символика статуса?
Некоторые важные персоны окружают себя почетным караулом, задача которого - выглядеть уважительно и внушительно. В дорогих отелях, чтобы гости чувствовали свою значимость, перед главным входом выставляют людей в форме. Манекены, даже наряженные и выглядящие вполне реалистично, не справятся с этими функциями.
Наша человеческая способность делать реверансы и кланяться может оказаться тем атрибутом, который окажется наиболее устойчивым к автоматизации. Манекен может быть наделен кибернетической способностью приподнимать шляпу в знак приветствия при приближении посетителя; однако, по крайней мере, как только такое устройство перестанет быть новинкой, многие клиенты предпочтут, чтобы их обслуживал человеческий персонал. Одна из возможных причин этого (о других мы расскажем чуть позже) заключается в том, что человек может быть символом статуса, чего не скажешь о роботе - даже о функционально эквивалентном роботе по внешнему виду и возможностям. При этом даже не обязательно, чтобы можно было легко отличить человека. Человеческая личность может быть установлена только с помощью экспертизы, но она все равно может быть важным фактором, определяющим стоимость, подобно тому как подлинное произведение искусства, созданное мастером, стоит намного больше, чем почти неотличимая копия - возможно, потому, что владеть оригиналом престижнее, чем копией.
Поскольку только люди могут производить "товары и услуги, производимые людьми", люди могут оставаться экономически конкурентоспособными в тех секторах экономики, где важны подобные статусные соображения.
Тема статуса поднималась ранее, когда мы обсуждали пределы роста. Там речь шла о том, что существуют пределы того, сколько статуса можно произвести. Здесь речь идет о том, что некоторые формы производства статуса требуют человеческого труда.
В будущем статусные игры могут измениться, и носителями престижа станут другие вещи. Однако даже если это произойдет, не исключено, что некоторые вещи, которые изначально ценились за их способность придавать статус, останутся ценными в силу своего рода волевой инерции (в процессе, который я позже опишу как процесс "интронизации" ценностей).
Солидарность?
Иногда потребители готовы платить больше за товары, произведенные представителями какой-либо привилегированной группы, например соотечественниками, коренными жителями, местными предприятиями, производителями, работающими по принципу "справедливой торговли", знаменитостями или производителями, с которыми покупателя связывают личные или культурные отношения. И наоборот, такие производственные процессы, как потогонные предприятия, фабричные фермы и механизированное массовое производство, иногда снижают рыночную стоимость создаваемых ими товаров. Почему так происходит? Иногда надбавка к цене отражает воспринимаемую разницу в качестве продукта - но в рассматриваемом нами случае этот фактор скорее работает в пользу автоматизации, поскольку продукты, созданные человеком, объективно хуже. Другая возможная причина связана со статусными мотивами, о которых мы только что говорили. Но не исключено, что предпочтение определенных видов производителей основано на чувстве солидарности. Вы можете покровительствовать определенному продавцу отчасти для того, чтобы продвинуть его или помочь ему каким-то образом, экономически или иным образом. Если хотя бы некоторые будущие потребители хотят, чтобы работа была для людей, они могут доплачивать за товары и услуги, созданные людьми, чтобы сделать их конкурентоспособными по сравнению с альтернативами, созданными машинами. (Мы вернемся к этой возможности в одной из последующих лекций под рубрикой "дар цели").
Религия, обычаи, сентиментальность и особые интересы?
Я прошу прощения за то, что эта категория составлена в виде солянки, но мне нужно куда-то девать кучу предметов, которые, возможно, мы сможем лучше организовать позже. Их объединяет то, что они демонстрируют, как люди предпочитают, чтобы определенные задачи выполнялись людьми, не потому, что человеческий способ более статусный, и не из соображений солидарности, а из-за более непосредственного отношения между тем, что требуют, и человеческими усилиями, которые могли бы пойти на удовлетворение этого требования.