Ричард Йонк – Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта (страница 58)

Если все люди, сделанные из одного биологического материала – одни и те же инструкции ДНК, – так отличаются друг от друга, почему мы ждем от машин, что они будут одинаковыми? В частности, если они сделаны по разным схемам, чертежам и методам репликации, это приведет не только к возникновению новых особей, но и собственно новых видов. Как много вариантов возможно в этой области? Сотни? Тысячи? Миллионы? Речь идет не об индивидуальных особенностях личности, но скорее о чем-то близком к межвидовым различиям – психологической дистанции между шимпанзе и москитом. Между плоским червем и утконосом.

Чтобы лучше представить экосистему видов машинного разума, просто оцените биологическое разнообразие, процветающее на планете. Это огромная взаимосвязанная сеть, в которую входят растения, животные, бактерии и вирусы. Каждый вид эволюционировал, каждый получил особую нишу – возможность – в обширной экологической картине. Это дает им максимальный доступ к ресурсам при минимальном расходе энергии, и это решающий фактор для успешного выживания вида. Станут ли машины, как созданные людьми в прошлом, так и строящие сами себя в будущем, настолько разными в этом отношении?

Для естественного отбора необходима мутация, которая станет его движущей силой¹⁴. В природе мутация происходит с относительно стабильной скоростью, но для технологического разума это совершенно необязательно. В эволюционном исчислении используются алгоритмы, основанные на принципах Дарвина. Репродукция, мутация, рекомбинация и отбор по степени пригодности применяются в поиске решений и оптимизации задач. Эти методы уже используются для создания решений, которые никогда бы себе не представил человеческий специалист по эргономике, например высокооптимизированные усовершенствованные антенны, разработанные в Исследовательском центре Эймса при НАСА для программы Space Technology 5 (ST5) и других задач¹⁵. Другие приложения занимаются созданием лекарственных препаратов, обучением нейросетей и разработкой товаров широкого потребления, и это далеко не все сферы применения. Метод быстрого исследования определенной области проблем в поисках оптимального решения может быть крайне эффективен для создания новых разновидностей машинного разума при наличии достаточной вычислительной мощности.

Если бы братья Райт настаивали на создании самолета с теми же механизмами, которые использует птица, мы бы, скорее всего, так и не дождались полетов с работающими двигателями, а коммерческих авиаперевозок наверняка бы не существовало.

Зачем сверхразуму создавать другие разновидности разума, чтобы с ними конкурировать? Даже не учитывая того, что сверхразум будет нам чуждым, а следовательно, нам будут чужды его логические построения, возможно, они будут просто структурообразующими элементами. Они могут выполнять задачи, поглощать энергию или исследовать космос точно так же, как мы сейчас разрабатываем цифровых исполнителей, которые выполняют для нас разные задачи. По множеству причин экосистема возможных видов разума может расти очень быстро.

Следует обратить внимание и на развитие поколений искусственного интеллекта. Условия окружающей среды крайне важны для развития людей и других животных. Точно так же среда важна для искусственного интеллекта, в частности способного улавливать чужие и, возможно, даже испытывать собственные эмоции.

Джулиан Джейнс много и красноречиво писал о том, что сознание в том виде, в котором мы его понимаем, появилось совсем недавно как результат сочетания нужных когнитивных структур, культурных условий и влияния окружающей среды¹⁶. Однозначные доказательства привести сложно, но Джейнс приводит сильные, хотя и спорные аргументы, ссылаясь на множество источников из области искусства, письменности и исторических условий. С другой стороны, Нед Блок опровергает точку зрения Джейнса о том, что сознание и самосознание – продукт одной лишь культуры. В конце концов, аргументирует Блок, как наши далекие предки могли не обладать самосознанием, если у них были те же когнитивные структуры для феноменального сознания и сознания-доступа, что и у современных людей?

Все это, конечно, здорово, но достаточно вспомнить множество исследований, подтверждающих, что разная окружающая среда может по-разному влиять на психологическое развитие. Даже с точки зрения модели Блока аргументы Джейнса не лишены оснований. Среда формирует сознание.

Рассмотрим истории диких детей, например Каспара Гаузера и Виктора из Аверона, жертв беспощадных трагических обстоятельств, выросших без нормального социального воздействия. Задержка этих детей в развитии была настолько огромной, что они так и не смогли полноценно вписаться в общество. Тем не менее не вызывает сомнений, что они обладали феноменальным сознанием, способным воспринимать и оценивать мир при помощи чувств. Возможно, их восприятию не хватало глубины и тонкости из-за отсутствия культурного контекста, но вряд ли они стали бы отрицать, что роза красная. Кроме того, у них был доступ к сознанию – иначе как бы они вообще выжили?

Что бы произошло, если бы социальная изоляция этих детей была действительно абсолютной? Доведем ситуацию до крайности и предположим, что у них не было доступа к ощущениям, к миру, любой разновидности иноковости. Как могло происходить их развитие? Стали бы они развиваться вообще или просто зачахли бы и умерли?¹⁷ Хотя мир, в котором они росли, был далеко не идеальным, тем не менее он существовал, а следовательно, они могли с чем-то взаимодействовать. С этой точки зрения их сознание (или его отсутствие) кардинально изменилось из-за перемены среды.

Что бы произошло с настоящей сложной машиной, искусственным интеллектом или роботом, обладающей разумом в достаточной степени, которая находилась бы в полной и абсолютной изоляции от кого бы то ни было, чего бы то ни было и любой опыт чувственного воздействия для нее был бы исключен? Как бы она развивалась? И наоборот, изменились бы ее способы взаимодействия с миром благодаря намного более богатому предыдущему опыту? Готов поспорить, ответом на последний вопрос должно быть «да».

Феноменальное сознание должно по определению напоминать улицу с двусторонним движением. Чтобы пережить некое явление, оно должно быть сначала доступно разуму. Без феноменального сознания – без эмоций или способности ощущать и интерпретировать окружающий мир и вообще какой угодно мир – что будет с любым, будь это животное или вообще любой разум? Насколько еще возможно его изолировать?

В статье «Принцип соответствия сознания и мира» (The Mind-World Correspondence Principle) эксперт в области искусственного интеллекта Бен Герцель излагает теорию всеобщего разума, в которой (в самом общем смысле) последовательности состояний мира отображаются в состояниях сознания по мере развития разума¹⁸. Во многом именно так происходит становление нашего сознания с момента рождения. Все элементы окружающего мира – физические, интеллектуальные, эмоциональные, социальные и культурные – отображаются в наших растущих умах, создавая богатую внутреннюю реальность, которая специфическим образом настроена на реальность внешнего мира. Всё, от интуитивного понимания гравитации до приемлемых форм эмоционального и социального поведения и глубоко укоренившихся религиозных верований, постигается через опыт и оптимизирует наш разум в соответствии с культурой, в которой мы живем, и миром, который нас окружает.

Из-за этого, несмотря на то что пересечение между одной средой и другой может быть весьма обширным, различия неизбежны. Если разум оказывается в среде, которая заметно отличается от той, где он рос, эти различия могут привести к значительному непониманию и смятению.

Предположим, мы хотим, чтобы наши машины, становящиеся все более разумными, переняли наш образ мышления, насколько это возможно (для разума, который основан на принципиально ином субстрате). Возможно, нам это удастся, если «воспитать» их и поместить в среду обучения, которая будет схожа с нашей собственной. Очевидно, этот процесс будет включать в себя множество различных компонентов, но основным из них будет эмоциональное окружение, которое подпитывает нас и помогает вписаться в общество на протяжении всего периода развития. Ожидать, что такой подход окажется эффективным для небиологического разума, было бы слишком, но все же его стоит изучить.

Эмоции могут стать той средой, которая позволит совместить машинный разум с человеческим. Они необходимы, если мы хотим добиться взаимодействия с минимальным количеством проблем в нашем, хотелось бы надеяться, общем будущем. «Хотелось бы надеяться», потому что пока человечество не может совершить шаг вперед без технологии, но скоро придет время, когда технология сможет совершить его без человека. В наших интересах сделать так, чтобы этого не случилось. Об этом и пойдет речь в заключительной главе.

Глава 18

Будут ли ИИ мечтать об электроовцах?

«Унаследуют ли роботы землю? Да, но они будут нашими детьми»

На протяжении примерно трех миллионов лет человечество и технология идут параллельными, хотя и разными путями. С учетом того, как мы поддерживаем друг друга, это состояние можно назвать совместной эволюцией. Технология достигла своего современного уровня целиком и полностью благодаря мышлению и усилиям человека. Но и мы без технологии были бы совершенно другим видом, если бы вообще выжили. Таким образом, мы обязаны друг другу своим нынешним процветанием.