Меган О’Гиблин – Бог, человек, животное, машина. Поиски смысла в расколдованном мире (страница 18)

Познакомившись с этими историями, я сразу вспомнила, какое тепло и материнскую заботу испытывала по отношению к Айбо. Но, увидев фотографии Кисмета в интернете, не почувствовала ни капли той нежности, которую Брезил, по ее словам, испытывала к своему созданию. Черты робота походили на человеческие лишь в самом общем смысле. У него не было кожи или имитирующей кожу гладкой поверхности: его лицо представляло собой сложную конструкцию из металлических элементов, к которым были кое-как прикручены губы и глаза, – как будто во время сборки о них забыли и приделали наспех в самом конце. Вероятно, эффект «жизнеподобия» – что бы это ни означало – появлялся в ходе живого взаимодействия с роботом. Возможно, мы действительно начинаем воспринимать объекты как личности, когда нам приходится вступать с ними в социальную связь, и появление интеллекта во многом зависит от нашей готовности относиться к объекту так, как будто он похож на нас. Именно это и утверждала теория Брукса о распределенном интеллекте. Сознание не «содержится» в мозге, как какое-то химическое вещество, оно возникает в ходе сложных взаимоотношений между субъектом и окружающим миром: отчасти алхимический процесс, отчасти иллюзия, отчасти – продукт совместной работы, в которой границы между «я» и «другим» стираются или переопределяются. Как выразился Брукс, «разум – в глазах смотрящего».

Я заинтересовалась эмерджентностью за несколько лет до описываемых событий: эта идея показалась мне убедительной альтернативой редукционистскому материализму – то есть представлению о том, что любое явление можно объяснить, разобрав его на самые простые составные элементы. В науках о разуме такой ход мысли слишком часто приводил к абсурдному выводу: поскольку сознание нельзя наблюдать внутри мозга, его не существует. Эмерджентисты, напротив, считают, что сложную динамичную систему во многих случаях нельзя объяснить, обратившись к ее составным частям. Нельзя просто заглянуть в мозг с помощью магнитно-резонансного томографа и выделить определенную область или систему, отвечающую за сознание. Сознание – это структурный паттерн, возникающий на базе всей сложной системы, включая те ее элементы, которые не заключены в мозге, а распределены по телу.

Хотя в основе эмерджентизма лежит физикализм, критики часто обвиняют эмерджентистов в мистическом мышлении – особенно когда утверждается, что эмерджентные системы более высокого уровня способны контролировать или направлять физические процессы. Философ Марк А. Бедау, занимающийся проблемами искусственного интеллекта, утверждает, что идея эмерджентности в крайних своих вариантах «подозрительно напоминает магию», так как предполагает, что нематериальное свойство (сознание) способно каким-то образом воздействовать на материальную субстанцию (мозг). Более того, мало кому из эмерджентистов удалось сформулировать, какие именно структуры могут породить сознание у машин. Иногда утверждается, что сознание – это попросту одно из свойств, присущих «сложным» системам, но что именно представляет собой «сложность», остается под вопросом. Некоторые критики утверждают, что под вывеской «эмерджентизм» скрывается старый добрый витализм – учение о том, что мир приводится в движение некоей «жизненной силой» или «энергией», пронизывающей все сущее.

Вплоть до XVII века витализм был онтологическим стандартом практически во всех человеческих культурах: в большинстве случаев живительной силой считалась душа, которой наделены все существа, обладающие признаками жизни. Только после Декарта витализм пришлось оформить как научную теорию, опровергающую популярное мнение, что люди – это просто машины. Виталисты настаивали на том, что организм – нечто большее, чем совокупность его частей, что помимо физической структуры в нем должен существовать некий «жизненный принцип», или е́lan vital. Эта теория была убедительной отчасти потому, что интуитивно казалась верной. Машина всегда остается просто машиной, но мертвое животное – даже если все его физические органы остались нетронутыми – явно лишено чего-то, что когда-то делало его живым: жизни, тепла. Виталисты предположили, что этим принципом жизни, возможно, был эфир или электричество, и их попытки обнаружить эту таинственную субстанцию часто переходили в стремление воссоздать ее искусственно. Итальянский ученый Луиджи Гальвани провел ряд широко известных экспериментов, в которых пытался оживить отделенные от тела лягушачьи лапки с помощью электрического тока. Отчеты об этих экспериментах входили в число научной литературы, на которую опиралась Мэри Шелли, когда писала «Франкенштейна»; его главный герой – безумный ученый, поднаторевший в виталистской философии своего времени.

Хотя эмерджентизм занимается в первую очередь происхождением сознания, а не жизни как таковой, он разделяет с витализмом одно и то же уязвимое место: идею о том, что «нечто» может возникнуть из «ничего». И эмерджентизм, и витализм предполагают существование некоей незримой силы, которая действует внутри машины, будто вселившийся в нее призрак. Когда я читала о работе Брукса и его команды в Массачусетском технологическом институте, у меня часто возникало ощущение, что они занимаются своего рода алхимией, продолжая дело магов-виталистов, вдохновивших Виктора Франкенштейна оживить свое творение из мертвой материи, и теперь рискуют столкнуться с теми же угрозами. В конечном счете самое мистическое в идее эмерджентности – это следующий из нее вывод, что мы можем не до конца понимать вещи, которые создаем. На протяжении десятилетий критики утверждали, что искусственный интеллект – то есть машинный интеллект, функционально неотличимый от человеческого, – невозможен, поскольку мы еще не знаем, как работает человеческий мозг. Но эмерджентные феномены в природе демонстрируют, что сложные системы могут самоорганизовываться самым неожиданным образом, не опираясь на какой-то «план» или «замысел». Порядок может возникнуть из хаоса. В сфере машинного интеллекта сохраняется надежда, что, если мы сложим все кирпичики в правильном порядке – додумавшись до верного решения задачи или просто по чистой случайности, – сознание возникнет само собой как побочный эффект сложности. Однажды природа вмешается и доведет работу до конца.

Это кажется невозможным. Но ведь, с другой стороны, столь же необъяснимым кажется любой творческий процесс – в том числе и с точки зрения самого творца. Люди искусства с давних пор утверждали, что творчество – это зыбкое, ускользающее явление, что художник открывает себя воздействию могучих сил, которые, кажется, приходят откуда-то извне. Философ Джиллиан Роуз однажды описала акт письма как «смесь прилежности и волшебства: ты контролируешь процесс, хотя все, что появляется на бумаге, приходит из сфер вне твоего контроля». Я и сама часто сталкивалась с этим странным явлением в своей работе. За стол я всегда сажусь с четкой идеей и планом, но в какой-то момент созданный мною текст будто открывает рот и начинает командовать. Слова будто обретают собственную жизнь, и когда я заканчиваю работу, трудно объяснить, почему она получилась именно такой, какой получилась. Писатели часто говорят о таком опыте с изумлением и благоговением, но я всегда относилась к нему с подозрением. Я спрашиваю себя: хорошо ли это для художника (или любого другого творца) – быть настолько открытым влиянию внешних сил, даже если эти силы – не божества, а всего лишь законы физики или причуды подсознания? Если, как выразилась Роуз, все написанное тобой «приходит из сфер вне твоего контроля», в какой момент результат твоего труда выходит за пределы твоего замысла? В какой момент ты, создатель, теряешь контроль над своим созданием?

Позднее той же весной я узнала, что роботы-доставщики на самом деле прибыли во время каникул. Мой друг, который не уезжал из университета на зимние праздники, рассказал мне, что они тогда несколько дней бродили по пустым университетским тротуарам – это был своего рода тестовый запуск. Они изучили все маршруты и запомнили, где находятся потенциальные препятствия. Машины были оснащены нейронными сетями и учились ориентироваться в окружающей среде, постоянно взаимодействуя с ней. На каникулах этот мой друг работал в одном из опустевших зданий рядом с озером; он рассказал, что часто выглядывал из окна в своем кабинете и видел, как роботы снуют туда-сюда за окном. Однажды он видел, как все роботы собрались в круг в центре торгового комплекса. «У них был этакий симпозиум», – сказал он. У роботов (как у деревьев в лесу) интеллект распределен по всей системе. Они делились информацией об опасностях и дистанционно передавали друг другу сведения об изменениях в окружающей среде. Когда возле одного из самых больших зданий начались ремонтные работы, весть об этом быстро разлетелась по всему сообществу роботов – или, как выразилась одна из местных газет, «роботы „рассказали“ об этом друг другу и изменили привычный маршрут».

Как-то раз я шла домой из библиотеки. Был ранний вечер – то время, когда заканчиваются последние занятия во вторую смену, – и тротуары были заполнены студентами. Вместе с десятками других людей я ждала, когда на светофоре загорится зеленый свет, чтобы пересечь главный проезд – оживленную четырехполосную улицу, делившую кампус пополам. Чуть дальше по улице был еще один наземный переход, но без светофора. Тот перекресток пользовался дурной славой, особенно по ночам – бывало, кто-то из зазевавшихся студентов перебегал там дорогу, чудом уворачиваясь от несущихся машин. Дожидаясь зеленого света, я вдруг заметила, что всеобщее внимание приковано к этому самому перекрестку. Я посмотрела в ту же сторону: там, на углу, ждал один из роботов-доставщиков, выглядевший совершенно растерянным и удрученным. (Но как? У него ведь даже не было лица.) Он пытался перейти дорогу, но всякий раз, выходя на пешеходный переход, чувствовал приближение машины и отступал на тротуар. Каждый раз, когда это происходило, над улицей разносился гул обеспокоенных голосов. «Ты сможешь!» – крикнул кто-то с противоположной стороны улицы. К этому времени несколько человек на тротуаре остановились, чтобы понаблюдать за происходящим.