Меган О’Гиблин – Бог, человек, животное, машина. Поиски смысла в расколдованном мире (страница 20)

Одна из самых известных легенд о големах – история Иегуды Лёва, Махараля из Праги. Говорят, что рабби Лёв создал голема по имени Иосиф, чтобы помочь пражским евреям охранять свое гетто, которое часто подвергалось нападениям христиан. Голем стоял у входа в гетто всю ночь в качестве дозорного, а днем помогал жителям в работе. Иосиф, как и большинство големов в этих легендах, оживал только тогда, когда в рот ему вкладывали бумажный свиток с начертанным на нем именем Божьим. Рабби Лёв не был уверен, кем следует считать Иосифа – машиной или Божьим чадом, – но, чтобы подстраховаться, решил каждую пятницу вынимать свиток, чтобы голем с остальными евреями соблюдал заповедь о субботнем покое. Но в одну из пятниц раввин забыл вынуть свиток из уст Иосифа, и тот разбушевался, начал крушить все вокруг себя и, по некоторым версиям легенды, убил раввина. Такой вариант истории напоминает другие легенды о наказании человека за его гордыню – мотив, который часто звучит в историях о попытках создать искусственную жизнь. Но есть у легенды и более обнадеживающая концовка: раввину удается достать свиток изо рта голема и спрятать на чердаке синагоги. Затем рабби Лёв придумывает каббалистическую формулу, которая вернет голема к жизни в конце времен. На протяжении многих веков мальчикам, принадлежавшим к традиции рабби Лёва, во время бар-мицвы рассказывали секретную формулу, способную пробудить голема.

В своей книге Фёрст приводит исторический анекдот, который она слышала в Массачусетском технологическом институте, – настолько странный, что я сначала не решалась включить его в книгу, хотя позже нашла ему подтверждение в других источниках. Началось все в 1960-е годы, когда Media Lab руководил знаменитый робототехник Марвин Мински, – сейчас эта эпоха считается «колыбелью ИИ». Однажды два аспиранта MIT Герри Сассман и Джоэл Мозес болтали во время перерыва с другими студентами. Кто-то между делом упомянул, что первый большой компьютер, построенный в Израиле, назывался «Голем». Студенты начали обсуждать легенды о големах, и Сассман рассказал своим коллегам, что он потомок рабби Лёва и что во время его бар-мицвы дед отвел его в сторону и продиктовал формулу, которая пробудит голема в конце времен. Изумленный Мозес ответил, что он тоже потомок рабби Лёва и тоже получил магическое заклинание на бар-мицве от своего деда. Они решили записать заклинание на листках бумаги, не показывая их друг другу, а потом посмотреть, что получилось. Когда они сравнили свои записи, оказалось, что магическая формула – несмотря на то что она веками передавалась из уст в уста – у обоих выглядела совершенно одинаково. В этот момент Мински вышел из своего кабинета и застал своих студентов в ошеломленном молчании. Он спросил, что произошло. Услышав ответ, он удивился: «И вы в это верите? После моей бар-мицвы мой дед рассказал мне то же самое. Вы что, думаете, я в это поверил?» Мински славился своим несгибаемым рационализмом и считал, что религиозная вера несовместима с научным мировоззрением. Когда студенты стали спрашивать, как звучало заклинание, рассказанное ему дедом, Мински упорно отвечал, что забыл.

Непонятно, какие выводы следуют из этого рассказа. Можно предположить, что к карьере в сфере искусственного интеллекта всех этих людей подтолкнули впечатления от преданий, услышанных в детстве. А может быть, вся эта история – не более чем легенда, которую ведущие ученые мира придумали, чтобы выставить свою деятельность в более благородном свете: мол, это не просто исследования, а еще и духовные искания. И Сассман, и Мозес стали профессорами Массачусетского технологического института. Митчелл П. Маркус, специалист по компьютерной технике, который учился у Сассмана в 1980-х годах, пересказывает эту историю в одном из своих эссе и сообщает, что Сассман якобы однажды сказал: «Знаете, на самом деле мы, компьютерщики, – каббалисты сегодняшнего дня. Мы одушевляем неодушевленные машины, правильно подбирая строки символов». Митчелл относит и себя к приверженцам этой философии: «Как ученый-компьютерщик, я вижу, что со всех сторон окружен информацией, и для меня информация – это что-то существующее отдельно от материи». Он отмечает, что современные кибернетика и информатика находятся в полной гармонии с мистическими учениями в иудаизме: «Творить нечто совершенно новое и оживлять сотворенное, оперируя символами, – то есть то, что изучает и практикует информатика, – это одна из способностей, уподобляющих нас Богу, по образу и подобию которого созданы мы сами».

«Мифы о творении можно разделить на два типа, – пишет историк технологии Джордж Дайсон в книге „Собор Тьюринга“. – В одних жизнь зарождается в земной грязи, в других – падает с небес». В истории вычислительной техники, по словам Дайсона, присутствуют оба этих мифа: «…компьютеры возникли из грязи, а код упал с неба». Это дуалистическое мышление, питающее некоторые из самых амбициозных технологических начинаний, наблюдается и в попытках спровоцировать возникновение эмерджентного интеллекта у машин. Совсем как в стародавние времена, когда големов лепили из глины и оживляли при помощи магических формул, современные ученые надеются, что роботы, собранные из материальных физических деталей, вдруг оживут, осененные божественным дыханием – то есть математическими паттернами, которые управляют нашим миром и способны одухотворять сложные системы. Такие нотки мистицизма не дискредитируют саму концепцию эмерджентности – это весьма полезный способ описания сложных систем, таких как климат или пчелиный улей. Однако идея о том, будто сознание может самопроизвольно возникнуть (emerge) внутри машины, кажется попыткой выдать желаемое за действительное – хотя бы потому, что вся сфера цифровых технологий строилась на предпосылке, что сознание не играет никакой роли в мыслительных процессах. Поверить, что самосознание может появиться у технологии, специально разработанной с целью обойтись без сознательного субъекта, столь же трудно, как и поверить, будто наука может «объяснить» сознание, – учитывая, что в основе современной науки лежит отказ от индивидуального, частного опыта в пользу универсального и проверяемого.

На самом деле отвергать эмерджентизм как чистой воды магическое мышление – значит игнорировать существенные расхождения, отличающие его от фольклора. Если заглянуть за мистический фасад, становится ясно, что эмерджентизм зачастую не так уж сильно отличается от самых редукционистских форм материализма, особенно в отношении человеческого разума. Интеллект растений иногда называют «гениальностью без мышления», и, по мнению многих эмерджентистов, мы в этом смысле мало чем от растений отличаемся. Мы не рациональные мыслящие субъекты, а смешение конкурирующих систем, которые не составляют никакого единства и целостности. Мински однажды сравнил устройство человеческого разума с «бюрократическим хаосом», где одно «ведомство» понятия не имеет о действиях другого. Вот как он описывает, например, решение отпить чай из чашки: «ХВАТАТЕЛЬНЫЙ координатор хочет, чтобы вы удерживали чашку в руке. Координатор БАЛАНСА хочет, чтобы вы не пролили чай. Координатор ЖАЖДЫ хочет, чтобы вы выпили чай. ДВИГАТЕЛЬНЫЙ координатор хочет, чтобы вы поднесли чашку к губам». Так же как интеллект пчелиного улья или дорожного движения возникает только на уровне паттерна, организующего пассивные элементы, так и человеческое сознание является всего лишь абстрактными отношениями на пересечении всех этих систем: добравшись до самого низкого уровня интеллекта, вы неизбежно обнаружите механизмы, которые, как выразился Мински, «вообще не умеют думать». В этой модели нет места тому, что мы обычно считаем внутренним опытом или самостью. Историк науки Джессика Рискин утверждает, что эмерджентные теории разума в итоге отрицают само явление, которое призваны объяснить: «Добравшись до этих базовых элементарных механизмов, мы сразу обнаруживаем, что сама идея о разуме как свойстве сознания оказывается бессмысленной».

Даже Брукс с его демиургическими проектами по оживлению роботов называл сознание «дешевым трюком», иллюзией, которая существует только в глазах смотрящего. «Наблюдатель, следящий за системой, – писал он об одном из своих роботов-насекомых, – может с легкостью приписать ей более сложную внутреннюю структуру, чем та, которой она обладает на самом деле. Можно подумать, будто Герберт занимается картографированием местности и заранее строит маршруты, но это не так». Даже самостоятельность, которую иногда демонстрировал Винтик, можно было назвать агентностью или проявлением личной воли только потому, что ее приписывал роботу наблюдатель-человек. Это касается и самих людей: об их сознании можно судить, опираясь исключительно на действия, которые они совершают. В конце концов, ни Брукс, ни Тьюринг не пытались создать машины, обладающие разумом или душой; скорее они стремились показать, что ни разум, ни душа не требуются для того, чтобы машина вела себя «по-человечески».

Исследования искусственного интеллекта, как и исследования интеллекта растений, часто критикуют за антропоморфизм, но за этими упреками стоит непонимание того, как работают метафоры. Популяризаторы идеи о распределенном интеллекте стремятся не спроецировать человеческие качества на неодушевленные объекты, а, скорее, пересмотреть представления о человеческом интеллекте сквозь призму неодушевленных систем. Совсем как Брукс, утверждавший, что мы «слишком уж очеловечиваем людей… которые, в конце концов, являются просто машинами», сторонники изучения растительного интеллекта настаивают, что их цель – отойти от представлений, будто человеческая субъективность чем-то отличается от таковой у других видов. Итальянский эколог Моника Гальяно, прославившаяся своими опытами по изучению «поведения» растений, отмечает: хотя ее регулярно критикуют за антропоморфизацию растений, ее намерения прямо противоположны. «Я заинтересована в фитоморфизации человека, – пишет она. – Мне хочется, чтобы люди стали сильнее походить на растения».