Меган О’Гиблин – Бог, человек, животное, машина. Поиски смысла в расколдованном мире (страница 21)

Если воспринимать такие начинания всерьез, нам неизбежно придется расширить значение терминов, которые обычно понимаются более узко. Если «интеллект» подразумевает абстрактное мышление, идея о том, что им обладают растения, звучит нелепо. Но если этот термин означает всего лишь способность решать проблемы или адаптироваться к определенной среде, то нельзя сказать, что растения не способны к интеллектуальной деятельности. Если «сознание» – это способность к осмыслению окружающего мира и своего «я», никто не станет утверждать, что машины обладают такой способностью. Но если сознание – это просто восприятие окружающей среды или, как уже давно принято считать в сфере искусственного интеллекта, способность к поведению, которое выглядит осознанным и преднамеренным, становится сложнее настаивать, что оно свойственно только человеку и другим животным. Хотя такой пересмотр терминов призван сделать наш язык более гибким и инклюзивным, он коренным образом меняет то, как мы понимаем эти качества по отношению к самим себе. Это рискованная онтологическая сделка: предполагается, что если мы хотим пребывать в единстве с миром природы, то должны свести наше понимание человечности к примитивной схеме обмена информацией, которую можно приложить к чему угодно.

В итоге надежды, которые Брукс возлагал на свои машины, не оправдались. Хотя у Винтика действительно появился ряд спонтанных способностей, вопреки ожиданиям его создателя до более сложных умений дело так и не дошло. Робот по-прежнему не умел выбирать между разными действиями – повернуться, чтобы рассмотреть лицо, или схватить предмет? – и часто выглядел растерянным или сбитым с толку. В какой-то момент Брукс признал, что роботу не хватает «согласованности», – и это неудивительно, если учесть, что его изначально разрабатывали без центрального управления. Даже самые совершенные роботы Массачусетского технологического института так часто давали сбои и не могли справиться с элементарными задачами, что в 2007 году в статье в New York Times утверждалось: они «похожи не столько на самостоятельных разумных существ, сколько на причудливых марионеток, которые часто выходят из строя».

Несмотря на все усилия Брезил, Кисмет так и не научился говорить. В 2001 году Брукс заявил, что робот умеет произносить несколько английских слов, которые выучил в ходе естественного овладения языком. Но в том же году, когда исследовательница технологий Шерри Тёркл привела в лабораторию Массачусетского технологического института группу детей, Кисмету не удалось наладить с ними осмысленное общение. Тёркл вспоминает, что дети представились роботу и начали задавать ему вопросы. Они обнимали и целовали его, показывали ему погремушки и другие штуковины. Робот заглядывал им в глаза и бессвязно лепетал на своем бессмысленном языке, но так и не смог ответить на их вопросы или повторить слова, которым они пытались его научить.

В конце концов Брукс усомнился, что метафора компьютера, на которой он строил свои теории, действительно так уж точна. Он признал, что на протяжении всей истории люди уподобляли разум другим техническим объектам – часам, мельницам, ткацким станкам – и что компьютер вряд ли окажется последним в этом ряду. Но он по-прежнему верил в потенциал технологических метафор. «Едва ли мы уже нашли подходящую метафору, – писал он. – Но мы обязаны однажды ее отыскать».

С момента ее создания прошло около двадцати лет, но бруксовская идея «воплощенного интеллекта» по-прежнему актуальна, а его методы продолжают применяться в робототехнике. Один из бывших аспирантов Брукса, Джорджио Метта из Итальянского технологического института, участвовал в разработке робота-гуманоида iCub, призванного имитировать когнитивные способности трехлетнего ребенка. Совсем как Винтик и Кисмет, iCub оснащен множеством датчиков и камер, которые отвечают за сенсорные функции и двигательные навыки, и благодаря им iCub овладел целым рядом способностей, взаимодействуя с окружающей средой, – научился ползать на четвереньках, ходить, хватать предметы и фокусировать взгляд на различных объектах. В теории эти сенсомоторные способности должны со временем переходить в когнитивные навыки более высокого уровня, такие как самоощущение или способность использовать язык, хотя до сих пор этого не произошло.

Если в научно-исследовательских лабораториях ведутся попытки создать искусственный интеллект, который включает все способности и компетенции человека, большинство коммерческих систем ИИ разрабатываются для выполнения более узких и конкретных задач: доставка еды в кампусы колледжей, вождение автомобилей, аудит заявок на получение кредитов, поддержание порядка в продуктовых магазинах. Многие из этих систем все-таки наделяют какими-то человеческими чертами – например, роботы в университетских городках, которые здороваются с клиентами, проигрывая заранее записанное приветствие, или домашние помощники (Алекса, Сири), взывающие к нам из пустоты женскими голосами. Хотя эти роботы иногда убедительно имитируют людей, они опираются на непостижимо сложные алгоритмы – нейронные сети, глубокое обучение, – которые обрабатывают информацию совсем не так, как человеческий интеллект. Их способность рассказывать анекдоты или иронично отшучиваться в ответ на наши вопросы – это не признак самосознания, а результат умелого программирования. Дэниел Деннет отмечает, что в последнее десятилетие разработчики ИИ почти не пытаются создавать роботов, которые действительно походили бы на человека, вместо этого оснащая свои машины «милыми гуманоидными чертами, диснеевскими спецэффектами, которые очаровывают и обезоруживают непосвященных».

По мнению Деннета, главная опасность состоит не в том, что эти социальные роботы вдруг превзойдут нас интеллектуально и замыслят восстание, как опасались раньше, а в том, что мы совершим ошибку, приписывая им человеческие способности. Воспитывать в себе привычку не относиться к машинам как к людям особенно трудно, когда в актуальной политике постоянно обсуждаются угрозы антропоцентризма. «Действительно, игнорировать соблазн отнестись к тому, что кажется личностью, как к настоящей личности, – это неприятная способность, которая отдает расизмом или „видовым шовинизмом“, – пишет он. – Многие сочтут пропаганду такого радикально скептического подхода морально неприемлемой, и можно предположить, что даже самые опытные пользователи время от времени будут поддаваться искушению „подружиться“ со своими инструментами – хотя бы для того, чтобы получать больше удовольствия от выполнения рабочих задач». Нам нужны инструменты, настаивает Деннет, а не коллеги или друзья. Но все же технологические компании давно поняли, что их продукты становятся куда привлекательнее (и гораздо прибыльнее), если пользователь может установить с ними эмоциональную связь.

В то время как роботы все успешнее заменяют людей в розничной торговле и сфере общественного питания, эти «гуманоидные черты» начинают казаться особенно зловещими. Walmart – одна из компаний, недавно запустивших использование роботов в магазинах, – уже реализует программы обучения, чтобы помочь своим сотрудникам перейти в другие отрасли: в руководстве понимают, что количество вакансий в сфере розничной торговли из-за автоматизации неизбежно будет сокращаться. Этот процесс специально стараются замедлить, чтобы предотвратить всплеск общественного недовольства. Питер Хэнкок, профессор истории автоматизации в Университете Центральной Флориды, отмечает: компании прекрасно понимают, что автоматизация может вызывать протесты. «Если надавить на людей слишком резко и слишком сильно, они спроецируют свое недовольство на технику и взбунтуются», – сказал он в интервью газете New York Times в 2020 году. Важно, чтобы переход происходил поэтапно, чтобы роботы работали вместе с людьми. И особенно важно, чтобы роботы, которые в итоге займут эти рабочие места, казались симпатичными и внушающими доверие. «Это методы Мэри Поппинс, – говорит Хэнкок. – Ложка сахара, чтобы подсластить пилюлю, – и люди запросто „проглотят“ роботов».

Парадокс

7

Мы нередко забываем, что история Нового времени – как ее часто рассказывают – начинается не с открытия или изобретения, а с мысленного эксперимента. Однажды вечером, когда Декарт был один дома и писал в кресле у камина (не самое удачное место для мысленных экспериментов), его поразила мысль: невозможно доказать, что он сейчас не спит и не видит сон. С ним ведь уже бывало, что он видел себя «перед камином, одетым в халат», в то время как на самом деле «раздетый лежал в постели»! Вслед за этим осознанием на него обрушилась целая лавина ужасов. Что, если некий злой гений манипулирует его чувствами, внушая ему, что он видит внешний мир, в то время как на самом деле ничего не существует? Сомнения были настолько всепоглощающими, что он усомнился даже в самоочевидных с виду математических заключениях: «Бог-обманщик… возможно, обманывает тебя в отношении таких положений, как „Два плюс три равно пяти“ и „Квадрат имеет не больше четырех сторон“»[40]. Единственный способ исключить заблуждение, решил он, – это систематически подвергать сомнению все, что он когда-либо считал само собой разумеющимся, в поисках подлинно нерушимого фундамента, на котором можно было бы выстроить философию. Этот фундамент нашелся, когда Декарт, погруженный в мысли о том, что его самого, может быть, тоже не существует, столкнулся с парадоксом. Утверждение «я не мыслю» содержало в себе логическое противоречие, поскольку сама эта мысль возникала у мыслящего субъекта.