Андрей Курпатов – Иной разум. Как «думает» искусственный интеллект? (страница 5)

Философия продемонстрировала нам неспособность объяснить «понимание», да и редукционистский бихевиоризм Берреса Фредерика Скиннера[20], утверждавшего, что нам не следует даже пытаться проникнуть в «чёрный ящик» сознания, тоже сдался под напором критики.

Так что настал момент, когда пальму первенства в объяснении феномена «понимания» переняла когнитивная психология. Отцом когнитивной революции стал молодой тогда ещё Ноам Хомский, бросивший вызов Скиннеру[21].

Аргумент Хомского был прост и убедителен: ребёнок не может выучить язык во всей его сложности, просто копируя взрослых. А следовательно, в мозге должна существовать врождённая способность к «пониманию» – универсальная грамматика.

Впрочем, подход Хомского позволил лишь описать внутреннюю структуру языка, а этого совершенно недостаточно, чтобы объяснить само наше мышление. Собственно, этот вопрос и стал основным для его учеников-отступников – с одной стороны, Джорджа Лакоффа и Марка Джонсона, и чуть позже, с другой, Стивена Пинкера.

Лакоффу и Джонсону принадлежит знаменитая работа «Метафоры, которыми мы живём»[22], где они показали, что понимание – это не просто умственная операция, а скорее перенос внутренних схем с одних ситуаций на другие. Проще говоря, мы понимаем что-то новое, когда нам предлагают подходящую метафору.

Прислушаемся к тому, что мы говорим: «будущее ждёт нас впереди», «отношения – это сложный квест» или, например, «душевная тяжесть» и «эмоциональная гибкость». Это даёт нам ощущение понимания, но на самом деле перед нами классические метафоры.

Строго говоря, «будущее» не может «ждать». И почему оно делает это именно «впереди» – речь же не про пространство? «Отношения» – это что-то между двумя людьми, так при чём тут «квест»? И какая «тяжесть» или «гибкость» может быть у того, что, в общем-то, нематериально?

Но да, нам нужны понятные, укоренённые в нашем сенсомоторном опыте переживания, чтобы схватить суть того, о чём идёт речь. То есть понимание возникает не в системе абстрактных представлений, а через перенос схем из телесного мира в мир идей.

В книге «Субстанция мышления» Стивен Пинкер идёт ещё дальше[23]. Он показывает, что язык не просто описывает мир, а буквально повторяет его структуру. Пространственные координаты, причинность, время – всё это не абстрактные категории, а формы, в которых мы телесно переживаем мир.

И наш язык, по сути, моделирует структуру нашего поведения в физическом мире, а затем переводит её в символическую форму, чтобы мы понимали, о чём идёт речь. Когда мы строим предложение, мы фактически выстраиваем модель мира – соотношение объектов, действий, состояний.

Например, фраза «Мяч покатился к двери» – как мы понимаем её смысл? Здесь «мяч» – объект, «покатился» – действие со встроенной динамикой (движение по поверхности), «к двери» – указание направления.

Смысл рождается мгновенно, потому что и в нашем собственном опыте движения мы действуем по тем же схемам: объект → движение → цель. Язык просто переводит этот телесный паттерн в символическую форму.

Или другой пример – «Он преодолел трудности». Трудности – не физическая стена, но мы схватываем смысл через ту же телесную схему: есть препятствие → движение вперёд → усилие → победа.

Таким образом, мы что-то понимаем не потому, что нам оно каким-то чудесным образом «открылось», а потому, что мы спроецировали на реальность свой способ существования в собственном теле.

Когда мы строим предложение, мы фактически моделируем свою реальность: кто-то действует, что-то происходит, причём в какой-то последовательности.

Язык повторяет и базовые координаты нашего физического опыта – пространство, время, причинность – в мире абстрактных идей, наших представлений. Вот почему «будущее» может «ждать», а «душа» – быть «тяжёлой»: мы нашли способ перенесения телесного опыта в символическое пространство.

Но если так, то что мы тогда «понимаем»? Мы же просто проецируем себя вовне. То есть, по существу, себя же и познаём? Да, это даёт нам ощущение «понимания», но оно иллюзорно. Проецируя своё мировоззрение на другого человека, мы, согласитесь, часто ошибаемся. Проекция – это не познание, а иллюзия знания, и это вовсе не понимание, хотя нам так кажется.

Другая линия когнитивных исследований оказалась более прагматичной. Здесь пионером считается профессор факультета психологии Принстонского университета Филип Джонсон-Лэрд. Он сформулировал идею «ментальных моделей»: «Понимание, – утверждает он, – это не запоминание слов, а построение внутренней модели ситуации»[24].

Например, когда мы слышим: «На столе стоит ваза с цветами», – в нашем сознании моментально возникает соответствующий образ: стол, ваза, цветы. И если нам затем скажут, что «цветы находятся выше стола», то мы ничуть этому не удивимся. Однако же, если прозвучит фраза: «Цветы располагаются ниже стола», – то мы почувствуем напряжение. Наш образ рушится – нам нужно срочно менять свою модель, вообразить что-то другое.

Человеческое мышление, по Джонсону-Лэрду, – это построение, проверка и реструктурирование ментальных моделей. При этом соответствие наших внутренних моделей реальности – это понимание, а ошибка понимания – это проблема или модели, или нашей рабочей памяти, которая не может удержать необходимый уровень сложности.

Собственно, именно благодаря этому механизму, как утверждают исследователи, мы и способны рассуждать о гипотетических ситуациях, удерживать альтернативы, предсказывать последствия событий. То есть понимание – это всегда некая функциональная модель, без какой-либо философской претензии на истинность.

В последующем этот подход углубил основатель междисциплинарной области когнитивной инженерии Дональд Норман – он ввёл понятие «концептуальная модель»[25]. Когда мы взаимодействуем с прибором, мы создаём в себе представление о том, «как он работает». И если это представление совпадает с логикой системы, мы говорим о понимании. Если же не совпадает, то, значит, мы не обладаем пониманием.

Простейший пример – газовая плита. Если ручка соответствует конфорке, мы понимаем: поворот → нагрев. Но если интерфейс построен так, что ручка «отвечает» за другую конфорку, то возникает сбой. В результате мы теряем понимание, но не потому, что стали «глупее», а потому, что среда не поддержала эту нашу модель и нам надо создать какую-то другую.

То есть в когнитивной науке постепенно возобладал подход, согласно которому понимание стало приравниваться к оценке эффективности взаимодействия человека со средой.

Этот тренд продолжает и один из создателей теории управленческих решений, лауреат Нобелевской премии по экономике и Премии Тьюринга Герберт Саймон. Он приходит к заключению, что «понимание» – это, прежде всего, способность решать задачи[26].

По сути, он говорит: понять задачу – значит реструктурировать её так, чтобы она стала решаемой. Человек решает шахматную задачу не потому, что хранит в своём мозгу все возможные комбинации фигур на доске, а по-тому, что видит ключевую конфигурацию и выделяет структуру.

Неудивительно, что Саймон и его не менее знаменитый коллега Аллен Ньюэлл создали одну из первых компьютерных моделей мышления – General Problem Solver. Она была, по нынешним временам, очень примитивной, но реализовывала заявленный принцип «понимания» – осуществляла процесс поиска и перестройки данных, а не накопление готовых знаний[27].

Нейробиология понимания

Мозг – это машина для поспешных выводов.

Когнитивная психология показала нам, что понимание – это не какой-то мистический акт сознания, а работа с моделями: мы строим их (Джонсон-Лэрд), проверяем на согласованность с реальностью (Норман), решаем задачи (Саймон).

А субъективная понятность нашего «понимания» обусловлена проекциями – «телесностью» наших метафор (Лакофф и Джонсон) и в принципе нашим способом существовать в физическом мире (Пинкер).

Но все эти объяснения остаются на уровне описания процессов – как если бы мы знали, что делает человек, но не понимали, как ему это удаётся. В чём хитрость, как возникают эти модели и где эти метафоры «живут»?

Короче говоря, вопрос в том, каким образом тело и мозг производят то, что мы называем пониманием? И здесь на сцену выходят нейронауки.

То, что когнитивные психологи описывали как «ментальные модели» (Джонсон-Лэрд), нейробиология в лице Карла Фристона определяет как процесс минимизации ошибки предсказания.

Карл Фристон показывает, что наш мозг минимизирует трату энергии посредствам предсказаний («принцип свободной энергии»). Он не столько исследует мир, сколько предсказывает, что будет происходить в каждую следующую секунду.

Для этих целей мозг жонглирует множеством моделей разного уровня сложности – от сенсорных до поведенческих. Если угадывает – отлично («всё понятно»), если нет – он пересматривает свой прогноз: пытается понять, что пошло не так, и подобрать другую, более подходящую модель[28].

Понимание, таким образом, – это активный поиск снижения неопределённости, целый динамический цикл: иерархическое предсказание, активное уточнение, построение модели мира.

Чувство «я понял» возникает тогда, когда все уровни этой иерархии совпадают и система достигает устойчивости.

То, что когнитивные психологи исследовали как телесные метафоры и схемы действий (Лакофф, Джонсон, Пинкер), получило подтверждение в работах выдающегося нейробиолога Антонио Дамасио.