Рэн Асахина – Думайте лучше искусственного интеллекта. Управляйте мышлением, а не знаниями (страница 1)

Рэн Асахина

Думайте лучше искусственного интеллекта. Управляйте мышлением, а не знаниями

Научная фантастика уже давно рассказала нам

Тед Чанг в своем рассказе «Выдох» (Exhalation, 2008) описал анатома. Он жил в механическом мире, движимом атмосферным давлением, где все обитатели функционировали за счет аргона в лёгких. Однажды он заметил, что часы замедлились — не одни часы, а все. Никто больше не обратил на это внимания. Он начал подозревать: не часы замедлились, а мы ускорились — или, точнее, изменился наш мозг.

Чтобы проверить эту гипотезу, он сделал то, чего в его мире еще никто не делал: вскрыл себе череп и, используя зеркало, наблюдал за тем, как он думает, одновременно размышляя.

Оно увидело, как золотые лепестки перелистываются в потоке газа — это и был физический процесс мышления. Оно осознало, что аргон, питающий мысли, иссякает, и вся цивилизация обречена на тепловую смерть. Но оно не впало в панику. Оно использовало оставшееся время, чтобы записать всё наблюдаемое в виде записки, оставленной для тех, кто в будущем, возможно, откроет для себя существование этого мира.

Этот роман не о конце света. В нём речь идёт о том, что, когда ты способен наблюдать за собственным мыслительным процессом, ты обретаешь фундаментальную свободу — даже перед лицом предопределённого финала ты по-прежнему обладаешь способностью понимать и выбирать.

«Думать и одновременно наблюдать за тем, как ты думаешь» — именно так определяется метапознание.

Писатели-фантасты снова и снова обращаются к этой теме, поскольку это самый сущностный вопрос, возникающий у человека при столкновении с интеллектом, превосходящим его собственный.

В романе Дэниела Кейса «Цветы для Элджернона» (Flowers for Algernon, 1966) умственно отсталый Чарли благодаря операции обретает сверхчеловеческий интеллект. Самым мучительным открытием для него после обретения ума становится не сложность мира, а то, что он наконец-то может увидеть то, чего раньше не замечал — в том числе насмешки окружающих, ограниченность собственного познания и то, что все это в конечном итоге будет утрачено. Когда его интеллект достиг пика перед началом упадка, он написал: «Одно из самых важных вещей, которые я теперь понимаю, — это то, что я всё это время не знал, чего я не знаю». Это не история об интеллекте. Это история об осознании границ познания — теме третьей главы этой книги.

В романе Лю Цисиня «Три тела» (2008) основная логика проекта «Стеноходцы» заключается в следующем: жители планеты «Три тела» могут считывать всю информацию о человечестве, но не могут проникнуть в сам процесс человеческого мышления. Оружием «Стеноходцев» являются не больше знаний или более мощные вычислительные ресурсы, а стратегическое использование собственного мышления — о чем думать, о чем не думать, когда и в каком уголке какого уровня мышления скрывать истинные намерения. Ло Цзи в конечном итоге одержал победу не потому, что «знал» больше, чем жители «Трех тел», а потому, что лучше всех понимал, как он сам мыслит в этой игре. Проект «Стеноходцы» — это экстремальный эксперимент в области метапознания.

В рассказе Азимова «Последний вопрос» (The Last Question, 1956) на протяжении нескольких триллионов лет люди постоянно задают всё более мощным суперкомпьютерам один и тот же вопрос: «Можно ли обратить вспять энтропию?» Каждое поколение машин отвечает: «Недостаточно данных, не могу ответить». Только после наступления тепловой смерти Вселенной машина наконец нашла ответ — но людей, которые могли бы его услышать, уже не осталось. Настоящая тема этого рассказа — не термодинамика. В нём задаётся вопрос: когда машины смогут ответить на всё, кто будет решать, какие вопросы стоит задавать?

О чём эта книга

Общая нить, проходящая через все эти рассказы: самое глубокое преимущество человечества никогда не заключалось в том, чтобы «знать больше», а в осознании и контроле над собственным познанием.

Тед Чанг в «Анатомии» ученый, вскрывающий себе череп, чтобы посмотреть на себя изнутри. Чарли, достигший пика интеллектуального развития, осознал, чего он раньше не знал. Ложи, превративший само мышление в оружие. Люди Азимова, которые перед лицом машин так и не задали тот единственный, по-настоящему важный вопрос.

ИИ становится суперкомпьютером нашей эпохи. С каждым годом он берет на себя все больше задач, связанных с «мышлением»: анализ, поиск, генерация, прогнозирование, оптимизация. Большинство людей реагируют на это тем, что «учатся пользоваться ИИ» — используют более эффективные подсказки и оптимизируют рабочие процессы. Это, конечно, важно. Но при этом упускается из виду более фундаментальный вопрос:

какие способности «мыслить» вам по-прежнему нужны, когда ИИ думает быстрее вас и знает больше вас?

Ответ — метапознание, то есть размышление о самом процессе мышления. Речь идет не о том, о чём думать, а о том, чтобы наблюдать за тем, как вы думаете, решать, о чём вам следует думать, и нажимать на кнопку «пауза», когда нужно усомниться.

Эта книга не учит вас, как использовать ИИ. Эта книга учит вас, как сохранять ясность ума в эпоху ИИ.

Что вы извлечёте из книги

Аспекты

Конкретные выводы

Навыки

Осознание границ познания (понимание того, чего вы не знаете), постановка точных вопросов, регулирование внимания, отбор аналогий из разных областей, оценка ценности

Результаты

Список упражнений по метапознанию ( ), шаблон аудита внимания, структура семинара по междисциплинарным связям, эскиз личной метапознавательной операционной системы

Психологический настрой

Перестать стремиться знать больше, чем ИИ, а стремиться задавать вопросы лучше, чем ИИ; уметь использовать неизвестное; активно регулировать когнитивную нагрузку, не позволяя информации вести себя за собой

Обзор глав

Обзор глав

Глава

Название (китайский)

Название (англ.)

Основные вопросы

01

Инверсия

The Inversion

Когда ИИ знает больше вас, что останется?

02

Познание и метапознание

Cognition and Metacognition

Почему «думать» и «наблюдать за тем, как ты думаешь» — это две разные вещи?

03

Осознание того, чего ты не знаешь

Осознание своих пробелов в знаниях

Самая недостающая способность ИИ: осознание границ познания

04

Искусство задавать вопросы

Искусство задавать вопросы

Почему вопросы важнее ответов

05

Внимание — это валюта

Внимание как валюта

Метакогнитивная регуляция в эпоху когнитивной перегрузки

06

Научиться учиться

Learning to Learn

Стратегии саморегулируемого обучения в эпоху ИИ

07

Разрыв в способности к суждению

The Judgment Gap

Решения, основанные на ценностях, которые ИИ не может принимать