Рэн Асахина – Думайте лучше искусственного интеллекта. Управляйте мышлением, а не знаниями (страница 4)
Результаты свидетельствуют о трёх моментах:
Результаты действительно улучшились. Участники, использовавшие ИИ, продемонстрировали значительно более высокое качество результатов, чем те, кто обходился без него. Это соответствует интуиции: при грамотном использовании ИИ отчеты действительно получаются лучше.
Однако самооценка, напротив, стала менее точной. У участников, использовавших ИИ, отклонение в оценке собственного уровня выполнения задания было больше, а кривая калибровки отклонялась от идеального состояния. После того как вы полагаетесь на результаты ИИ, вам становится сложнее точно ответить на вопрос «Как я, собственно, справился?».
Чем лучше вы умеете пользоваться ИИ, тем менее точна ваша самооценка. У людей с более высокой ИИ-грамотностью метакогнитивная неточность выражена сильнее. Это противоречит интуиции: можно было бы подумать, что чем лучше человек владеет инструментом, тем четче он понимает пределы его возможностей. Эмпирические данные показывают прямо противоположное.
Именно об этом говорится в названии «None the Wiser»: вы стали умнее, но не мудрее. Под мудростью здесь подразумевается трезвое осознание собственного когнитивного состояния. Использование ИИ, как раз, ослабляет это осознание.
Что это означает? Если мы будем полагаться на ИИ без рефлексии, то, повышая краткосрочную эффективность, мы рискуем подорвать свои ключевые долгосрочные преимущества. В некоторой степени само это чувство кризиса является метакогнитивным сигналом — по крайней мере, вы все еще задаетесь вопросом: «Что я на самом деле делаю?». Те, кто полностью полагается на ИИ, но больше не задается этим вопросом, возможно, идут по пути, ведущему к тому, что они станут «умнее, но менее осознанными».
1.3.4 Парадокс: чем выше уровень грамотности в области ИИ, тем менее точна самооценка
Исследование Шариати и других ученых выявило парадокс, противоречащий интуиции: чем чаще используется ИИ, тем сложнее точно оценить себя.
На первый взгляд это нелогично. Человек, умело использующий инструмент, должен лучше понимать, на что способен этот инструмент, а на что нет, и более точно различать «мой вклад» и «вклад инструмента». Однако эмпирические результаты показывают прямо противоположное. Почему?
Три возможных объяснения:
Неясность атрибуции. ИИ проникает во все этапы написания текстов, анализа и программирования, и человеку трудно отличить «это я придумал» от «это предложил ИИ». Результат становится смешанным продуктом, и ориентиры для самооценки стираются.
Иллюзия плавности. Тексты, сгенерированные ИИ, часто отличаются плавностью и связностью, читаются вполне убедительно. Такая плавность создает ощущение контроля: кажется, что вы сами поняли содержание. На самом деле вы, возможно, просто редактируете, а не создаете, но при этом чувствуете себя хорошо.
Иллюзия переноса способностей. Люди, часто использующие ИИ, могут ошибочно интерпретировать «я умею настроить ИИ так, чтобы он давал хорошие результаты» как «я сам обладаю высокими способностями». Первое — это способность к сотрудничеству, второе — способность действовать самостоятельно. Это разные вещи, но в повседневной практике их легко спутать.
Вывод из этого парадокса очевиден: суть метакогнитивных вызовов эпохи ИИ заключается в проблеме самопознания, а не в технических вопросах. Вам нужны не дополнительные навыки работы с ИИ, а более трезвое осознание: чем я занимаюсь? Какой вклад я вношу? Что я знаю, а чего не знаю?
Если это наблюдение останется верным, «научиться использовать ИИ» и «сохранять метакогнитивную ясность» станут противоположными тенденциями. Чем больше вы используете ИИ, тем лучше ваши результаты, но тем хуже ваша самооценка; не используя ИИ, ваша самооценка будет точнее, но результаты могут отставать. Выход заключается не в выборе одного из двух, а в активном формировании привычки к метапознанию. Используя результаты работы ИИ, сознательно задавайте себе вопросы: «В чём заключается мой вклад? Проверил ли я качество этого результата? В какой степени я полагаюсь на ИИ? Сам по себе этот вопрос является сопротивлением метакогнитивной неточности.
1.3.5 Что такое метапознание: осознание того, что вы делаете со «своими знаниями»
Концепция метапознания (metacognition) была систематически изложена когнитивным психологом Джоном Флавеллом (John Flavell) в 1979 году. В своей статье «Метапознание и когнитивный мониторинг» (Metacognition and Cognitive Monitoring), опубликованной в журнале «Американский психолог», он определил метапознание как «познание о познании» (cognition about cognition): осознание, контроль и регулирование собственных мыслительных процессов. Флавелл исследовал когнитивное развитие детей, но его концептуальная модель носит универсальный характер. Метапознание — это не привилегия избранных гениев, а часть когнитивной системы человека. Просто мы привыкли к тому, как оно работает, и только какой-то импульс (например, ИИ) заставляет нас переосмыслить это.
Флавелл разбивает метапознание на четыре взаимосвязанных компонента:
Метакогнитивное знание. Знания о когнитивных задачах, субъекте познания и когнитивных стратегиях. Например: вы знаете, что заучивание списка легче забывается, чем понимание концепции; вы знаете, что в математике у вас больше уверенности, чем в языке; вы знаете, что распределенная практика эффективнее, чем интенсивная подготовка в последнюю минуту. Эти знания помогают вам прогнозировать сложность задачи, выбирать стратегию и формировать ожидания.
Метакогнитивный опыт. Эмоции и ощущения, возникающие в процессе познания. Чувство «застрял» при чтении сложного отрывка, внезапное «озарение» при написании доклада, ощущение «что-то не так» при принятии решения. Эти переживания часто остаются вне поля сознательного внимания, но они являются важными сигналами метакогнитивного контроля, подсказывающими вам: «здесь нужно что-то скорректировать».
Цель. Какова цель вашей текущей когнитивной деятельности? Без чёткой цели метапознание не может эффективно функционировать. Вы читаете эту статью ради экзамена или из интереса? В зависимости от цели меняются стратегии чтения и критерии контроля. Без цели вы не знаете, «до какой степени это достаточно». А оценка того, «достаточно ли этого», является одной из ключевых функций метапознания.
Стратегии. Когнитивные стратегии, выбранные для достижения цели. Столкнувшись с непонятным абзацем, вы заглядываете в словарь, пропускаете его или перечитываете несколько раз? Эти выборы зависят от ваших метакогнитивных знаний о задаче, о себе и об эффективности стратегий. Люди с высоким уровнем метапознания могут гибко менять стратегии в зависимости от обратной связи; люди с низким уровнем, как правило, придерживаются одной стратегии, даже если она уже не работает.
Взаимодействие четырёх элементов: знания влияют на постановку целей и выбор стратегий, опыт в процессе работы даёт обратную связь и побуждает вас корректировать стратегии, а цели служат системой отсчёта для мониторинга. Суть метапознания заключается в том, чтобы «знать, что вы делаете со своими знаниями».
ИИ преуспевает в самом «познании»: сопоставлении шаблонов, интеграции информации, генерации речи. Но ИИ с трудом может по-настоящему осознавать, что именно он знает, понимать свои ограничения и активно корректировать стратегию в условиях неопределённости. Когда он генерирует ответ, он обычно не говорит: «В этом я не уверен» или «Эта часть выходит за пределы моих обучающих данных». Даже если и говорит, точность такого самоосознания намного уступает человеческой. Именно в этом заключается уникальная ценность человеческой метапознавательности.
1.3.6 Двухуровневая архитектура: базовая метапознавательность и приложения, основанные на метапознавательности
Сфера способностей, рассматриваемых в данной книге, весьма обширна: от осознания когнитивных границ до постановки вопросов, управления вниманием, ценностных суждений и междисциплинарных связей. Чтобы избежать концептуального раздувания понятия «всё является метапознанием», необходимо различать два уровня.
Базовый уровень (метапознание в узком смысле, исходная модель Флавелла):
Осознание когнитивных границ: понимание того, что вы знаете, а чего не знаете (глава 3)
Когнитивный мониторинг: отслеживание собственных мыслительных процессов и состояний в режиме реального времени (главы 3, 6)
Когнитивная регуляция: гибкая корректировка когнитивных стратегий на основе результатов мони (главы 6, 9)
Прикладной уровень (высшие способности, обусловленные метапознанием):
Умение задавать точные вопросы: для этого требуется метапознание, чтобы определить, «правильно ли я задаю вопросы» (глава 4)
Управление вниманием: требует метапознания, чтобы осознать, «на чем я сосредоточен, а что игнорирую» (глава 5)
Оценка ценностей: требует метапознания для анализа «на чем основано мое суждение» (глава 7)
Распознавание и отбор междоменных связей: требуется метапознание, чтобы решить: «Стоит ли отслеживать эту, казалось бы, не имеющую отношения к делу мысль?» (глава 8)
Рис. 1-2: Двухуровневая архитектура — основные метакогнитивные навыки и их применение
Это разграничение имеет большое значение. Когда кто-то возражает, что «ИИ тоже может проводить междоменные аналогии» или «ИИ тоже учится корректировать неопределённость», он нападает на определённые функции прикладного уровня. Ядро — осознание, мониторинг и регулирование собственных когнитивных процессов — до сих пор остаётся самым слабым аспектом ИИ. Некоторые способности прикладного уровня могут постепенно переходить к ИИ, но пока ядро остаётся активным, вы сможете продолжать адаптироваться и осваивать новые способы применения.