Рэн Асахина – Думайте лучше искусственного интеллекта. Управляйте мышлением, а не знаниями (страница 3)
Бринйольфссон и МакАфи в книге
Таким образом, на поверхность выходит ключевой вопрос: когда асимметрия знаний переворачивается, в чём же заключается ценность человека?
Дело не в том, чтобы «знать больше» — в любой специализированной области вам будет трудно превзойти ИИ. Дело не в том, чтобы «делать быстрее» — по скорости и масштабам ИИ подавляет человека. Ответ кроется в способности, которую ИИ до сих пор не может воспроизвести: метапознании (metacognition), то есть осознании, контроле и регулировании собственных когнитивных процессов.
Метапознание интересует не то, что вы знаете, а то, как вы думаете. Знаете ли вы, что вы знаете, а чего не знаете? Знаете ли вы, когда следует доверять собственному суждению, а когда — подвергать его сомнению? Именно эта способность является слабым местом ИИ. В этой главе будут рассмотрены три вопроса: почему произошло это переворачивание, почему метапознание является когнитивной операционной системой человека в эпоху ИИ (обновляемой инфраструктурой, а не статической линией обороны), и как вам начать осознавать и применять его.
1.3 Доказательства и мыслительные эксперименты
1.3.1 Краткая история переворота асимметрии знаний
Перелом произошёл не за одну ночь. Если оглянуться на соперничество человека и машины в вопросе «кто знает больше», можно увидеть чёткую эволюционную кривую. За каждым важным этапом стоит очередное отступление человечества от границ того, «чего машина не может сделать».
1997 год, шахматы. «Депл Блу» победил Каспарова. Позже Каспаров сказал, что почувствовал нечто вроде «инопланетного интеллекта». Но тогда все сходились во мнении: правила шахмат фиксированы, пространство поиска ограничено, а машина просто применяет метод перебора. Пространство состояний в игре в го гораздо больше, чем в шахматах, а для писательского и творческого труда нужны интуиция и эмоции. Человечеству пока не о чем беспокоиться.
2016 год, го. AlphaGo победила Ли Се-ши. Ещё более поразительными оказались некоторые её ходы: профессиональные игроки сначала сочли их неудачными, но после анализа партии обнаружили в них глубокую стратегию. Машина не только умела рассчитывать, но и демонстрировала способность делать выбор, похожий на «интуицию». Общественное мнение начало колебаться. Однако такие области, как писательское творчество и принятие бизнес-решений, связанные с открытым контекстом, по-прежнему считались прерогативой человека. Граница «машина понимает правила, человек понимает мир» по-прежнему существует.
2020–2023 годы: письмо и программирование. Появление GPT-3 и последующих моделей. Повсеместное распространение помощников по программированию, инструментов для создания резюме и переводчиков. Программисты начали использовать Copilot для автодополнения больших фрагментов кода, а авторы — генерировать черновики с помощью ИИ, а затем дорабатывать их. Впервые работники умственного труда массово убедились, что «то, что написано ИИ, ничем не хуже того, что написал бы я». Граница снова сдвинулась: даже в такой открытой области, как естественный язык, машины могут создавать конкурентоспособный контент.
С 2023 года по настоящее время: анализ и отчетность. ИИ способен быстро интегрировать данные по заданной теме и генерировать структурированные отчеты. Аналитики, исследователи и консультанты обнаруживают: на уровне создания контента ИИ уже не уступает, а порой даже превосходит человека. Разница зачастую проявляется лишь в тонком понимании потребностей, оценке границ и метакогнитивной калибровке качества. Предположение о том, что «человек знает больше, чем машина», уже не подтверждается во всё большем числе вертикальных областей. Переворот из исключения превратился в норму.
Рис. 1-1: Переворот в асимметрии знаний
Этот рисунок обобщает логику такого переворота: в до-ИИ-эпоху преимущество было за человеческими знаниями, в эпоху ИИ — за знаниями машин, а метакогнитивный поворот означает, что преимущество человека смещается с «что он знает» на «как он осмысливает то, что знает».
Этапы
Относительное преимущество человека
Относительное преимущество машин
Доэра ИИ
Хранение знаний, профессиональные суждения, творчество
Скорость вычислений, объем памяти
Эпоха ИИ (настоящее время)
Метапознание, способность к принятию решений, ответственность
Интеграция знаний, скорость генерации, сопоставление шаблонов
После метакогнитивного перелома
Как думать, как принимать решения, как корректировать
То же самое, причем в постоянно расширяющемся масштабе
1.3.2 Мысленный эксперимент: если завтра ИИ усвоит все ваши профессиональные знания
Предположим, что со завтрашнего дня весь профессиональный багаж в вашей области — концепции, формулы, кейсы, передовой опыт — будет полностью усвоен ИИ. Он сможет, как и вы, отвечать на вопросы клиентов, составлять отраслевые отчеты, давать профессиональные рекомендации. У вас больше не будет никакого преимущества в плане «запаса знаний». Клиенты смогут обращаться напрямую к ИИ, и ответы будут не хуже ваших; начальник сможет поручить ИИ составлять отчеты, и, возможно, он будет делать это быстрее и лучше вас.
Какую ценность вы сможете предложить?
Большинство людей застрянут именно на этом. Наша профессиональная идентичность долгое время строилась на принципе «я знаю, а другие — нет». Врачи полагаются на диагностику, юристы — на знание законов, аналитики — на отраслевые знания. Как только эта основа исчезает, чувство идентичности рушится — когда «я знаю» больше не действует, возникает вопрос «кто я?».
Но если задуматься глубже, можно обнаружить некоторые ниши, которые ИИ заменить не сможет:
Вы знаете, чего вы не знаете. Вы умеете определять границы проблемы, понимаете, что выходит за рамки ваших текущих знаний и требует обращения за помощью или дополнительного исследования. ИИ склонен к излишней самоуверенности и с трудом признает: «В этом я не уверен». Он может сгенерировать ответ, который выглядит полным, даже если он основан на ошибочных предпосылках или устаревших данных. А вы можете сказать: «В этом я не уверен, нужно проверить».
Вы знаете, когда стоит доверять ИИ, а когда — подвергать его сомнению. Есть ли в логической цепочке этого отчета разрывы? Надежны ли источники данных? Не зашли ли выводы слишком далеко? Текст, сгенерированный ИИ, часто звучит плавно и связно, но плавность не означает правильность. Люди, способные самостоятельно «нажать на тормоза» и поставить под сомнение качество результатов, в эпоху ИИ, напротив, становятся еще более редкими.
Вы знаете приоритеты задач. Среди бесчисленного множества дел, которые можно выполнить, какие действительно стоят того, чтобы ими заняться? А какие только кажутся срочными? ИИ может выполнять задачи, но ему трудно самостоятельно судить о том, «что стоит рассматривать как проблему». Клиент выдвигает десять требований, и вам нужно определить, какие три из них имеют стратегическое значение, а какие семь можно отложить. Такое суждение основано на понимании контекста бизнеса, а не просто на поиске информации.
Вы умеете принимать решения в условиях неопределённости. Информация неполна, модели ненадежны, но вам всё равно приходится принимать окончательное решение. Такое решение основано на суждении, а суждение, в свою очередь, строится на «осознании границ собственного познания». Вы знаете, на что делаете ставку, знаете, насколько широк доверительный интервал, знаете, когда следует действовать осторожно, а когда можно пойти на риск.
Все эти способности имеют одну общую черту: все они связаны с метапознанием. Важно не то, сколько вы знаете, а то, как вы применяете свои знания, осознаете пределы своих знаний и понимаете, когда следует корректировать свою когнитивную стратегию.
1.3.3 Данные исследований: ИИ делает вас умнее, но не мудрее
В 2025 году Шариати и его коллеги опубликовали в журнале
Дизайн исследования был довольно простым. Участники выполняли задания по написанию текстов, анализу и принятию решений как с помощью ИИ, так и без него, а после завершения оценивали свои результаты (прогнозировали баллы, определяли своё место в рейтинге группы). Независимые эксперты выставляли оценки. Сравнивая «самооценку» с «фактическими баллами», можно было измерить метакогнитивную калибровку (metacognitive calibration), то есть насколько точно вы оцениваете свои результаты.