Рэн Асахина – Думайте лучше искусственного интеллекта. Управляйте мышлением, а не знаниями (страница 2)

08

Междоменная связь

Междоменная синтеза

Кто определяет, какая связь действительно ценна?

09

Создание вашей метакогнитивной операционной системы

Ваша метакогнитивная ОС

Рамки от концепции до повседневной практики

10

Будущее человеческого познания

Будущее человеческого познания

Куда ведёт нас метапознание

Как читать

Рекомендуемый маршрут

Маршрут A (практический подход): 01 → 04 → 05 → 09. Перейдите сразу к главам «Переворот», «Вопросы», «Внимание» и «Операционная система» — эти четыре главы позволят создать применимую на практике метакогнитивную модель.

Маршрут B (приоритет понимания): 01 → 02 → 03 → 07 → 10. Сначала разберитесь в «Что осталось», «Двухуровневая структура», «Границы неизвестного», «Способность к суждению» и «Направления развития», а уже потом решите, стоит ли углубляться в методы.

Маршрут C (полное прочтение): по порядку глав 01–10. Подходит читателям, желающим систематически построить систему метапознания и имеющим время для выполнения упражнений.

Можно пропустить

Если вас не интересует концептуальная основа когнитивной науки, раздел 02 можно прочитать бегло — однако рекомендуется ознакомиться хотя бы с двухслойной моделью из подраздела 2.2, поскольку в последующих разделах к ней будут неоднократно обращаться.

Если вас не интересует вопрос «почему ИИ не может сделать то-то и то-то», можете пробежаться глазами по первой половине раздела 07.

Если у вас уже сформировались навыки управления вниманием, раздел 05 можно прочитать бегло.

Раздел 10 носит прогнозный характер; если вас интересуют только методы, его можно пропустить.

Метод трёхкратного чтения

Первое чтение: быстро просмотрите заголовки и подзаголовки, чтобы составить общее представление о книге (около 30 минут).

Второе чтение: внимательно прочитайте разделы, связанные с вашими проблемами, делайте пометки и записывайте вопросы.

Третье прочтение: с учетом структуры из раздела 09 объедините отмеченный материал в личный метакогнитивный список.

Условия использования книги

Условия

Пояснения

Диаграммы

Использование векторных диаграмм SVG (созданных в draw.io) для отображения структур, процессов и взаимосвязей; к каждой главе прилагаются диаграммы на китайском и английском языках, расположенные в каталоге images/.

Язык

В китайском издании преобладает упрощённый китайский; при первом упоминании собственных названий приводится их английский вариант.

Форматирование

Ключевые понятия при первом упоминании выделяются жирным шрифтом; инструкции представлены в виде нумерованных списков; примеры и цитаты оформлены в виде блочных цитат.

Двуязычность

Названия глав приводятся на китайском и английском языках; при первом упоминании ключевых терминов дается их английский вариант.

«Анатом» Теда Чжана в конце концов превратился в письмо к неизвестному читателю. Эта книга — тоже письмо, адресованное вам, стоящему на пороге эры искусственного интеллекта. Если вам интересно, к чему в конечном итоге приведет развитие человеческого познания, перейдите к десятой главе. Если же вы больше хотите узнать, что делать прямо сейчас, начните с первой главы.

Глава 1: Инверсия

The Inversion

Основной вопрос: что останется, когда ИИ будет знать больше, чем вы? / When AI knows more than you, what remains?

1.1 Вступительная история: шесть несуществующих судебных прецедентов

В июне 2023 года судья Федерального суда Южного округа Нью-Йорка П. Кевин Кастел в одном из публичных постановлений написал редкую фразу: «Наш суд никогда не сталкивался с такой беспрецедентной ситуацией — адвокат с тридцатилетним стажем представил суду шесть совершенно несуществующих судебных прецедентов».

Суть дела несложна. Адвокат Стивен Шварц представлял интересы клиента в иске против авиакомпании «Авианка» (Avianca) по делу Mata v. Avianca Inc. Для подготовки юридического заключения он использовал ChatGPT для поиска судебных прецедентов. ИИ предоставил ему шесть ссылок — с названиями дел, судами, в которых они рассматривались, датами вынесения решений и кратким изложением сути решений — со всеми необходимыми деталями. Шварц не проверил в Westlaw или какой-либо другой юридической базе данных, действительно ли эти прецеденты существуют. Он сразу же включил их в официальные документы, поданные в федеральный суд.

Адвокат противоположной стороны, не найдя этих дел в базах данных, подал возражение судье. Судья потребовал от Шварца предоставить тексты этих судебных прецедентов. Шварц обратился к ChatGPT с вопросом: «Ты уверен, что эти прецеденты подлинные?» ИИ ответил: «Да, они подлинные». Он также представил этот ответ суду.

Все шесть судебных прецедентов были выдуманы ИИ. Названия дел были вымышленными, суды — вымышленными, даты — вымышленными. Ни один из них не фигурировал в базе данных федеральной судебной практики. Шварц и его коллега Питер ЛоДука были публично наказаны судьей, оштрафованы на 5000 долларов и обязаны направить письма с извинениями каждому судье, «упомянутому» в вымышленных прецедентах.

Суть этого дела не в том, что ИИ допустил ошибку. Галлюцинации крупных языковых моделей — генерация контента, выглядящего правдоподобно, но являющегося полностью вымышленным — уже давно являются известной проблемой в технологическом сообществе. Настоящий повод для размышлений — человеческий фактор: адвокат с тридцатилетним стажем, получив результат работы ИИ, ни разу не подумал: «Мне нужно это проверить».

Дело не в том, что он не разбирался в праве. Ему не хватало более фундаментальной способности: осознания собственного познавательного процесса. Он не задал себе вопроса: «Насколько моё понимание этих судебных прецедентов основано на моём профессиональном суждении, а насколько — на слепом доверии к машине?» Он не сумел найти ту точку между доверием и скептицизмом, где следовало остановиться. Он принял уверенность ИИ за свою собственную.

Дело Шварца — не единичный случай, а сигнал, который свидетельствует о том, что в отношениях между человеком и машиной в сфере знаний происходят структурные изменения. На протяжении сотен лет наша профессиональная идентичность основывалась на одном неявном допущении: человек знает больше, чем машина. Врач разбирается в диагностике лучше, чем поисковая система, адвокат — в защите лучше, чем база данных, а аналитик — в тенденциях лучше, чем электронная таблица. Но когда ИИ способен за считанные секунды сгенерировать, казалось бы, полное юридическое заключение, четко структурированный отраслевой отчет или логически связный фрагмент кода, это допущение перестает быть надежным.

Асимметрия знаний меняется на противоположную. Раньше было так: «Я знаю то, чего ты не знаешь», а теперь стало: «Машина, возможно, знает больше, чем я — но я не уверен, верно ли то, что она знает». В этой новой ситуации «знать больше» больше не является ключевым преимуществом человека. Настоящей редкостью является способность, которую ИИ до сих пор с трудом может воспроизвести: осознавать, что ты знаешь, а чего не знаешь, понимать, когда следует доверять, а когда — сомневаться. Эта способность называется метапознанием (metacognition). Речь идет не о грандиозном вопросе «заменит ли ИИ человека», а о личном поиске ответа на вопрос: «В эпоху, когда ИИ способен производить больше, чем ты, какую незаменимую ценность ты все еще можешь предложить?».

Реальный отклик: дело Шварца — не единственный знаковый случай «переворота в соотношении знаний человека и машины». В том же году работа «Théâtre D’opéra Spatial», созданная Джейсоном Алленом с помощью инструмента искусственного интеллекта Midjourney, получила первую премию в номинации «Цифровое искусство» на художественной выставке в Колорадо — при этом члены жюри не знали, что произведение было сгенерировано ИИ. Это событие вызвало глобальную дискуссию о границах творчества: когда машина способна создавать произведения, превосходящие работы большинства человеческих участников, что означает статус «творца»? От судов до галерей, от судебных прецедентов до картин — переворачивание асимметрии знаний — это не теоретическое предсказание, а реальность, которая одновременно происходит во всех сферах.

1.2 Основная теза: переворачивание асимметрии знаний

Отношения между человеком и машиной долгое время строились на одном неявном допущении: человек знает больше, чем машина. Машина выполняет, человек принимает решения; машина вычисляет, человек судит; машина хранит, человек творит. Это допущение лежало в основе промышленной и информационной революций, а также сформировало наше представление об «экспертах». Врач разбирается в диагностике лучше, чем база данных, адвокат — в защите лучше, чем поисковая система, а аналитик — в тенденциях лучше, чем Excel.

В последние десять лет это предположение постепенно опровергается.

Шахматы, го, написание текстов, программирование, рыночный анализ, юридический поиск — в одной области за другой машины начинают понимать больше, чем люди. Под «пониманием» здесь подразумевается не только объем хранимой информации, но и синтез, логическое мышление, генерация. Один подключенный к сети ИИ способен за несколько секунд обобщить литературу, накопленную человечеством за несколько столетий; опытный эксперт, даже посвятив этому всю свою жизнь, сможет внимательно изучить лишь небольшую её часть. Когда ИИ сможет свободно составлять отраслевые отчёты, генерировать код и отвечать на специализированные вопросы, тот барьер, на котором держались работники умственного труда — «я знаю то, чего ты не знаешь», — начнёт рушиться слой за слоем.