Александр Сивичев – Искусственный интеллект без иллюзий (страница 6)

Особенность этого процесса состоит в том, что он остаётся незаметным. Пользователь не фиксирует момент, в котором в рассуждение были добавлены новые элементы. Итоговая версия воспринимается как непосредственное следствие исходных данных, хотя на деле включает в себя компоненты, которые в этих данных не содержались.

Автоматическое достраивание опирается на предыдущий опыт, ожидания и наиболее вероятные сценарии. Оно не обязательно приводит к ошибке; во многих случаях оно позволяет быстро ориентироваться в ситуации. Однако его применение в условиях неполной или неоднозначной информации создаёт риск того, что вероятное будет принято за установленное.

Дополнительную сложность создаёт то, что достроенные элементы хорошо интегрируются в общую структуру. Они не выделяются как добавления и не требуют отдельного обоснования. Поскольку они устраняют разрывы, их присутствие воспринимается как признак улучшения понимания, а не как источник возможной неточности.

Это приводит к смещению границы между данными и их интерпретацией. То, что было добавлено в процессе осмысления, воспринимается как часть исходной информации. В дальнейшем эти элементы могут использоваться как основания для новых выводов, усиливая первоначальное искажение.

Особенно устойчивым становится достраивание в тех случаях, когда оно совпадает с уже сформированным представлением. Если добавленные элементы соответствуют ожиданиям, они не вызывают сомнений и быстрее закрепляются как очевидные. Альтернативные варианты при этом не рассматриваются, поскольку необходимость в них не ощущается.

Таким образом, автоматическое достраивание не является отдельной ошибкой в узком смысле. Оно представляет собой механизм, который в нормальных условиях обеспечивает связность мышления. Однако при работе со сложной информацией именно этот механизм приводит к тому, что неполные данные воспринимаются как достаточные, а предположения — как факты.

В результате итоговая картина сохраняет вид непрерывной и завершённой, хотя её отдельные элементы не имеют прямого основания в исходной информации.

ЧАСТЬ II. Как мышление системно искажает результат

Глава 4

Ограничения мышления

Невозможность удерживать сложные структуры

Способность мышления к обработке информации определяется не только его гибкостью, но и его пределами. Эти пределы проявляются прежде всего в работе со сложными структурами, где требуется одновременно учитывать множество взаимосвязанных элементов.

Человек может оперировать лишь ограниченным числом факторов в один момент времени. При увеличении количества элементов связь между ними начинает упрощаться. Часть зависимостей игнорируется, часть — заменяется более простыми, а часть — вовсе выпадает из рассмотрения.

Это не является случайным искажением. Напротив, это необходимое условие функционирования мышления.

Попытка удерживать сложную, многослойную структуру во всех её деталях приводит к перегрузке. В таких условиях мышление либо замедляется до полной остановки, либо переходит к упрощению. Второй вариант оказывается предпочтительным, поскольку позволяет сохранить возможность действия.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.