Александр Сивичев – Искусственный интеллект без иллюзий (страница 5)

Важно также учитывать, что интерпретация определяет значимость фактов. Одни элементы выдвигаются на первый план, другие остаются на периферии или вовсе исключаются. Этот отбор влияет на итоговый вывод не меньше, чем сами данные, однако редко осознаётся как самостоятельное действие.

Таким образом, ошибка интерпретации не связана с искажением отдельных утверждений. Она связана с тем, что одна из возможных структур понимания принимается за единственную и перестаёт рассматриваться как подлежащая пересмотру.

Это делает её менее заметной и одновременно более устойчивой, чем ошибки на уровне фактов.

Ошибка в недостающих допущениях

Любое объяснение, каким бы полным оно ни казалось, опирается на ряд допущений. Часть из них формулируется явно, но значительная доля остаётся невыраженной. Эти неявные элементы необходимы для того, чтобы связать отдельные факты в непрерывную конструкцию, однако именно они чаще всего оказываются вне внимания.

Допущения выполняют соединительную функцию. Они позволяют перейти от одного утверждения к другому, устранить разрывы и придать рассуждению завершённость. Без них информация остаётся фрагментарной и не образует целостной картины. В этом смысле они неизбежны.

Проблема возникает тогда, когда допущения перестают восприниматься как таковые.

Если допущение не обозначено, оно воспринимается как часть исходных данных. Переход, который в действительности требует обоснования, начинает выглядеть естественным и не требующим объяснения. В результате цепочка рассуждения сохраняет вид непрерывной, хотя на самом деле включает в себя элементы, не имеющие прямого подтверждения.

Такие элементы не обязательно ошибочны. Многие из них могут быть правдоподобными и часто оказываются верными. Однако их наличие меняет статус вывода: он перестаёт быть прямым следствием данных и становится зависимым от принятых предпосылок.

Если эти предпосылки не выявлены, оценить устойчивость вывода невозможно.

Особенность недостающих допущений состоит в том, что они не вызывают внутреннего сопротивления. Напротив, они устраняют его. Именно благодаря им объяснение становится гладким и понятным. Отсутствие затруднений при восприятии создаёт впечатление, что переходы между элементами очевидны, тогда как на деле они обеспечены скрытыми связями.

Это делает допущения малозаметными. В отличие от фактов, которые можно проверить, и от явных утверждений, которые можно оспорить, невыраженные предпосылки не представлены в явном виде. Они присутствуют в структуре рассуждения, но отсутствуют в его формулировке.

В результате внимание сосредоточено на том, что сказано, тогда как значительная часть содержания определяется тем, что осталось не сказанным.

Дополнительная сложность заключается в том, что разные интерпретации могут опираться на различные наборы допущений. При этом сами факты остаются неизменными, а различие выводов объясняется именно различием в предпосылках. Если эти предпосылки не выявлены, различие выглядит как несоответствие выводов, а не как следствие разных оснований.

Таким образом, ошибка возникает не из-за наличия неверного допущения как такового, а из-за его отсутствия в поле рассмотрения. Пока предпосылка не обозначена, она не может быть проверена, сопоставлена с альтернативами или при необходимости пересмотрена.

Недостающие допущения делают рассуждение завершённым по форме, но уязвимым по содержанию.

Незаданные вопросы

Значительная часть структуры любого объяснения определяется не только тем, какие вопросы были поставлены, но и теми, которые не были сформулированы. Отсутствие вопроса не воспринимается как пробел, однако именно оно часто задаёт границы рассуждения.

Вопрос выполняет функцию направления. Он определяет, какие элементы будут включены в рассмотрение и какие связи между ними будут установлены. Всё, что выходит за его рамки, как правило, не попадает в поле внимания. Если рамка задана узко, то и картина формируется соответствующим образом — без явных признаков неполноты.

Особенность незаданных вопросов состоит в том, что их отсутствие не вызывает внутреннего сигнала. Мышление работает с тем, что уже представлено, и не фиксирует автоматически, что часть возможных направлений анализа осталась вне рассмотрения. Если имеющейся информации достаточно для построения связного ответа, необходимость в дополнительных вопросах не ощущается.

Это создаёт замкнутую структуру. Ответ формируется в пределах исходной постановки и подтверждает её достаточность. Поскольку в рамках этих границ не возникает противоречий, нет и повода расширять их. В результате ограничение, заданное на начальном этапе, сохраняется на всём протяжении рассуждения.

Незаданные вопросы особенно значимы в тех случаях, когда исходная формулировка содержит скрытые допущения. Если они не выявлены, последующее рассуждение будет опираться на них как на данность. Альтернативные способы постановки задачи не рассматриваются, поскольку сам факт возможности иной постановки не осознаётся.

Дополнительную роль играет то, что формулировка вопроса часто воспринимается как нейтральная. Между тем она уже содержит в себе выбор — того, что считается значимым, и того, что может быть опущено. Этот выбор не всегда очевиден, но он определяет дальнейшее направление анализа.

В условиях, когда ответ формируется быстро и в готовом виде, вероятность постановки дополнительных вопросов снижается. Полученная версия выглядит завершённой, и потому не возникает необходимости возвращаться к исходной формулировке. Процесс как бы замыкается сам на себе.

Таким образом, незаданные вопросы не проявляются как ошибка в явном виде. Они проявляются как отсутствие альтернатив, как ограниченность рассмотрения, которая остаётся незамеченной. Рассуждение выглядит полным, поскольку внутри заданной рамки оно действительно завершено.

Однако сама рамка может быть недостаточной. И именно это ограничение, не будучи выявленным, становится источником последующих ошибок.

Скрытые предпосылки

Всякое рассуждение опирается на основания, которые не всегда выражены явно. Часть из них формулируется в виде утверждений, но значительная доля присутствует в скрытом виде, задавая направление мысли без прямого указания на своё существование.

Такие предпосылки выполняют определяющую функцию. Они устанавливают, какие связи считаются допустимыми, какие объяснения — вероятными, а какие — не требующими рассмотрения. При этом они редко становятся предметом анализа, поскольку воспринимаются как нечто само собой разумеющееся.

Особенность скрытых предпосылок состоит в том, что они не воспринимаются как выбор. Они выглядят как естественная часть рассуждения, а не как его условие. В результате их влияние остаётся незаметным, хотя именно оно во многом определяет итоговый вывод.

Когда предпосылка не обозначена, она не может быть проверена. Её нельзя сопоставить с альтернативными вариантами или оценить её обоснованность. Она не обсуждается, потому что не выделена как самостоятельный элемент. Тем не менее она присутствует в каждом переходе от одного утверждения к другому.

Это придаёт рассуждению вид непрерывности. Связи между элементами выглядят прямыми, поскольку промежуточные основания не показаны. Там, где в действительности происходит выбор, в тексте фиксируется лишь его результат.

Скрытые предпосылки особенно устойчивы в тех случаях, когда они совпадают с ожиданиями. Если рассуждение строится в рамках привычной логики, его основания не вызывают вопросов. Напротив, они усиливают ощущение правильности, поскольку соответствуют уже имеющимся представлениям.

Однако именно это совпадение делает их менее заметными. Чем более естественным кажется основание, тем ниже вероятность того, что оно будет выявлено и проверено. В результате возможные ограничения или искажения, связанные с этим основанием, остаются вне рассмотрения.

Следует также учитывать, что различные интерпретации могут различаться не столько по используемым фактам, сколько по набору скрытых предпосылок. При внешнем сходстве рассуждений различие в основаниях приводит к различию выводов. Если эти основания не выявлены, расхождение воспринимается как произвольное, а не как обусловленное различием исходных условий.

Таким образом, скрытые предпосылки не являются побочным элементом рассуждения. Они составляют его необходимую часть, но именно в силу своей неявности становятся источником ошибок. Пока они остаются невыраженными, рассуждение сохраняет вид завершённого, но лишено возможности проверки на уровне своих оснований.

Автоматическое достраивание

В тех случаях, когда информация представлена неполно, мышление стремится устранить разрывы. Это происходит не как осознанное действие, а как естественная реакция на отсутствие связности. Незавершённая структура воспринимается как временное состояние, которое требует приведения к завершённому виду.

Достраивание выполняет эту функцию.

Отдельные элементы, между которыми отсутствуют прямые связи, соединяются за счёт введения дополнительных предположений. Эти предположения не всегда формулируются явно; чаще они возникают как часть общего понимания ситуации. В результате картина приобретает непрерывность, а переходы между её частями перестают вызывать затруднения.