Юлия Вересова – Человеко-ориентированный искусственный интеллект: UX, аналитика, этика (страница 6)
Гештальт-принципы – пользователь группирует элементы по сходству, близости, симметрии.
Иллюзия причинности – человек склонен воспринимать последовательные события как связанные, даже если это не так.
Аффективное восприятие – эмоциональный отклик влияет на интерпретацию поведения системы.
ИИ-интерфейсы могут нарушать принципы восприятия следующим образом:
– изменяя поведение без видимых причин (например, адаптивный рейтинг);
– создавая иллюзию персонализированного понимания, в то время как это шаблон;
– скрывая внутренние связи между входными и выходными данными.
Если пользователь не может сопоставить стимул и результат, восприятие дезорганизуется. Он начинает чувствовать тревожность, раздражение или отрешённость. Особенно чувствительны к таким ошибкам пользователи с разной сенсорной или когнитивной доступностью: слабое зрение, сниженная концентрация, возрастные особенности.
В HCAI восприятие должно проектироваться как структура устойчивых, воспроизводимых смыслов, а не как реактивная визуализация. Это достигается через повторяемость, семиотику (иконы, цвета, формы), а также поясняющие микросценарии.
Память: ограничения и якоря взаимодействия
Кратковременная память (short-term memory) ограничена по объёму: согласно исследованиям Миллера, человек может удерживать от 5 до 9 единиц информации одновременно (магическое число 7 ± 2). При этом длительность хранения – около 15—30 секунд без повторения. В условиях цифрового взаимодействия это означает, что:
– пользователю сложно удерживать в памяти структуру диалога, особенно если он разветвлён;
– без визуальной поддержки или напоминания прошлые действия забываются;
– интерфейсы с несколькими вкладками, состояниями, вариантами вызывают когнитивную фрагментацию.
ИИ-системы добавляют сложности: адаптивность, нестабильность, вариативность. Если пользователь не получает подтверждения действий или напоминания о предыдущем шаге, память обрывается, и возникает эффект «перезапуска» – каждый новый экран ощущается как первый.
В HCAI необходимо:
– сохранять контекст: указывать, где находится пользователь и что уже было сделано;
– использовать прогресс-бары, чек-листы, breadcrumb-навигацию;
– напоминать пользователю об его собственных действиях (например: «Вы уже искали X»);
– минимизировать временные разрывы в логике.
Долговременная память (long-term memory) зависит от повторений, смысловых связей и эмоционального отклика. Поэтому особенно важны консистентность, повторяемость и поддержка мотивации в UX HCAI.
Модели принятия решений: рациональные и ограниченно-рациональные (Kahneman, Tversky)
Любое взаимодействие человека с системой – это не просто реакция на стимул, а серия микрорешений. Открыть приложение, нажать кнопку, принять рекомендацию ИИ, игнорировать уведомление, отказаться от действия – каждое из этих событий включает когнитивный акт выбора. Понимание того, как человек принимает решения в условиях неопределённости, ограниченного времени и информационной перегрузки, позволяет проектировать ИИ-системы, которые не только удобны, но и не искажают поведение, не манипулируют восприятием и не подрывают автономию пользователя.
HCAI опирается на модели поведенческой экономики и когнитивной психологии, в частности – на исследования Даниэля Канемана и Амоса Тверски, чьи работы заложили основу понимания того, как реальные люди принимают решения – не в идеальных условиях, а в сложной, эмоционально и когнитивно насыщенной среде.
Рациональная модель: Homo Economicus
В классических экономических и инженерных теориях долгое время доминировала модель рационального агента, или Homo Economicus. Согласно этой модели:
– человек принимает решения, стремясь максимизировать свою полезность;
– обладает полной информацией о вариантах;
– способен обрабатывать все альтернативы;
– действует логично и последовательно.
Применительно к интерфейсу это предполагало, что если система предложит пользователю наилучший выбор, тот его примет – при условии, что информация полная и подана ясно.
Однако многократно доказано, что в реальной жизни люди не действуют рационально:
– они не видят всех опций;
– не могут оценить вероятности;
– опираются на эвристики, интуицию, эмоции;
– искажают информацию и переоценивают риски.
Таким образом, рациональная модель – удобный, но неверный ориентир для проектирования ИИ-взаимодействия.
Ограниченная рациональность (bounded rationality): Г. Саймон
Герберт Саймон (H. Simon), один из первых критиков классической рациональности, ввёл понятие ограниченной рациональности. В его модели человек:
– стремится к приемлемому, а не к оптимальному решению (satisficing);
– работает с ограниченными когнитивными ресурсами;
– часто выбирает первое «достаточно хорошее» решение, а не лучшее из всех.
Для UX-дизайна это означает, что интерфейс должен:
1. снижать нагрузку на анализ;
2. предлагать адекватные подсказки и ориентиры;
3. помогать не в выборе, а в отказе от плохих вариантов.
ИИ в этом контексте должен не только подсказывать, но и учитывать, как именно пользователь принимает решения в условиях недостатка информации, времени и уверенности.
Эвристики и искажения (biases): Канеман и Тверски
Канеман и Тверски радикализировали представление о человеческом мышлении. Их модель двухсистемного мышления (двухсистемная модель – dual-system theory) предполагает существование:
– Система 1 – быстрое, автоматическое, эмоциональное мышление
– Система 2 – медленное, логическое, аналитическое мышление
Большинство пользовательских решений – особенно в цифровой среде – принимаются Системой 1, то есть интуитивно, под влиянием настроения, паттернов, первого впечатления.
Примеры типичных когнитивных искажений:
1. Эффект якоря (anchoring) – первая цифра или значение влияет на последующие оценки.
2. Эвристика доступности – пользователь оценивает вероятность события по тому, насколько легко он вспоминает подобный случай.
3. Иллюзия контроля – человек переоценивает своё влияние на случайные процессы.
4. Слепое следование рекомендациям (automation bias) – доверие машине выше, чем собственным суждениям, даже при наличии ошибок.
ИИ-интерфейсы усиливают эти эффекты, особенно если:
– рекомендации подаются без объяснения;
– визуальный приоритет даётся «правильному» варианту;
– отсутствует равновесие между вариантами;
– формулировки навязчиво позитивны («лучший выбор», «рекомендуемое»).
Таким образом, ИИ способен не только отражать, но и усиливать искажения, встроенные в человеческое мышление. Это накладывает этическую и когнитивную ответственность на проектирование интерфейса: не усиливать манипулятивные паттерны, а проектировать их с осознанием рисков.
Поведение под влиянием ограниченной информации
Цифровая среда представляет собой идеальный контекст для когнитивных искажений: