Юлия Вересова – Человеко-ориентированный искусственный интеллект: UX, аналитика, этика (страница 8)
Внимание – Ограниченный когнитивный ресурс, распределяемый между объектами, задачами и сигналами; основа эффективного восприятия интерфейса.
Восприятие – Психологический процесс преобразования сенсорной информации в осмысленные образы и структуры.
Кратковременная память – Механизм хранения ограниченного объёма информации в течение короткого времени, участвующий в выполнении текущих действий.
Долговременная память – Устойчивое хранение информации, формируемое на основе повторений, смысловых связей и эмоциональной значимости.
Гештальт-принципы – Когнитивные правила, по которым человек группирует и интерпретирует визуальные объекты (близость, сходство, завершённость).
Рациональное поведение – Поведение, соответствующее модели оптимизации: выбор, основанный на полной информации и логике.
Ограниченная рациональность – Модель, признающая когнитивные и информационные ограничения человека при принятии решений.
Эвристика – Ментальное правило или паттерн, упрощающий принятие решений в условиях неопределённости или перегрузки.
Когнитивное искажение (bias) – Систематическое отклонение в суждениях, приводящее к ошибочным решениям или восприятию.
Система 1 / Система 2 – Теория мышления (Канеман): автоматическое (интуитивное) и контролируемое (аналитическое) мышление.
Автоматизация – Делегирование задачи ИИ или цифровой системе, снижающее участие пользователя в процессе выполнения.
Automation bias – Склонность человека переоценивать корректность автоматизированных решений и недооценивать ошибки.
Overtrust / Undertrust – Избыточное или недостаточное доверие к системе, влияющее на поведение и принятие решений.
Переоценка ИИ (Anthropomorphism) – Приписывание ИИ человеческих качеств – эмоций, намерений, сознания.
Агентность (Agency) – Способность пользователя осознанно влиять на поведение системы и принимать автономные решения.
Системное мышление – Навык видеть продукт как часть взаимосвязанной системы, с учётом всех уровней и последствий изменений.
Критическое мышление – Способность анализировать и интерпретировать информацию, оценивать обоснованность выводов и принимать решения с учётом контекста.
UX-профилактика – Подход к проектированию взаимодействия, при котором ошибки и негативные сценарии предотвращаются ещё на этапе концепции.
Архитектура поведения – Проектирование пользовательского опыта как структуры когнитивных, эмоциональных и поведенческих паттернов, управляемых системой.
Глава 3. UX-исследования и аналитика
Планирование UX/AI-исследований: цели, гипотезы, методы
Исследование в UX и HCAI – это не разовая процедура, направленная на сбор обратной связи, а фундаментальный этап проектирования, без которого невозможно принять обоснованные решения о структуре, поведении и логике интерфейса. Особенно в контексте ИИ-систем, чьё поведение адаптивно, вероятностно и не всегда интерпретируемо, качественно спланированное исследование позволяет выявить неочевидные барьеры, скрытые искажения, поведенческие риски и когнитивные нагрузки, которые не могут быть предсказаны методом экспертной оценки.
В отличие от классического UX, в исследованиях HCAI фокус смещается с оценки визуальных паттернов и удобства навигации на изучение взаимодействия пользователя с интеллектуальной логикой системы, включая восприятие объяснимости, уровень доверия, ощущение агентности и способность к интерпретации предложений или решений. Это требует не просто применения существующих методик, но и их адаптации к новым условиям – когда система не статична, а активно влияет на поведение и интерпретацию.
Процесс исследования начинается с постановки целей. В UX и HCAI цели не сводятся к «понравилось/не понравилось» или «понял/не понял». Они связаны с изучением когнитивного и поведенческого контекста: как пользователь интерпретирует поведение системы, где возникают когнитивные конфликты, как пользователь реагирует на автономные решения, в каком месте снижается уверенность или теряется контроль.
Цель исследования может быть направлена на:
– выявление критических точек в пользовательском сценарии;
– понимание, как пользователь объясняет поведение ИИ;
– проверку, насколько рекомендации воспринимаются как адекватные;
– оценку устойчивости доверия после ошибок системы;
– сбор данных о различиях в восприятии у разных сегментов пользователей (например, новички против опытных; молодые против пожилых).
После постановки целей формируется гипотеза – предположительное утверждение, которое можно подтвердить или опровергнуть эмпирически. Гипотеза в UX/AI-исследовании должна быть операционализирована: то есть иметь понятное поведенческое выражение, по которому можно судить о её справедливости. Например, гипотеза может звучать как: «Пользователи будут склонны принимать рекомендации ИИ, если система визуально показывает уровень своей уверенности». Или: «Добавление краткого объяснения решения ИИ повысит уровень субъективного доверия и снизит количество отказов от действия».
Методы исследования подбираются в зависимости от цели и гипотезы. В UX/HCAI они делятся на качественные, количественные и смешанные. Качественные методы позволяют понять внутреннюю логику пользователя, его интерпретации, эмоции и восприятие. Количественные – дают статистические показатели: доли успешных задач, уровень вовлечённости, продолжительность взаимодействия, ошибки, отклонения от ожидаемого поведения. Смешанные методы позволяют комбинировать глубину качественного подхода с репрезентативностью количественного.
При выборе метода необходимо учитывать:
– тип интерфейса (визуальный, голосовой, рекомендательный);
– степень адаптивности ИИ (насколько его поведение зависит от пользователя);
– ожидаемую когнитивную нагрузку;
– уровень зрелости продукта (прототип или действующая система);
– контекст исследования (лабораторное или полевое, дистанционное или вживую).
Исследования могут быть формативными – направленными на понимание текущего состояния и выявление проблем, или суммативными – проверяющими эффект изменений после итерации. В HCAI оба подхода применяются одновременно, потому что ИИ-система может менять поведение во времени, а значит, формативный анализ должен проводиться регулярно даже в работающем продукте.
Важно также учитывать роль наблюдателя. В UX-исследованиях наблюдение может повлиять на поведение пользователя – особенно при изучении взаимодействия с интеллектуальной системой, где пользователь может неосознанно подстраиваться под предполагаемое поведение «умного» интерфейса. Это требует строгого соблюдения нейтральности, чёткого сценария интервью и контроля за вмешательством в ход эксперимента.
Планирование UX/AI-исследования включает:
1. постановку исследовательских вопросов и целей;
2. формулирование проверяемых гипотез;
3. выбор методов: интервью, тестирование, лог-анализ, анкетирование;
4. определение метрик:
– подбор респондентов (репрезентативных по отношению к целевой аудитории);
– разработку сценариев задач и вопросов;
– соблюдение этических процедур (информированное согласие, анонимизация и др.).
Процесс планирования не является линейным. Цель, гипотеза и метод взаимно влияют друг на друга. Иногда гипотеза формируется после первичных наблюдений. Иногда метод диктуется контекстом (например, невозможностью провести очное наблюдение). Ключевой навык исследователя HCAI – гибко управлять этой структурой, не теряя научной строгости.
План – это не просто список шагов. Это инструмент, обеспечивающий валидность, воспроизводимость и интерпретируемость данных. Особенно в работе с ИИ, где поведение модели может меняться, а пользователь – не всегда осознаёт границы своего взаимодействия, качественное планирование превращается в акт архитектуры: заранее задавая рамки интерпретации, мы управляем тем, какой опыт становится видимым, а какой – ускользает.
Качественные методы: интервью, наблюдения, CJM, карты эмпатии
Качественные методы в UX-исследованиях позволяют выйти за рамки статистических показателей и изучить внутренние когнитивные, эмоциональные и поведенческие механизмы взаимодействия человека с системой. В контексте HCAI это особенно важно, так как взаимодействие с ИИ включает в себя интерпретацию решений модели, доверие, ощущение контроля и субъективное понимание агентности. Качественные исследования дают возможность увидеть не только, что пользователь делает, но и как он это объясняет, какие смыслы приписывает системе и что остаётся за пределами измеряемых метрик.
В отличие от количественных исследований, ориентированных на числовые показатели, качественные методы направлены на глубинное понимание индивидуального опыта. Они позволяют фиксировать противоречия, когнитивные пробелы, эмоциональные реакции и сформировать основание для генерации гипотез, которые в дальнейшем могут быть проверены количественно. Их особенность – в открытости, гибкости и ориентации на контекст, а не на стандартизированную процедуру.
Один из базовых методов – глубинное интервью. Оно позволяет исследователю понять, как пользователь воспринимает систему, как интерпретирует её поведение, что считает логичным, а что – непредсказуемым или тревожным. В случае ИИ-интерфейсов это может быть, например, вопрос о том, почему пользователь решил отказаться от рекомендованного действия, что он подумал, увидев определённый вывод модели, или как он определяет, что системе можно доверять. Интервью проводится по полуструктурированному сценарию, где задана логика тем, но вопросы формулируются гибко, позволяя уточнять, углубляться и реагировать на неожиданные направления. Анализ интервью включает этап кодирования – выделения тем, паттернов, повторяющихся смыслов – и может проводиться вручную или с помощью программного обеспечения (например, NVivo, Atlas. ti).