Юлия Вересова – Человеко-ориентированный искусственный интеллект: UX, аналитика, этика (страница 5)
– не усиливать предвзятости, связанные с оценками или демографией;
– предоставлять инструменты для изменения траектории.
Эти требования не входят в «техническое ТЗ» модели. Они возникают на уровне взаимодействия – и именно UX и поведенческая аналитика HCAI обеспечивают их реализацию.
HCAI – это не про «удобство»
Одно из ключевых недоразумений при интерпретации HCAI – это сведение его к теме удобства использования (usability). Хотя юзабилити остаётся важной частью взаимодействия, в центр HCAI ставится не удобство, а осмысленность, безопасность и адаптивность системы.
Удобство – это локальная характеристика: легко ли совершить действие.
Адаптивность и прозрачность – это системные свойства:
1. насколько система поддерживает пользователя в достижении целей,
2. насколько она корректно реагирует на изменения контекста,
3. может ли человек сохранять автономию, когда система берёт инициативу.
Долговременное взаимодействие возможно только тогда, когда ИИ не отнимает у человека право на интерпретацию и участие, а помогает ему лучше понять ситуацию, расширить выбор и сохранить чувство субъектности.
ключевые термины главы 1
Human-Computer Interaction (HCI) – Область, изучающая проектирование и оценку взаимодействия между человеком и компьютерными системами с целью повышения удобства, эффективности и понятности.
Human-Centered AI (HCAI) – Подход к разработке систем ИИ, фокусирующийся на прозрачности, объяснимости, контролируемости, доверии и социальной ответственности перед пользователем.
CLI (Command Line Interface) – Тип интерфейса, в котором взаимодействие происходит через ввод текстовых команд. Требует знания синтаксиса и логики командной оболочки.
GUI (Graphical User Interface) – Интерфейс с графическими элементами (окна, кнопки, иконки), делающий взаимодействие визуальным и более доступным.
Touch Interface – Сенсорный интерфейс, использующий жесты и касания, особенно распространённый в мобильных устройствах.
Conversational UI – Интерфейсы, основанные на диалоге с пользователем – текстовом или голосовом, часто с применением NLP.
AI-driven UX – Пользовательский опыт, управляемый ИИ – адаптивный, персонализированный, формируемый с помощью обучаемых моделей.
Usability – Показатель удобства системы: насколько она проста в освоении, эффективна в использовании и удовлетворяет потребности пользователя.
User Experience (UX) – Совокупность восприятий, реакций, эмоций и поведенческих паттернов пользователя при взаимодействии с системой.
Cognitive Load – Объём умственных усилий, который человек тратит на выполнение задачи или понимание интерфейса.
Explainability (XAI) – Способность ИИ-системы объяснить логику своих решений так, чтобы это было понятно человеку.
Transparency – Степень открытости алгоритма и интерфейса: насколько пользователь может понять, как работает система.
Bias (Алгоритмическая предвзятость) – Непреднамеренное смещение или дискриминация в алгоритмах, возникающие из-за перекосов в данных или структуре модели.
Fairness – Принцип справедливости: система должна принимать решения, не нарушая равенство возможностей между пользователями.
Ментальная модель – Внутреннее представление пользователя о том, как работает система. Чем ближе она к реальной логике – тем лучше UX.
Gulf of Execution / Evaluation – Расстояние между намерением пользователя и возможностями интерфейса (execution) и между результатом и его интерпретацией (evaluation), согласно модели Нормана.
Trust – Уверенность пользователя в корректной, честной и предсказуемой работе системы ИИ.
Controllability – Возможность пользователя влиять на поведение ИИ, отменять или уточнять его действия.
Responsibility-by-Design – Подход, при котором принципы ответственности, прозрачности и объяснимости закладываются на этапе проектирования, а не «добавляются» постфактум.
Agency (агентность) – Способность пользователя действовать осознанно и автономно при взаимодействии с системой. В HCAI задача – её сохранить.
Behavioral Pattern – Поведенческий шаблон, отражающий типичную реакцию или выбор пользователя в определённой ситуации.
Adaptive System – Система, которая подстраивается под пользователя на основе данных, поведения или внешнего контекста.
Глава 2. Психология пользователя в HCAI
Когнитивные основы пользовательского взаимодействия с интеллектуальными системами
Проектирование взаимодействия между человеком и системой – это не только вопрос интерфейса, визуальной эстетики или структуры сценариев. Взаимодействие с ИИ задействует ключевые когнитивные механизмы: восприятие, внимание, кратковременную и долговременную память, а также процессы интерпретации и принятия решений. Если эти механизмы не учитываются, система может быть технически корректной, но когнитивно – избыточной, перегруженной, непонятной. В контексте HCAI этот вопрос становится особенно критичным: ИИ-системы не просто реагируют, они инициируют действия, прогнозируют, предлагают, управляют контекстом. А значит, они вступают в прямое взаимодействие с ментальными процессами пользователя.
Когнитивная нагрузка: ресурсный предел мышления
Когнитивная нагрузка (cognitive load) – это объём ментальных ресурсов, который требуется человеку для обработки информации, принятия решения или выполнения действия. Этот термин был введён в рамках когнитивной психологии и педагогики (Sweller, 1988), но быстро стал центральным понятием в UX-дизайне.
Когнитивная нагрузка возникает всегда, когда:
– интерфейс требует усилий для навигации;
– система предлагает несколько опций без явной иерархии;
– результат действия неясен, и требуется дополнительное мышление для интерпретации;
– отсутствует прямая связь между целью и способом её достижения.
Для ИИ-интерфейсов характерны особые источники когнитивной нагрузки:
1. Обилие вероятностных выводов без явных оснований.
2. Персонализация без объяснения принципов.
3. Автоматизация, не отражённая визуально или логически.
4. Скрытая адаптация, создающая ощущение нестабильности.
Если пользователь не может удерживать в кратковременной памяти текущие действия, правила, логику поведения системы – возникает фрустрация. Особенно опасна когнитивная перегрузка, при которой пользователь теряет способность принимать рациональные решения, ориентироваться в интерфейсе и, в конечном итоге, отказывается от взаимодействия.
UX-задача HCAI в этом контексте – минимизировать когнитивную нагрузку без потери функциональной мощности системы. Это достигается через понятные сценарии, иерархию информации, визуальное подтверждение действия, использование ментальных моделей пользователя и поддержку кратковременной памяти.
Внимание: распределение ресурсов в условиях перегрузки
Внимание – это ограниченный когнитивный ресурс, распределяемый между стимуляцией, задачами и источниками информации. В условиях ИИ-взаимодействия внимание становится критически важным, потому что:
– интеллектуальная система может инициировать действия без запроса;
– интерфейс может меняться динамически в зависимости от поведения пользователя;
– рекомендации могут конкурировать за внимание (например, push-уведомления, адаптивные блоки контента).
Психология внимания указывает на несколько свойств, актуальных для HCAI:
– избирательность: пользователь замечает только то, что имеет когнитивную значимость;
– ограниченность: невозможно удерживать внимание более чем на 4—7 элементах одновременно;
– подверженность искажению: внимание легко переключается на яркие, а не важные элементы.
ИИ-системы, действующие вне визуального контекста (например, голосовые помощники или автоматические триггеры), особенно рискуют нарушить восприятие внимания, потому что пользователь не ожидает действия, и не получает предупреждающего сигнала.
В UX-дизайне HCAI это требует строгого внимания к темпу, плотности и каналам подачи информации. Архитектура интерфейса должна поддерживать фокус, а не разрушать его.
Восприятие: преобразование интерфейса в смысл
Восприятие – это процесс преобразования сенсорных данных в осмысленные структуры. В UX этот процесс охватывает зрительные, звуковые, тактильные и временные характеристики интерфейса.
Особенности восприятия, критичные для HCAI: