Юлия Вересова – Человеко-ориентированный искусственный интеллект: UX, аналитика, этика (страница 2)
Типичный пример – рекомендательные алгоритмы. Пользователь заходит в приложение, чтобы получить один тип контента, а система на основе истории поведения начинает навязчиво продвигать другую тему. С точки зрения модели – всё логично: вероятностный прогноз построен, система «учится». Но для человека это выглядит как вторжение или непонятное навязывание. Возникает ощущение: «меня не слышат», «мне не объясняют», «я не понимаю, что происходит». Даже при технически корректной работе модели теряется ощущение безопасности и управляемости – критически важные элементы доверия.
Особое внимание заслуживает поведение систем в ситуациях с высоким уровнем stakes – когда от решения зависят здоровье, финансы или личная информация. Например, если медицинская ИИ-система предлагает план лечения, не сопровождая это объяснением, пациент или врач могут отказаться от её использования. Точно так же, если финансовый алгоритм отклоняет заявку на кредит без понятного комментария, клиент будет воспринимать это как произвол. Даже если система действует в рамках правил, отсутствие объяснения делает её неприемлемой.
Интересно, что пользователи в этих случаях не обязательно требуют полного понимания внутренней логики модели. Глубокие технические детали – как правило, неинтересны или недоступны неспециалисту. Но крайне важно, чтобы система предоставляла понятные, когнитивно интерпретируемые объяснения – метафоры, аналогии, причинно-следственные связи, визуализации – позволяющие выстроить ментальную модель происходящего.
Потеря доверия часто проявляется не в явных жалобах, а в поведенческой реакции: снижении вовлечённости, отказе от функций, переключении на альтернативы. В долгосрочной перспективе это подрывает саму идею использования ИИ как вспомогательной технологии. Люди перестают ощущать, что ИИ работает с ними – и начинают воспринимать его как автономный, отчуждённый, непонятный элемент в системе.
Проблема ещё более усугубляется тем, что большинство UX-проектов с ИИ по-прежнему сосредоточены на дизайне визуальных слоёв, а не на когнитивной структуре доверия. Интерфейс может быть стилистически современным, но не предоставлять ничего для построения надёжной модели взаимодействия. В результате, система, вложенная в современный UI, может оставаться «чёрным ящиком» в глазах пользователя.
Это приводит нас к необходимости переосмысления роли UX в ИИ: не как оболочки, а как архитектуры объяснения, поддержки, управления и диалога. Именно этот переход и задаёт основное направление Human-Centered AI.
Понятия HCI и HCAI: история и различия
Human-Computer Interaction (HCI) – это область, изучающая проектирование, реализацию и оценку взаимодействия между людьми и компьютерными системами. Термин появился в 1980-х годах на стыке когнитивной психологии, эргономики и инженерии интерфейсов, когда стало очевидно, что эффективность цифровых систем зависит не только от их вычислительных характеристик, но и от того, насколько хорошо они соотносятся с ментальными, сенсорными и моторными возможностями пользователя.
На ранних этапах HCI фокусировалась на юзабилити (usability): понятности, простоте, скорости выполнения задач. Однако с 2000-х годов область стала включать в себя также эмоциональные, поведенческие и контекстные аспекты взаимодействия, превратившись в мультидисциплинарное поле, включающее элементы психологии, лингвистики, дизайна, информатики и социальной теории.
Современное определение HCI можно сформулировать следующим образом:
Human-Computer Interaction – это исследование и практика проектирования технологий, которые адаптированы к возможностям, потребностям и ограничениям человека, с целью обеспечения эффективного, осмысленного и безопасного взаимодействия.
Важным в этом определении является акцент на человеке как активном участнике, а не просто пользователе. Поведение, ожидания, навыки и контекст использования становятся не побочными факторами, а центральными точками проектирования.
Переход к HCAI: от взаимодействия к ответственности
Появление искусственного интеллекта как активного компонента взаимодействия привело к необходимости расширить рамки HCI. Когда система начинает самостоятельно адаптироваться, обучаться на пользовательских данных и предлагать решения, возникает новая степень сложности: взаимодействие приобретает черты социального, неопределённого и потенциально автономного поведения. В этом контексте взаимодействие перестаёт быть только вопросом интерфейса – оно становится вопросом влияния, доверия, прозрачности и справедливости.
Так появляется направление Human-Centered AI (HCAI) – ответ на вызов: как сделать ИИ не просто функциональным, а понятным, полезным и этически допустимым для человека. В отличие от HCI, где взаимодействие строится с детерминированной системой, HCAI работает с системами, поведение которых изменчиво, вероятностно и не всегда поддаётся контролю извне.
В этом смысле, HCAI – это не просто «интерфейс для ИИ», а архитектура взаимодействия, где ИИ встроен в жизненный, социальный и поведенческий контекст человека.
Классическая модель взаимодействия: цикл Нормана
Один из самых влиятельных вкладов в HCI – модель взаимодействия, предложенная Дональдом Норманом (D. Norman,
Норман выделяет два ключевых цикла:
Гульфа исполнения (Gulf of Execution) – разрыв между намерением пользователя и тем, как это реализуется в системе;
Гульфа оценки (Gulf of Evaluation) – разрыв между тем, что система делает, и тем, как пользователь это воспринимает.
На практике модель описывается как семишаговая когнитивная петля:
1. Формирование цели – что пользователь хочет достичь
2. Формирование намерения – какой план действия нужен
3. Определение последовательности действий – что нажать, выбрать
4. Физическое выполнение действия – ввод, клик, жест
5. Наблюдение за результатами – система выдаёт ответ
6. Интерпретация вывода – что это значит?
7. Оценка состояния системы – всё ли пошло по плану?
Эта модель применима и к простым интерфейсам (например, банкомат), и к сложным ИИ-системам. Однако в случае с ИИ добавляется новая проблема: система может менять поведение в зависимости от данных, адаптироваться, принимать решения автономно. Это означает, что даже при чётком исполнении команды результат может отличаться от ожидаемого, а этапы 5—7 (наблюдение, интерпретация, оценка) становятся ключевыми точками возможного срыва доверия.
Актуальность модели Нормана в эпоху ИИ
В контексте HCAI модель Нормана приобретает новое измерение. Её важность возрастает, потому что именно на стадии оценки поведения ИИ пользователь сталкивается с трудностью: результат может быть корректным математически, но не соответствовать ментальной модели. Это требует от системы не просто интерфейса, а активного участия в объяснении логики своих действий – например, через визуализацию причин, акцентов, уверенности, альтернатив.
Взаимодействие больше не замыкается в схеме «команда—ответ», а превращается в диалог, в котором ИИ должен не только реагировать, но и прозрачно коммуницировать ход своей «мысли».
Как HCAI расширяет HCI: включение машинного обучения, этики и доверия
Системы взаимодействия между человеком и компьютером в рамках классической парадигмы HCI предполагают, что поведение системы определено заранее. Архитектура интерфейса проектируется под жёстко заданные функции, а результат действия пользователя может быть точно предсказан разработчиком. Однако с появлением и активным внедрением систем искусственного интеллекта, в частности машинного обучения (ML), данное допущение более не работает.
ИИ-модели – особенно обучаемые – обладают рядом характеристик, которые принципиально нарушают базовые предпосылки классической HCI. Среди таких характеристик:
Обучение на данных (а не программирование поведения вручную);
Непредсказуемость решений в отдельных случаях (особенно при генеративных или вероятностных выходах);
Адаптация во времени – модель может обновлять внутренние параметры и поведение;
Необъяснимость логики вывода без дополнительной интерпретации.
Это порождает качественно новые задачи, которых не было в традиционной HCI:
Как представить поведение модели так, чтобы оно было понятно человеку?
Как сделать выводы модели интерпретируемыми без глубоких технических знаний?
Как оценить, безопасна ли система для разных типов пользователей?
Как удостовериться, что поведение ИИ не приводит к дискриминации, манипуляции или психологическому дискомфорту?
Эти вопросы формируют обоснование перехода от HCI к Human-Centered AI (HCAI) – более широкому подходу, который включает в повестку не только дизайн интерфейса, но и:
Интеграцию методов машинного обучения в пользовательский контекст. ML-модели требуют новых форм визуализации, настройки и взаимодействия:
1. Пользователь должен понимать, на основе каких данных сделан вывод;
2. Необходимо отображать уровень уверенности модели, а не просто результат;
3. Интерфейс должен предлагать альтернативные варианты, позволяя сравнивать решения.