Юлия Вересова – Человеко-ориентированный искусственный интеллект: UX, аналитика, этика (страница 3)

В результате проектирование HCAI включает в себя XAI-практики (Explainable AI): объяснимость решений, визуальные метафоры, комментарии модели, причинно-следственные графы. Это требует от дизайнеров и исследователей не только навыков UX, но и понимания поведения обучаемых моделей.

Этика и социальная ответственность как часть дизайна

Классическая HCI в меньшей степени касалась нормативных или этических вопросов. Система рассматривалась как инструмент, нейтральный по определению. Однако ИИ, в силу своей способности усиливать предвзятость, воспроизводить структурное неравенство и действовать вне прозрачного алгоритма, требует включения этики как обязательного проектного уровня.

Это означает:

– необходимость оценивать справедливость алгоритма по отношению к разным социальным группам;

– учитывать последствия автоматизированных решений для конкретных категорий пользователей;

– обеспечивать обратную связь и возможность пересмотра или отмены решений ИИ;

– внедрять принципы responsibility-by-design – ответственность за результат не только после внедрения, но и на этапе проектирования.

В рамках HCAI эти аспекты превращаются из «желательных» в структурно необходимых.

Доверие как инженерная и психологическая категория

В HCI доверие к интерфейсу основывалось на стабильности, скорости, понятности. В HCAI доверие к системе включает гораздо более широкий спектр факторов:

Понимает ли пользователь, как система принимает решения?

Может ли он предсказать поведение ИИ в нестандартной ситуации?

Чувствует ли он, что может контролировать результат?

Есть ли у него возможность оспорить автоматическое действие?

Ощущает ли он, что система учитывает его интересы, а не просто оптимизирует метрику?

Таким образом, доверие становится центральной проектной переменной. Его нельзя «добавить» на финальном этапе. Оно должно быть интегрировано в архитектуру поведения системы, а также поддерживаться через объяснения, прозрачность, управление ожиданиями и понятный интерфейс.

HCAI не противопоставляется HCI, а дополняет и расширяет его, адаптируя классические методы к новым вызовам, связанным с:

– вероятностной природой ИИ,

– непредсказуемыми последствиями автоматизации,

– необходимостью верификации и объяснения логики модели,

– учётом социальных, правовых и эмоциональных последствий.

Если HCI – это проектирование взаимодействия с интерфейсом, то HCAI – это проектирование совместной деятельности человека и ИИ, в которой важно не только, что делает машина, но и как это воспринимается, понимается и используется человеком.

Этапы развития пользовательских интерфейсов

Эволюция интерфейсов: от CLI до AI-driven UX

Современные технологии взаимодействия между человеком и цифровыми системами представляют собой результат многолетней эволюции. На каждом этапе – от командной строки до интеллектуальных систем – менялась не только форма интерфейса, но и сама природа взаимодействия, а вместе с ней – ожидания пользователя, когнитивная нагрузка, дизайнерские задачи и принципы проектирования. Понимание этой эволюции необходимо для осознания, почему появление HCAI – не просто технологический тренд, а логическая необходимость следующего поколения взаимодействия.

I. CLI – Command Line Interface (1970—1980-е годы)

Характеристики:

– Взаимодействие через текстовые команды;

– Пользователь должен помнить синтаксис и параметры;

– Минимальная визуальная обратная связь;

– Высокий порог входа, низкий уровень интуитивности.

Восприятие пользователя:

– Интерфейс воспринимался как «язык машины», требующий изучения;

– Пользователь чувствовал себя «гостем» в системе: допуск к вычислению – через знание;

– Отсутствие визуальных ориентиров означало высокую когнитивную нагрузку.

Дизайнерские задачи:

– Были минимальными: дизайн «интерфейса» сводился к логике команд;

– Основной акцент – на документации и логике командной оболочки;

– UX в современном понимании отсутствовал – взаимодействие рассматривалось как программирование.

CLI дал пользователю доступ к мощным функциям, но требовал навыков. Он не адаптировался к человеку – человек адаптировался к машине.

II. GUI – Graphical User Interface (1980—2000)

Характеристики:

– Метапафоры (папки, окна, иконки), визуальное представление команд;

– Взаимодействие через мышь, меню, кнопки;

– Низкий когнитивный порог: система говорит на «языке пользователя».

Восприятие пользователя:

– Резкий рост доступности: компьютеры стали восприниматься как инструмент, а не как терминал;

– Пользователь ориентируется визуально, не запоминая команд;

– Интерфейс стал самодокументируемым: подсказки, визуальные иерархии, affordances.

Дизайнерские задачи:

– Проектирование стало мультимодальным: требовалось учитывать композицию, поведение, метафору;

– Появился UX как дисциплина: usability, тестирование, паттерны взаимодействия;

– Центром взаимодействия стал экран – визуальная плоскость управления.

GUI впервые поставил пользователя в центр проектирования. Машина стала адаптироваться к человеку – через метафору, визуальный язык, интерактивность.

III. Touch и Mobile-first интерфейсы (2007—н.в.)

Характеристики:

– Сенсорный ввод, жесты, отсутствие традиционного курсора;

– Экран = интерфейс; ограниченное пространство, контекстность;

– Взаимодействие в движении, с одной рукой, в социальных ситуациях.

Восприятие пользователя:

– Пользователь ожидает интуитивности и мгновенного отклика;

– Интерфейс воспринимается как «естественный» – нет барьеров мышления;

– Повышенная чувствительность к задержке, точности, реактивности.

Дизайнерские задачи: