Дмитрий Ланецкий – Невидимый человек: Как большие системы стирают вашу значимость (страница 5)

Логика системы холоднее человеческой вины

Человеческая вина понятнее. Если сотрудник нагрубил, врач отмахнулся, менеджер соврал, руководитель проигнорировал, возникает ясная моральная сцена. Можно сказать: он поступил плохо. Можно требовать извинений. Можно жаловаться на конкретного человека. Большая система размывает эту сцену. Один человек написал скрипт ответа, другой настроил правила маршрутизации, третий утвердил метрику скорости, четвёртый сократил штат поддержки, пятый внедрил автоматическую проверку, шестой видит только результат в отчёте. В итоге клиент, пациент, пользователь или кандидат сталкивается с эффектом, который трудно приписать одному виновнику.

Размытая ответственность не делает вред менее реальным. Наоборот, она делает его особенно устойчивым. Когда у ошибки есть автор, её проще признать и исправить. Когда ошибка встроена в процесс, она маскируется под порядок. Человек жалуется не на сбой, а на нормальную работу механизма, который изначально не был создан вокруг его исключительной ситуации. Он просит увидеть то, что система научилась не видеть ради эффективности.

Большие организации вынуждены мыслить категориями объёма. Сколько обращений закрыто за день. Сколько операций проверено. Сколько подозрительных действий остановлено. Сколько объявлений отклонено. Сколько резюме обработано. Сколько заказов доставлено. Сколько пользователей удержано. Такие показатели нужны, иначе управление превращается в хаос. Но вместе с ними возникает опасная подмена: успешность процесса начинают оценивать по движению массы, а страдание отдельного человека становится статистическим шумом.

Именно поэтому система может выглядеть безупречно на уровне отчёта и болезненно на уровне конкретной судьбы. Среднее время ответа сокращается, но отдельный человек неделями ходит по кругу. Доля успешно доставленных заказов высока, но потерянная посылка для покупателя оказывается важной, потому что в ней был не абстрактный товар, а нужная вещь к конкретному моменту. Антифрод предотвращает множество мошеннических операций, но одна ошибочная блокировка может поставить человека в унизительное положение перед продавцом, родственником или арендодателем. Алгоритм модерации снижает поток опасного контента, но ошибочная блокировка разрушает чей-то канал дохода или доступ к аудитории.

Система видит суммарный выигрыш. Человек живёт единичную потерю. Между этими двумя масштабами лежит пропасть, которую нельзя закрыть фразой «так работает процедура». Процедура может быть необходимой. Но необходимость не освобождает её от человеческой цены.

Оптимизация как источник боли

Слово «оптимизация» звучит почти безобидно. Оно обещает меньше потерь, больше скорости, точнее распределение ресурсов, ниже издержки, выше предсказуемость. Руководители любят оптимизацию, потому что она позволяет управлять сложностью. Пользователи тоже часто выигрывают от неё: быстрее проходят платежи, удобнее оформляются заказы, проще записаться на услугу, легче получить ответ на типовой вопрос. Но у любой оптимизации есть край, за которым человек начинает чувствовать себя лишней переменной.

Поддержка оптимизируется через скрипты. Оператору дают готовые формулировки, потому что так быстрее, безопаснее и единообразнее. Но когда проблема не укладывается в сценарий, скрипт превращается в стену. Человек объясняет нюанс, а в ответ получает текст, написанный для общего случая. Он уточняет, что ситуация другая, а ему повторяют тот же смысл другими словами. С точки зрения процесса это экономия времени. С точки зрения человека это отказ слышать.

Модерация оптимизируется через автоматические модели. Платформы не могут вручную проверять каждую публикацию, каждую жалобу, каждое видео, каждое объявление. Масштаб делает автоматизацию неизбежной. Но автоматическая проверка плохо переносит человеческую неоднозначность: контекст, иронию, цитату, образовательный разбор, журналистский материал, художественную форму, политическую чувствительность, культурные различия. Там, где человек объяснил бы себе смысл, модель видит сигнал риска. И чем крупнее платформа, тем больше соблазн принимать ошибку как приемлемую стоимость безопасности.

HR-процессы оптимизируются через системы отслеживания кандидатов. Рекрутеры получают поток откликов, который невозможно внимательно читать вручную с одинаковым качеством. Фильтры помогают искать релевантный опыт, ключевые навыки, совпадения с вакансией. Но для кандидата отсев всегда выглядит как оценка его личности и профессиональной ценности. Он потратил время, составил резюме, написал сопроводительное письмо, вложил надежду. Система же могла отбросить его заявку по формальному признаку, не дойдя до человеческого чтения. Так человек переживает как отказ то, что внутри компании могло быть всего лишь сортировкой.

Маркетплейсы оптимизируют выдачу. Они ранжируют товары так, чтобы покупатель быстрее нашёл подходящее, а площадка получила больше продаж и меньше разочарований. Для покупателя это удобство. Для продавца, который оказался глубоко в списке, это может стать исчезновением. Он существует, платит комиссии, ведёт карточки, работает с отзывами, следит за остатками, но без видимости его товар будто перестаёт быть реальным. Алгоритм не испытывает к нему неприязни. Он просто распределяет внимание туда, где ожидает большего результата.

Банковский антифрод оптимизирует безопасность. Его задача — замечать подозрительное, останавливать риск, защищать клиента и банк от потерь. Но подозрительное для модели не всегда совпадает с опасным для человека. Нестандартная покупка, перевод в необычное время, смена устройства, операция за пределами привычного поведения — всё это может выглядеть как сигнал. Для системы пауза разумна. Для человека пауза может стать кризисом. Особенно если объяснение приходит слишком поздно, а доступ к живому решению спрятан за несколькими уровнями автоматических меню.

Система не понимает боли, если боль не стала параметром

Чтобы большая система учитывала что-то, это «что-то» должно быть выражено в форме, которую она способна обработать. Деньги, сроки, статусы, категории риска, количество обращений, рейтинг, конверсия, удержание, стоимость контакта, вероятность мошенничества, юридический риск — всё это хорошо переводится в параметры. Человеческая боль переводится хуже. Она слишком контекстна. Она зависит от обстоятельств, интонаций, ожиданий, уязвимости, прошлого опыта, срочности, личной цены события.

Боль должна стать параметром, чтобы войти в расчёт. Но как её параметризовать? Сколько баллов присвоить тревоге? Какой приоритет дать человеку, который формально не находится в критической категории, но субъективно переживает ситуацию как разрушительную? Как отличить настойчивого клиента от того, чью проблему действительно недооценили? Как позволить системе быть гибкой и не открыть её для злоупотреблений? Эти вопросы сложны, и честный разговор о них редко помещается в рекламные обещания сервиса.

Проще сказать: мы заботимся о пользователях. Сложнее построить процесс, где забота выдерживает масштаб. Забота требует времени, полномочий, права на исключение, качественной апелляции, возможности передать случай живому специалисту, уважительного объяснения решения. Всё это дорого. Всё это замедляет поток. Всё это ухудшает красивые показатели скорости, если смотреть на них грубо. Поэтому система часто выбирает управляемую вежливость вместо настоящего внимания.

Именно здесь возникает одна из главных ошибок: компании начинают считать отсутствие жалобы признаком отсутствия боли. Но многие люди не жалуются, потому что не верят в результат. Они уходят молча, отказываются от услуги, рассказывают друзьям, пишут резкий отзыв, создают новый аккаунт, ищут другой банк, меняют врача, бросают попытку получить ответ. Внутри отчёта это может выглядеть как обычное поведение пользователя. Внутри человека это запоминается как урок: меня здесь не увидели.

Без ненависти, но с последствиями

Трудно принять мысль, что вред может быть произведён нормальной работой хороших по замыслу механизмов. Мы хотим, чтобы плохой результат имел плохой источник. Так проще морально ориентироваться. Но многие системы создавались не для унижения человека. Они создавались для защиты, скорости, экономии, масштабируемости, предсказуемости, снижения рисков. Проблема в том, что эти цели могут сталкиваться с человеческим достоинством, если достоинство не встроено в устройство процесса.

Автоматический ответ сам по себе нейтрален. Он становится жестоким, когда заменяет единственный канал человеческой помощи. Скоринг сам по себе может быть полезен. Он становится опасным, когда человеку не дают понятного пути пересмотра. Модерация необходима на крупных платформах. Она становится травмирующей, когда решение невозможно объяснить и обжаловать по существу. Скрипт поддержки помогает новичку не растеряться. Он становится издевательским, когда оператору запрещено выйти за пределы шаблона. KPI дисциплинируют работу. Они становятся разрушительными, когда скорость закрытия обращения ценится выше качества решения.

Последствие без ненависти особенно трудно обсуждать публично. Стоит человеку сказать, что система причинила ему вред, ему могут ответить языком рациональности: вы же понимаете масштаб; вы же понимаете безопасность; вы же понимаете, что без правил нельзя; вы же понимаете, что бывают ошибки. Всё это верно. Но за этими фразами часто прячется нежелание признать главный факт: рациональная причина не отменяет пережитый ущерб. Ошибка, возникшая из-за масштаба, остаётся ошибкой. Молчание, возникшее из-за перегрузки, остаётся молчанием. Отказ, сформированный автоматически, остаётся отказом.