Александр Данильянц – ЧЕЛОВЕЧЕСКИЙ ФАКТОР В АЛГОРИТМИЧЕСКОМ МИРЕ (страница 2)
В 2020-х годах многие ритейлеры, полностью доверившие управление запасами ИИ, столкнулись с коллапсом. Алгоритмы не могли предсказать изменение поведения потребителей, вызванное глобальным стрессом. Они заказывали товары, которые были нужны «вчера», и игнорировали то, что стало нужно «сегодня». Спасали ситуацию люди. Менеджеры, которые отключали автоматические заказы и звонили поставщикам, опираясь на интуицию и новости, а не на отчеты.
Контекст против контента
Алгоритм видит контент. Человек видит контекст.
В маркетинге, которым я занимаюсь через агентство «Цифровое действие» и проект RankBoost, это различие критично. Нейросеть может написать идеальный текст с точки зрения SEO. Она вставит ключевые слова, соблюдет структуру, выдержит тональность. Но она не знает, что вчера у вашего конкурента случился скандал, и теперь любое упоминание этой темы вызывает у аудитории агрессию. Она не знает, что ваш клиент сейчас переживает кризис, и ему не нужна «агрессивная продажа», ему нужно чувство безопасности.
Я помню случай из практики Luxoft, где я руководил закупками. Мы выбирали систему для автоматического распределения задач разработчиков. Алгоритм вендора был безупречен: он оценивал сложность задачи, квалификацию сотрудника, его загрузку и дедлайны. Он распределял задачи так, чтобы максимизировать скорость.
Результат? Производительность упала. Люди выгорали.
Почему? Потому что алгоритм не учитывал человеческий фактор. Он не знал, что разработчик Иванов сейчас проходит через сложный развод и ему нельзя давать стрессовые задачи, хотя по скиллам он идеален. Он не знал, что Петров и Сидоров в ссоре, и ставить их в одну команду — значит гарантировать конфликт.
Когда мы внесли в контракт требование о наличии «человеческого фильтра» со стороны тимлидов, эффективность вернулась. Машина дала оптимальную схему, человек внес поправку на реальность.
Границы применимости
Важно понять: я не призываю отказываться от данных. Я призываю перестать обожествлять их. Данные — это инструмент, как молоток. Молотком можно построить дом, а можно разбить палец. Проблема не в молотке, а в том, кто им машет.
В бизнесе есть зоны, где данные царят:
Логистика и цепочки поставок. Здесь вариативность низка, физика предсказуема.
Финансовая отчетность. Цифры не врут, если их не искажают намеренно.
Массовая персонализация. Рекомендательные системы («вам может понравиться») работают отлично, потому что цена ошибки низка.
И есть зоны, где данные бессильны без человека:
Стратегическое видение. Данные не могут придумать новый рынок. Они могут только оптимизировать существующий.
Переговоры высокого уровня. Здесь решают не аргументы, а химия между личностями.
Кризис-менеджмент. Когда правил нет, нужна импровизация.
Ошибка «Средней температуры»
Статистика знает понятие «средней температуры по больнице». Если у одного пациента жар 40, а у другого 36, в среднем у них нормальная температура. Алгоритмы часто оперируют средними значениями. Они оптимизируют процессы для «среднего пользователя», «среднего сотрудника», «среднего клиента».
Но в бизнесе деньги делаются на отклонениях. Ваши самые лояльные клиенты — это отклонение. Ваши самые талантливые сотрудники — это отклонение. Ваши самые рискованные и прибыльные сделки — это отклонение.
Если вы доверите управление бизнесом алгоритму, он начнет «стричь» отклонения, приводя все к серой середине. Это путь к стагнации.
Человеческий фактор заключается в умении видеть ценность в уникальном, в нестандартном, в том, что выбивается из паттерна. Инновация всегда выглядит как аномалия в данных до тех пор, пока не станет мейнстримом.
Кейс: Когда инструкция убивает
В тяжелой промышленности, с которой я начинал как специалист, безопасность — религия. Существуют тысячи страниц регламентов. Каждый шаг расписан. Это необходимо, чтобы избежать травм. Но я видел обратную сторону медали.
Сотрудник видит потенциальную проблему, которая не описана в регламенте. Но он боится отступить от инструкции. «Мне не платят за инициативу, мне платят за соблюдение», — думает он. В результате мелкая неисправность перерастает в аварию.
Алгоритмическое управление персоналом работает так же. KPI, метрики, дедлайны. Сотрудник превращается в функцию. Он перестает думать о благе компании, он начинает думать о том, как «обмануть» систему, чтобы выполнить метрику.
Я видел менеджеров по продажам, которые ради выполнения плана по звонкам (который отслеживала CRM) звонили клиентам с вопросами, которые раздражали, а не помогали. Метрика выполнена. Клиент потерян.
Внедрение ИИ в управление персоналом без учета психологии ведет к бунту или к тихому саботажу.
Что делать?
Принцип «Человек в контуре» (Human-in-the-loop). Никогда не отдавайте финальное решение в критически важных вопросах на откуп машине. ИИ должен предлагать варианты, человек — выбирать.
Аудит данных на предвзятость. Понимайте, на чем обучалась ваша модель. Если вы нанимаете людей через ИИ, проверьте, не дискриминирует ли он определенные группы, основываясь на исторических данных прошлых наймов.
Поощрение отклонений. Создавайте культуру, где сотрудник имеет право сказать «алгоритм ошибается», и за это не накажут, а поблагодарят, если он окажется прав.
Развитие критического мышления. В эпоху, когда ответ можно получить за секунду, вопрос становится важнее ответа. Учитесь спрашивать «Почему?» и «А что если?».
Данные дают нам карту. Но только человек может решить, куда мы хотим пойти. Карта не покажет красоты пейзажа, который ждет нас в пути. Карта не скажет, стоит ли игра свеч. Это решение требует души.
Глава 2. СМЕРТЬ РУТИННОГО ИНТЕЛЛЕКТА
Мы привыкли гордиться своим интеллектом. Способность запоминать факты, быстро считать, знать иностранные слова, оперировать формулами — все это считалось признаком ума. В школе и университете нас учили быть живыми жесткими дисками.
Но давайте будем честны: в хранении и обработке информации человек проигрывает калькулятору из 90-х, не говоря уже о современных облачных хранилищах.
То, что мы называли «интеллектом» в XX веке, в XXI веке становится «рутинной операцией». Если вашу работу можно описать алгоритмом «Если А, то Б», она будет автоматизирована. Это не вопрос будущего, это вопрос ближайших лет.
Зона комфорта эксперта
Самая большая опасность для современного специалиста — стать экспертом в том, что легко копируется.
Я видел юристов, которые годами составляли типовые договоры. Они гордились своей скоростью и знанием нюансов. Сегодня нейросеть делает это за 30 секунд, находя прецеденты по всему миру.
Я видел аналитиков, которые строили сводные таблицы в Excel. Сегодня это делает ИИ-ассистент по голосовой команде.
Кто они теперь? Если они не изменились, они стали операторами нейросетей. И зарплата оператора ниже, чем зарплата эксперта.
Но есть хорошая новость. Смерть рутинного интеллекта рождает жизнь интеллекта творческого и стратегического.
Три кита человеческой незаменимости
Что остается у нас? Три сферы, в которых алгоритмы (по крайней мере, в обозримом будущем) не смогут нас превзойти.
Генерация смыслов (Зачем?)
ИИ может ответить на вопрос «Как?». Как увеличить продажи? Как оптимизировать код? Как сократить издержки?
Но ИИ не может ответить на вопрос «Зачем?». Зачем нам этот бизнес? Какую боль мира мы лечим? В чем наша миссия?
Смыслы — это территория человека. Люди покупают не дрели, а дырки в стене. Но еще глубже: они покупают чувство уверенности, что полка не упадет. ИИ может продать дрель по характеристикам. Человек продаст уверенность через историю, через доверие к бренду.
Синтез несвязанного (Креатив)
ИИ работает на основе комбинации уже существующего. Он не создает ничего принципиально нового, он микширует паттерны.
Человек способен на озарение. На соединение вещей, которые логически не должны быть связаны.
Стив Джобс соединил каллиграфию и компьютеры. Никто не просил его об этом с точки зрения данных. Это был интуитивный скачок.
Ответственность (Кто виноват?)
Это самый важный пункт. Алгоритм не может нести ответственность. Его нельзя посадить в тюрьму, его нельзя уволить с волчьим билетом, он не чувствует стыда.
В бизнесе и обществе всегда должен быть человек, который скажет: «Я решаю. Я отвечаю».
Способность брать на себя риск и нести за него ответственность — это высшая форма человеческого капитала. Чем сложнее мир, тем дороже стоят люди, готовые сказать «Я возьму это на себя».
Трансформация образования
Если рутинный интеллект обесценивается, значит, система образования должна меняться. Запоминание дат и формул теряет смысл. Все это есть в смартфоне.
Что нужно учить?
• Учиться учиться. Навык быстрой адаптации к новым инструментам.
• Философию и этику. Чтобы понимать последствия технологий.
• Коммуникацию. Умение договариваться, убеждать, вдохновлять.