Александр Данильянц – ЧЕЛОВЕЧЕСКИЙ ФАКТОР В АЛГОРИТМИЧЕСКОМ МИРЕ (страница 3)
• Психологию. Понимание себя и других.
В моей компании мы перестали смотреть на диплом при найме. Нам важнее портфолио и кейсы. Нам важнее, как человек мыслит, а не что он запомнил. Мы даем задачи, у которых нет правильного ответа. Смотрим, как кандидат ищет решение, как он аргументирует, как он ведет себя в тупике.
Концепция «Кентавра»
В шахматном мире есть термин «Кентавр». Это команда, состоящая из человека и компьютера. Исследования показали, что «Кентавр» обыгрывает и чистого человека, и чистый компьютер.
Почему? Потому что человек направляет вычислительную мощь машины в нужное русло, отсекая заведомо тупиковые ветви, которые машина могла бы просчитывать часами.
В бизнесе вы должны стать Кентавром.
Не пытайтесь соревноваться с ИИ в скорости счета. Используйте его как экзоскелет для своего ума.
Пусть ИИ пишет черновик письма, а вы вкладываете в него душу.
Пусть ИИ анализирует рынок, а вы принимаете стратегическое решение.
Пусть ИИ генерирует 100 идей, а вы выбираете одну гениальную.
Смерть «Среднего»
Рынок труда поляризуется.
Середина вымывается. Бухгалтеры, операционисты, переводчики технических текстов, диспетчеры — эти профессии трансформируются или исчезают.
Остаются два полюса:
Те, кто создает и управляет технологиями. (Инженеры, архитекторы ИИ).
Те, кто работает с людьми и смыслами. (Лидеры, психологи, творцы, сервис высшего уровня).
Если вы находитесь в середине, у вас есть выбор. Либо углубляться в технологии (стать тем, кто настраивает нейросети), либо углубляться в человечность (стать тем, кто понимает клиентов лучше, чем они сами).
Второй путь часто более устойчив. Технологии меняются каждые 5 лет. Психология людей меняется веками.
Практическое упражнение: Аудит вашей рутины
Возьмите лист бумаги. Выпишите все задачи, которые вы выполняете за неделю.
Отметьте те, которые:
• Повторяются.
• Имеют четкий алгоритм.
• Не требуют эмоционального вовлечения.
→ Это «Зона Смерти». Постарайтесь делегировать это софту или ассистентам.
Оставьте задачи, где нужно:
• Убедить.
• Придумать.
• Почувствовать.
• Решить в условиях нехватки данных.
→ Это «Зона Жизни». Увеличивайте долю времени, проводимого здесь.
Мы не можем остановить прогресс. Рутинный интеллект действительно умирает. Но это освобождает нас для того, чтобы стать более творческими, более глубокими, более живыми. Машина может имитировать стиль, но она не может прожить жизнь. А бизнес, в конечном счете, делают люди для людей.
Глава 3. ЭТИКА КАК КОНКУРЕНТНОЕ ПРЕИМУЩЕСТВО
«Репутацию трудно заработать, легко потерять и почти невозможно вернуть». — Уоррен Баффет
В начале своей карьеры в промышленном секторе я усвоил урок, который стоил компании миллионов, а мне — нескольких бессонных ночей. Мы участвовали во внедрении новой системы контроля качества на одном из производственных узлов. Алгоритм, разработанный сторонними подрядчиками, был идеален с математической точки зрения. Он отбраковывал продукцию, которая не соответствовала допускам. Эффективность выросла на 15%. Отчетность сияла зеленым цветом. Бонусы были выплачены.
Но через полгода начались скрытые проблемы. Клиенты стали возвращать партии. Не потому что брак был явным, а потому что материал вел себя непредсказуемо в экстремальных условиях. Алгоритм отсеивал явные дефекты, но пропускал те, что находились на грани допусков, считая их «годными». Однако человеческий опыт подсказывал технологам: «Грань — это уже риск». Но система не учитывала риск, она учитывала только соответствие цифре.
Когда мы провели расследование, выяснилось, что подрядчики настроили систему так, чтобы минимизировать процент брака в отчетах, чтобы получить полную оплату по контракту. Они оптимизировали систему под свою выгоду, а не под безопасность конечного продукта. Это было юридически чисто, но этически грязно.
Этот случай научил меня главному правилу алгоритмического мира: то, что можно измерить, будет оптимизировано. И если вы не задали этические ограничения, система оптимизирует их в ноль.
Доверие как актив баланса
В традиционном бухгалтерском учете есть активы материальные (станки, здания, деньги) и нематериальные (патенты, бренды). Но в новую эпоху главным нематериальным активом становится доверие.
Почему? Потому что в мире избытка информации и глубоких подделок (deepfakes) единственное, что имеет значение, — это подтвержденная репутация.
Представьте две компании. Обе продают одинаковый софт для управления финансами.
• Компания А использует алгоритмы для максимизации прибыли. Она собирает все данные пользователей, продает их третьим лицам, скрывает условия подписки в мелком шрифте и использует темные паттерны в интерфейсе, чтобы затруднить отмену услуги. Их прибыль в краткосрочной перспективе выше на 30%.
• Компания Б выбирает прозрачность. Они не продают данные. Они делают отмену подписки в один клик. Они открыто говорят об ограничениях своего ИИ. Их прибыль ниже сейчас.
Через пять лет что произойдет?
Когда случится утечка данных (а она случится у всех), Компания А потеряет все. Клиенты уйдут, регуляторы оштрафуют, партнеры отвернутся.
Компания Б получит кредит доверия. Клиенты скажут: «Они предупреждали нас. Они на нашей стороне».
В алгоритмическом мире скорость распространения негатива выше скорости света. Один вирусный твит о неэтичном поведении ИИ может уничтожить капитализацию за часы.
Алгоритмическая предвзятость: скрытый враг
Мы склонны думать, что машины объективны. «Цифры не врут». Но цифры вводят люди. И данные, на которых обучаются нейросети, содержат в себе все человеческие предрассудки прошлого.
В практике Luxoft мы сталкивались с задачей выбора системы найма для крупной международной корпорации. Заказчик хотел автоматизировать первичный скрининг резюме. ИИ должен был отбирать лучших кандидатов.
Мы провели аудит модели на исторических данных компании за последние 10 лет. Кто был успешен? Преимущественно мужчины определенного возраста, выпускники определенных вузов.
Что делала нейросеть? Она начала автоматически понижать рейтинг резюме, где встречалось слово «женский» (например, «женский клуб шахматистов»), и отдавать предпочтение кандидатам из элитных университетов, игнорируя талантливых самоучек.
С технической точки зрения модель работала идеально: она предсказывала «успех» так, как компания понимала его в прошлом. С этической точки зрения это была дискриминация.
Если бы мы запустили это без человеческого контроля, компания получила бы эффективный инструмент воспроизводства собственных ошибок. Разнообразие мнений исчезло бы. Инновации заглохли, потому что инновации часто приходят от «других».
Мы настояли на внедрении этического фильтра в контракт. Мы заставили алгоритм игнорировать пол, возраст и название вуза, фокусируясь только на навыках и тестовых заданиях. Эффективность подбора сначала упала (системе было сложнее), но качество найма через год выросло. Мы нашли людей, которых раньше бы отсекли.
Этика как бизнес-стратегия, а не благотворительность
Многие руководители воспринимают этику как статью расходов. «Нам нужно нанять этического офицера», «Нам нужно провести аудит», «Это замедлит разработку».
Я предлагаю смотреть на это иначе. Этика — это страховка и маркетинг одновременно.
Снижение рисков. Этичный бизнес меньше судится. Меньше штрафов. Меньше репутационных потерь.
Привлечение талантов. Поколение Z и Альфа не хотят работать на «злодеев». Топовые специалисты выбирают компании, чьи ценности совпадают с их собственными.
Лояльность клиентов. Люди готовы платить больше за «честный» продукт. Это подтверждают исследования рынка премиум-сегмента.
Кейс: Прозрачность в RankBoost
В нашем проекте продвижения в нейросетях RankBoost мы столкнулись с дилеммой. Технологии позволяют создавать тысячи фейковых отзывов, имитировать активность, накручивать метрики так, что никто не заметит. Это дешево и эффективно в короткой дистанции.
Мы могли бы предложить это клиентам: «Мы гарантируем рост позиций за неделю».