Александр Костин – ИИ для управления проектами: планы, риски, сроки, контрольные точки (страница 1)
Александр Костин
ИИ для управления проектами: планы, риски, сроки, контрольные точки
Глава 1. Почему ИИ «льёт воду» и выдумывает: механика ошибок на человеческом языке
Есть ощущение, что ИИ ошибается странно. Он может звучать уверенно, писать гладко, строить логичные абзацы, даже добавлять «детали», которые выглядят убедительно, и при этом промахиваться по фактам, путать причинность, подменять смысл и «дорисовывать» то, чего в исходных данных не было. Важно понимать простую вещь: когда вы общаетесь с ИИ, вы общаетесь не с источником истины, а с системой, которая умеет продолжать текст так, чтобы он выглядел правдоподобно и соответствовал вашему запросу по форме. Именно поэтому ошибки ИИ чаще похожи на «хорошо написанную неправду», чем на бессвязный бред.
Эта глава нужна не для того, чтобы научить вас бояться ИИ. Она нужна для другой цели: дать вам ясную, практичную модель, почему возникают «вода» и фантазии, и что в вашем запросе почти гарантированно провоцирует эти эффекты. Пока вы не видите механики ошибок, вы пытаетесь «уговорить» ИИ писать лучше. Как только механика становится понятной, вы начинаете управлять результатом через контекст, рамки, формат и проверку.
Убедительность не равна истинности: почему звучит уверенно даже когда неверно
Уверенный тон возникает не потому, что система «знает», а потому, что так устроены нормы письма: связность, ясная структура, отсутствие колебаний, уверенные формулировки воспринимаются как компетентность. ИИ обучался на огромном массиве текстов, где уверенный стиль часто соседствует с реальными знаниями. В результате система усваивает форму «как пишут, когда знают», и воспроизводит её даже тогда, когда фактов не хватает.
Отсюда типовая ловушка: человек оценивает ответ глазами читателя, а не глазами проверяющего. Читатель верит стилю, проверяющий верит только проверяемости. Пока вы не переключились в режим проверяющего, вы будете попадать в ситуацию, когда «вроде всё звучит правильно», а затем в реальной работе всплывает ошибка: неверная цифра, выдуманная причина, несуществующий термин, неверная трактовка нормы, неправильный порядок действий.
Практический вывод: уверенность в тексте нужно заменить на управляемую неопределённость. Вам полезно прямо в запросе требовать маркировки: где факт, где допущение, где рекомендация. Ещё полезнее требовать «границы уверенности» и список того, что нужно уточнить, чтобы превратить догадки в надёжный ответ. Это не «слабость» текста. Это повышение качества, потому что вы перестаёте платить за красивую уверенность ценой ошибок.
Главная причина фантазий: недостаток контекста и отсутствие рамок
Фантазии почти всегда растут из пустоты. Когда в запросе мало данных, система всё равно пытается дать законченный ответ, потому что так «ожидается» от помощника. Если вы не задали рамки, система заполняет пробелы наиболее вероятными догадками, опираясь на типичные паттерны из похожих текстов. Она не «врет» намеренно, она достраивает.
В работе это выглядит так: вы просите «дай стратегию», но не говорите, что у вас за продукт, регион, ограничения по бюджету, каналы, этап воронки, сроки, ресурсы. В ответ вы получаете «универсальные советы» и много воды. Или вы просите «объясни причину», но не даёте исходных данных. В ответ получаете правдоподобное объяснение, которое может быть неверным именно потому, что исходных фактов не было.
Практический вывод: чем меньше контекста, тем больше риск выдумок. Чем меньше рамок, тем больше воды. Контекст – это не «простыня», а минимальный набор параметров, который делает ответ конкретным. Рамки – это запреты и правила игры: что нельзя придумывать, что делать, если данных нет, как оформлять выводы. Как только контекст и рамки заданы, качество растёт резче, чем от любых «пожалуйста, подробнее».
Слишком общий запрос → слишком общий ответ
Общий запрос заставляет систему действовать широко: покрыть всё понемногу, не попасть в явный конфликт с ожиданиями, дать «безопасный» набор мыслей. Так рождается вода. Она выглядит как полезная «вступительная часть», но на деле съедает место и внимание, а решения не приближает.
Плохая формулировка в работе обычно звучит так: «расскажи про», «дай советы», «как улучшить», «какие тренды», «что делать». Хорошая формулировка обычно содержит объект, границы и измеримость результата: «составь план», «сделай шаблон», «дай критерии», «предложи 3 варианта и выбери лучший по условиям», «подготовь список проверок», «сформулируй текст для клиента».
Практический вывод: если вы хотите практику, в запросе должен быть результат. Не тема, а результат. Не «маркетинг», а «план рекламной кампании на 14 дней с бюджетом X и KPI Y». Не «промпты для команды», а «универсальный промпт-шаблон и правила, как его адаптировать, плюс чеклист проверки ответа». Чем чётче продукт на выходе, тем меньше воды.
«Сделай красиво» → «сделай правдоподобно» и как это меняет результат
Слова «красиво», «интересно», «вкусно», «сильно», «убедительно» задают эстетическую цель. Эстетическая цель запускает в системе режим литературного украшательства: метафоры, уверенный тон, обобщения, «умные» формулировки. Иногда это полезно, когда вы действительно хотите текст как текст. Но когда вам нужен точный смысл и корректные факты, эстетическая цель становится токсичной: она поощряет правдоподобие, а не проверяемость.
Формулировка «сделай правдоподобно» тоже опасна, если под ней подразумевается «придумай детали, чтобы выглядело реалистично». Для точной работы правильнее просить «сделай проверяемо» и «не добавляй деталей без оснований». Вместо «красиво» лучше использовать: «ясно», «однозначно», «без воды», «с критериями и шагами», «без новых фактов», «с пометками уверенности».
Практический вывод: заменяйте эстетические прилагательные на критерии качества. Критерий – это то, что можно проверить. «Без повторов», «каждый пункт применим», «каждый вывод опирается на данное», «если данных нет – перечисли, что нужно», «не использовать предположения без маркировки». Такой запрос делает ответ холоднее по стилю, зато теплее по пользе.
Проблема источников: когда нужны ссылки, а когда достаточно логики
В реальной работе есть два типа задач. Первый – задачи на логику и опыт: структурирование, планирование, формулировки, сценарии, дизайн процесса, чеклисты, декомпозиция, варианты решений. Здесь ссылочная база не всегда критична, потому что вы оцениваете качество по применимости и здравому смыслу, а затем проверяете результат на практике.
Второй тип – задачи на факты: цифры, нормативные требования, конкретные определения, свежие изменения, исторические события, медицинские и финансовые утверждения, юридические трактовки, «кто сейчас», «какая ставка», «какой срок». Здесь источники критичны, потому что цена ошибки высока, а правдоподобие ничего не гарантирует.
Но есть нюанс: даже в задачах «без ссылок» вы должны уметь отличать фактические утверждения от логических выводов. Логика может быть сильной, даже если факты не приводятся. Факт без опоры может быть красивой выдумкой. Поэтому полезно требовать от ИИ разделения: «вот выводы, которые следуют из условий», и отдельно «вот места, где нужны проверяемые сведения».
Практический вывод: как только вы видите в ответе числа, точные названия документов, даты, проценты, «исследования показали», «по данным», включайте внутренний сигнал тревоги. Если вы не давали эти данные в исходном вводе, вероятность выдумки повышается. В таких местах ваша задача – либо предоставить данные, либо заставить ИИ перейти в режим вопросов, либо самостоятельно проверить и заменить на реальные сведения.
Непроверяемые утверждения: как их распознавать
Непроверяемое утверждение – это фраза, которая выглядит умно, но не содержит ни способа проверки, ни критериев, ни условий применимости. Примеры узнаваемых маркеров: «как правило», «обычно», «часто», «многие эксперты считают», «доказано», «эффективно», «повышает», «улучшает». Такие слова могут быть нормальными в публицистике, но в рабочем тексте они опасны, потому что не ведут к действию.
Ещё одна форма непроверяемости – «замкнутые объяснения»: когда утверждение объясняется словами-синонимами. Например, «это работает, потому что повышает эффективность». Это не объяснение, это повтор. Вам нужно объяснение через механизм: что именно меняется, за счёт чего, при каких условиях, каким образом это проявится в метриках или наблюдаемом результате.
Практический вывод: любая «общая» фраза должна быть превращена в конкретику через вопросы: «что именно сделать», «каким образом измерить», «какой риск», «какая альтернатива», «какие условия». Если ИИ не может ответить, значит, перед вами декоративная фраза, её нужно либо удалить, либо заменить на шаги и критерии.
Как ИИ реагирует на противоречия в запросе
Противоречия в запросе бывают явные и скрытые. Явные – когда вы просите одновременно «максимально коротко» и «максимально подробно», «без фантазий» и «приведи примеры, чтобы было живо», «без ссылок» и «со ссылками». Скрытые – когда вы просите «универсально» и одновременно «под нашу ситуацию», но не даёте данных о ситуации.
В ответ на противоречие система часто выбирает компромисс: даёт среднее, пытается удовлетворить оба требования понемногу, поэтому получается ни то ни другое. Иногда она выбирает то, что сильнее звучит или чаще встречается в данных обучения: например, «подробно» побеждает «кратко», а «примеры» побеждают «не выдумывай». В итоге вы получаете либо воду, либо выдуманные детали, либо смесь.