Александр Костин – ИИ для управления проектами: планы, риски, сроки, контрольные точки (страница 8)

«Составь сценарий разговора/сообщения для [цель], аудитория [кто], контекст [2–3 факта]. Структура: вступление → 5 вопросов диагностики → предложение → отработка 5 возражений → фиксация договорённостей. Тон: [какой]. Запреты: [какие].»

Главная мысль этой главы: формат – это рычаг управления качеством. Когда вы выбираете правильную форму результата, вы заранее проектируете полезность ответа. Вы убираете пространство для воды, делаете допущения заметными, получаете структуру, по которой легко проверять и внедрять. В итоге ИИ начинает работать не как «автор текста», а как инструмент, который помогает вам принимать решения и строить процессы.

Глава 5. Антигаллюцинации на практике: как проверять ответы ИИ быстро и без паранойи

В реальной работе есть два плохих сценария. Первый – вы верите ИИ слишком сильно и допускаете ошибки: отправляете клиенту неверные цифры, строите план на выдуманных предпосылках, ссылаетесь на несуществующие нормы, принимаете решение на основе красивой, но ложной логики. Второй – вы начинаете бояться ИИ, перепроверяете каждую запятую, тратите больше времени на контроль, чем сэкономили на генерации, и в итоге отказываетесь от инструмента.

Нормальная цель – не «верить» и не «не верить». Нормальная цель – встроить проверку так, чтобы она занимала минуты, ловила самые опасные ошибки и не превращалась в религию. Для этого нужна не интуиция, а протокол. Протокол антигаллюцинаций – это конкретная последовательность быстрых проверок, которые вы применяете в зависимости от типа задачи и цены ошибки.

Эта глава даёт такой протокол. Он построен по принципу: сначала самые дешёвые проверки, потом более дорогие; сначала ловим грубые ошибки и выдумки, потом уточняем детали; сначала проверяем то, что может сломать решение, потом косметику.

Что именно мы называем «галлюцинацией» в рабочем смысле

В бытовом смысле галлюцинация – это «выдумка». В рабочем смысле понятие шире. Ошибка ИИ может быть не только в факте.

Тип 1. Выдуманный факт: цифра, дата, цитата, название документа, термин, которого нет, либо он употреблён неверно.

Тип 2. Подмена причинности: факты могут быть верными, но вывод «почему» неверный или слишком смелый.

Тип 3. Скрытое допущение: модель строит решение на предпосылке, которую вы не давали, и не помечает её как допущение.

Тип 4. Неприменимость: ответ логичный, но не подходит к вашим ограничениям (регион, закон, платформа, ресурс, этап проекта).

Тип 5. Псевдоточность: всё звучит конкретно, но проверки и критерии отсутствуют, поэтому вы не можете подтвердить правильность.

Антигаллюцинации – это не только «проверить факты». Это ещё и выявить подмену причинности, допущения и непригодность.

Золотое правило: проверять не весь ответ, а точки риска

Перепроверять всё бессмысленно. Вы перепроверяете то, что может:

сломать решение;

привести к юридическим/финансовым последствиям;

испортить репутацию;

запустить неправильную работу команды;

закрепить неверную картину мира.

Обычно «точки риска» в ответе – это:

цифры и статистика;

юридические утверждения и нормы;

обещания результата;

диагнозы причин («потому что…»);

рекомендации «делайте X» без условий;

термины и названия (особенно редкие);

инструкции, где порядок шагов критичен.

Если вы научитесь быстро находить эти зоны, проверка станет быстрой и управляемой.

Протокол антигаллюцинаций: 7 шагов от дешёвого к дорогому

Шаг 1. Отделить факты от интерпретаций

Самая дешёвая и самая полезная проверка. Вы берёте ответ и мысленно делите его на два слоя: что утверждается как факт, и что предлагается как вывод/рекомендация. Если модель смешала это в одном потоке, вы заставляете её сделать разделение.

Практический приём: попросите модель переписать ответ в формате:

«Факты из вводных» (только то, что вы дали),

«Выводы, которые следуют из фактов»,

«Гипотезы/допущения»,

«Что нужно проверить/уточнить».

Это мгновенно вскрывает большую часть галлюцинаций, потому что выдумки обычно не выдерживают разделения: они оказываются в разделе «допущения» или «нужно проверить». Даже если модель сначала не сделала этого сама, принуждение форматом заставляет её снизить уверенность.

Шаг 2. Найти и выписать «утверждения высокой ставки»

Утверждение высокой ставки – это фраза, которая при ошибке приведёт к серьёзным последствиям. Вы выписываете такие утверждения отдельным списком. Обычно их 5–15, а не 150.

Пример: «в РФ запрещено X», «конверсия должна вырасти на Y», «в вашей нише средняя цена лида такая-то», «по закону нужно сделать так-то», «этот метод всегда даёт результат».

Когда эти утверждения вынесены в список, их становится проще проверять и проще спорить с ними. В тексте они были «размазаны», в списке – становятся проверяемыми объектами.

Шаг 3. Проверка на «чужие факты» (самая частая галлюцинация)

Задайте себе вопрос: «Мог ли ИИ знать это из моего контекста?» Если вы не давали цифры, даты, конкретные названия, а они появились – это автоматически подозрительно. Не потому что обязательно неверно, а потому что это не основано на вашем вводе.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.