Дмитрий Ланецкий – Не верь нейросети: Проверка фактов и защита от галлюцинаций (страница 5)
“Напиши, а потом перечисли 10 мест, где ты могла ошибиться.”
“Отдели факты от предположений.”
“Дай 5 проверяемых утверждений и для каждого – как проверить.”
“Сформулируй контраргументы к своему ответу.”
Это не заменяет реальную проверку, но резко снижает вероятность того, что вы примете уверенную чепуху за знание.
Микропривычка: “вход → выход”
Перед отправкой запроса тратьте 10 секунд на два предложения:
“На входе у меня есть…” (данные, контекст, ограничения).
“На выходе мне нужно…” (формат и критерии).
Если эти два предложения не получаются – запрос ещё сырой.
Плохие вопросы – это не моральная ошибка. Это просто слабый интерфейс. А хороший интерфейс – это сила: он превращает ИИ из генератора гладких слов в инструмент, который помогает думать, планировать и действовать так, чтобы реальность не смеялась последней.
Глава 5. Проверка вместо веры: как строить верификацию, не превращая жизнь в ад
Если нейросети могут уверенно ошибаться, возникает скучный, но взрослый вопрос: как пользоваться ими так, чтобы не стать заложником красивого текста? Ответ – верификация. Не “проверять всё всегда”, а выстроить систему проверок по цене ошибки.
В этой главе – практический набор приёмов: как быстро оценивать риск, что именно проверять, какие источники использовать, как требовать у ИИ прозрачность, и как сделать проверку привычкой, а не наказанием.
Верификация – это не недоверие, а гигиена
Мы же не “не доверяем” воде, когда кипятим её в походе. Мы просто понимаем, что риск не стоит героизма. С нейросетями так же: проверка – это не подозрительность, а нормальная санитария информации.
Главный сдвиг мышления: нейросеть – не авторитет, а ускоритель. Ускоритель ускоряет и правильное, и неправильное. Поэтому вам нужен тормоз в виде проверок.
Шаг 1. Оцените цену ошибки за 10 секунд
Перед тем как принять ответ, задайте себе: “Что будет, если это неправда?”
Ничего страшного → можно оставить как черновик/идею.
Потери времени/денег → нужно проверить ключевые пункты.
Риски для здоровья/право/безопасность/репутация → проверка обязательна, возможно через первоисточник или специалиста.
Это простая шкала, но она спасает от автоматизма: “раз текст красивый, значит можно использовать”.
Шаг 2. Вытащите из ответа “проверяемые утверждения”
Проверять надо не весь текст. Надо проверять опоры, на которых держится решение.
Практика: выделите 3–7 утверждений, которые, если окажутся неверными, разрушат весь вывод. Это могут быть:
цифры,
определения,
требования/правила,
причинно-следственные связи,
обещанные эффекты,
условия применимости (“это работает, если…”).
Остальное (стиль, примеры, пояснения) может быть вспомогательным и не требует такой жёсткой проверки.
Шаг 3. Выберите тип проверки: “быстро” или “строго”
Есть два режима верификации.
Быстрая проверка (1–10 минут)
Подходит для среднего риска и бытовых задач.
Перекрёстная проверка: найти подтверждение в 2 независимых источниках.
Проверка на противоречия: попросить ИИ сформулировать контраргументы.
Проверка на применимость: сделать маленький тест/эксперимент.
Проверка на здравый смысл: порядок величин, логика, единицы измерения.
Строгая проверка (10–60+ минут)
Нужна, когда цена ошибки высокая.
Первичные источники: закон, регламент, официальная документация, научная статья.
Протокол действий: повторяемый шаг за шагом план с контрольными точками.
Тестирование в безопасной среде (песочница, копия данных, staging).
Консультация специалиста, если область высокорисковая.
Цель не “всё проверить”, а выбрать режим, который соответствует риску.
Шаг 4. Введите правило “без источника – это предположение”
Очень полезная дисциплина: всё, что звучит как факт, должно иметь источник. Если источника нет – это не факт, а предположение, даже если оно кажется очевидным.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.