Дмитрий Ланецкий – Не верь нейросети: Проверка фактов и защита от галлюцинаций (страница 4)
Нейросеть похожа на очень мощное эхо: она усиливает то, что вы в неё бросаете. Бросили туман – получите туман, только более гладкий. Бросили точную задачу – получите инструментальный результат. Поэтому главный навык работы с ИИ – не “уметь читать ответы”, а уметь задавать вопросы так, чтобы ответы становились управляемыми.
В этой главе – про типовые ошибки формулировок, про то, почему “сделай хорошо” почти всегда приводит к мусору, и про рабочий каркас запросов, который делает нейросеть вашим помощником, а не генератором уверенного шума.
Почему нейросеть не “понимает”, она “интерпретирует”
Вопрос для человека и запрос для модели – разные вещи. Человек может уточнить: “что ты имеешь в виду?”, “какой контекст?”, “какой у тебя опыт?”, “какая цель?”. Нейросеть уточняет редко, потому что чаще всего ей проще выдать правдоподобную интерпретацию.
Если запрос двусмысленный, модель выбирает одну трактовку и разворачивает её, как будто она и была вашей мыслью. Отсюда ощущение: “оно вроде отвечает, но не то”. Это не “глупость” модели – это предсказуемый эффект плохого сигнала на входе.
Четыре классических проблемы запроса
1) Нет цели
“Расскажи про маркетинг.”
Маркетинг – вселенная. Без цели ответ будет энциклопедическим и бесполезным.
2) Нет аудитории/формата
“Напиши текст.”
Для кого? Зачем? Какая длина? Каким тоном? Где будет опубликовано? Без этого получится “универсальная болванка”.
3) Нет контекста и ограничений
“Составь план проекта.”
Какой проект? Сроки? Команда? Бюджет? Риски? Внешние зависимости? Без ограничений план будет красивым, но фантастическим.
4) Нет критериев качества
“Сделай лучше.”
“Лучше” может означать короче, убедительнее, более формально, с цифрами, с примерами, с юмором, с акцентом на риск – что угодно. Нейросеть выберет произвольно.
“Сделай хорошо” – это просьба о галлюцинации
Когда вы не даёте данных, модель вынуждена “достраивать”. А достраивание – вежливое имя для выдумывания. Иногда это нормально (идеи, варианты). Иногда – катастрофа (цифры, факты, юридические формулировки).
Если вы не хотите галлюцинаций, вы должны либо дать материал, либо явно попросить модель не заполнять пробелы, а задавать уточняющие вопросы или маркировать неопределённость.
Полезная фраза: “Если данных не хватает – перечисли, чего не хватает, и предложи, как это получить. Не додумывай.”
Каркас сильного запроса: 6 блоков, которые работают почти всегда
Вы можете думать о хорошем запросе как о маленьком техническом задании.
Цель: что вы хотите получить и зачем.
Контекст: что уже известно, что уже сделано, какие условия.
Аудитория: для кого результат, какой уровень знаний.
Ограничения: сроки, ресурсы, стиль, запреты, важные условия.
Формат ответа: структура, длина, таблица/список/шаги/пример.
Критерии качества: что считается хорошим результатом (точность, практичность, риск-ориентированность, ссылки на источники и т.д.).
Чем выше цена ошибки – тем больше блоков должно быть заполнено.
Пример: как один и тот же запрос превращается в инструмент
Плохой запрос:
“Сделай маркетинговую стратегию.”
Хороший запрос:
“Составь маркетинговую стратегию на 3 месяца для B2B-сервиса X. Цель: 50 лидов в месяц при бюджете до 2000$. Аудитория: малый бизнес, Россия/СНГ, решение покупает собственник. Каналы: контент, партнёрства, холодные письма (без спама), LinkedIn не подходит. Формат: 1) гипотезы каналов, 2) план экспериментов на 12 недель, 3) метрики, 4) риски и что может не сработать. Если данных не хватает – перечисли вопросы.”
Разница не в “магии”. Разница в том, что вы дали модели рамку, в которой она может быть полезной.
Ошибка формулировки №1: просить “объясни” вместо “сделай”
“Объясни мне…” часто даёт длинный учебник. Но вам обычно нужен результат: план, чек-лист, структура, варианты, черновик, алгоритм действий.
Если вы хотите применить знание, лучше задавать запросы в стиле действия:
“Составь чек-лист…”
“Сделай план на 2 недели…”
“Предложи 5 вариантов и критерии выбора…”
“Сравни A и B по таким-то параметрам…”
“Сгенерируй черновик, а затем сам проведи ревизию на ошибки…”
ИИ хорош как мастер заготовок. Дайте ему роль “создателя черновиков” и “редактора”, а не “оракула”.
Ошибка формулировки №2: задавать вопрос без входных данных
Это особенно заметно в аналитике: “Оцени рынок”, “посчитай юнит-экономику”, “сделай прогноз”.
Если вы не дали допущения, модель их придумает. И вы получите не расчёт, а фанфик с цифрами. В этих задачах лучше прямо задавать входные параметры и требовать прозрачность:
“Используй только эти данные.”
“Если нужно допущение – вынеси его отдельным пунктом и пометь как допущение.”
“Покажи формулы и промежуточные шаги.”
Ошибка формулировки №3: просить “самое лучшее” без контекста
“Лучший ноутбук”, “лучший язык программирования”, “лучший способ похудеть”, “лучший маркетинговый канал”.
“Лучшее” всегда зависит от критериев. Без критериев ответ будет либо усреднённым, либо отражением типичных предпочтений из обучающего корпуса.
Вместо “лучшее” просите “подбор под ограничения”:
“Мне нужно A, при ограничениях B, выбираю между C и D, критерии такие-то.”
Ошибка формулировки №4: смешивать задачи в одну кашу
Один запрос – одна основная задача. Иначе вы получите “всё понемногу” и ничего применимого.
Если нужно несколько вещей, лучше задать структуру:
“Сначала сделай X. Потом – Y. Потом – Z. После каждого шага дай короткую проверку качества.”
Так вы превращаете разговор в процесс, а не в выдачу текста.
Полезный хак: просить модель “проверить саму себя”
Нейросеть не гарантирует истину, но умеет быть неплохим критиком своего же текста, если вы дадите роль и критерии.
Примеры запросов: