Роза Роуль – Работать с ИИ, а не верить ему (страница 3)

Задание 2. Создайте две версии одного запроса: для быстрого черновика и для финальной редакторской проверки. Запишите исходное состояние, выбранное действие и признак, по которому через неделю можно оценить результат.

Задание 3. Составьте библиотеку из пяти форматов выдачи, которые часто нужны в вашей работе. Запишите исходное состояние, выбранное действие и признак, по которому через неделю можно оценить результат.

Не стремитесь автоматизировать все сразу. Оставляйте человеку решения, где важны контекст, доверие и последствия, а машине поручайте варианты, структуру и рутинные преобразования. Такое разделение дает устойчивый результат.

Глава 3. Проверка фактов, риски и рабочая этика

Польза генеративного ИИ растет вместе с дисциплиной проверки. Ошибки системы не всегда выглядят как ошибки: выдуманная публикация может иметь правдоподобное название, неверный расчет — аккуратное оформление, а сомнительный совет — спокойный профессиональный тон. Поэтому надежный процесс строится не вокруг доверия или недоверия к технологии, а вокруг классификации риска. Незначительная неточность в мозговом штурме исправляется дешево. Ошибка в договоре, медицинской инструкции, финансовом расчете или публичном обвинении способна повлечь серьезные последствия. Уровень проверки должен соответствовать возможному ущербу.

Основные опоры

Разделять факт и предложение. Ответ может смешивать подтвержденные сведения, вероятные объяснения и творческие идеи. Перед проверкой полезно разметить эти категории, чтобы не тратить одинаковое время на все фразы. Такой подход сохраняет управляемость. ИИ предлагает варианты быстро, но человек определяет границы и принимает последствия. Хорошая привычка — после каждого крупного этапа формулировать, какое решение уже принято, а что пока остается гипотезой.

Искать первоисточник. Для закона, стандарта, цены, характеристики или исследования предпочтителен официальный документ, а не пересказ в блоге. Ссылка должна действительно содержать утверждение, которое ей приписывают. Особенно важно применять правило к материалам, которые будут повторно использоваться. Ошибка в единичном черновике заметна быстро, а ошибка в шаблоне размножается. Поэтому удачные решения фиксируют вместе с условиями, при которых они работают.

Проверять арифметику отдельно. Простые вычисления можно перепроверить калькулятором или таблицей. В сложной модели важно проверять формулы, единицы измерения и исходные допущения, а не только итоговую цифру. Практический смысл принципа проявляется в момент выбора: он помогает решить, что поручить системе, что оставить человеку и какой промежуточный результат запросить. Перед началом работы полезно записать один наблюдаемый признак, по которому будет понятно, что принцип соблюден.

Защищать данные. В запрос не следует без необходимости помещать паспортные сведения, медицинские записи, пароли, коммерческие секреты и чужую переписку. Для обучения и черновиков данные обезличивают. Это не теоретическая оговорка, а способ сократить переделки. Если правило игнорировать, черновик может выглядеть завершенным, хотя в нем отсутствует важная опора. Поэтому принцип стоит превратить в вопрос контрольного списка и задавать его перед публикацией.

Не маскировать авторство. Когда ИИ существенно участвовал в подготовке исследования, кода или учебной работы, правила организации могут требовать раскрытия. Честное описание процесса безопаснее попытки выдать автоматический результат за независимую экспертизу. В реальном проекте это правило экономит время только при регулярном применении. Его не нужно превращать в сложный регламент: достаточно короткой проверки, примера допустимого результата и понятного владельца решения.

Рабочий маршрут

Шаг 1. Оценить цену ошибки. Спросите, что произойдет, если утверждение окажется неверным. Чем выше финансовый, правовой или физический риск, тем более квалифицированной должна быть проверка. Здесь полезна короткая пауза между генерацией и оценкой. Сразу после получения ответа легко принять гладкую формулировку. Вернувшись к задаче через несколько минут, проще заметить пропуски, лишние обещания и расхождение с исходной целью.

Шаг 2. Выделить проверяемые тезисы. Разбейте текст на отдельные утверждения: дата, число, причинная связь, цитата, рекомендация. Большой абзац невозможно надежно проверить одной ссылкой. Не измеряйте успех количеством созданного текста. Шаг завершен, когда результат можно использовать дальше: согласовать, протестировать, передать, посчитать или опубликовать после предусмотренной проверки.

Шаг 3. Найти независимые подтверждения. Используйте два источника, если данные спорные или важные. Совпадение копирующих друг друга публикаций не считается независимым подтверждением. На этом этапе не стремитесь к идеальной формулировке. Нужен небольшой артефакт — заметка, таблица, план или тестовый файл, который можно показать другому человеку и проверить. Завершайте шаг короткой записью: что получено, что неизвестно и кто принимает следующее решение.

Шаг 4. Проверить актуальность. Посмотрите дату документа, версию продукта и территорию действия правила. Старые сведения могут быть правдивыми исторически, но непригодными для текущего решения. Если исходных данных мало, не разрешайте модели тихо заполнять пробелы. Попросите перечислить недостающие сведения и обозначить допущения. Такой режим может казаться медленнее, но он уменьшает риск красивой работы не по той задаче.

Шаг 5. Зафиксировать неопределенность. Если доказательств недостаточно, так и пишите. Формулировки «по имеющимся данным», «нужно уточнить» и диапазон значений честнее выдуманной точности. Сохраните промежуточную версию и дату. Это дает возможность сравнить изменения, вернуться к устойчивому варианту и понять, какая правка действительно улучшила результат. Для повторяемой услуги шаг постепенно превращается в шаблон.

Шаг 6. Сохранить журнал решения. Для важных материалов храните исходные данные, ссылки, дату проверки и имя ответственного. Это упрощает повторный аудит и объяснение клиенту. Проверяйте результат на одном реальном и одном неудобном примере. Обычный случай показывает, что основная логика работает, а неудобный выявляет скрытые предположения. Не добавляйте следующий уровень сложности, пока оба примера не проходят проверку.

Разбор ситуации

Рассмотрим пример: Руслан и проект — сервис доставки фермерских продуктов «Луговой день». Исходная ситуация выглядела так: попросил ИИ написать памятку о пищевой безопасности и получил несколько чрезмерно конкретных сроков хранения. Вместо попытки получить один идеальный ответ он разделил текст на общие советы и регулируемые требования, проверил вторую группу по официальным рекомендациям, убрал неподтвержденные числа и передал финал технологу. В итоге памятка стала короче, но надежнее; команда добавила правило обязательного согласования материалов, связанных со здоровьем. После проекта команда записала, какие входные данные необходимы в следующий раз. Так единичная удача превратилась в воспроизводимый процесс.

Запросы для практики

Вариант 1. «Разметь текст тегами [ФАКТ], [МНЕНИЕ], [ПРЕДПОЛОЖЕНИЕ], [РЕКОМЕНДАЦИЯ]. Не исправляй содержание.» Такой запрос полезно дополнять собственными данными и примером желательного результата. Ответ рассматривается как заготовка, а не как готовая экспертиза.

Вариант 2. «Составь таблицу проверки: утверждение, какой источник нужен, возможный ущерб ошибки, статус проверки.» После первой выдачи выберите один вариант и перечислите точечные изменения. Не просите случайно переписать все заново, если часть решения уже подходит.

Вариант 3. «Найди в расчете ниже размерности и допущения. Пересчитай каждую строку отдельно и укажи, где данных недостаточно.» Перед использованием удалите конфиденциальные сведения и замените их условными обозначениями. Числа, имена и внешние факты проверяются отдельно.

Вариант 4. «Обезличь описание кейса: замени имена, адреса, названия клиентов, точные суммы и уникальные события нейтральными обозначениями, сохранив смысл.» Сохраните удачную формулировку в личной библиотеке вместе с пояснением, для каких задач она работает и когда ее нельзя применять.

Типичные ошибки

Цитировать несуществующие источники из ответа модели. Чаще всего это следствие слишком широкой цели. Вернитесь к одному результату, одному владельцу решения и одному критерию готовности.

Проверять только вывод, не проверяя исходные данные. Проблема возникает потому, что удобство подменяет доказательство. Заранее определите простой защитный прием: независимую проверку, ограничение данных, тестовую копию или обязательное согласование.

Считать популярность страницы признаком надежности. Такой ход обычно экономит минуты в начале и создает часы исправлений позже. Добавьте в процесс явный вопрос, который останавливает работу до появления нужных сведений.

Помещать конфиденциальные сведения в примеры и скриншоты. Ошибка особенно опасна в повторяемом шаблоне: ее могут не заметить несколько клиентов подряд. Проверяйте не только удачный пример, но и ситуацию, в которой правило не должно применяться.

Рабочая тетрадь

Задание 1. Возьмите один опубликованный вами текст и составьте карту проверяемых утверждений. Запишите исходное состояние, выбранное действие и признак, по которому через неделю можно оценить результат.