Алексей Михнин – Искусство общения с AI: Мастерство создания инструкций для языковых моделей (страница 5)

Используйте ключевые слова: Включайте в промпт ключевые слова, которые помогут модели сосредоточиться на нужных аспектах темы.

Используйте примеры

Демонстрируйте желаемый формат: если вам нужен ответ в определенном формате (например, список, таблица, код), предоставьте модели пример.

Задавайте стиль и тон: Покажите модели пример текста, который соответствует желаемому стилю и тону.

Вдохновляйте на творчество: при выполнении творческих задач примеры могут помочь модели понять ваши предпочтения и создать более оригинальный контент.

Экспериментируйте с разными формулировками

Не бойтесь перефразировать: если вы не получаете желаемый результат, попробуйте переформулировать свой промпт, используя другие слова или структуру предложения.

Тестируйте разные подходы: иногда один и тот же запрос можно сформулировать несколькими способами. Попробуйте разные варианты и посмотрите, какой из них дает лучшие результаты.

Учитесь на своих ошибках: Анализируйте ответы модели и корректируйте свои промпты на основе полученного опыта.

Не бойтесь задавать уточняющие вопросы

Просите модель уточнить: если вы не уверены, что модель полностью понимает ваш запрос, попросите ее задать уточняющие вопросы.

Будьте готовы к диалогу: Взаимодействие с языковой моделью – это двусторонний процесс. Будьте готовы ответить на вопросы модели и предоставить ей дополнительную информацию, если это необходимо.

Используйте эту возможность для обучения: Анализируя вопросы модели, вы можете лучше понять, как она интерпретирует ваши промпты и как улучшить их в будущем.

Как снизить галлюцинации модели

Галлюцинации – это явление, когда языковая модель генерирует информацию, которая не подтверждается фактами или не имеет логической связи с контекстом. Это может быть вызвано различными факторами, такими как недостаток данных в обучающей выборке, неправильная интерпретация промпта или особенности архитектуры модели.

Вот несколько советов, как снизить вероятность галлюцинаций:

Будьте максимально конкретными и ясными в своих промптах. Чем больше деталей вы предоставите, тем меньше места останется для домыслов и ошибок.

Указывайте источники информации. Если вам нужен ответ, основанный на конкретных данных или исследованиях, укажите это в промпте.

Проверяйте факты. Не принимайте на веру все, что говорит модель. Всегда проверяйте информацию из независимых источников.

Используйте цепочки промптов. Разбивая задачу на более мелкие шаги, вы можете контролировать процесс генерации текста и снизить риск появления несоответствий.

Настраивайте параметры модели. Некоторые параметры, такие как температура, могут влиять на склонность модели к галлюцинациям. Экспериментируйте с разными настройками, чтобы найти оптимальный баланс между креативностью и точностью.

Обратная связь. Если вы заметили, что модель генерирует некорректную информацию, сообщите об этом разработчикам или используйте механизмы обратной связи, если они предусмотрены.

Помните:

Создание эффективных промптов – это навык, который развивается с практикой.

Не бойтесь экспериментировать и пробовать разные подходы.

Чем больше вы взаимодействуете с языковыми моделями, тем лучше вы будете понимать, как получать от них нужные вам результаты и минимизировать риск галлюцинаций.

Следуя этим практическим советам и применяя полученные знания, вы сможете раскрыть весь потенциал языковых моделей и использовать их для достижения своих целей, обеспечивая при этом точность и надежность генерируемой информации.

Формула продвинутого промпта

[Роль] + [Инструкция] + [Контекст] + [Примеры] + [Настройка параметров] + [Просьба об уточнении]

Разберем каждую часть:

Роль: определяет, какую роль должна взять на себя модель при ответе на промпт (например, эксперт, персонаж, точка зрения).

Инструкция: ядро промпта, содержащее четкое указание, что именно должна сделать модель (ответить на вопрос, выполнить задачу, сгенерировать текст и т.д.).

Контекст: предоставляет модели дополнительную информацию, необходимую для понимания задачи и генерации релевантного ответа.

Примеры: демонстрируют модели желаемый формат, стиль или содержание ответа.

Настройка параметров: позволяет контролировать стиль, тон и длину генерируемого текста (температура, максимальная длина, стоп-последовательности).

Просьба об уточнении: побуждает модель задавать уточняющие вопросы, если ей требуется дополнительная информация для выполнения задачи.

Пример продвинутого промпта:

Ты – опытный маркетолог. [Роль] Разработай стратегию продвижения нового мобильного приложения для любителей путешествий, которое помогает находить интересные места, бронировать отели и делиться впечатлениями с друзьями. [Инструкция] Целевая аудитория: люди в возрасте 25-40 лет, активно пользующиеся социальными сетями. [Контекст] Основные каналы продвижения: социальные сети, контекстная реклама, сотрудничество с блогерами-путешественниками. [Примеры] Максимальная длина ответа: 500 слов. [Настройка параметров] Если тебе потребуется дополнительная информация о приложении или целевой аудитории, не стесняйся задавать вопросы. [Просьба об уточнении]

Важно:

Необязательно использовать все компоненты в каждом промпте. Выбирайте те, которые наиболее подходят для конкретной задачи.

Экспериментируйте с различными комбинациями компонентов и настроек параметров, чтобы найти оптимальный подход для достижения ваших целей.

Помните, что чем яснее и конкретнее ваш промпт, тем выше вероятность получить качественный и релевантный ответ от языковой модели.

Практическое тестирование: сравниваем возможности 8-ми языковых моделей

В этой главе мы перейдем от теории к практике и проведем сравнительное тестирование восьми современных языковых моделей. Мы подготовили набор вопросов, начиная с простых и постепенно усложняя их, чтобы оценить, как каждая модель справляется с различными типами запросов. Мы также будем использовать продвинутые техники создания промптов, такие как цепочки рассуждений и другие, чтобы раскрыть весь потенциал каждой модели.

Модели-участники

В нашем тестировании примут участие следующие языковые модели:

Проприетарные (закрытые):

Исходный код и/или веса модели не раскрываются публично

GPT-4 (OpenAI)

Claude 3.6 Sonnet (Anthropic)

GigaChat (от Сбербанка)

YandexGPT 3 (от Яндекса)

Grok 2mini (X.com)

Gemini Advanced (Google)

Открытые (open-source):

Исходный код и веса модели находятся в открытом доступе

LLaMA 3.1 405B

Mistral Large 2

Этапы тестирования

Простые вопросы: начнем с базовых вопросов, чтобы оценить общие знания и способность моделей понимать естественный язык.

Вопросы с уточнениями: добавим в промпты просьбы задавать уточняющие вопросы, чтобы проверить, как модели справляются с неполной или неоднозначной информацией.

Цепочки рассуждений: используем цепочки промптов, чтобы оценить способность моделей к логическому мышлению и анализу сложных задач.

Творческие задания: предложим моделям выполнить творческие задания, чтобы оценить их воображение и способность генерировать оригинальный контент.

Продвинутые техники: применим другие продвинутые техники создания промптов, такие как использование ролей и настройка параметров, чтобы увидеть, как это влияет на качество ответов.

Критерии оценки