Как пользоваться ChatGPT. Повышение эффективности с помощью промт-инжиниринга

Как пользоваться ChatGPT, как правильно задавать вопросы ChatGPT, чтобы максимально увеличить вероятность успешного ответа?

ChatGPT генерирует ответы с помощью техники, называемой авторегрессией, которая предполагает предсказание наиболее вероятного следующего слова в последовательности на основе предыдущих слов. Но если вы не знаете как пользоваться ChatGPT и пробуете работать с ChatGPT впервые, то вскоре поймете, что качество ответа также зависит от качества вопроса.

Секрет получения наилучшего ответа заключается в том, чтобы понять, как ChatGPT будет его генерировать, и сформулировать вопрос соответствующим образом.

В этой статье мы рассмотрим несколько приемов написания хороших подсказок или промтов ChatGPT, чтобы вы могли максимально использовать их для решения поставленной задачи.

⚠️ Терминология:

• Техническое наименование вопроса, который мы задаем чату GPT называется промт (подсказка);
• Внесение некоторых мыслей в вопрос, или формирование вопроса, который мы задаем, таким образом, чтобы максимально идеализировать результат ответа ChatGPT называется промт-инжиниринг.

Возможности модели зависят от контекста

Если вы не знаете как пользоваться ChatGPT и только начинаете работу с ним, одной из наиболее распространенных ошибок является мнение, что возможности ChatGPT фиксированы во всех контекстах.

Например, если ChatGPT способен успешно ответить на конкретный вопрос или выполнить определенную задачу, мы можем подумать, что он способен также ответить на вопрос в любой области, или решить другие типы задач.

Но, к сожалению, это не так 🙁

ChatGPT был обучен на огромной, но ограниченной базе данных, и оптимизирован под определенные задачи.

Тем не менее, использование правильных подсказок может помочь ChatGPT найти правильный ответ в конкретной скрытой области или освоить новую задачу.

Возможности модели также зависят от времени, и это имеет значение при изучении того, как пользоваться ChatGPT

Бывает, что ChatGPT дает неправильные ответы при решении сложных задач. Как и у людей, если вы дадите человеку сумму из 4 цифр, ему потребуется некоторое время, чтобы подумать и дать правильный ответ. Если они будут делать это в спешке, то легко могут ошибиться в расчетах. Аналогично, если вы дадите ChatGPT слишком сложное задание, которое он не сможет выполнить за время, необходимое для вычисления следующего токена, он может выдать неверное предположение.

Однако, как и в случае с людьми, это не обязательно означает, что модель не способна справиться с задачей. Имея некоторое время на обдумывание, модель все же сможет ответить достоверно. Существуют способы направить ChatGPT на успешное решение сложных задач, и это связано с тем, как пользоваться ChatGPT.

Давайте изучим эти способы и научимся правильно использовать ChatGPT для решения сложных задач!

Нулевой промт

При использовании ChatGPT люди чаще всего используют нулевой промт. Мы называем его нулевым, потому что человек сразу задает вопрос.

В этих случаях, если вопрос достаточно прост, модель сможет дать связный ответ. Но при таком методе пользователь не может контролировать точность ответа или его формат.

Вот несколько примеров нулевых промтов в ChatGPT:

В этих примерах подсказка состоит из простого вопроса или утверждения, и ChatGPT дает правильный ответ даже без предварительного обучения по конкретной задаче или теме.

🙌🏼 Это демонстрирует силу нулевого промта и способность больших языковых моделей, таких как ChatGPT, генерировать человекоподобные ответы и в конечном итоге обобщать их для новых областей и задач.

Улучшаем нулевой промт

Существует несколько приемов, позволяющих писать хорошие подсказки ил промты при использовании нулевого промпинга, например, давать более четкие инструкции или разбивать сложные задачи на более простые подзадачи. Однако без конкретных примеров или знания теории эти приемы могут показаться недейственными.

Существует хорошее стандартное предложение, которое следует включать в подсказки независимо от того, какую сложную задачу вы просите решить ChatGPT:

Давайте думать шаг за шагом

Трюк «Давайте подумаем»

Опубликованный Такеши Кодзимой и др. в 2022 году, самый простой способ заставить модель думать над ответом и научиться, как пользоваться ChatGPT — это просто вставить в ответы фразу «Давайте думать шаг за шагом».

Это простое утверждение может помочь модели направить себя в сторону правильного вывода. Поскольку оно побуждает к рассуждениям шаг за шагом, это также способ дать модели необходимое время для создания правильного ответа.

Прием «Давайте думать шаг за шагом» хорошо подходит для сложных задач, таких как математические задачи или вопросы, требующие большого количества рассуждений, а также для общих вопросов.

Вот какой ответ мы получим от ChatGPT, если зададим вопрос о том, кто сейчас является генеральным директором Apple без использования приема «Давайте подумаем шаг за шагом» и не зная, как правильно пользоваться ChatGPT.

А вот такой мы ответ получим от чата GPT если зададим этот же вопрос, только предварительно дополнив его фразой «Давай подумаем шаг за шагом»:

Как мы видим, ChatGPT предоставляет самый актуальный ответ только при использовании утверждения «Давайте подумаем шаг за шагом».

💭 Если вы будете использовать эту технику для своих задачах, не бойтесь экспериментировать с настройкой промта! «Давайте подумаем шаг за шагом» является довольно общим, поэтому вы можете обнаружить лучшую эффективность с промтами, которые соответствуют более строгому формату, адаптированному к вашему случаю использования.

Например, вы можете попробовать более структурированные варианты типа Во-первых, подумайте шаг за шагом о том, почему X может быть верным. Во-вторых, подумайте шаг за шагом о том, почему Y может быть правдой. В-третьих, подумайте шаг за шагом о том, что имеет больший смысл — X или Y, что также может дать заметные улучшения.

Эта техника, по сути, заставляет модель постепенно додумывать ответ!

Одноразовый промт

В некоторых случаях проще показать модели, что вы хотите, чем сказать ей, что вы хотите. Это особенно полезно, если вам нужен ответ в определенном формате или с определенной точностью.

В то время как нулевое обучение в ChatGPT позволяет модели генерировать ответы на новые задачи без явного обучения, одноразовая подсказка предполагает показ модели небольшого набора примеров, похожих на целевую задачу, что позволяет ей быстро адаптироваться и давать точные ответы.

🔫 Эта техника позволяет генерировать текст на естественном языке с ограниченным количеством входных данных, таких как один пример или шаблон, и может позволить создавать предсказуемые выходные данные.

Например, если компания хочет создать чат-бота для поддержки клиентов, она может использовать одноразовые подсказки для точной настройки модели ChatGPT на небольшом наборе запросов и ответов клиентов.

Как упоминалось выше, одноразовые подсказки особенно полезны, если вам нужен определенный формат выходных данных:

Как видно из приведенного примера, ChatGPT адаптирует свой вывод к нужному формату.

Серийные промты или промты несколькими точечными сериями

В то время как нулевые промты и одноразовые промты уже являются мощными инструментами, серийные промты позволяют продвинуть эту концепцию на шаг вперед, позволяя модели быстро обучаться новым задачам с большим количеством данных.

Концепция серийных промтов была изучена Джейсоном Вэем и Денни Чжоу и др. из Google, и её можно рассматривать как демонстрацию модели, о том как отвечать на вопросы, руководствуясь несколькими примерами.

Серийные промты 📊 работают так же, как и одноразовые промты, но количество приводимых примеров больше, обычно около сотни. Производительность модели линейно увеличивается с ростом числа примеров.

Этот подход особенно полезен для задач, требующих более специализированных или специфических знаний, когда модель может не иметь достаточных фоновых знаний для выполнения задачи с помощью нулевой или одноразовой подсказки.

Например, представьте, что компания хочет разработать чат-бота для помощи в постановке медицинских диагнозов. Хотя одномоментные подсказки могут быть эффективны для обучения модели нескольким распространенным медицинским заболеваниям, их может быть недостаточно для более сложных диагнозов. В этом случае для точной настройки модели на небольшом наборе медицинских случаев и диагнозов можно использовать обучение с помощью нескольких снимков, что позволит чатботу давать более точные и обоснованные медицинские рекомендации.

В этом случае в подсказку можно включить следующую информацию в формате Вопрос-Ответ:

Подсказка: 
        В: Каковы симптомы гриппа?
        О: Грипп - это респираторное заболевание, вызываемое вирусом гриппа. Общие симптомы включают лихорадку, кашель, боль в горле, насморк или заложенность носа, ломоту в теле, головную боль, озноб и усталость.
        
        В: Каковы симптомы сердечного приступа?
        О: Сердечный приступ происходит, когда блокируется приток крови к сердечной мышце. Общие симптомы включают боль или дискомфорт в груди, одышку, головокружение, тошноту, боль или дискомфорт в руках, спине, шее, челюсти или животе.
        
        В: Каковы симптомы инсульта?
        О: Инсульт возникает, когда нарушается кровоснабжение головного мозга. Общие симптомы включают внезапную слабость или онемение лица, руки или ноги (особенно с одной стороны тела), спутанность сознания, проблемы с речью или пониманием речи, проблемы со зрением, головокружение и сильную головную боль.

При такой подсказке чатбот может использовать предоставленные пары вопросов и ответов в качестве контекста для диагностики медицинских заболеваний. При запросе симптома, например, «у меня температура и кашель», чатбот может использовать свое понимание симптомов из предоставленных пар вопросов и ответов для создания более обоснованного ответа.

Преимущества подсказок с несколькими примерами

Одним из преимуществ подхода, основанного на нескольких примерах, по сравнению с техникой «Давайте думать шаг за шагом» является то, что вы можете легче определить формат, длину и стиль рассуждений, которые вы хотите, чтобы модель выполняла.

Это может быть особенно полезно в случаях, когда модель изначально рассуждает неправильно или поверхностно.

💪🏼 Наконец, если нескольких подсказок недостаточно для вашей конкретной задачи, вы можете попробовать по-настоящему тонко настроить свой собственный ChatGPT, применив трансферное обучение на нужных вам данных. Ознакомьтесь со статьей о тонкой настройке ChatGPT с помощью Python:

На этом все! Такие техники конструирования подсказок, как «нулевая», «одноразовая» и «серийная» подсказки, могут дать вам больше гибкости и контроля при создании результатов, используя возможности таких моделей, как ChatGPT.

Попробуйте применить методы, описанные в этой статье, для создания более надежных и высокоэффективных подсказок, теперь вы знаете, как промт-инжиниринг может повлиять на ваши результаты!

И еще один факт, прежде чем вы уйдете!

Максимальная идеализация ответов ChatGPT стала настолько популярной, что мы начали видеть много предложений о работе в области промп-инжиниринга, которые ищут тех, кто знает, как получить желаемые знания из ChatGPT.

Теперь вы знаете как пользоваться ChatGPT и ваш уровень эффективности повысится!