生成式AI入门与AWS实战
上QQ阅读APP看书,第一时间看更新

2.3 提示工程

提示工程是一种新兴且令人兴奋的技能,专注于如何更好地理解和应用生成式AI模型来完成你的任务和用例。有效的提示工程可以帮助你充分利用生成式AI模型及应用。

发送给生成式AI模型的输入通常称为提示,提示可以是用于大语言模型的文本或者用于多模态模型的图像、视频等其他形式。在推理阶段,该提示被传递给模型,以生成一个“补全”。

下面是一个简单的问答提示和补全示例。

提示:

Who won the 2016 baseball World Series?

补全:

The Chicago Cubs won the 2016 baseball World Series, defeating the Cleveland 
Indians in a thrilling seven-game series. It was the Cubs' first World Series 
title in 108 years, ending the longest championship drought in Major League 
Baseball history.

你可能需要多次尝试你的提示,才能得到适当且精确的响应,因为一些生成式模型的回答可能较为冗长。提示工程是一种需要通过在不同类型的模型和语言细微差别上进行多次迭代而获取的技能。这些语言上的细微差别通常取决于模型的训练方式。

大部分现代面向人类的聊天模型都使用某种形式的人工标注数据进行微调——通常采用强化学习(Reinforcement Learning)技术,这将在第7章中探讨。聊天模型有时在提示和补全中包含额外的token,以表明角色并区分用户输入(例如,使用User:)和模型响应(例如,使用Assistant:)。在提示术语中,User:通常称为输入指示符,而Assistant:则称为输出指示符。

继续使用问答提示和补全示例。这次我们使用一个经过训练以充当AI助手的模型,并引入了输入指示符和输出指示符。

提示:

User: Who won the 2016 baseball World Series?

补全:

Assistant: The Chicago Cubs won the 2016 baseball World Series, defeating the 
Cleveland Indians in a thrilling seven-game series. It was the Cubs' first 
World Series title in 108 years, ending the longest championship drought in 
Major League Baseball history.

请注意,不同的生成式模型对提示结构有不同的要求。如果使用跟模型不匹配的输入指示符和输出指示符,可能会导致生成的结果偏离预期,产生不理想的效果。因此,当你刚开始接触并尝试一个新的生成式模型时,务必查阅该模型的提示结构。通常,这些信息可以在模型的官方文档或者模型信息卡中找到。

接下来我们探索一些常见的提示结构和技术,以充分利用现有的生成式AI模型。