Prompt Engineering Best Practices
摘自：https://x.com/berryxia_ai/status/1911253405403689104
致谢
审阅者与贡献者
- Michael Sherman
- Yuan Cao
- Erick Armbrust
- Anant Nawalgaria
- Antonio Gulli
- Simone Cammel
策划者与编辑
- Antonio Gulli
- Anant Nawalgaria
- Grace Mollison
这份白皮书的完成得益于众多专家的协作和贡献。审阅者、贡献者、策划者、编辑、技术作者和设计师等不同角色的参与，体现了在人工智能领域创建高质量技术文档所涉及的多方面努力和严谨的开发审查流程。这表明，尽管提示工程的概念相对容易理解，但其有效实践和知识传播仍需结构化的方法和清晰的呈现，反映了该领域日益增长的重要性和复杂性。
目录
基础概念
- 引言
- 提示工程
- LLM 输出配置
提示技巧
- 通用提示 / 零样本
- 单样本 & 少样本
- 系统上下文和角色提示
代码提示
- 编写代码的提示
- 解释代码的提示
- 翻译代码的提示
最佳实践
- 提供示例
- 简洁设计
- 具体说明输出
这份目录清晰地展示了白皮书的结构：从基础概念（引言、基础知识）入手，深入探讨具体技术（从零样本到 ReAct），涵盖关键应用（代码），提及未来方向（多模态），并以实用建议（最佳实践）收尾。这种教学式的结构有助于读者理解信息的流向和内容的组织方式。
引言
任何人都可以编写提示
在探讨大型语言模型（LLM）的输入与输出时，文本提示（有时伴随图像等其他模态）是模型用于预测特定输出的输入形式。编写提示并非数据科学家或机器学习工程师的专利——任何人都可以进行。
“You don’t need to be a data scientist or a machine learning engineer – everyone can write a prompt.”
提示有效性的影响因素
- 所使用的模型
- 模型的训练数据
- 模型配置
- 措辞选择
- 风格语调
- 结构
- 上下文
提示工程的特点
- 迭代的过程
- 不恰当的提示可能导致模糊、不准确的响应
- 需要结构化的方法和清晰的呈现
LLM 令牌预测过程可视化
Gemini 聊天机器人 vs Vertex AI/API
Gemini 聊天机器人
- 无法访问温度等配置参数
- 休闲使用场景
Vertex AI/API
- 可直接配置温度等参数
- 高级提示工程基础
- 特定创造性或确定性任务
提示工程
LLM 工作原理
理解 LLM 的工作原理至关重要：它是一个预测引擎。模型接收顺序文本作为输入，然后基于其训练数据预测下一个应该出现的令牌（token）。LLM 被设计为反复执行此过程，将先前预测的令牌添加到序列文本的末尾，以预测下一个令牌。
预测引擎
基于训练数据预测下一个令牌
迭代过程
反复执行预测过程
上下文依赖
基于先前令牌内容预测
“工程”一词在此处的使用是恰当的，因为它描述了一个涉及”设计”、”优化”、”评估”和”调试”的系统过程。这不仅仅是写作，更是一个针对需求进行系统性改进的过程，类似于传统的工程学科。
提示工程的应用场景
自然语言处理
- 文本摘要
- 信息提取
- 问答系统
- 文本分类
代码相关
- 代码生成
- 代码翻译
- 代码文档编写
- 代码推理
LLM 输出配置
模型配置选项
选定模型后，需要确定模型配置。大多数 LLM 都带有各种配置选项，用于控制其输出。有效的提示工程需要为特定任务优化设置这些配置。
输出长度
- 生成更多令牌需要 LLM 进行更多计算，导致更高的能耗、可能更慢的响应时间以及更高的成本
- 减少输出长度并不会使 LLM 输出更简洁，只是强制截断
采样控制
温度
Top-K
Top-P
LLM 预测下一个令牌可能是什么的概率，然后对这些令牌概率进行采样，以确定将生成的下一个令牌。
对于某些 LLM 提示技术（如 ReAct），输出长度限制尤为重要，因为在获得所需响应后，LLM 可能会继续发出无用的令牌。
温度 (Temperature)
适用于期望更确定性响应的提示，事实问答需要低温
可能导致更多样化或意想不到的结果，故事生成可能受益于高温
技术细节
- 温度为 0（贪婪解码）是确定性的：始终选择概率最高的令牌
- 接近最大值的温度倾向于产生更随机的输出
- 随着温度越来越高，所有令牌成为下一个预测令牌的可能性变得均等
Gemini 的温度控制可以类似于机器学习中使用的 softmax 函数来理解。低温度设置类似于低 softmax 温度 (T)，强调具有高确定性的单个首选温度。
Top-K 和 Top-P (Top-K and top-P)
Top-K 采样
从模型预测的分布中选择概率最高的 K 个令牌。
Top-K 为 1 等同于贪婪解码
Top-P 采样
选择累积概率不超过某个值 (P) 的最高概率令牌。
也称为核采样 (nucleus sampling)
比较分析
机制差异
- Top-K: 考虑令牌数量的硬限制
- Top-P: 基于概率总和的限制
实践建议
- …
零样本提示示例
模型配置说明
模型温度应设置为较低的数字，因为不需要创造性，并且我们使用 gemini-pro 默认的 Top-K 和 Top-P 值，这实际上禁用了这两个设置（参见上面的”LLM 输出配置”）。请注意生成的输出。”disturbing”和”masterpiece”这两个词应该使预测稍微复杂一些，因为它们在同一句话中使用。
此表提供了一个具体的、最小化的示例，说明了零样本概念。它展示了常见任务（分类）提示的基本结构，并包含了对可复现性和文档记录至关重要的元数据（目标、模型、配置），正如文本中所倡导的那样。
当零样本不起作用时
可以在提示中提供演示或示例，这就引出了”单样本”和”少样本”提示。
单样本 & 少样本提示
示例的重要性
在为 AI 模型创建提示时，提供示例很有帮助。这些示例可以帮助模型理解您的要求。当您希望引导模型遵循特定的输出结构或模式时，示例尤其有用。
单样本提示
提供单个示例，因此得名单样本。其思想是模型有一个可以模仿以最好地完成任务的示例。
少样本提示
向模型提供多个示例。这种方法向模型展示了它需要遵循的模式。其思想类似于单样本，但多个期望模式的示例增加了模型遵循该模式的机会。
示例数量指南
少样本提示所需示例的数量取决于几个因素，包括任务的复杂性、示例的质量以及您使用的生成式 AI（gen AI）模型的能力。作为一般经验法则，少样本提示应至少使用三到五个示例。然而，对于更复杂的任务，您可能需要使用更多示例，或者由于模型的输入长度限制，您可能需要使用更少的示例。
少样本提示示例
表 2 展示了一个少样本提示示例，让我们使用与之前相同的 gemini-pro 模型配置设置，只是增加了令牌限制以适应更长响应的需求。
示例分析
此表展示了少样本提示在结构化输出任务（JSON 生成）中的威力。它显示了提供不同复杂度的示例（简单披萨 vs. 双拼披萨）如何教会模型期望的格式和逻辑，使其能够准确处理新的类似请求。
上下文学习
少样本提示利用了模型的上下文学习能力。通过观察示例，模型可以推断出潜在的任务和期望的输出格式，而无需显式的指令调整。因此，示例的质量和多样性至关重要。
示例选择指南
高质量示例
在为提示选择示例时，请使用与您想要执行的任务相关的示例。示例应多样化、高质量且书写良好。一个小错误就可能混淆模型并导致不希望的输出。
- 与任务高度相关
- 展示不同的输入情况
- 格式一致且准确
边缘情况
如果您试图生成对各种输入都具有鲁棒性的输出，那么在示例中包含边缘情况非常重要。边缘情况是那些不寻常或意外的输入，但模型仍应能够处理。
- 不常见但可能发生的输入
- 边界条件测试
- 模糊或歧义输入
系统、上下文和角色提示
三种提示类型
系统、上下文和角色提示都是用于指导 LLM 如何生成文本的技术，但它们侧重于不同的方面：
系统提示
设置语言模型的总体背景和目的。它定义了模型应该做什么的”大局”，例如翻译语言、分类评论等。
上下文提示
提供与当前对话或任务相关的特定细节或背景信息。它帮助模型理解所提问题的细微差别，并相应地调整响应。
角色提示
为语言模型分配一个特定的角色或身份以供其采用。这有助于模型生成与所分配角色及其相关知识和行为一致的响应。
提示类型的比较
这三种提示类型代表了指导 LLM 的不同层面或维度。系统提示设定舞台，上下文提示提供即时的场景细节，而角色提示定义了”演员”的形象。它们可以单独使用，也可以组合使用以实现精细控制。
系统提示示例
表 3 包含一个系统提示，其中指定了有关如何返回输出的附加信息。提高了温度以获得更高的创造力水平，并指定了更高的令牌限制。然而，由于关于如何返回输出的明确指示，模型没有返回额外的文本。
此表示例清晰地展示了系统提示如何强制执行特定的输出格式约束（大写标签），即使在高温度设置下也是如此，高温度通常会鼓励更冗长的输出。
系统提示对于生成满足特定要求的输出非常有用。”系统提示”这个名称实际上代表”向系统提供附加任务”。例如，可以使用系统提示生成与特定编程语言兼容的代码片段，或者使用系统提示返回某种结构。
表 4：带 JSON 格式的系统提示示例
结构化数据输出
此表说明了一个更复杂的系统提示用例：通过提供模式来强制执行结构化数据输出 (JSON)。这对于将 LLM 输出集成到下游应用程序中非常有价值。
限制幻觉
它还强调了强制结构以潜在限制幻觉的好处。系统提示表明，直接的指令，特别是关于输出格式或约束（如安全性）的指令，可以有效地覆盖默认的模型行为。
JSON 格式的优势
从提取数据的提示返回 JSON 对象有一些好处。在实际应用中，无需手动创建此 JSON 格式，可以按排序顺序返回数据（在处理日期时间对象时非常方便），但最重要的是，通过提示要求 JSON 格式，它迫使模型创建结构并限制幻觉。
系统提示对于安全性和毒性控制也非常有用。要控制输出，只需在提示中添加一行，例如：”你的回答应该保持尊重。”
表 5：角色提示示例
角色提示技术
角色提示是提示工程中的一种技术，涉及为生成式 AI 模型分配特定角色。这可以帮助模型生成更相关、信息更丰富的输出，因为模型可以根据分配给它的特定角色来构建响应。
角色提示的优势
为 AI 模型定义角色视角，为其提供了所需的语调、风格和专注专业知识的蓝图，以提高输出的质量、相关性和有效性。角色提示允许 LLM 模拟一个角色，采用其预期的知识、词汇、语调和风格。这对于根据特定受众或沟通目标定制输出非常有效。
有效的风格选择
表 6：带幽默语气的角色提示示例
风格定制
此表显示角色提示不仅可以定义专业知识，还可以指定语调和风格（”幽默”），在满足核心请求的同时显著改变输出的特性。
表 7：上下文提示示例
上下文提示的价值
通过提供上下文提示，可以帮助确保 AI 交互尽可能无缝和高效。模型将能够更快地理解您的请求，并能够生成更准确、更相关的响应。上下文提示将 LLM 的响应置于特定的环境或背景信息中，防止产生通用或不相关的输出，并确保响应针对当前情况量身定制。
上下文的力量
此表清晰地说明了提供明确上下文（”关于 80 年代复古街机视频游戏的博客”）如何将模型的输出集中在高度相关的建议上，而不是对”博客主题”的通用请求。
基线提示示例
直接请求创意内容
当将温度设置为 1 时，可能会得到各种各样的故事情节创意写作，但它也相当随机和通用。
此表作为基线，显示了直接请求创意内容（尤其是在高温度下）时可能产生的通用输出。
表 9：回退提示的第一步
生成一般概念
让我们退一步思考，首先生成一些有助于构建故事情节的一般概念。
回退步骤的价值
此表展示了”回退”步骤——提出一个更抽象、基于原则的问题，以引出与特定任务相关的基础想法或主题。
表 10：使用回退上下文的最终提示
应用回退概念
让我们回到最初的提示，但这次我们将回退步骤的答案作为上下文包含进去。
回退方法的有效性
此表示范了回退方法的有效性。通过首先生成一般概念（表 9），然后将它们用作上下文（表 10），最终的输出比直接方法（表 8）更具体、更具主题性，并且可以说更引人入胜。
提示准确性
看起来像一个有趣的视频游戏！通过使用回退提示技术，可以提高提示的准确性。
思维链 (Chain of Thought – CoT)
思维链（Chain of Thought, CoT）提示是一种通过生成中间推理步骤来提高 LLM 推理能力的技术。这有助于 LLM 生成更准确的答案。可以将其与少样本提示结合使用，以在需要推理才能响应的更复杂任务上获得更好的结果，因为零样本思维链在这方面存在挑战。
CoT 的优点
- 省力且非常有效，适用于现成的 LLM（无需微调）
- 可获得可解释性，可以看到所遵循的推理步骤
- 在不同 LLM 版本之间转换时提高了鲁棒性
CoT 的缺点
LLM 响应包含思维链推理，这意味着更多的输出令牌，这反过来意味着预测成本更高且耗时更长。
表 11：数学问题错误示例
直接提问的缺陷
让我们首先尝试创建一个不使用 CoT 提示的提示，以展示大型语言模型的缺陷。
LLM 的常见失败模式
此表展示了一个常见的 LLM 失败模式——在直接提问时，即使是简单的算术/逻辑推理问题也可能出错，为 CoT 的引入奠定了基础。
哎呀。这显然是错误的答案。事实上，LLM 经常在数学任务上遇到困难，并且可能提供不正确的答案——即使是像两个数字相乘这样简单的任务。这是因为它们是在大量文本上训练的，而数学可能需要不同的方法。所以让我们看看中间推理步骤是否会改善输出。
表 12：思维链提示示例
零样本思维链
简单地添加触发短语”让我们一步一步地思考”引出了一个推理过程。
零样本 CoT 的效果
此表清晰地显示了零样本 CoT 的效果。简单地添加触发短语”让我们一步一步地思考”引出了一个推理过程，从而得出了正确的答案。CoT 通过迫使模型将其推理过程外化到令牌序列中来工作。这种步骤的顺序生成似乎有助于模型保持正轨，并比试图在单个”思考”中计算答案更可靠地执行计算或逻辑推导。
好的，现在最终答案是正确的。这是因为我们明确指示 LLM 解释每个步骤，而不是仅仅返回一个答案。有趣的是，模型加上了增加的 17 年。在我看来，我会计算我和伴侣之间的年龄差，然后加上去。(20+(9-3))。让我们帮助模型更像我一样思考。
表 13：带单样本的思维链提示示例
少样本思维链
表 12 是”零样本”思维链的一个例子。当与单样本或少样本结合时，思维链提示可能非常强大。
少样本 CoT 的优势
此表示范了少样本 CoT。提供一个期望的推理过程的示例，可以指导模型为新问题遵循类似的结构和逻辑，可能比单独使用零样本 CoT 产生更可靠或结构化的推理。
CoT 的应用场景
思维链可用于各种用例。想想代码生成，用于将请求分解为几个步骤，并将这些步骤映射到特定的代码行。或者用于创建合成数据，当您有某种种子时，例如”产品名为 XYZ，编写一个描述，引导模型完成您基于给定产品标题会做出的假设。”
通常，任何可以通过”逐步阐述”来解决的任务都适合使用思维链。如果您能解释解决问题的步骤，请尝试思维链。
自我一致性 (Self-consistency)
自我一致性原理
自我一致性（Self-consistency）结合了采样和多数投票来生成多样化的推理路径，并选择最一致的答案。它提高了 LLM 生成响应的准确性和连贯性。
工作原理
- 生成多样化的推理路径：多次向 LLM 提供相同的提示
- 从每个生成的响应中提取答案
- 选择最常见的答案
权衡
自我一致性给出了答案正确的伪概率可能性，但显然成本很高。它以计算成本换取了鲁棒性。
自我一致性 (Self-consistency)
自我一致性原理
自我一致性（Self-consistency）结合了采样和多数投票来生成多样化的推理路径，并选择最一致的答案。它提高了 LLM 生成响应的准确性和连贯性。
工作原理
- 生成多样化的推理路径：多次向 LLM 提供相同的提示
- 从每个生成的响应中提取答案
- 选择最常见的答案
权衡
自我一致性给出了答案正确的伪概率可能性，但显然成本很高。它以计算成本换取了鲁棒性。
自我一致性的价值
此表完美地展示了自我一致性机制。它表明，即使使用 CoT，单次运行（尤其是在鼓励多样性的高温度下）也可能得出不正确或不太稳健的结论（如尝试 2）。生成多个推理路径并进行多数投票（3 次中有 2 次认为是重要）提供了更稳健的最终答案。
思维树 (Tree of Thoughts – ToT)
思维树概述
思维树（Tree of Thoughts, ToT）泛化了 CoT 提示的概念，因为它允许 LLM 同时探索多个不同的推理路径，而不仅仅是遵循单一的线性思维链。
与CoT的区别
ToT 从线性或独立的推理路径转向更结构化的探索策略。它允许模型在每一步考虑替代方案，可能回溯，并评估不同的分支，模仿更深思熟虑的人类解决问题的方法。
工作原理
维护一个思维树，其中每个思想代表一个连贯的语言序列，作为解决问题的中间步骤。然后，模型可以通过从树中的不同节点分支出来探索不同的推理路径。
相关资源
有一个很棒的 notebook，它更详细地展示了基于论文《大型语言模型引导的思维树》（Large Language Model Guided Tree-of-Thought）的思维树（ToT）。
ReAct (推理与行动 – reason & act)
ReAct 范式
推理与行动（Reason and act, ReAct）提示是一种范式，使 LLM 能够通过将自然语言推理与外部工具（搜索、代码解释器等）相结合来解决复杂任务。
工作原理
ReAct 提示通过将推理和行动结合到一个思想-行动循环中来工作。LLM 首先对问题进行推理并生成行动计划。然后它执行计划中的行动并观察结果。接着，LLM 使用观察结果更新其推理并生成新的行动计划。
人类行为模仿
ReAct 模仿人类在现实世界中的运作方式，因为我们进行口头推理并可以采取行动获取信息。ReAct 在各种领域中相对于其他提示工程方法的表现良好。
代码提示 (Code prompting)
代码生成概述
Gemini 主要关注基于文本的提示，这也包括编写用于返回代码的提示。让我们进入 Vertex AI Studio 并测试这些提示，看一些编码示例。
开发者助手
Gemini 也可以扮演开发者的角色，帮助您用任何选择的编程语言编写代码。作为开发者，这可以帮助您加快编写代码的过程。
想象一下，您机器上的一个文件夹里有数百个文件需要重命名。逐个重命名每个文件会花费大量时间。您懂一点 Bash，可以编写一个脚本来自动化这个过程，但这可能也需要一些时间。所以让我们编写一个提示。
编写代码的提示 (Prompts for writing code)
代码生成潜力
此表提供了一个清晰的示例，说明如何基于自然语言描述使用 LLM 进行代码生成，展示了自动化简单脚本任务的潜力。
重要提醒
这看起来是不错的代码——甚至还有文档！然而，由于 LLM 无法推理，并且会重复训练数据，因此首先阅读和测试您的代码至关重要。
测试脚本
让我们先用一个只有几个文件的测试文件夹来试试，这些文件需要从 filename.txt 重命名为 draft_filename.txt。
- 复制表 16 的输出（不包括 bash 文本包装器），并将其粘贴到一个名为 “rename_files.sh” 的新文件中。
- 打开一个终端窗口并输入：
. rename_files.sh。它会要求输入文件夹名称，例如test，然后按回车键。 - 脚本似乎运行良好。您将看到消息：文件重命名成功。
当您查看测试文件夹时，会发现所有文件都已完美地重命名为 draft_filename.txt。它成功了！
解释代码的提示 (Prompts for explaining code)
代码理解助手
作为开发者，在团队中工作时，您必须阅读他人的代码。Gemini 也可以在这方面提供帮助。让我们取用表 16 的代码输出，移除注释，并要求大型语言模型解释发生了什么。
代码解释的价值
此表示范了 LLM 在代码理解方面的效用。模型准确地分解了脚本，并用自然语言解释了每个命令块的目的。
翻译代码的提示 (Prompts for translating code)
代码翻译能力
表 16 中的 bash 代码似乎工作正常。然而，如果这个脚本能提示我输入文件名，并且理想情况下能作为一个带有 UI 的独立应用程序工作，那么它将真正具有可重用性。作为起点，对于（Web）应用程序来说，Python 比 Bash 是更好的语言。LLM 可以帮助将代码从一种语言翻译到另一种语言。
代码翻译能力
此表展示了 LLM 的代码翻译能力，将功能从一种语言的习惯用法（Bash 命令）映射到另一种语言（如 Python 的 os、shutil 库）。
测试说明
阅读并审查代码。复制提示的输出并将其粘贴到一个新文件：file_renamer.py。通过打开终端窗口并执行以下命令来测试代码：python file_renamer.py。
注意： 在 Vertex AI 的 Language Studio 中提示（Python）代码时，您必须单击 “Markdown”按钮。否则，您将收到缺少正确行缩进的纯文本，这对于运行 Python 代码很重要。
调试和审查代码的提示 (Prompts for debugging and reviewing code)
代码调试助手
让我们手动对表 18 的代码进行一些编辑。它应该提示用户输入文件名前缀，并将此前缀以大写字符写入。参见代码片段 3 中的示例代码，但真糟糕。它现在返回 Python 错误！
损坏的代码示例
# 代码片段 3：一个损坏的 Python 脚本
import os
import shutil
folder_name = input(“输入文件夹名称: “)
prefix = input(“输入要添加到文件名前的前缀字符串: “)
# 错误：使用了未定义的函数 toUpperCase
text = toUpperCase(prefix)
if not os.path.isdir(folder_name):
print(“文件夹不存在。”)
exit(1)
files = os.listdir(folder_name)
for file in files:
# 错误：变量名不一致 new_filename vs new_file_name
new_filename = f”{text}_{file}“
old_path = os.path.join(folder_name, file)
# 使用了未在循环中定义的 new_file_name
new_path = os.path.join(folder_name, new_file_name)
shutil.move(old_path, new_path)
print(“文件重命名成功。”)
代码片段 3：一个损坏的 Python 脚本
错误分析
哎呀！看起来像个 bug：
- 使用了未定义的函数
toUpperCase - 变量名不一致
new_filenamevsnew_file_name - 使用了未在循环中定义的
new_file_name
代码调试示例
错误回溯信息
# 代码片段 4：Python 代码错误的回溯信息
以下 Python 代码给出了错误：
Traceback (most recent call last):
File “/Users/leeboonstra/Documents/test_folder/rename_files.py”, line 7, in
text = toUpperCase(prefix)
NameError: name ‘toUpperCase’ is not defined
代码片段 4：我弄坏了 Python 代码
调试提示的价值
此表有力地证明了 LLM 不仅可以修复特定错误，还可以进行主动的代码审查并提出最佳实践建议。将错误回溯与代码一起提供是调试的关键上下文。提供错误消息/回溯以及代码极大地帮助 LLM 定位问题，使调试提示比仅提供代码并说”修复它”有效得多。
太棒了。它不仅告诉了我如何解决问题，还找出了我的代码有更多错误以及如何解决它们。提示的最后一部分给出了改进代码的总体建议。
最佳实践 (Best Practices)
提示工程最佳实践
找到正确的提示需要反复调试。Vertex AI 中的 Language Studio 是一个完美的场所，可以在其中试用您的提示，并能够针对各种模型进行测试。
提供示例 (Provide examples)
最重要的最佳实践是在提示中提供（单样本/少样本）示例。这是非常有效的，因为它充当了强大的教学工具。这些示例展示了期望的输出或类似的响应，使模型能够从中学习并相应地调整其自身的生成。这就像给模型一个参考点或目标，以提高其响应的准确性、风格和语调，使其更好地符合您的期望。
这再次强调了之前看到的少样本学习的有效性。明确称其为”最重要”的实践，突显了它在各种任务中的巨大影响力。
简洁设计 (Design with simplicity)
提示应该简洁、清晰、易于理解（对您和模型都是如此）。作为经验法则，如果它对您来说已经令人困惑，那么它很可能对模型来说也同样令人困惑。尽量不要使用复杂的语言，也不要提供不必要的信息。
有时少即是多。虽然上下文是好的，但不必要的行话或过于复杂的句子结构可能会混淆模型。直接、清晰的语言是首选。
修改前 (BEFORE):
我现在正在访问纽约，我想了解更多关于好地点的信息。我和两个 3 岁的孩子在一起。我们假期应该去哪里？
重写后 (AFTER REWRITE):
扮演游客的旅行指南。描述在纽约曼哈顿适合带 3 岁孩子参观的好地方。尝试使用描述动作的动词。
具体说明输出 (Be specific about the output)
关于期望的输出要具体。简洁的指令可能不足以指导 LLM，或者可能过于笼统。在提示中提供具体细节（通过系统或上下文提示）可以帮助模型专注于相关内容，提高整体准确性。
不要假设模型知道您想要什么。明确说明约束条件，如长度（”3 段”）、内容焦点（”排名前 5 的视频游戏机”）和风格（”对话式”）。
不推荐 (DO NOT):
生成一篇关于视频游戏机的博客文章。
推荐 (DO):
生成一篇关于排名前 5 的视频游戏机的 3 段博客文章。该博客文章应内容丰富且引人入胜，并应以对话式风格编写。
使用指令而非约束 (Use Instructions over Constraints)
指令和约束在提示中用于指导 LLM 的输出。
指令 (instruction)
提供关于响应的期望格式、风格或内容的明确指示。它指导模型应该做什么或产生什么。
约束 (constraint)
是对响应的一组限制或边界。它限制模型不应该做什么或避免什么。
越来越多的研究表明，在提示中专注于积极指令可能比严重依赖约束更有效。这种方法与人类更喜欢积极指令而非一堆”不要做”列表的偏好相一致。
以积极的方式提出请求（包含什么）通常比消极约束（排除什么）更清晰，更不容易被误解或产生冲突。指令直接传达期望的结果，而约束可能让模型猜测什么是允许的。
不推荐 (DO NOT):
生成一篇关于排名前 5 的视频游戏机的 1 段博客文章。不要列出视频游戏名称。
推荐 (DO):
生成一篇关于排名前 5 的视频游戏机的 1 段博客文章。仅讨论游戏机本身、制造商公司、年份和总销量。
作为最佳实践，首先优先考虑指令，清楚地说明您希望模型做什么，仅在出于安全、清晰或特定要求需要时才使用约束。进行实验和迭代，测试指令和约束的不同组合，以找到最适合您特定任务的方法，并记录这些尝试。
控制最大令牌长度 (Control the max token length)
要控制生成的 LLM 响应的长度，您可以在配置中设置最大令牌限制，或者在提示中明确请求特定长度。例如：
“用一条推文长度的消息解释量子物理学。”
长度可以通过技术（配置）和语义（提示）两种方式进行管理。基于提示的控制允许更细致的长度规范（例如，”用 3 句话”，”推文长度”）。
在提示中使用变量 (Use variables in prompts)
为了重用提示并使其更具动态性，请在提示中使用变量，这些变量可以针对不同的输入进行更改。例如，一个提供城市事实的提示。不要在提示中硬编码城市名称，而是使用变量。变量可以通过允许您避免重复自己来节省时间和精力。如果您需要在多个提示中使用相同的信息，可以将其存储在变量中，然后在每个提示中引用该变量。这在将提示集成到您自己的应用程序中时非常有意义。
此表清晰地展示了一个简单的模板机制，用于使提示可重用并适应不同的输入，而无需重写整个提示结构。这对于程序化使用至关重要。
尝试不同的输入格式和写作风格
不同的模型、模型配置、提示格式、措辞选择甚至提交都可能产生不同的结果。因此，尝试提示属性（如风格、措辞选择和提示类型（零样本、少样本、系统提示））非常重要。
LLM 对输入的精确措辞和格式可能出奇地敏感。微小的变化可能导致不同的输出，这再次强调了实验的必要性。
例如，一个目标是生成关于革命性视频游戏机世嘉 Dreamcast 文本的提示，可以表述为：
问题：
世嘉 Dreamcast 是什么？为什么它是一款如此革命性的游戏机？
陈述：
世嘉 Dreamcast 是世嘉于 1999 年发布的第六代视频游戏机。它…
指令：
编写一段描述世嘉 Dreamcast 游戏机并解释其革命性原因的文字。
对于带分类任务的少样本提示，混合类别
一般来说，少样本示例的顺序不应有太大影响。但是，在进行分类任务时，请确保在少样本示例中混合可能的响应类别。这样做是因为您可能否则会过度拟合示例的特定顺序。通过混合可能的响应类别，您可以确保模型正在学习识别每个类别的关键特征，而不仅仅是记忆示例的顺序。这将导致在未见过的数据上表现更鲁棒和更具泛化性。
在少样本分类中，示例的顺序可能无意中成为一个信号。混合类别迫使模型依赖示例的实际内容来区分类别，而不是仅仅依赖它们在序列中的位置。
一个好的经验法则是从 6 个少样本示例开始，并从那里开始测试准确性。
适应模型更新 (Adapt to model updates)
了解模型架构变化、新增数据和能力非常重要。尝试更新的模型版本，并调整您的提示以更好地利用新模型特性。像 Vertex AI Studio 这样的工具非常适合存储、测试和记录您提示的各种版本。
提示工程不是一次性任务。今天效果好的提示可能随着底层模型的演变而需要调整。持续测试和适应是必要的。
尝试不同的输出格式
除了提示输入格式，考虑尝试输出格式。对于非创造性任务，如提取、选择、解析、排序、排名或分类数据，尝试让您的输出以结构化格式（如 JSON 或 XML）返回。
明确要求结构化输出（如 JSON）可以作为一种强约束，提高可靠性并减少无意义或非结构化的响应，尤其对于面向数据的任务。
返回从提取数据的提示中获取 JSON 对象有一些好处。在实际应用中，我不需要手动创建此 JSON 格式，我已经可以按排序顺序返回数据（在处理日期时间对象时非常方便），但最重要的是，通过提示要求 JSON 格式，它迫使模型创建结构并限制幻觉。
少样本提示部分的表 4 展示了如何返回结构化输出的示例。
与其他提示工程师一起实验
如果您处于必须尝试想出一个好提示的情况，您可能希望找多个人进行尝试。当每个人都遵循最佳实践（如本章所列）时，您将看到所有不同提示尝试之间的性能差异。
不同的人以不同的方式处理问题。协作进行提示设计可以引入多样化的视角和措辞，可能比单个人独立工作更快地找到更好的解决方案。
CoT 最佳实践 (CoT Best practices)
对于 CoT 提示，将答案放在推理之后是必需的，因为推理的生成会改变模型预测最终答案时获得的令牌。
对于 CoT 和自我一致性，您需要能够从提示中提取最终答案，并将其与推理分开。
对于 CoT 提示，将温度设置为 0。思维链提示基于贪婪解码，根据语言模型分配的最高概率预测序列中的下一个词。一般来说，当使用推理来得出最终答案时，很可能只有一个正确的答案。因此，温度应始终设置为 0。
有效使用 CoT 需要注意具体的实现细节，如答案放置、可提取性和适当的配置（低/零温度）。
记录各种提示尝试 (Document the various prompt attempts)
最后一条建议在本章前面已经提到过，但我们不能足够强调它的重要性：详细记录您的提示尝试，以便随着时间的推移了解哪些做得好，哪些做得不好。
有效的提示工程需要将其视为科学或工程过程，这需要严格记录实验（提示、设置、结果），以便进行学习、比较和复现。
提示输出可能因模型、采样设置甚至同一模型的不同版本而异。此外，即使对于同一模型的相同提示，输出句子格式和措辞选择也可能存在微小差异。（例如，如前所述，如果两个令牌具有相同的预测概率，则可能随机打破平局。这随后会影响后续预测的令牌。）
我们建议创建一个 Google Sheet，并使用表 21 作为模板。这种方法的优点是，当您不可避免地需要重新审视您的提示工作时——无论是将来重新拾起（您会惊讶于即使短暂休息后您会忘记多少），还是在不同版本的模型上测试提示性能，以及帮助调试未来的错误——您都有完整的记录。
除了此表中的字段外，跟踪提示的版本（迭代）、一个用于记录结果是“确定/不确定/有时确 定”(OK/NOT OK/SOMETIMES OK) 的字段，以及一个用于记录反馈的字段也很有帮助。如 果您有幸使用 Vertex AI Studio，请保存您的提示（使用与文档中列出的相同名称和版本）， 并在表格中跟踪指向已保存提示的超链接。这样，您只需单击一下即可重新运行您的提示。
当处理检索增强生成（RAG）系统时，您还应捕获影响哪些内容被插入到提示中的 RAG 系 统的特定方面，包括查询、块设置、块输出和其他信息。
提示文档模板
系统化文档的重要性
最后一条建议在本章前面已经提到过，但我们不能足够强调它的重要性：详细记录您的提示尝试，以便随着时间的推移了解哪些做得好，哪些做得不好。
科学记录方法
有效的提示工程需要将其视为科学或工程过程，这需要严格记录实验（提示、设置、结果），以便进行学习、比较和复现。
提示输出可能因模型、采样设置甚至同一模型的不同版本而异。此外，即使对于同一模型的相同提示，输出句子格式和措辞选择也可能存在微小差异。（例如，如前所述，如果两个令牌具有相同的预测概率，则可能随机打破平局。这随后会影响后续预测的令牌。）
文档模板价值
此表为关键的文档实践提供了一个具体的、结构化的模板。遵循此模板可确保系统地捕获每个提示实验的关键信息（目标、输入、配置、输出），以便后续分析、比较和复现。
额外建议
除了此表中的字段外，跟踪提示的版本（迭代）、一个用于记录结果是”确定/不确定/有时确定”(OK/NOT OK/SOMETIMES OK)的字段，以及一个用于记录反馈的字段也很有帮助。
实施建议
- 我们建议创建一个 Google Sheet，并使用表 21 作为模板。这种方法的优点是，当您不可避免地需要重新审视您的提示工作时——无论是将来重新拾起（您会惊讶于即使短暂休息后您会忘记多少），还是在不同版本的模型上测试提示性能，以及帮助调试未来的错误——您都有完整的记录。
- 如果您有幸使用 Vertex AI Studio，请保存您的提示（使用与文档中列出的相同名称和版本），并在表格中跟踪指向已保存提示的超链接。这样，您只需单击一下即可重新运行您的提示。
- 当处理检索增强生成（RAG）系统时，您还应捕获影响哪些内容被插入到提示中的 RAG 系统的特定方面，包括查询、块设置、块输出和其他信息。
- 一旦您觉得提示接近完美，就将其纳入您的项目代码库。在代码库中，将提示保存在与代码分开的文件中，以便于维护。
- 最后，理想情况下，您的提示是操作化系统的一部分，作为提示工程师，您应依赖自动化测试和评估程序来了解您的提示在任务上的泛化程度如何。
迭代过程
提示工程是一个迭代的过程。制作和测试不同的提示，分析并记录结果。根据模型的性能优化您的提示。持续实验，直到达到期望的输出。当您更改模型或模型配置时，返回并继续实验先前使用的提示。
总结 (Summary)
提示工程技术回顾
本白皮书讨论了提示工程。我们学习了各种提示技术，例如：
基础技术
- 零样本提示 (Zero prompting)
- 少样本提示 (Few shot prompting)
- 系统提示 (System prompting)
- 角色提示 (Role prompting)
高级技术
- 上下文提示 (Contextual prompting)
- 回退提示 (Step-back prompting)
- 思维链 (Chain of thought)
- 自我一致性 (Self consistency)
前沿技术
- 思维树 (Tree of thoughts)
- ReAct
- 自动提示工程 (APE)
我们甚至研究了如何自动化您的提示。
白皮书随后讨论了生成式 AI 的挑战，例如当您的提示不足时可能发生的问题。最后我们以如何成为更好的提示工程师的最佳实践作为结束。
关键收获
提示工程是一门需要实践和系统化方法的艺术与科学。通过遵循本白皮书中概述的技术和最佳实践，您可以显著提高与大型语言模型交互的效果和效率。
尾注 (Endnotes)
Works cited
1. www.gptaiflow.tech, accessed April 10, 2025, https://www.gptaiflow.tech/assets/files/2025-01-18-pdf-1-TechAI-Goolge-whitepaper_Prompt%20Engineering_v4-af36dcc7a49bb7269a58b1c9b89a8ae1.pdf
One Comment
Comments are closed.
[…] Google AI 提示词最佳实践宝典 […]