第 3 课 AI 智能体设计原则

介绍

构建 AI 智能体系统，有许多不同的思路。在生成式 AI 的设计里，模糊性是一种特性而不是缺陷，所以工程师有时连从哪里下手都很难判断。为此，我们整理了一套以人为中心的用户体验设计原则，帮助开发者构建以客户为中心的智能体系统，满足业务需要。这些原则不是一套必须照搬的架构，而是给正在定义和打造智能体体验的团队提供一个起点。

总的来说，智能体应当：

• 拓展和放大人的能力（头脑风暴、解决问题、自动化等）
• 弥补知识空白（让我快速熟悉某个知识领域、翻译等）
• 按我们每个人喜欢的方式，促进和支持与他人的协作
• 让我们成为更好的自己（例如充当生活教练或督促者，帮我们学习情绪调节和正念技巧、增强韧性等）

本课内容

• 什么是智能体设计原则
• 落实这些设计原则时应遵循哪些指导方针
• 运用这些设计原则的一些例子

学习目标

学完本课，你将能够：

1. 解释什么是智能体设计原则
2. 说明运用智能体设计原则的指导方针
3. 理解如何运用智能体设计原则来构建智能体

智能体设计原则

智能体（空间）

这是智能体所处的环境。这些原则指导我们如何设计在物理世界和数字世界中与人打交道的智能体。

• 连接，而非取代：帮助人们与他人、事件以及可付诸行动的知识建立连接，促进协作和联系。
• 智能体帮助把事件、知识和人连接起来。
• 智能体让人与人更紧密。它们不是用来取代人或贬低人的。
• 容易找到，有时又隐于幕后：智能体大部分时间在后台运行，只在相关且合适的时候提醒我们。
  • 对获得授权的用户来说，智能体在任何设备或平台上都容易找到、容易使用。
  • 智能体支持多模态的输入和输出（声音、语音、文字等）。
  • 智能体能根据它对用户需求的感知，在前台和后台之间、主动和被动之间顺畅切换。
  • 智能体可能以看不见的方式运行，但它在后台的处理过程以及与其他智能体的协作，对用户是透明、可控的。

智能体（时间）

这是智能体随时间运作的方式。这些原则指导我们如何设计在过去、现在和未来之间与人互动的智能体。

• 过去：回顾历史，既包括状态，也包括上下文。
  • 智能体分析更丰富的历史数据，而不只看事件、人或状态本身，从而给出更相关的结果。
  • 智能体把过去的事件联系起来，主动回顾记忆，用来应对当前的情况。
• 现在：多引导，少通知。
  • 智能体以更全面的方式与人互动。事件发生时，智能体不只是发一条静态通知、走一遍固定的形式，而是可以简化流程，或者动态生成提示，在恰当的时刻把用户的注意力引到重点上。
  • 智能体根据所处环境、社会和文化的变化来传递信息，并贴合用户的意图。
  • 智能体与人的互动可以循序渐进，复杂度逐步增加，长期帮助用户提升能力。
• 未来：适应与进化。
  • 智能体适应各种设备、平台和交互方式。
  • 智能体适应用户的行为和无障碍需求，并且可以自由定制。
  • 智能体在与用户的持续互动中被塑造、不断进化。

智能体（核心）

这些是智能体设计核心中的关键要素。

• 接受不确定性，同时建立信任。
  • 智能体带有一定的不确定性，这在意料之中。不确定性是智能体设计中的关键要素。
  • 信任和透明是智能体设计的基础。
  • 由人来决定智能体何时开启、何时关闭，并且智能体的状态始终清晰可见。

落实这些原则的指导方针

运用上面的设计原则时，请遵循以下指导方针：

1. 透明：告诉用户这里用到了 AI、它如何运作（包括它过去做过什么），以及如何反馈和修改系统。
2. 可控：让用户能够自定义、设置偏好和个性化，并能控制系统及其各项属性（包括让系统遗忘的能力）。
3. 一致：力求在各种设备和终端上提供一致的多模态体验。尽量使用用户熟悉的界面元素（例如用麦克风图标表示语音交互），并尽可能减轻用户的认知负担（例如回答简洁、配合图示、提供“了解更多”内容）。

如何用这些原则和指导方针设计旅行智能体

假设你正在设计一个旅行智能体，可以这样思考如何运用设计原则和指导方针：

1. 透明：让用户知道这个旅行智能体是由 AI 驱动的。提供一些基本的上手说明（例如一条“你好”欢迎消息、示例提示词），并在产品页面上写清楚。展示用户过去提过的提示词列表。说明如何反馈（点赞和点踩、“发送反馈”按钮等）。如果智能体在用途或话题上有限制，要明确说出来。
2. 可控：让用户清楚智能体创建之后可以怎样修改它，比如通过系统提示词。允许用户选择智能体回答的详略程度、写作风格，以及智能体不应谈论哪些内容。允许用户查看和删除相关的文件或数据、提示词和过去的对话。
3. 一致：确保“分享提示词”、添加文件或照片、标记某人或某物等功能的图标规范统一、容易认出。用回形针图标表示上传文件或与智能体共享文件，用图片图标表示上传图片。

补充资源

• 智能体 AI 系统的治理实践（Practices for Governing Agentic AI Systems，OpenAI）
• HAX 工具包项目（The HAX Toolkit Project，Microsoft Research）
• 负责任 AI 工具箱（Responsible AI Toolbox）

编者注：原文前两条资源的链接只指向 OpenAI 和 Microsoft 网站首页，本库没有附上，需要时可按标题搜索。

---

免责声明：本课中文最初由 AI 翻译工具 Co-op Translator 自动翻译，本库对照英文原文做了校订和删节。译文仍可能有错漏，与英文原版不一致之处，以英文原版为准。