Agent 组件
具备推理、工具使用和多代理协作能力的组件。
从 v0.20.3 版本开始,Agent 组件可以独立工作,并具有以下功能:
- 自主推理,根据环境反馈进行反思和调整。
- 使用工具或子代理来完成任务。
场景
当需要 LLM 协助总结、翻译或控制各种任务时,Agent 组件是必不可少的。
配置项
模型
点击 Model 下拉菜单以显示模型配置窗口。
- 模型:要使用的聊天模型。
- 确保在 Model providers 页面上正确设置了聊天模型。
- 可以为不同的组件使用不同模型,增加灵活性或提高整体性能。
- 自由度:是温度、Top P、存在惩罚和频率惩罚设置的快捷方式,表示模型的自由程度。从 即兴创作、精确 到 平衡,每个预设配置对应着特定的 温度、Top P、存在惩罚 和 频率惩罚 组合。
- 此参数有三个选项:
- 即兴创作:生成更多富有创意的回答。
- 精确(默认):生成更保守的答案。
- 平衡:介于 即兴创作 和 精确 之间的中间值。
- 此参数有三个选项:
- 温度:模型输出的随机性程度。
默认为 0.1。- 较低的值会导致更加确定和可预测的结果。
- 较高的值导致更多创意和多样化的结果。
- 温度为零时,相同的提示将产生相同的结果。
- Top P:核心采样。
- 设置阈值 P 并限制仅对累积概率超过 P 的标记进行采样,以减少重复或不自然文本生成的可能性。
- 默认为 0.3。
- 存在惩罚:鼓励模型在响应中包括更多种类的标记。
- 较高的 存在惩罚 值使 得模型更有可能生成尚未包含在生成文本中的新标记。
- 默认值为 0.4。
- 频率惩罚:阻止模型过于频繁地重复同一单词或短语。
- 较高的 频率惩罚 值导致模型更加保守地使用已重复的标记。
- 默认值为 0.7。
- 最大令牌数:
注意
- 并非必须为所有组件都使用相同的模型。如果某个特定模型对某些任务表现不佳,请考虑使用其他模型。
- 如果您不清楚 温度、Top P、存在惩罚 和 频率惩罚 的机制,可以简单地选择三个预设配置之一。
系统提示
通常情况下,使用系统提示来描述 LLm 的任务,并说明其应如何响应以及其他各种需求。我们暂不深入探讨此主题,因为这一领域与提示工程一样复杂多变。但请注意,系统提示经常与键(变量)一起使用,它们作为为 LLM 提供的各种数据输入。
重要
Agent 组件依赖于键(变量)来指定其数据输入。它的直接上游组件不一定是它的数据输入,工作流中的箭头仅表示处理顺序。在 Agent 组件中使用的键与系统提示一起用于指定 LLM 的数据输入。使用正斜线 /
或按钮 (x)
来显示要使用的键。
用户提示
用户定义的提示,默认值为 sys.query
,即用户的查询。
工具
可以将 Agent 组件用作与工具协作并进行推理和反思的组件;例如,检索 可以作为 Agent 的一个工具使用。
Agent
使用 Agent 组件来与其他子代理或工具协作,并形成一个多代理系统。
消息窗口大小
指定输入到 LLM 中的历史对话轮数的数量。例如,如果设置为 12,则将最后 12 轮对话的标记输入给 LLM。此功能会消耗额外的令牌。
注意
该特性仅用于多轮对话。
最大重试次数
定义代理在停止尝试或报告失败之前对未成功完成的任务或操作的最大重试次数。
错误后的延迟时间
代理在重试失败任务前等待的秒数,以防止立即重复尝试并让系统条件得到改善。默认为 1 秒。