分类组件
一个根据用户输入进行分类并相应应用策略的组件。
分类组件通常是交互组件的下游部分。
场景
当您需要LLM帮助识别用户的意图,并应用适当的处理策略时,分类组件是必不可少的。
配置
查询变 量
必填
选择用于分类的数据源。
分类组件依赖于查询变量来指定其数据输入(查询)。在分类组件之前定义的所有全局变量都可在下拉列表中使用。
输入
分类组件依赖于输入变量来指定其数据输入(查询)。点击输入部分的**+ 添加变量以添加所需的输入变量。输入变量有两种类型:引用和文本**。
- 引用:使用组件的输出或用户输入作为数据源。您需要从下拉菜单中选择:
- 组件输出下的一个组件ID,或者
- 在开始组件中定义的一个全局变量。
- 文本:使用固定文本作为查询。您需要输入静态文本。
模型
点击模型的下拉菜单以显示模型配置窗口。
- 模型:使用的对话模型。
- 确保在模型提供商页面上正确设置了对话模型。
- 可以为不同的组件使用不同的模型,从而增加灵活性或提高整体性能。
- 自由度:一个快速设置温度、Top P、出现惩罚和频率惩罚的快捷方式,表示模型的自由度级别。从即兴创作到精确,每个预设配置对应于一组独特的温度、Top P、出现惩罚和频率惩罚。
- 此参数有三个选项:
- 即兴创作:产生更多富有创意的响应。
- 精确(默认):产生更加保守的响应。
- 平衡:介于即兴创作和精确之间的一个中间点。
- 此参数有三个选项:
- 温度:模型输出的随机性水平。
默认值为0.1。- 较低的值会导致更确定且可预测的输出。
- 较高的值会导致更多创意且多样的输出。
- 温度为零时,相同的提示会产生完全相同的输出。
- Top P:核心采样。
- 设置阈值P并限制仅对累计概率超过P的令牌进行抽样,以减少生成重复或不自然文本的可能性。
- 默认值为0.3。
- 出现惩罚:鼓励模型在响应中包含更多种类的令牌。
- 较高的出现惩罚值会使模型更有可能生成尚未出现在已生成文本中的令牌。
- 默认值为0.4。
- 频率惩罚:限制模型重复使用相同的单词或短语。
- 较高的频率惩罚值会导致模型在使用重叠令牌时更加保守。
- 默认值为0.7。
注意
- 并非所有组件都必须使用同一个模型。如果某个特定任务的效果不佳,可以考虑使用不同的模型。
- 如果您对温度、Top P、出现惩罚和频率惩罚背后的机制不确定,请选择预设配置的三个选项之一即可。
消息窗口大小
一个整数,指定要输入到LLM中的先前对话轮次的数量。例如,如果设置为12,则将最近12轮对话中的令牌传入LLM中。此功能会消耗额外的令牌。
默认值为1。
重要提示
此功能仅用于多回合对话*(即循环对话)*。如果您分类组件不是多回合对话的一部分,保持该字段不变。
分类名称
分类组件必须至少有两个类别。此字段设置类别名称。点击**+ 添加项目**以包含所需的类别。
注意
您会注意到类别名称是自动填充的。没有问题,每个类别在创建时会被分配一个随机名称,您可以随意更改以便LLM能够理解。
描述
该类别的描述信息。
输入可能帮助LLM确定哪些输入属于此类别的一些标准、情况或信息。
示例
一些额外的示例可能有助于大型语言模型(LLM)确定哪些输入属于此类别。
注意
如果您希望 LLM 将特定情况分类到此类别中,则示例比描述更有帮助。
在新增一个类别后,导航到画布上的 分类 组件,在该案例旁边的 + 按钮处点击以指定下游组件(如有)。
输出
组件输出的全局变量名,默认为 category_name
。其他工作流中的组件可以引用此变量。