Skip to main content

意图分支

通过大语言模型或决策模型对输入的内容进行意图判断来决策流程分支。

1. 功能简介​

  • 意图分支依靠 大语言模型 或 决策模型 进行意图识别,默认以上一个节点的输出作为意图判断依据,也可选择前序其他节点的输出作为判断依据
  • 可设置多个分支,并通过自然语言描述不同的意图来设置每个分支的规则
  • 支持设置意图识别分支节点携带工作流输入输出记录作为上下文记忆

2. 配置说明​

  1. 节点输入:即判断分支走向的输入。默认为上一节点的输出,可手动修改为其他前序节点或多个前序节点的输出,及添加自定义的文本,共同组合作为输入。注意:该节点与开始节点直接或间接连通,才可选择前序节点的输出参数。
  2. 模型选择:选择执行意图识别的模型,可选择平台上的对话模型,也可选择 Jev 决策模型,两者区别见下文 选择决策模型。
  3. 记忆:使用工作流输入输出记录作为上下文,便于模型参考历史对话情况进行更好的推理决策或回复。可选择是否开启记忆,及设置该节点保留工作流记忆的轮次,最高支持携带10轮记忆。
提示

1.每一轮记忆指整个工作流运行一次产生的开始节点输入内容和结束节点输出内容(不包含中间过程内容)。

2.工作流的记忆内容可能经过了多个与本节点无关的节点加工后得出,请根据实际需求选择是否开启记忆功能。

3.当前记忆默认保留30分钟

  1. 分支:
  • 添加分支:可添加不同的分支,并为不同分支撰写分支名称和分支描述(描述越详细则选择越精准),将依据分支描述定义的意图,来判断输入满足哪个分支。
  • 默认分支:当输入皆不满足所设置的分支意图时,将选择默认分支流程。

3. 选择决策模型​

Jev 是专门用于结构化判断的决策模型,不生成文本,而是直接从各分支中选出结果,并给出每个分支的概率与整体置信度。相比使用对话模型做意图识别:

  • 结果稳定:输出固定为某一个分支,不会出现答非所问或格式偏差
  • 更快更省:响应延时与 Token 消耗显著更低,适合调用量大、对速度敏感的流程,如客服分流、工单分类
  • 可解释:运行记录中该节点会展示选中的分支与置信度,展开即可查看每个分支的概率,便于排查分支描述是否清晰
意图分支使用决策模型

如果分支判断需要结合复杂推理或较长的上下文,可继续使用对话模型。决策模型的 API 调用方式详见 结构化决策接口。