产品实践分享: Re-Act+SOP,让Agent稳定执行 SOP流程(多轮对话形式),低成本解决复杂SOP搭建问题

实践产品TFlow AI 简介:是面向B端业务场景Agent平台,能按流程处理任务(SOP),围绕目标来进行离散推理。能快速搭建Ai客服、AI导购等应用。

产品允许LLM与环境进行交互,根据环境数据的反馈不断的调整行动计划/策略。且整个sop的过程是由文本来控制,产品基本参数如下:

  • 使用 文心一言 3.5的模型,未微调
  • 做了逻辑处理的Agent框架
  • 单条回复的消耗不到2K token,价格不贵
  • 欢迎体验。(注:流程只需要用文本流程,不需要work flow)

一、为什么要做

B端业务场景的需求:确定性

  • 企业服务(对内、对外)通常有相对明确的SOP流程或者思考步骤,在业务处理或者对外 交互时期望按照流程来执行任务。
  • 对外、对内的服务,期望带来确定性的体验。

例如当用户退换货时,思考流程如下:

  • A 确定退货原因
  • b 确认订单是否真实有效
  • c 确定是否符合退换货政策要求
  • d 协助解答退货操作

在整个多轮对话沟通过程中的要求:

  • 按照流程执行,需要流程可控,带来确定性的结果。
  • 始终聚焦“退换货”事情上,不要去解答无关的事情

二、如何通过大模型实现昵?借用Re-Act 为代表 推理+行动 机制

ReAct 代表 一种将推理和行动与 语言模型只相结合的技术,用于解决各种语言推理和决策任务。它促使语言模型生成语言推理轨迹和行动,并支持与外部环境的交互。

Re-act的官方案例示例:

流程说明如下:

  • 目的:找出Apple Remote最初设计用来交互的程序,即Front Row媒体中心程序
  • 思考 1: 我需要搜索“Apple Remote”并找到它最初设计用来交互的程序。
  • 行动 1: 搜索[Apple Remote]
  • 观察 1: “Apple Remote”是苹果公司于2005年10月推出的一款遥控器……用于控制Front Row媒体中心程序。
  • 思考 2: Apple Remote最初设计用于控制Front Row媒体中心程序。我需要搜索Front Row并找到还有哪些设备可以控制它。
  • 行动 2: 搜索[Front Row]
  • 观察 2: 没有找到[Front Row]。相似结果包括:“FrontSeat to Earth”、“Front Row Motorsports”、“Front Row(software)”等。
  • 思考 3: 没有找到Front Row。我需要搜索“Row (software)”
  • 行动 3: 搜索 Front Row (software)
  • 观察 3: Front Row是一款已停产的媒体中心软件……
  • 思考 4: Front Row(软件)可以通过Apple Remote或键盘功能键来控制。
  • 行动 4: 输出 键盘功能键。

案例中re-act基于目的“找出Apple Remote最初设计的媒体中心程序”,模型自行计划、推理、执行了四个步骤。

  1. 搜索[Apple Remote],知道程序名称是[Front Row]
  2. 搜索[Front Row],但是未找到对应的软件。但是需要搜索 Front Row (software)
  3. 搜索 Front Row (software),找到了控制方式
  4. 告知结果:输出控制方式键

在这个过程中,我们有几个发现

  1. 推理过程围绕始终围绕着目标“找出Apple Remote最初设计的媒体中心程序”进行
  2. 推理过程需要频繁的与外界交互(类似于多轮对话一样,搜索收集信息,观察解决问题)
  3. 推理过程类似于 执行 一个 SOP流程

ReAct 模式的核心是将观察结果提供给 LLM,使其能够更新其上下文窗口。该模型重新评估信息并根据这些见解采取行动以提高其推理能力。同时将单个推理步骤嵌入在对话的提示。

OK,那是否可以将Re-Act 与企业的SOP流程结合,然后让模型去执行标准的SOP流程

三、方案:Re-Act + SOP流程,让模型来控制sop流程

如何实现?对re-act执行过程进行变更

  • 1、将推理目标(用户提供)变为 企业预设目标,比如”目标解决退换货问题、留咨询问题、商品推荐”。非用户提供的提问
  • 2、将模型执行推理的流程,变更为预设的SOP流程;

1. 方案的关键步骤如下

  • 定义任务目标::企业 明确要解决的任务是什么
  • 预设推理轨迹(one shot):设计一个推理sop轨迹,描述如何一步一步地进行推理和决策、执行sop
  • 借助 ReAct 的 思考、行动和观察的离散推理能力,与外界进行互动执行sop的流程

2. 使用的优势

  • ReAct 可以帮助语言模型进行更复杂的推理和决策
  • 流程sop(one shot) 为模型的行为提供一定解释性,和可控性
  • 可以支持语言模型与外部环境的交互(即用户多轮对话,实现一个目标)

四、落地效果检验分析

我们以简单的TFlow留咨询场景例(注流程只需要用文本描述,不需要work flow),问答效果如下:

1. Re-Act + SOP流程的推理过程复盘

Agent任务执行前提:

1)Agent的目标:解答用户疑问,引导用户留咨

2)推理过程示例 (One Shot):

  • 理解用户的疑问
  • 查询知识库中产品手册、了解对应的解决方法
  • 解答用户的疑问,并用户提供姓名、联系方式、公司名称
  • 将信息插入 到 CRM系统中

第一轮的推理:

1)用户输入:能介绍一下产品吗?

2)模型处理:

  • 观察:能介绍一下产品吗?
  • 思考:用户询问了关于产品的介绍,我需要调用知识库接口来查询并解答。
  • 行动:调用知识库

第二轮的推理

1)知识库返回:

「同时相较于第二代客服机器人,TFlow不只体现在具备情感,使用成本大幅度降低。与市面上常见的14999元/个、24999元/个、外加会话包计费方式的客服机器人相比,TFlow直接免费提供机器人服务,只按照实际消耗量收取token费用,费用多少由需求量说了算。小企业使用一个月的费用可能不超过50元,就可以享受24小时无间断的客户服务。让大模型真正的实现降本增效的目标」

2)模型处理:

  • 观察:用户问题+知识库的答案
  • 思考:根据知识库提供的信息,我已经了解了TFlow产品的介绍。现在我将简洁地回复用户,并引导用户提供姓名、电话号码和公司名称
  • 行动:回复用户“TFlow是一款智能客服机器人,具备情感且使用成本大幅降低。它提供24小时无间断的客户服务,并可根据实际消耗量收取token费用。同时,TFlow支持多模态消息处理,并对接主流SaaS平台。请问您方便留下您的姓名、电话号码和公司名称吗?“

第三轮的推理

1)用户输入:曹操

2)模型处理:

  • 观察:曹操
  • 思考:用户已经提供了姓名,但还没有提供电话号码和公司名称。接下来,我将继续引导用户提供这些信息。
  • 行动:回复用户。“感谢您的回复,曹操先生。为了更好地为您提供服务,请问您能留下您的电话号码和公司名称吗?”

第四轮的推理:

1)用户输入:今天天气怎么样?

2)模型处理:

  • 观察:今天天气怎么样?
  • 思考:用户的问题与TFlow产品无关,因此我不进行解答,而是继续引导用户提供电话号码和公司名称。
  • 行动:回复用户。“非常抱歉,关于天气的问题我无法直接回答。但为了更好地为您提供TFlow产品的服务,请问您能留下您的电话号码和公司名称吗?”

第五轮的推理:

1)用户输入:13018920000

2)模型处理:

  • 观察:13018920000
  • 思考:用户已经提供了电话号码,但还没有提供公司名称。接下来,我将继续引导用户提供公司名称。
  • 行动:回复用户。“感谢您的回复,曹操先生。为了完善您的信息,请问您能告诉我您的公司名称吗?”

第六轮的推理

1)用户输入:网易云商

2)模型处理:

  • 观察:网易云商
  • 思考:用户已经提供了姓名、电话号码和公司名称,现在我将调用留咨接口将这些信息保存到数据库,并告知用户留咨成功。
  • 行动:调用CRM接口

第七轮的推理

1)接口返回:’Operation succeeded’, ‘code’: 200

2)模型处理:

  • 观察:’Operation succeeded’, ‘code’: 200
  • 思考:留咨成功,我将告知用户销售人员将在24小时内联系他。
  • 行动:回复用户。“留咨成功!我们的销售人员将在24小时内与您联系。感谢您的关注和支持!”

2. 在这个流程中我们可以看到的结论

优势好处:

  • 多轮对话一致性:预设目标和流程后,整个多轮对话的过程都围绕着目标进行,不会进行发散和跑偏。异常信息或者无关信息,被自动过滤
  • 推理可解释性:模型推理的过程参考SOP的流程,调整模型的推理,只需要修改流程提示即可。
  • 离散引导:在re-act 的思考机制下,可以对于信息不完整的情况时,具备自动引导补充的能力。自动调用CRM的外部工具。自动和用户互动引导补充信息
  • 灵活性:re-act自动制定计划,可以根据外部的信息输入,自动调整执行计划或者步骤。

通过这个方案即可实现Agent 控制SOP流程,从而实现既定目标。对于workflow 具备很强的灵活性。

问题:

  • 只能执行单一的任务目标。
  • 任务流程的描述需要抽象业务来描述。
  • 和work flow、历程画布相比,模型存在小概率幻觉。
作者:易俊源
一个打工狗

版权声明

本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处。如若内容有涉嫌抄袭侵权/违法违规/事实不符,请点击 举报 进行投诉反馈!

相关文章

立即
投稿

微信公众账号

微信扫一扫加关注

返回
顶部