以一个“校园百科智能体”为例演示如何在平台通过插件创建智能体。
a.登录平台。
b.进入工作流模块,单击页面右上角或中部的蓝色按钮“创建工作流”。
c.输入工作流名称和工作流描述,选择工作流logo后点击确定。
d.进入工作流编辑界面,默认有Start、End两个节点,所有的流程必须由Start模块开始、End节点结束。
e.点击左下角添加节点可以添加组成工作流的其他模块:
¢大模型:调用大语言模型,使用变量和提示词生成回复。
¢代码:编写代码,处理输入变量来生成返回值
¢知识库:在选定的知识中,根据设置的召回分段数数量和要求的相似度设置值来召回最匹配的分段信息,并以List形式返回。
¢选择器:连接多个下游分支,根据设定的条件按照顺序查找的方式来匹配运行的分支,如果匹配到某条件则只运行该条件对应的分支,否则继续匹配下一条件直至结束。
¢插件:通过插件可以扩展智能体的能力,使智能体能与外部环境交互,通过连接其他的系统或服务完成复杂的任务。
¢工作流:通过引用工作流类型节点实现将复杂的任务或流程按照子功能或者子模块能力拆分,从而使流程细化、便于管理和维护。说明:当前工作流只支持两级,即已经嵌套其他工作流的fow不再支持被嵌套使用。
本次案例将使用到大模型、知识库、选择器、插件四种组件,流程搭建思路为:
1.通过大模型组件解析判断用户输入的问题属于学校百科知识还是学术论文查询,并通过提示词输出判断结果。
2.通过将输出的结果给到选择器,选择器根据结果判断走到哪个分支。
3.如果走到校园百科结果,就将用户问题交给知识库模块解答,知识库模块关联校园百科知识库。
4.如果走到学术论文查询,就将用户问题交给另一个大模型模块对输入的内容进行翻译,翻译为英文后,交给插件模块解答,插件模块关联arXiv插件(由于arXiv插件要求输入内容为英文)。
5.最后将输出结果都给到end模块输出最终结果。
具体搭建过程为:
a.设置Start节点。
b.添加大模型01用于识别用户的意图和判断问题分类,具体设置内容如下。需要注意的是该节点需要设置两个输出,其中classifcationld输出为下个节点的选择器判断依据。
c.添加选择器01进行问题分发,具体设置内容如下。需要注意的是:
¢该节点引用变量需设置为上一节点的classifcationld从而进行分发;
¢条件一和条件二需分别与后续创建的知识库01和大模型03进行连接。
d.添加知识库01和大模型02用于回答校园百科相关问题,其中知识库选择“规范性文件”来源于“规范文件问答机器人”搭建过程中建立的知识库。具体设置内容如下。
e.添加大模型03和插件01用于回答论文检索相关问题,其中插件选择“arXiv”。具体设置内容如下。
f.填写End节点,且要将大模型02和插件01同时连接至End模块,其中output1的参数选择“大模型02/raw_output”,output2的参数选择“插件01/items”。
g.整体的流程连接如下。编排完成后,点击右上角试运行,输入参数值进行测试(每个节点在测试时均会显示成功,如果没显示则表示该节点存在问题需要进行修改)。直到所有模块输出成功后,才可以进行发布。
a.进入Agent模块,单击页面右上角或中部的蓝色按钮“创建智能体”。
b.输入智能体名称“校园百科”,选择上传或自动生成一个头像作为智能体logo。智能体类型选择“对话型”,并输入一段当前智能体功能介绍的描述,用于发布后进行介绍和展示,最后点击确定。
c.点击确定后自动进入智能体编排页面,配置智能体的第一步就是编写提示词,也就是智能体的人设与回复逻辑。智能体的人设与回复逻辑定义了智能体的基本人设,此人设会持续影响智能体在所有会话中的回复效果。建议在人设与回复逻辑中指定模型的角色、设计回复的语言风格、限制模型的回答范围,让对话更符合用户预期。
在智能体配置页面的人设与回复逻辑面板中输入提示词。例如校园百科的提示词可以设置为:
# 角色(Role) 我是校园百科bot,是一个性别无、年龄无、性格中立的智能助手,主要处理校园相关事务。我精通学校规范性文件知识并擅长论文检索,我的主要语言为中文。 # 功能(Skills) ## 功能1(Skill 1):进行校园规范性文件问答 - 当用户询问关于学校规范性文件相关问题时,能从知识库中查询准确信息并作答。 ## 功能2(Skill 2):进行论文检索问答 - 根据用户关于论文的检索需求,利用相关工具查找准确信息并回应。 # 限制(Constraint) - 只能处理与学校规范性文件和论文相关的问题,对其他不相关问题不应作答。 # 输出(Output) - 以纯文本形式输出。 - 内容为回答用户关于学校规范性文件或者论文检索的相关问题的答案。 # 格式(Format) - 文本应简洁明了、条理清晰。 # 检查(Check) - 确保回答内容符合校园规范性文件规定或者正确的论文检索结果,不存在误导性信息。 # 要求(Claim) - 输入的问题为中文,回答也为中文。要求提问内容必须与学校规范性文件或者论文检索相关。 |
您可以单击自动优化,让大语言模型优化为结构化内容,也可以自行为根据需求修改提示词。
d.在编排页面的技能区域,单击工作流功能对应的+图标。
e.在添加工作流页面的搜索框输入选择刚刚创建的工作流,然后单击“添加”。
a.在右侧调试与预览模块中选择对应的语言模型(默认为Doubaopro32k)。建议根据智能体的应用场景选择适合的大模型。
b.在调试与预览中进行问答体验,同步对提示词及其他变量进行调整,以达到满意的效果。