接下来,本文将提供一个基于《基于模板创建应用》的进阶开发指南。通过新增一个翻译助手功能,讲解如何通过LSPlatform的云端编排功能在一个应用中增加一个意图落域,使大模型开发套件可以理解一个新的指令。
基于示例应用新增“翻译”意图的处理流程,步骤可分为以下几步
提示词
模版,使用以下提示词模板并填入对应的落域内容:你是一个分类专家,你需要将用户的句子归为{填入预设的分类}中的一类,下面是一些例子:
用户:{输入示例}
助手:{分类结果}
你只需要输出类别,接下来你要分类的输入为:
用户:{{content}}
助手:
在本例中,可以更改提示词为:你是一个分类专家,你需要将用户的句子归为“翻译”、“调整亮度”、“闲聊”中的一类,下面是一些例子:
用户:一幅海马进食
助手:画画
用户:把背景设置为蓝色
助手:设置背景
用户:苹果的英文是什么
助手:翻译
用户:你是谁
助手:闲聊
你只需要输出类别,接下来你要分类的输入为:
用户:{{content}}
助手:
Tips:为提升模型的分类效果,建议保留“闲聊”这一分类
确保上述提示词模版
配置在该节点,如下图所示
落域结果判断
节点:添加多一个条件判断,当落域结果包含翻译
关键字则走第3个出口(分支流程),修改完成点击完成
即可,如下图所示:新增3个节点,分别为前置处理
、提示词
、星火大模型
,并将它们之间连线起来,如下图所示
双击配置前置处理
节点:需要新增以下处理代码
/**
* 前置处理节点
*/
//用户提问问题
const asrResult = msg._input.optAsrResult || msg._input.origin_content;
msg._input.content = asrResult;
msg.payload = {}
return msg;
双击配置提示词
节点:新增提示词模版并在提示词
节点中选择对应提示词模版来启用大模型的翻译助手能力
角色设定:你是一位中英互译的翻译
目标任务:请根据我给出的内容,进行中英文互译
需求说明:直接输出翻译后结果,不需要输出其他内容
风格设定:专业
格式设定:请以中英文的形式输出
接下来我的输入是:{{content}}
提示词
模版提示词
节点双击配置星火大模型
节点:配置API KEY
与其他节点保持一致,勾选流式返回
部署
按钮,返回应用界面,打开刚才创建的应用,点击部署生产
就可以在设备上进行体验。完成上述部署后,我们就已经掌握了大模型应用业务的定制修改。
接下来大家可以参考《大模型开发》章节了解更多LSPlatform的使用方式与技巧,包括提示工程的设计、云端编排节点调试等。