在前面的章节中,我们已经学习了如何使用默认的示例功能,本章节将讲解如何在 聆思平台(LSPlatform) 创建一个简易配置应用并接入开发套件,实现自己的云端大模型应用定制,如大模型人设定制、说明书挂载、发音人调整等功能。
在参照本章节进行自定义应用接入前,请确保您手头的大模型套件已运行 语音交互+识图应用 并参照 《语音交互+识图:配置网络》完成配网。
访问聆思平台(LSPlatform)平台,点击应用模板中心
,在简易配置标签下选择大模型语音交互
模板点击添加应用
按钮。给应用命名后点击确认创建应用。
完成创建后,点击应用即可调出快速配置菜单,在配置菜单中,我们可以快速对该应用进行参数配置
在产品管理
模块点击新建产品
按钮,并按要求填写你的产品名称。
配置你需要调用的大模型应用,完成配置后,用户可通过语音交互实现大模型对话。在此我们仅需在配置应用
勾对第一阶段已经创建的大模型应用即可。
设备ID是一个产品下的唯一设备标识,我们需要获取当前设备ID方便后续在云端配置,才能让设备鉴权通过实现端云交互。
读取方式1:
cskburn desktop
是一款聆思推出的桌面烧录工具,在下载并安装 cskburn desktop 烧录工具后,双击图标运行软件:
1.点击串口下拉框,选择连接开发套件后识别到的串口编号;
2.点击获取信息
3.得到设备ID
读取方式2:
在开发套件运行大模型语音交互+识图示例,在应用首页下滑调出菜单,以此点击设置图标
→应用
,进入应用信息查看页,可看到该页面上对本设备的 ID 进行了展示:
聆思平台只会对列表中的设备鉴权提供交互服务,因此需要将前面读取到的设备ID在设备管理
页面进行导入才能实现设备正常交互。
平台提供10个免费测试ID用于产品验证阶段测试使用,如需新增额度,请在平台联系商务
完成云端配置后,仅需将产品ID与密钥写入设备,才能让设备连接对应的产品并完成鉴权服务。
若您当前设备上运行的固件不具备扫码接入功能,请参照 《应用合集TF卡》更新 TF 卡中的镜像文件夹。
在应用首页下滑调出菜单,以此点击设置图标
→应用
,进入应用信息查看页:
点击右下角扫码接入
按钮调出相机,将 LSPlatform 待接入的产品二维码置于屏幕绿色扫描框内,完成扫描后,请在应用配置信息处检查product_id
和secret_id
是否已更新:
使用数据线连接开发板 DAP_USB
接口后,打开在线串口终端工具,选择对应的串口设备进行连接,波特率默认115200,完成配置后点击连接按钮。
通过 set product_id
和set secret_id
指令可以分别配置开发板接入的大模型应用 product ID 及其密钥,示例如下:
set product_id 71cd1721-xxx-xxx-xxx-1000055c8b2f
set secret_id cb09013f-xxx-xxx-xxx-e212b32f9218
product_id
和 product_secret
可在对应产品的产品信息中获取,请将指令中的参数替换为产品信息中的 id 与 secret 信息。
旧版固件请使用 aiui set product_id 与 aiui set secret_id 指令。
您也可以选择自己喜欢的串口调试工具进行配置。
按下大模型套件RST
按键,设备重启完成后,体验应用:
进入一开始新建的应用的配置页,我们可以在本配置页对大模型功能进行配置。
在回复定的自我认知中,我们可以通过文本的方式调整大模型的人设,如:
你可以尝试使用更多创造力的提示词
通过本模块可以对回复的发音人进行配置。
我们可以通过在应用中增加知识库,实现通过大模型套件进行交互对话时,让大模型优先根据说明书的内容提取组织答案进行回答。
点击知识库
,在知识库页面中点击右上角+创建知识库
按钮,选择智能说明书
创建完成后,上传说明文件,等待片刻后可看到说明书的启用状态。
在应用配置中,点击关联知识库
按钮,在弹出的窗口中,选中刚才创建的知识库,最后点击保存。
项目 | 链接 |
---|---|
接入云端可编排应用 | 可参照《接入云端可编排应用》接入自己创建的云端可编排业务节点大模型应用。 |
了解大模型平台更多使用方法 | 可阅读《LSPlatform 开始使用》。 |
了解设备接入云端的协议 | 可参照《端云交互链路协议》了解开发套件接入 LSPlatform 的协议。 |