多模态交互离不开硬件载体,近期有不少开发者在研究大模型开发板除了使用出厂示例自带的星火大模型,能不能接入文心一言、通义千问、豆包、智谱 glm、kimi 等国内的大模型,这个是必须支持的。但由于各家接口和数据格式不一样,有些朋友直接参考 chatgpt 的方式没有走通,因此本篇以聆思 CSK6 大模型开发板接入豆包为例,分享具体的接入步骤,大家按照文档步骤操作即可。
由上图可见,当前 SDK 方案是把开发套件当做输入端,文字或图片内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。
示例中包含 3 条链路,分别为
创建成功后在弹出的界面进入应用编排服务。
若提示“您要导入的某些节点已经存在于工作空间中。”,则选择“导入副本”即可。
参数说明:
云端接入豆包成功后,要想在聆思 CSK6 大模型开发板上进行语音交互,需要把对接了豆包的云端服务跟指定开发板绑定。
云端应用设备列表加入硬件设备 ID
读取设备 id
设备 ID 是一个产品下的唯一设备标识,我们需要获取当前设备 ID 方便后续在云端配置,
才能让设备鉴权通过实现端云交互。
读取方式:
cskburn desktop 是一款聆思推出的桌面烧录工具,下载地址(cskburn 桌面烧录工具 | 聆思文 档中心)打开软件后
1.点击串口下拉框,选择连接开发套件后识别到的串口编号;
2.点击获取信息
3.得到设备 ID
加入设备列表
聆思平台只会对列表中的设备鉴权提供交互服务,因此需要将前面读取到的设备 ID 在设备
管理页面进行导入才能实现设备正常交互。
通过 aiui set product_id 和 aiui set secret_id 指令可以分别配置开发板接入的大模型应用 product ID 及其密钥,示例如下:
aiui set product_id 71cd1721-xxx-xxx-xxx-1000055c8b2f
aiui set secret_id cb09013f-xxx-xxx-xxx-e212b32f9218
product_id 和 product_secret 可在对应产品的产品信息中获取,请将指令中的参数替换为产品信 息中的 id 与 secret 信息。
用小美小美唤醒,并提问你是谁,语音回复它是豆包即可验证成功。至此,可以确认豆包 接入成功。本文使用的聆思 CSK6 大模型开发板的详细信息可参考线上文档。 https://docs2.listenai.com/x/nTn9kMMCU