近期不少开发者朋友想在智能硬件上接入满血版DeepSeek-R1,因此本篇以聆思CSK6大模型开发板接入火山方舟/火山引擎满血版DeepSeek-R1为例,分享具体的接入步骤,大家按照文档步骤操作即可。
由上图可见,当前SDK方案是把开发套件当做输入端,文字或图片内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。
注意:实操前需要有火山方舟/火山引擎账号,新用户注册时输入限时邀请码可以获得3625万tokens,注册地址:https://www.volcengine.com/experience/ark?utm_term=202502dsinvite&ac=DSASUQY5&rc=9FTD37XY
示例中包含3条链路,
●链路1: 可通过注入节点调用DeepSeek节点,并将结果输出到debug1。
●链路2: 可通过web对话页调用DeepSeek节点,最终将大模型结果输出到对话页面上。
●链路3: 可通过开发板调用DeepSeek节点,最终将大模型输出的结果进行语音合成实现端侧播报
登录LSplatform,创建新应用
创建成功后在弹出的界面进入应用编排服务。
1.下载工程示例:https://docs2.listenai.com/z/224.json
2.导入工程示例:选择DeepSeek示例.json文件导入
3.
若提示“您要导入的某些节点已经存在于工作空间中。”,则选择“导入副本”即可。
参数说明:
●HOST: rk.cn-beijing.volces.com
●API-KEY:DeepSeek的API-KEY的获取可参考官方文档 获取 API key--火山方舟大模型服务平台-火山引擎
●Model:这里提供Doubao-pro-4k/Doubao-pro-32k可选择,若要更换其他模型,可自行添加。调用其他模型可参考DeepSeek官方文档 Doubao API 调用指南--火山方舟大模型服务平台-火山引擎
这里模型名字要通过设置model=ep-xxxxxxxxxxxxx-yyyy来进行调用,详情可参考官方文档 API 调用指南--火山方舟大模型服务平台-火山引擎
●Stream:是否流式返回
在完成参数配置,进入完整体验之前,我们可以简单测试验证,验证是否成功调用DeepSeek。
●部署成功后关闭当前编排服务
●重启应用
●测试接口
重启应用后,再次点开【编排应用】,点击注入,会触发一次DeepSeek子流程调用,标记2的红框中输出类似日志即代表成功建立链接。
●打开web验证页面
回到【我的应用】,双击聆思CSK6_DeepSeek应用,在弹出的应用详情页面点击右上角分享按钮打开web验证配置,该配置页包含测试地址和访问密码。
●访问web验证页面链接,在打开的web页即可与DeepSeek对话
云端接入DeepSeek成功后,要想在聆思CSK6大模型开发板上进行语音交互,需要把对接了DeepSeek的云端服务跟指定开发板绑定。
在产品管理模块点击新建产品按钮,并按要求填写你的产品名称。
配置你需要调用的大模型应用,完成配置后,用户即可体验文心一言与开发板交互。在此我们仅需在配置应用勾对文章第一步创建的应用即可。
读取设备id
设备ID是一个产品下的唯一设备标识,我们需要获取当前设备ID方便后续在云端配置,才能让设备鉴权通过实现端云交互。
读取方式:
cskburn desktop是一款聆思推出的桌面烧录工具,下载地址(cskburn桌面烧录工具 | 聆思文档中心)打开软件后
1.点击串口下拉框,选择连接开发套件后识别到的串口编号;
2.点击获取信息
3.得到设备ID
加入设备列表
聆思平台只会对列表中的设备鉴权提供交互服务,因此需要将前面读取到的设备ID在设备管理页面进行导入才能实现设备正常交互。
云端配置设备id后,还需将产品ID写入开发板固件中,才能让设备在运行时找到正确的云端产品服务完进行鉴权,鉴权完成就可以进行大模型语音交互了。
配置方式:
在应用首页下滑调出菜单,以此点击设置图标 →应用,进入应用信息查看页:
点击右下角扫码接入按钮调出相机,将 LSPlatform 待接入的产品二维码置于屏幕绿色扫描框内,完成扫描后,请在应用配置信息处检查product_id和secret_id是否已更新:
用小美小美唤醒,并提问你是谁,语音回复它是DeepSeek R1即可验证成功。至此,可以确认火山引擎满血版DeepSeek R1接入成功。
本文使用的聆思CSK6大模型开发板的详细信息可参考线上文档。https://docs2.listenai.com/x/nTn9kMMCU
上手大模型硬件开发可以参考:大模型+AI智能语音交互硬件开发上手建议路径和资料汇总-CSDN博客