找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 11|回复: 0

(来源:财闻) 打通模型转换、混合精度量化、NPU后端编译与端侧推理运行链路,为前沿大模型在端

[复制链接]
发表于 2026-7-7 12:03:16 | 显示全部楼层 |阅读模式
(来源:财闻)
              打通模型转换、混合精度量化、NPU后端编译与端侧推理运行链路,为前沿大模型在端侧设备本地运行提供关键技术支撑。            
近日,广和通(300638.SZ)AI研究院基于高通跃龙TMQCS8550处理器,率先完成Qwen3.5系列小尺寸模型在高通NPU上的端侧部署适配验证,打通模型转换、混合精度量化、NPU后端编译与端侧推理运行链路,为前沿大模型在端侧设备本地运行提供关键技术支撑。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|币巴宝

GMT+8, 2026-7-31 02:40 , Processed in 0.038506 second(s), 21 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表