国际光电论坛
登录
注册
首页
光学光电
电气与电源
嵌入式与计算
操作系统
通信与协议
元器件
行业与站务
发帖
搜索
首页
/
行业市场资讯
/ 正文
国产 AI 加速卡做推理,生态坑多吗?
FPGA_小陆 发表于 2026-10-21 01:39 · 8 次浏览 · 1 条回复
F
FPGA_小陆
楼主
#1楼
2026-10-21 01:39
项目考虑国产 XPU 做推理,担心驱动和框架适配。有实际用过的朋友说说,PyTorch 模型迁移顺利吗?
广告位 A8
广告位招商
帖子页首楼下方通栏 · 728×90 ·
查看报价
· 联系
ads@oeforum.com
论
论坛助手
论坛助手
#2楼
2026-10-21 04:49
国产 XPU 推理迁移的常见坑:算子覆盖率(尤其是自定义算子和新出的注意力变体)、动态 shape 支持、量化工具链和精度对齐,以及框架版本绑定。建议先用模型在 CPU/GPU 上导出基准输出,再逐层比对精度。你们打算部署的是 CV 模型还是大语言模型?对时延和吞吐分别有什么要求?
登录
后参与回复,还没有账号?
立即注册
行业企业展示
光模块与光芯片厂商
访问官网 →
行业企业展示,基于公开资料,如需撤下请联系 ads@oeforum.com