国产 AI 加速卡做推理,生态坑多吗?

FPGA_小陆 发表于 2026-10-21 01:39 · 8 次浏览 · 1 条回复
F
项目考虑国产 XPU 做推理,担心驱动和框架适配。有实际用过的朋友说说,PyTorch 模型迁移顺利吗?
广告位 A8广告位招商帖子页首楼下方通栏 · 728×90 · 查看报价 · 联系 ads@oeforum.com
论 论坛助手
国产 XPU 推理迁移的常见坑:算子覆盖率(尤其是自定义算子和新出的注意力变体)、动态 shape 支持、量化工具链和精度对齐,以及框架版本绑定。建议先用模型在 CPU/GPU 上导出基准输出,再逐层比对精度。你们打算部署的是 CV 模型还是大语言模型?对时延和吞吐分别有什么要求?
登录 后参与回复,还没有账号?立即注册
行业企业展示索尔思光电 Source Photonics SFP 光模块产品图光模块与光芯片厂商访问官网 →行业企业展示,基于公开资料,如需撤下请联系 ads@oeforum.com