澎峰科技PerfXLM+推理框架基于海光DCU实现DeepSeek全系模型支持

2025-02-07 09:49

近日,澎峰科技宣布其自主研发的PerfXLM+推理框架已成功基于海光DCU(Deep Computing Unit)完成对DeepSeek全系列模型的深度适配与优化,显著提升了AI大模型的应用效能。PerfXLM+通过底层架构优化,全面适配海光DCU算力平台,为DeepSeek模型提供高性能支持,尤其在DeepSeek-R1-Distill等系列模型上,结合海光DCU的并行计算能力,显著降低了资源消耗并提升了推理效率。

海光DCU采用GPGPU通用加速计算架构,兼容性高,可大幅减少模型底层适配工作量,使技术团队能够专注于模型精度验证与性能优化,实现高效部署。PerfXLM+推理框架目前已覆盖自然语言处理、多模态理解等核心场景,支持客户基于海光DCU集群快速迭代模型并弹性扩展,满足实时推理需求。

此外,PerfXLM+通过模型量化、算子融合等核心技术,进一步挖掘海光DCU的异构计算潜力,为企业提供高质量、低成本的AI推理服务。随着“框架+硬件+模型”全栈能力的构建完成,国产厂商有望加速降低企业AI部署门槛,推动AI技术在各行业的广泛应用。

版权与免责:以上作品(包括文、图、音视频)版权归发布者【高频观察】所有。本App为发布者提供信息发布平台服务,不代表经观的观点和构成投资等建议
Baidu
map