TAG:开源技术

华为发布AI推理新技术 将于今年9月正式开源

华为发布AI推理新技术 将于今年9月正式开源

华为发布AI推理创新技术UCM(推理记忆数据管理器),这是一款以KV Cache为中心的推理加速套件,能有效提升推理效率并降低成本。该技术计划于2025年9月正式开源,已在多个行业场景中试点应用。文章还探讨了AI推理在行业落地中的挑战及未来发展趋势。

2025-08-13 10:25
0
0