TAG:推理引擎
AI推理的“新王”驾到?当xLLM-Core,用20毫秒的延迟,向vLLM发起挑战
xLLM社区将于12月6日举办首届线下Meetup,重磅发布自研开源推理引擎xLLM-Core。该引擎支持MoE、文生图、文生视频全场景,通过统一计算图和Mooncake缓存方案实现P99延迟低于20ms,较vLLM性能提升42%,吞吐量提升2.1倍。现场将分享京东双11实战案例,展示峰值每秒40k请求处理能力,并发布Apache 2.0开源版本。
均普智能回应募投延期及场地出租 重启10亿元定增布局机器人领域
2026-03-07
0 浏览
大厂布局养龙虾产业 腾讯小米纷纷涉足背后有何考量
2026-03-07
0 浏览
AI助力养龙虾热潮 腾讯小米布局上门安装服务
2026-03-07
0 浏览
OpenClaw爆火引热议,不同群体以独特方式参与安装热潮
2026-03-07
0 浏览
刘忠军教授:推动创新医疗技术在AI领域的应用
2026-03-07
0 浏览
李萌:人形机器人何时迎来"iPhone时刻"?智能玩具或成新兴大产业
2026-03-07
0 浏览
帕西尼再获超10亿融资 估值突破百亿 以全球唯一百亿级实采全模态数据重塑具身智能模型天花板
2026-03-07
0 浏览
斯坦福李飞飞团队提出新框架 机器人可从错误中学习
2026-03-07
0 浏览
西南科大爬壁机器人实现全角度翻转突破
2026-03-07
0 浏览
穆南杉提出人类AI智能体生命进化理论
2026-03-07
0 浏览