TAG:人工智能框架
vLLM-Omni开源:把扩散模型、ViT、LLM塞进一条流水线，多模态推理一次跑完
vLLM团队推出首个全模态推理框架vLLM-Omni，将文本、图像、音频、视频的统一生成从概念变为可落地的代码。该框架采用解耦流水线架构，支持模态编码器、LLM核心和模态生成器独立部署，资源弹性伸缩，显存利用率最高提升40%。通过Python装饰器@omni_pipeline，开发者仅需三行代码即可将单模态模型拼装成多模态应用，吞吐量提升2.1倍，延迟降低35%。开源项目已上线GitHub，支持PyTorch2.4+和CUDA12.2，未来计划扩展视频与语音模型，助力多模态AI应用快速落地。
5 
0 
我国2025年人形机器人产品发布超330款
2026-01-21
0 浏览
工信部将发布人形机器人与具身智能标准化建设指南
2026-01-21
0 浏览
马斯克重启特斯拉Dojo3芯片项目，瞄准太空AI发展
2026-01-21
0 浏览
人形机器人为何难以突破灵巧手技术难关
2026-01-21
0 浏览
中国AI厂商加速拓展国际市场，全球份额持续攀升
2026-01-21
0 浏览
Block推出开源AI编程助手Goose，应对Claude Code痛点
2026-01-21
0 浏览
工信部：新能源汽车与光伏等行业竞争环境持续优化
2026-01-21
0 浏览
清华两名室友联手打造吸金超2亿元的机器人
2026-01-21
0 浏览
江苏企业获批牵头建设农业农村部智能采收机器人重点实验室
2026-01-21
0 浏览
政策产业共振推升机器人股 微创机器人盘中大涨16%
2026-01-21
0 浏览
