TAG:算力优化

vLLM团队创立Inferact,估值达8亿美元瞄准全球AI推理市场

vLLM团队创立Inferact,估值达8亿美元瞄准全球AI推理市场

vLLM原班人马创立AI基础设施公司Inferact,以8亿美元估值完成1.5亿美元种子轮融资,旨在通过优化推理引擎技术,大幅降低AI推理成本并提升效率,推动人工智能向实用化阶段迈进。

2026-01-23 15:29
0
0

AI竞赛进入成本较量:企业如何应对Token费用挑战

AI竞赛进入成本较量:企业如何应对Token费用挑战

文章探讨了AI大模型产业化进程中Token成本对企业竞争力的关键影响。随着智能体应用普及,Token消耗量呈指数级增长,高昂成本成为制约AI规模化落地的核心瓶颈。文章分析了政策支持、行业数据和技术创新如何共同推动Token成本下降,指出未来AI竞争不仅是技术高低之争,更是成本效率的经济账。

2026-01-02 22:20
0
0

源 Yuan3.0Flash 开源多模态大模型引领 AI 新潮流

源 Yuan3.0Flash 开源多模态大模型引领 AI 新潮流

Yuan3.0Flash是一款开源的40B参数多模态基础大模型,采用创新的稀疏混合专家架构,显著降低算力消耗并提升推理准确性。模型支持二次开发,在企业应用中已超越GPT-5.1,在多模态检索和表格理解等任务上表现优异,有效降低AI应用成本。

2025-12-31 17:50
5
0