TAG:Scaling定律

预训练“卡壳”:SemiAnalysis 爆料 OpenAI 连续两年半未跑通新前沿大模型

预训练“卡壳”:SemiAnalysis 爆料 OpenAI 连续两年半未跑通新前沿大模型

据SemiAnalysis报告,OpenAI自2024年5月发布GPT-4o以来,连续两年半未能完成下一代前沿大模型的预训练,多次因收敛困难或性能倒挂而叫停扩展尝试。GPT-5系列实质仍是GPT-4o优化变体,未实现架构突破。同时,谷歌TPUv7在Gemini3上完成验证,成本比英伟达方案低30%,OpenAI评估TPU迫使英伟达降价。行业认为预训练Scaling定律遭遇数据、算力与模型瓶颈,标志赛道进入后Scaling时代。

爱力方 2025-12-01 15:32
0
0