AI 研究所 Epoch AI:推理大模型或在一年内减缓增长

日前,AI 研究所 Epoch AI 发布《推理模型能扩展多远(How far can reasoning models scale?)》的报告,其中对推理模型的现状和未来作出了分析总结。报告中,Epoch AI 通过各家开源的技术报告,来分析了目前推理模型的训练成本,同时也进一步总结,目前前沿的推理模型其推理训练规模仍未见顶,还能持续扩展(scalable)。并且推理模型还有潜力在短期内快速实现能力拓展。Epoch AI 提到,如果推理阶段的算力需求见顶,那么其带来的增长率将收敛,大概是每年增长 4 倍,不会像 o1 到 o3 那样拥有「跳跃式增长」——几个月增长 10 倍的态势。基于上述情况,Epoch AI 表示,如果推理模型的训练阶段只比前沿推理模型低几个(比如说不到三个)数量级,这种增长率可能在一年内减缓。

搜索