Scaling Laws终结，量化无用？AI大佬们都在审视这篇论文

论文《Scaling Laws for Precision》指出，低精度训练可能影响大模型的性能，过多的数据训练会加剧量化后的性能退化；研究提出统一的扩展定律，可预测不同精度下训练和推理的性能下降，低精度训练可以优化计算，但效果低于预期；随着摩尔定律的限制，未来的大模型扩展面临瓶颈，可能需要依赖数据中心扩展、动态模型调整或知识提炼等新方向。