“越大越好”的路径走不通？OpenAI正在寻求训练模型的新方法

自风靡全球的聊天机器人ChatGPT发布以来，科技公司都是通过增加更多数据和算力来扩大并改善AI模型。但现在，一些最杰出的AI科学家正在指出这种“越大越好”的局限性。人工智能实验室Safe Superintelligence和OpenAI的联合创始人Ilya Sutskever近日表示，扩大预训练所取得的成果已经达到了一个平稳期，对提升模型性能的帮助有限。Sutskever还承认，他的公司正在研究一种扩大预训练规模的替代方法，但未透露更多细节。