Andrej Karpathy后悔了:放弃了语言模型,却搞了多年强化学习

Andrej Karpathy后悔早期偏重强化学习,而未及时推动语言模型发展,错失引领大模型时代的机会;早在2015年通过RNN探索了语言生成潜力,预见了预训练和监督学习的重要性,却未持续深入;语言模型的迅速崛起源于Transformer等技术突破,强化了AI从专用任务向通用能力发展的方向。

搜索