Gradient Al将Llama-3 的上下文长度从8K扩展到超过100万

Gradient AI最近宣布了一项重大技术突破，将Llama-3系列模型的上下文长度从8000个令牌扩展到超过100万个令牌。

这一扩展使得模型能够处理相当于《哈利·波特》系列前五本书的内容量，显著提高了模型处理长文本的能力，增强了其在理解和生成文本方面的精确度和相关性。