清华微软最新力作：用物理学革新Transformer注意力 10月10日 admin 取消关注 关注 私信 最近，微软研究院和清华大学的研究人员共同提出了一种新的模型架构——Differential Transformer，不仅保留了原始Transformer中的可扩展性，也能让模型更加关注上下文中与任务相关的关键信息。实验表明，注意力机制的改进，不仅显著提升了检索精度，还能缓解LLM的幻觉。（新智元）
