Sakana AI推出LLM记忆技术NAMMs，内存成本降低75%

Sakana AI推出NAMMs，通过进化算法优化记忆管理，大幅提升LLM效率；NAMMs采用短时傅里叶变换处理注意力矩阵，结合向后注意力记忆架构，减少内存使用并提升性能；实验结果显示，NAMMs能显著降低内存消耗（最高减少75%）并提升模型性能，具备优秀的零样本迁移能力。