智源研究院信息检索与知识计算组最近发布了LM-Cocktail模型治理策略,旨在为大型模型开发者提供一种低成本的持续性能提升方法。该策略通过使用少量的样例计算融合权重,利用模型融合技术将微调模型和原始模型的优势结合起来,实现对"模型资源"的高效利用。
论文地址:
https://arxiv.org/abs/2311.13534
GitHub地址:
https://github.com/FlagOpen/FlagEmbedding/tree/master/LM_Cocktail
智源研究院信息检索与知识计算组最近发布了LM-Cocktail模型治理策略,旨在为大型模型开发者提供一种低成本的持续性能提升方法。该策略通过使用少量的样例计算融合权重,利用模型融合技术将微调模型和原始模型的优势结合起来,实现对"模型资源"的高效利用。
论文地址:
https://arxiv.org/abs/2311.13534
GitHub地址:
https://github.com/FlagOpen/FlagEmbedding/tree/master/LM_Cocktail
扫码打开当前页
之前