-
豆包提出全新稀疏模型架构 UltraMem，推理成本较 MoE 最高可降 83%
2 月 12 日消息，豆包大模型团队今日宣布，字节跳动豆包大模型团队提出了全新的稀疏模型架构 UltraMem，该架构有效解决了 MoE 推理时高额的访存问题，推理速度较 MoE 架构提升 2-6 倍，推理成本最高可降低 83%。该研究还揭示了新架构的 Scaling Law，证明其不仅具备优异的 Scaling 特性，更在性能上超越了 MoE。 实验结果表明，训练规模达 2000 万 value…- 3.7k
扫码打开当前页
-
￥優惠使用時效：无法使用使用時效：
之前
使用時效：预期有效优惠编号：×