8 月 8 日消息,据《金融时报》8 月 7 日报道,字节跳动正在训练一个参数量最高可达 10 万亿的大模型,目前仍处于早期预训练阶段。三名知情人士称,这一规模将是中国已发布最大模型、月之暗面 Kimi K3 的三倍以上,并接近 Anthropic 最先进模型 Mythos 5 的体量,业内估计后者约有 8 万亿参数。

报道称,该项目由字节 Seed 基金会负责人牵头,体现 CEO 张一鸣推动原创研究、而非模仿竞争对手模型的思路。预训练阶段通常需要三到六个月,之后若进展顺利将进入微调并最终发布,确切参数规模要到后期阶段才能确定。
此前《晚点 LatePost》曾报道,字节跳动正在讨论训练一个参数规模超 5 万亿的模型,超过阿里 Qwen 3.8-Max(2.4 万亿参数)和月之暗面 Kimi K3(2.8 万亿参数),为国内已知参数规模最大的训练计划。