消息称字节跳动开始预训练 10 万亿参数大模型,规模或接近 Anthropic 旗舰

8 月 8 日消息,据《金融时报》8 月 7 日报道,字节跳动正在训练一个参数量最高可达 10 万亿的大模型,目前仍处于早期预训练阶段。三名知情人士称,这一规模将是中国已发布最大模型、月之暗面 Kimi K3 的三倍以上,并接近 Anthropic 最先进模型 Mythos 5 的体量,业内估计后者约有 8 万亿参数。

消息称字节跳动开始预训练 10 万亿参数大模型,规模或接近 Anthropic 旗舰

报道称,该项目由字节 Seed 基金会负责人牵头,体现 CEO 张一鸣推动原创研究、而非模仿竞争对手模型的思路。预训练阶段通常需要三到六个月,之后若进展顺利将进入微调并最终发布,确切参数规模要到后期阶段才能确定。

此前《晚点 LatePost》曾报道,字节跳动正在讨论训练一个参数规模超 5 万亿的模型,超过阿里 Qwen 3.8-Max(2.4 万亿参数)和月之暗面 Kimi K3(2.8 万亿参数),为国内已知参数规模最大的训练计划。

声明:内容来源公开的各类媒体平台,若收录的内容侵犯了您的权益,请联系邮箱,本站将第一时间处理。
资讯

阿里全新一代视频生成模型 Wan3.0 公测:单次生成能 30 秒,号称万物皆可生视频

2026-8-7 9:39:50

资讯

OpenAI 称 Astra 或达「重大」网络安全风险线,暂停部分内部开发并收紧管控

2026-8-8 15:52:48

搜索