字节启动10万亿参数大模型预训练，对标Anthropic旗舰

字节跳动已开始预训练一款最高 10 万亿参数的大模型，项目仍处早期，最终规模尚未确定。

• 规模对标：若按上限训练，该模型将是 Kimi K3 的三倍以上，成为已知中国团队中参数规模最大的模型。行业估算 Anthropic Mythos 5 约 8 万亿参数、Fable 5 约 5 万亿，字节新模型已进入美国前沿闭源模型同一量级。


• 训练周期：预训练阶段通常需 3 至 6 个月，之后进入后训练，顺利才会发布。


• 内部策略：张一鸣在 Seed 内部明确反对蒸馏竞对模型，要求团队接受短期落后，靠自研冲击第一梯队。