百度开源文心5.5 Flash

百度开源文心 ERNIE-5.5-Flash-Base 模型权重,距上一代文心 4.5 开源约 16 个月,期间发布的文心 5.0、5.1 均未开源。

  • 参数规模:总参数 2800 亿,每生成一个 Token 仅激活 140 亿

  • 训练数据:33.5 万亿 Token 从零预训练

  • 上下文:最高支持 100 万 Token 推理


长文本处理上,43 层网络中 37 层将每 128 个历史 Token 压缩为一条缓存记录,另 6 层保留原始内容精细检索能力,以降低显存与计算开销。

官方与 DeepSeek-V4-Flash-Base、腾讯 Hy3-preview-Base、小米 MiMo-V2.5-Base 统一评测,30 项基准中 24 项第一。

本次开放的是未经中训练、后训练的纯文本 Base 模型,供开发者做领域微调、指令训练与强化学习,后训练版本将随后推出。

许可证由 Apache 2.0 改为自定义协议:不授权在欧盟、英国、韩国使用;相关产品或服务过去连续 12 个月营收超 5000 万美元,商用前须另行获得百度书面授权。