百度开源文心5.5 Flash Base，2800亿参数MoE基座模型

11月5日，百度正式开源基座模型文心5.5 Flash Base（ERNIE 5.5 Flash Base），采用MoE架构，总参数量2800亿，每Token激活140亿参数，使用33.5万亿Token预训练，预训练上下文最长128K，微调与推理支持最长100万Token上下文。