雷峰网·· 6 小时前AI 评分63
百度开源文心5.5 Flash Base,多基准刷新同尺寸模型 SOTA
百度开源文心5.5 Flash Base,多基准测试刷新同尺寸模型 SOTA
AI 导读
百度于11月5日开源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),采用 MoE 架构,总参数量2800亿、每 Token 激活140亿,预训练使用33.5万亿 Token,预训练上下文最长128K,微调与推理支持最长100万 Token。
来源:雷峰网 · leiphone.com