跳到正文
华尔街见闻·直播·· 5 小时前

百度开源文心5.5 Flash Base 基座模型

百度开源文心5.5 Flash Base

AI 导读

百度正式开源最新基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base)。该模型采用MoE架构,总参数量2800亿,每个Token激活140亿参数,使用33.5万亿个Token完成预训练,预训练上下文长度最高128K。微调与推理阶段支持最高100万Token上下文。

来源:华尔街见闻·直播 · wallstreetcn.com