文心4.5开源大模型的使用和部署

文心4.5系列开源模型共10款，涵盖了激活参数规模分别为47B 和3B 的混合专家（MoE）模型（最大的模型总参数量为424B），以及0.3B 的稠密参数模型。下面我们就介绍如何快速使用文心4.5模型推理，以及部署接口给Android、微信小程序等客户端调用，注意这里只接受文本类型的模型，实际文心4.5也有多模态的模型。