文心4.5開源大模型的使用和部署

文心4.5系列開源模型共10款，涵蓋了激活參數規模分別爲47B 和3B 的混合專家（MoE）模型（最大的模型總參數量爲424B），以及0.3B 的稠密參數模型。下面我們就介紹如何快速使用文心4.5模型推理，以及部署接口給Android、微信小程序等客戶端調用，注意這裏只接受文本類型的模型，實際文心4.5也有多模態的模型。