新一代领域大模型 · 搜索产品的技术底座
ChatDLM 是 Qafind Labs 自主研发的新一代领域大模型,也是搜索产品的技术底座。
融合 Block Diffusion(块扩散)与 Mixture of Experts(混合专家)架构, 突破传统 Transformer 在长上下文与推理效率上的瓶颈。
Block Diffusion
Mixture of Experts