跳到正文

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

最新精选

第 21–21 条 · 共 21 条
12月3日周三
  1. Mistral AI78

    Mistral 发布 Mistral 3 系列:含 Mistral Large 3 与 Ministral 3 三档小模型,全部以 Apache 2.0 开源

    Mistral 发布 Mistral 3 模型家族,包括稀疏 MoE 架构的 Mistral Large 3(41B 激活参数、675B 总参数)以及 3B/8B/14B 三档 Ministral 3 密集模型,全部以 Apache 2.0 开源并提供基础、指令、推理三种变体,均支持图像理解。

    推荐理由:Mistral 3 系列以 Apache 2.0 开源,并给出从端侧到数据中心的部署路径,方便读者按场景挑选参数规模。