跳到正文

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

126条精选相关主题开源生态数据与训练端侧 AI

最新精选

第 121–126 条 · 共 126 条
6月4日周三
5月21日周三
5月7日周三
  1. Mistral AI78

    Mistral Medium 3 发布,主打低成本企业级性能

    Mistral AI 发布 Mistral Medium 3,定位为兼顾 SOTA 性能、较低成本和简化部署的企业级模型。模型在基准测试中达到或超过 Claude Sonnet 3.7 的 90%,价格为 $0.4 input / $2 output per M token,并支持四个 GPU 及以上的自托管环境。

    推荐理由:原文将 Mistral Medium 3 与 Claude Sonnet 3.7、Llama 4 Maverick 等模型放在性能和成本维度比较,并说明了企业部署与定制路径。

  2. Mistral AI66

    Mistral AI 推出 Le Chat Enterprise 企业版

    Mistral AI 推出由 Mistral Medium 3 驱动的 Le Chat Enterprise,整合企业搜索、智能体构建、自定义数据与工具连接、文档库、自定义模型和混合部署。该服务支持自托管、公有云、私有云或 Mistral 云部署,并计划支持 MCP;目前已上线 Google Cloud Marketplace,后续将登陆 Azure AI 和 AWS Marketplace。

    推荐理由:Le Chat Enterprise 将企业搜索、智能体构建、数据连接与多种部署方式整合到同一平台,适合了解企业 AI 落地的功能边界与实施选项。

2月17日周一
  1. Mistral AI68

    Mistral Saba 发布,面向中东和南亚语言

    Mistral AI 发布 Mistral Saba,这是一款 24B 参数的区域语言模型,针对中东和南亚数据训练,支持阿拉伯语及多种印度源语言。模型可通过 API 使用,也能在客户本地的单 GPU 系统部署,响应速度超过 150 tokens per second,并可通过微调适配能源、金融市场和医疗等领域。

    推荐理由:文章同时交代了 Mistral Saba 的区域语言定位、部署方式和速度指标,便于评估其在本地化应用与企业私有部署中的适用场景。

1月30日周四