把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
NVIDIA指出，物理 AI 从研究走向大规模部署后，自动驾驶汽车和机器人需要在硬件、软件、AI 行为、运行环境及整个部署生命周期中持续满足安全要求。NVIDIA介绍了覆盖 AV 与机器人的 NVIDIA Halos 全栈安全系统，以及仿真、合成数据、运行时监控和第三方评估等安全基础设施。
推荐理由：文章把物理 AI 的安全拆解到硬件、软件、AI 行为、运行环境和部署生命周期，并以 NVIDIA Halos 展示 AV 与机器人场景的工程化路径。
Hugging Face 发布 tokenizers v1 release candidate，官方基准显示其在 Apple M4 Max 单线程下的编码速度达到 v0.23 的 3 到 30 倍。
推荐理由：文章用统一的 tokbench 基准比较 v1 与 v0.23 的编码表现，并解释缓存、SIMD 分词和无分配合并循环分别带来的加速来源。
GitHub Copilot 团队使用 GitHub Copilot app 和 Copilot CLI，将 Copilot agent runtime 从 TypeScript 重写为超过 800,000 行生产 Rust，主要代码由 AI agents 编写，历经 128 个 pull requests，并在数月内由一名开发者主导完成。
推荐理由：文章以 GitHub Copilot runtime 的 Rust 重写为案例，梳理渐进式迁移、跨语言互操作和人机协作中的具体做法。
NVIDIA Vera Rubin NVL72 在 MLPerf Inference v6.1 中首次提交预览结果，在 Qwen3-VL 上的吞吐量最高达到 GB300 NVL72 的 3.7x，在 DeepSeek-R1 上最高达到 2.5x。
推荐理由：文章将 Vera Rubin NVL72 的模型吞吐、GB300 NVL72 的跨机架扩展效率与软件优化增益放在同一组 MLPerf 结果中，便于比较推理基础设施的长期经济性。
Emerald AI、Google 与 NVIDIA 宣布成立 AI Energy Management Alliance（AEMA），推动能够根据电网状况动态调整用电的数据中心。联盟将围绕响应速度、持续时间、可预测性和应急行为制定技术要求、性能指标与数据共享规范，并探索更快的 AI 基础设施并网路径。
推荐理由：联盟把 AI 数据中心的电力灵活性转化为可衡量的接入要求，为开发者与电网运营方协作提供共同框架。
NVIDIA介绍 DSX AI 工厂平台，通过动态功耗分配、工作负载调度和电网响应，在固定电力预算下提高 token 吞吐。Lambda 在 HGX B200 五机架、19 节点集群上实现了 24% 的集群 token 吞吐提升和 23% 的每瓦性能提升。
推荐理由：文章将 DSX 的功耗调度、需求响应和 800V DC 架构放在同一套 AI 工厂框架中，并给出 Lambda 的吞吐与性能功耗数据。
Hugging Face 展示了在 Hugging Face Jobs 上运行 Async GRPO 的方案，用 LoRA adapter、Storage Bucket 和代理连接分离的训练 Job 与 vLLM Job，无需 NCCL 传输完整模型权重。
推荐理由：文章把跨机器训练与推理的实现拆成可复用组件，并用指标定位瓶颈，给出从 3 h 27 min 降至 53 min 的调优路径。
Mistral AI 协助一家欧洲能源运营商将40,000行 Fortran 77 迁移到 C++，目标系统是没有测试套件和集中式文档的物理密集型储层模拟器。团队先建立数值对齐测试框架并整理代码文档，再按模块组织规划、实现、测试和审查流程，由人工审核 PR；首个 sprint 覆盖了300,000行代码中的40,000行。
推荐理由：文章把复杂遗留代码迁移拆成文档整理、数值对齐和分模块协作三步，呈现了 AI 智能体在人工审核下落地的具体路径。
Google推出 Fairwind Program，向政府、Google Cloud 客户和可信网络安全伙伴限量开放网络防御能力。该计划将 Gemini 3.8 Flash Cyber 与 CodeMender 结合，用于自主发现、验证和修复漏洞，并在安全云环境中生成可部署补丁。计划已有超过 650 家合作伙伴参与，接入组织须限制使用人员并部署多因素认证等保护措施。
推荐理由：原文说明了 Fairwind Program 的服务对象、核心工具与接入限制，便于理解其面向政府和企业的部署方式。
Hugging Face 发布 JavaScript 库 @huggingface/kernels 和浏览器 GPU 基准测试套件 Fleet，并在 Hugging Face Hub 提供首批 207 个 WebGPU kernels。
推荐理由：文章同时给出 207 个 kernel 的版本化组织方式、Fleet 众测机制和 ORT WebGPU 对比数据，便于理解浏览器推理性能优化的落地路径。
Hugging Face 介绍了 Papers with Code 的混合搜索架构，将 PostgreSQL 全文搜索与 pgvector 语义检索结合，并用 RRF 融合结果。
推荐理由：文章拆解了 Papers with Code 将批量向量化与在线查询分离的架构，并展示冷启动回退、版本校验和原子切换如何支撑可复现部署。
Liquid AI 发布 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型，通过 speculative decoding 提升推理吞吐。
推荐理由：文章同时给出 H100 与 M4 Max 的吞吐对比、function-calling 延迟变化及 llama.cpp 和 SGLang 接入方式，便于评估 DSpark 在云端与端侧部署中的收益。
Microsoft Research 发布 Skala 1.1，训练数据量达到上一版本的 2.5x，并在热化学、反应动力学和分子结构预测等任务中提升准确性。在 GMTKN55 的 55 个类别中，Skala 1.1 有 32 个类别获得最高排名，当前已集成到 CP2K，并正在接入 Psi4、FHI-aims、ORCA 和 VASP。
推荐理由：文章将 Skala 1.1 的精度提升、2.5x 数据扩展与 CP2K 等软件集成放在一起，呈现其从模型改进走向科研工作流应用的路径。
Mistral AI 发布 Agentic Search，通过多步检索循环让 AI 系统搜索、打开、导航、读取并验证复杂文档中的信息。FinanceBench 上准确率从 26.7% 提升至 86%，OfficeQA Pro 上从 6.3% 提升至 51.9%，p90 延迟最高降低 39.6%，token 消耗最高减少三分之一。
推荐理由：文章通过 FinanceBench 与 OfficeQA Pro 的对比，具体展示 Agentic Search 如何在复杂文档检索中兼顾准确率、延迟与 token 消耗。
Dharma AI 构建约束感知 GPU 分配器，并在七个基准场景中与 FIFO 调度器比较；相同硬件和工作负载下，GPU 利用率最高提升33个百分点，优先级加权产出最高提升105.1%。分配器按实时需求曲线和批处理作业优先级规划整个调度周期，在64 GPUs、30 jobs的规模测试中以15 ms延迟带来15.9%的价值提升。
推荐理由：文章用七个场景比较约束感知 GPU 分配器与 FIFO 调度器，展示同等硬件和工作负载下，调度顺序如何影响利用率与优先级加权产出。
Mistral推出一般可用的 Regional Endpoints，支持客户选择在欧洲或美国运行推理，并在公开预览中提供带 uptime SLA 和自定义速率限制的 Priority Tier。平台还将接入第三方开放模型，首个为 Z.ai 的 GLM-5.2；同时，Mistral在欧洲组建长期算力联盟，通过 European Compute Units 提供多年基础设施访问。
推荐理由：文章把区域合规、服务可靠性和模型选择放在同一平台框架中，具体呈现了企业获得统一基础设施的路径。
NVIDIA 发布 Magpie TTS Multilingual 开放权重模型，模型规模为 364M parameters，支持 12 种语言，并新增 Modern Standard Arabic、Korean 和 Brazilian Portuguese。
推荐理由：文章将开放权重、12 种语言支持、NIM 部署和延迟数据放在同一框架中，便于评估多语言语音智能体的落地路径。
Multiverse Computing 的论文提出离线缓存教师模型的 top-100 logits，并使用 fused chunked KL loss 降低大语言模型知识蒸馏的显存占用。
推荐理由：文章将离线 top-100 logits 缓存与 fused chunked KL loss 结合，展示其如何降低长上下文蒸馏的显存和训练成本。
Mistral AI 发布 Shieldstral，一款以 Apache 2.0 开放权重的 3B 多模态安全分类器，可在推理时接受自然语言审核规则，无需重新训练。
推荐理由：将审核规则放在推理时输入的自然语言问题中，使同一模型可适应不同产品的安全边界，而不必为每套规则重新训练。
IBM Research 将 K-Search 扩展为支持 MLX 的后端，并通过结构化 CUDA-to-MLX 翻译层，把 CUDA 内核优化经验迁移到 Apple Silicon。
推荐理由：文章展示了如何把 CUDA 内核中的优化经验结构化迁移到 MLX，并以 Attention 和 Mamba SSM 实测说明翻译层对 Apple Silicon 性能的影响。