跳到正文
原文
Hugging Face Blog·· 13 小时前精选AI 评分75

PyTorch 2.15 的 MPS 更新:支持 FP8,加速本地模型解码并降低视频内存占用

MPS in PyTorch 2.15

AI 导读

PyTorch 2.15 为 Mac 的 MPS 后端加入 FP8 支持,并通过专用 Metal 内核加速语言模型解码、降低视频解码内存占用。

推荐理由

常量填充改用 Metal 后,视频解码的驱动内存峰值大幅下降,展示了张量占用之外的算子实现也会影响本地运行成本。

来源:Hugging Face Blog · huggingface.co