Hugging Face Blog·· 13 小时前精选AI 评分75
PyTorch 2.15 的 MPS 更新:支持 FP8,加速本地模型解码并降低视频内存占用
MPS in PyTorch 2.15
AI 导读
PyTorch 2.15 为 Mac 的 MPS 后端加入 FP8 支持,并通过专用 Metal 内核加速语言模型解码、降低视频解码内存占用。
推荐理由
常量填充改用 Metal 后,视频解码的驱动内存峰值大幅下降,展示了张量占用之外的算子实现也会影响本地运行成本。
来源:Hugging Face Blog · huggingface.co