跳到正文
原文
AWS Machine Learning Blog· Pierre Lienhart·· 4 小时前AI 评分56

Deepgram 如何借助 AWS Trainium 优化大规模语音 AI

How Deepgram optimized voice AI at scale with AWS Trainium

AI 导读

Deepgram 与 AWS 将 Nova-3 语音转文字模型移植到 AWS Trainium2,并面向离线批处理优化推理吞吐与成本。在 trn2.3xlarge 上,单个设备运行 8 个模型副本,单位成本处理音频比 Deepgram 原先使用的计算选项多 11–70%。

来源:AWS Machine Learning Blog · aws.amazon.com