AWS Machine Learning Blog· Pierre Lienhart·· 4 小时前AI 评分56
Deepgram 如何借助 AWS Trainium 优化大规模语音 AI
How Deepgram optimized voice AI at scale with AWS Trainium
AI 导读
Deepgram 与 AWS 将 Nova-3 语音转文字模型移植到 AWS Trainium2,并面向离线批处理优化推理吞吐与成本。在 trn2.3xlarge 上,单个设备运行 8 个模型副本,单位成本处理音频比 Deepgram 原先使用的计算选项多 11–70%。
来源:AWS Machine Learning Blog · aws.amazon.com