AWS Machine Learning Blog· Pierre Lienhart·· 4 小时前AI 评分26
Deepgram 如何借助 AWS Trainium2 优化语音 AI 推理效率
How Deepgram optimized voice AI at scale with AWS Trainium
AI 导读
Deepgram 与 AWS 合作,将 Nova-3 语音转文本模型移植到 AWS Trainium2,用于联络中心分析和医疗转录等离线批处理场景。单台 Amazon EC2 trn2.3xlarge 实例可运行 8 个模型副本,在 Deepgram 的离线批处理工作负载上,每美元处理的音频量较此前使用的方案提升 11–70%。
来源:AWS Machine Learning Blog · aws.amazon.com