跳到正文
原文
AWS Machine Learning Blog· Pierre Lienhart·· 4 小时前AI 评分26

Deepgram 如何借助 AWS Trainium2 优化语音 AI 推理效率

How Deepgram optimized voice AI at scale with AWS Trainium

AI 导读

Deepgram 与 AWS 合作,将 Nova-3 语音转文本模型移植到 AWS Trainium2,用于联络中心分析和医疗转录等离线批处理场景。单台 Amazon EC2 trn2.3xlarge 实例可运行 8 个模型副本,在 Deepgram 的离线批处理工作负载上,每美元处理的音频量较此前使用的方案提升 11–70%。

来源:AWS Machine Learning Blog · aws.amazon.com