AWS Machine Learning Blog· Vamsi Goparaju·· 5 小时前AI 评分18
怎样通过 Amazon SageMaker JumpStart 部署并评测模型
Deploy and evaluate models with Amazon SageMaker JumpStart
AI 导读
Amazon SageMaker JumpStart 提供预训练模型目录，用户可借助 SageMaker Python SDK 完成模型部署、调用示例 prompt 并测量延迟、输出词数和单请求生成速率，测试结束后删除 endpoint 以清理资源。
来源：AWS Machine Learning Blog · aws.amazon.com