跳到正文
AWS Machine Learning Blog· Joseph Cottingham·· 14 天前AI 评分51

在 Amazon SageMaker AI 上用实测法确定 TTS 自动扩缩目标

Stop guessing auto scaling targets for TTS on Amazon SageMaker AI

AI 导读

AWS 机器学习博客发布教程,将 82M 参数的 Kokoro-82M TTS 模型以自定义容器部署到 Amazon SageMaker AI 实时端点,用 Q_max(单实例 SLO 内并发上限。

来源:AWS Machine Learning Blog · aws.amazon.com