AWS Machine Learning Blog· Joseph Cottingham·· 14 天前AI 评分51
在 Amazon SageMaker AI 上用实测法确定 TTS 自动扩缩目标
Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
AI 导读
AWS 机器学习博客发布教程,将 82M 参数的 Kokoro-82M TTS 模型以自定义容器部署到 Amazon SageMaker AI 实时端点,用 Q_max(单实例 SLO 内并发上限。
来源:AWS Machine Learning Blog · aws.amazon.com