AWS Machine Learning Blog· Josh Longenecker·· 15 天前AI 评分44
使用 torchtitan 在 AWS Trainium 上训练 Qwen3
Train Qwen3 on AWS Trainium with torchtitan
AI 导读
在 AWS trn2.48xlarge(16 个 Trainium2 加速器)上,可通过三种方式用 torchtitan 训练 Qwen3:以 Transformers v5 作为建模后端、切换 torchtitan 原生 Qwen3 实现、以及接入 NKI MoE 内核。
来源:AWS Machine Learning Blog · aws.amazon.com