AIHOT · AI 精选· noreply@aihot.news (Google Developers Blog)·· 1 天前精选AI 评分78
Google 发布 TorchTitan TPU 分叉并给出模型优化 Playbook
AI 导读
Google 推出 TorchTitan TPU 分叉(github.com/google-pytorch/torchtitan),配合 TorchTPU 原生后端在 Cloud TPU 上训练 PyTorch 模型,提供 SimpleFSDP、Graph Trainer、Pallas 内核和优化 Playbook。
推荐理由
原文给出了从基准到编译、内核、内存的完整 TPU 优化顺序,以及 FLUX.1、Qwen3 235B 等实测数字,可迁移到自己的训练工作流。
来源:AIHOT · AI 精选 · aihot.news