Gorden Sun
@Gorden_Sun
只发AI相关信息，个人维护的AI资讯日报（已连续日更3年）👇
Joined August 2013
1.8K Following 69.3K Followers
谷歌开源TorchTPU：让主流AI框架直接跑在谷歌TPU上
目前绝大多数AI开发者都习惯使用PyTorch来编写和训练模型，但这类代码通常专门为英伟达显卡优化，很难直接高效运行在谷歌自研的TPU加速芯片上。
谷歌团队开源了TorchTPU工具包，通过在底层定制专用的计算内核并接入代码编译缓存，用户只需在云端TPU主机上通过pip或构建工具Bazel安装该扩展包，就能无缝衔接现有工作流。
接入后，开发者无需重写核心算法，就能直接调用谷歌TPU来训练和运行主流大模型（如Llama、Qwen等）。模型能够自动发挥TPU硬件在数据并行和张量并行上的多芯片协同加速能力，同时兼容主流的编译优化接口，大幅降低了使用谷歌硬件运行前沿AI模型的门槛和调试成本。
项目地址：
Show more
