跳到正文

硬件与技术

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

2 条精选近 30 天 2 条共收录 3 条

更新

部署工程的精选

10月23日周五第 1–2 条
10月21日周三
  1. TechCrunch 硬件77

    Google 开源 TorchTPU,支持 PyTorch 应用迁移至 TPU

    Google 将 TorchTPU 作为开源项目发布,使开发者可通过简单配置变更让现有 PyTorch 应用运行在 TPU 和 Google Cloud 上,无需重写代码。Google 还推出 TPU agent suite 协助迁移和排错,并提升 LiteRT 对 PyTorch 应用的兼容性。Amazon 同日发布了面向 Trainium 和 AWS 的类似方案 TorchNeuron。

    推荐理由:Google给出了无需重写代码即可将PyTorch应用迁移到TPU和Google Cloud的路径,并补充迁移排错工具与生态兼容信息。