Hugging Face发布Trainium兼容性查询工具

Hugging Face发布开源的TorchNeuron模型支持Space，并公开兼容性数据集，用于查询Hugging Face Hub模型是否无需修改即可在AWS Trainium上运行。数据集记录测试结果、失败错误、软件栈版本及运行脚本。 目前仅测试Transformers架构中的文本生成和图文生成模型，且模型需适配不超过4个Trainium2设备（最多16个核心）。兼容性通过只表示模型成功运行，不代表吞吐量或更长生成任务的性能。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。