Hugging Face推出AWS Trainium模型支持查询Space

Hugging Face 推出 torch-neuronx model support Space 及配套数据集，供用户查询其 Hub 平台上的热门模型能否直接在 AWS Trainium 上运行。 该工具目前测试范围存在限制：仅涵盖 Transformers 架构下的文本生成和图文到文本模型，且模型规模限制在最多占用 4 台 Trainium2 设备（即 16 个核心）。此外，测试通过（PASS）仅代表模型能够运行，并不反映实际吞吐量或长文本生成表现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。