跳到正文
Hugging Face Blog·· 2 天前AI 评分30

TorchNeuron 性能分析(第一部分):在 AWS Trainium 上进行系统级分析

Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.

AI 导读

Hugging Face 介绍了在 AWS Trainium 上利用开源 PyTorch 后端 TorchNeuron 进行推理性能系统级分析的方法。开发者可通过结合 `torch.profiler` 与 NeuronConfig 配置,并使用 PrivateUse1 扩展点捕获系统及硬件指令轨迹。

来源:Hugging Face Blog · huggingface.co