跳到正文
热点事件持续更新

Hugging Face 推出 TorchNeuron 原生后端

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

Hugging Face 发布 TorchNeuron,为 PyTorch 在 AWS Trainium 上提供原生后端。Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接把 neuron 当作普通设备使用,无需再经过 Optimum Neuron;Hugging Face 建议 Neuron 用户今后直接使用这些库。 TorchNeuron 自 2026 年 10 月 20 日起以公开测试版提供,可通过 pip install torch-neuronx 安装。 Hugging Face 称,Transformers 内置的异步权重加载在 Neuron 上暂不支持,目前需用 HF_DEACTIVATE_ASYNC_LOAD=1 将其关闭。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. Hugging Face Blog
    Hugging Face 推出 TorchNeuron 后端,可直接在 AWS Trainium 上运行模型

    Hugging Face 发布 TorchNeuron,为 PyTorch 在 AWS Trainium 上提供原生后端,Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接把 neuron 当作普通设备使用,无需再经过 Optimum Neuron。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。