跳转到内容

04 · PyTorch on Ascend

查看原始笔记 · 仓库最近更新:2026-10-03。具体核验日期以正文为准。

大量现有 AI 项目以 PyTorch 为基础,因此“如何把 PyTorch 工作负载运行在 Ascend 上”是非常实用的问题。

PyTorch Model
↓
torch_npu
↓
CANN
↓
Ascend NPU
  1. 检查 NPU
  2. 检查 CANN
  3. 创建 Python 环境
  4. 安装匹配版本的 PyTorch / torch_npu
  5. 创建 Tensor
  6. 把 Tensor 放到 NPU
  7. 运行简单神经网络
  8. 下载小型 LLM
  9. 运行推理
  10. 封装 HTTP / OpenAI-compatible API

所有实验将明确记录版本,避免照抄过时命令。