# Jetson AGX Orin PyTorch 安裝

## 檢查裝置環境

本說明僅適用
- Jetson AGX Orin Developer Kit
- JetPack 6.2（安裝過程請見前篇 [NVIDIA SDK Manager 踩過的一些坑](https://hackmd.io/@hank20011224/Bk55A0Cxgl)）

jetson_release

Software part of jetson-stats 4.3.2 - (c) 2024, Raffaello Bonghi
Model: NVIDIA Jetson AGX Orin Developer Kit - Jetpack 6.2 [L4T 36.4.3]
NV Power Mode[0]: MAXN
Serial Number: [XXX Show with: jetson_release -s XXX]
Hardware:
 - P-Number: p3701-0005
 - Module: NVIDIA Jetson AGX Orin (64GB ram)
Platform:
 - Distribution: Ubuntu 22.04 Jammy Jellyfish
 - Release: 5.15.148-tegra
jtop:
 - Version: 4.3.2
 - Service: Active
Libraries:
 - CUDA: 12.6.85
 - cuDNN: 9.10.0.56
 - TensorRT: 10.7.0.23
 - VPI: 3.2.4
 - Vulkan: 1.3.204
 - OpenCV: 4.8.0 - with CUDA: NO

## 建立虛擬環境

這邊使用 `uv` 做示範，請先知道怎麼用。

安裝：
https://docs.astral.sh/uv/getting-started/installation/

1. 在當前目錄建立虛擬環境（我選擇的 torch 版本須對應 Python 3.10）

    uv venv --python 3.10 --seed

2. 啟用虛擬環境 (若有 conda 建議先關掉，不要兩個一起用)

    conda deactivate # 退出conda

    source .venv/bin/activate # 啟用虛擬環境

## 官方安裝教學
我照官方的教學裝不出來，而且文件寫不完整很難搞，但安裝的前置步驟是需要走完的。

[Installing PyTorch for Jetson Platform](https://docs.nvidia.com/deeplearning/frameworks/install-pytorch-jetson-platform/index.html)

我進行了：
- 安裝 `python3-pip`, `libopenblas-dev`
- cusparselt 安裝（去 GitHub repo 找安裝方法，[說明頁](https://docs.nvidia.com/cuda/cusparselt/index.html)的裝不起來）

## 我找到的 Pytorch 資源

### 官方，都裝不起來

- [Nvidia 官方統整](https://forums.developer.nvidia.com/t/pytorch-for-jetson/72048)，可以試試，但我是裝不了的，提示 depens 缺失但不講是缺什麼。
- [PyTorch 說明](https://pytorch.org/audio/2.6.0/build.jetson.html)，沒用。

### 非官方

Google 關鍵字： JetPack 6.2 PyTorch

[論壇](https://forums.developer.nvidia.com/t/torch-on-jetson-jetpack-6-2/322770)

然後找到：https://pypi.jetson-ai-lab.dev/jp6/cu126

好像 cu126，只能裝在 CUDA 12.6 上。

### 我使用這版

`torch-2.7.0-cp310-cp310-linux_aarch64.whl`

- torch 版本 2.7
- python 版本 3.10
- 系統 linux
- 架構 arm64

## 安裝時注意

1. 安裝 `numpy`
- 注意！PyTorch 目前並不支援 numpy > 2.0 版本，要降版。

    uv pip install numpy==1.26.4

2. 裝你下載的 PyTorch wheel

    uv pip install torch-2.7.0-cp310-cp310-linux_aarch64.whl

## 驗證安裝

import torch
print(torch.__version__)
print(torch.cuda.is_available())
print(torch.empty((1, 2), device=torch.device("cuda")))

2.7.0
True
tensor([[0., 0.]], device='cuda:0')