---
# System prepended metadata

title: cuda 12 環境下 onnxruntime-gpu 安装
tags: [下載安裝]

---

---
title: 'cuda 12 環境下 onnxruntime-gpu 安装'
disqus: hackmd
---

cuda 12 環境下 onnxruntime-gpu 安装
===



安裝方法
---
>cuda 12 下 onnxruntime-gpu 不能直接用 pip 安裝，否則只會吃到 cpu 資源，請使用以下方法安裝:

```gherkin=
# 如果環境已安裝 onnxruntime-gpu 請先解除安裝
pip uninstall onnxruntime-gpu
pip install onnxruntime-gpu --extra-index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/onnxruntime-cuda-12/pypi/simple/
```
> 使用以下指令確認 onnx 是否包含 CUDAExecutionProvider，如果有 onnx 才會使用 gpu 資源


```gherkin=
import onnxruntime as ort
print("Available providers:", ort.get_available_providers())
```



參考來源
---


> https://github.com/Tencent/MimicMotion/issues/44