# Deploying YOLOv7 Model Based on the OpenVINO ###### tags: `Edge AI` `Deployment` `OpenVINO` `YOLOv7` ## Edge AI Workflow ## OpenVINO簡介 ## YOLOv7模形壓縮與格式轉換 ### YOLOv7簡介與DEMO ### 利用DOCKER快速建立OpenVINO環境 -[利用 Docker 快速创建OpenVINO 开发环境](https://chinait-intel.oss-cn-beijing.aliyuncs.com/OpeVINO/0414-OpenVINO%E6%95%99%E5%AD%B8_Docker%E5%AE%89%E8%A3%9D_JackHsu_%E4%BF%AE%E6%AD%A3%E7%89%8801.pdf) ### openVINO安裝 - 直接參考官網說明[Install OpenVINO™ Development Tools](https://docs.openvino.ai/latest/openvino_docs_install_guides_install_dev_tools.html) 我是直接開啟terminal 在windows wsl2在Linux環境(ubuntu20.4，python3.9)安裝 以下按照這些分步說明在安裝OpenVINO開發工具。 1. 設置 Python 虛擬環境() - 創建虛擬 Python 環境以避免依賴衝突，這邊使用python內建的`venv` ```bash mkdir openvino_env python3 -m venv openvino_env ``` 2. 啟動虛擬環境 `source openvino_env/bin/activate` - ps:每次打開新的terminal時，都必須重新運行上述命令。 3. 設置PIP並將其更新到最高版本 確保 已安裝在您的環境中，並通過發出以下命令將其升級到最新版本：pip `python -m pip install --upgrade pip` 4. 安裝套件 要安裝和配置開發包的元件以使用特定框架，請使用以下命令。 `pip install openvino-dev` 如果在 OpenVINO 和深度學習框架之間遇到任何相容性問題，可以將 OpenVINO 開發工具安裝到單獨的環境中。使用以下命令取得框架的特定驗證版本： `pip install openvino-dev[extras]` 其中 extras 參數通過以下值指定一個或多個深度學習框架：Caffe、Kaldi、MXNET、Onnx、PyTorch、TensorFlow、TensorFlow2。請確保為模型安裝相應的框架。 例如，要安裝和配置用於使用 TensorFlow 2.x 和 ONNX 的元件，請使用以下命令： `pip install openvino-dev[tensorflow2,onnx]` 注意，模型優化器對 TensorFlow 1.x 環境的支援已被棄用。使用 tensorflow2 參數安裝可以轉換 TensorFlow 2.x 和 1.x 模型的 TensorFlow 2.x 環境。如果您的模型與 TensorFlow 2.x 環境不相容，請使用 tensorflow 參數安裝 TensorFlow 1.x 環境。TF 1.x 環境僅出於舊版相容性原因而提供。 5. 測試安裝 要驗證套件是否已正確安裝，請執行以下命令（這可能需要幾秒鐘）： `mo -h` 如果安裝成功完成，您將看到模型優化器的説明消息。如果收到錯誤，請參閱故障排除指南以瞭解可能的解決方案。 ### openVINO官方互動式導覽 - [Interactive Tutorials (Python)](https://docs.openvino.ai/latest/tutorials.html) - [github](https://github.com/openvinotoolkit/openvino_notebooks) 這邊我是直接整包下載回來，否則你會發現notebooks的utility無法import以及其他環境問題。記得放在剛剛開的環境下`openvino_env` `git clone https://github.com/openvinotoolkit/openvino_notebooks.git` ### YOLOv7佈署 - [The Example of Deploying YOLOv7 Pre-trained Model Based on the OpenVINO™ 2022.1](https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/The-Example-of-Deploying-YOLOv7-Pre-trained-Model-Based-on-the/post/1415334) - [github](https://github.com/OpenVINO-dev-contest/YOLOv7_OpenVINO_cpp-python) Intel官方社群的技術分享，附上github程式碼 - [YOLO v5, v7 與 v8 物件偵測模型效能比較，執行於 Jetson AGX Orin 與 RTX 4070 Ti](https://blog.cavedu.com/2023/02/09/yolo-v5-v7-v8-jetson-orin-rtx4070ti/) - [Performance Benchmark of YOLO v5, v7 and v8](https://www.stereolabs.com/blog/performance-of-yolo-v5-v7-and-v8/)