# 成千上百個預訓練模型免費用！看 NVIDIA 的 ngc、Tao toolkit 如何成為 AI 專案開發利器，大幅加速開發效率！
大部分的 AI 開發者，都乎都有著這樣的經驗；在投入訓練自己的 AI 模型之前，先找到相似任務的預訓練模型資源，對這些預訓練模型進行微調，可以比起重新訓練一個模型更有效率的讓自己的 AI 訓練任務完成。

如果我告訴你有個地方有著成千上百個預訓練模型讓你免費取用，更對於模型的訓練、佈署都有高度的優化，能夠讓 AI 專案的開發效率得以大幅提升，你會不會想要親自體驗呢？

本集的主題，我們將會分享 NVIDIA 的 ngc 平台以及遷移學習工具包 Tao toolkit，讓您的 AI 專案開發事半功倍。

## NGC
NVIDIA GPU CLOUD 簡稱 NGC，是一個 GPU 加速與優化的管理平台。它整合了經過優化的 AI 框架、AI 工具包、預訓練模型以及各式各樣的範例程式碼，所有人都可以免費使用此平台上的所有資源。我們將就每個層次說明為什麼您應該使用 NGC，以及它帶來的優勢。

## 經過優化的 AI 框架
在 NGC，你能夠取得所有主流的 AI 框架，例如 Tensorflow / Pytorch / MXNet / Theano / Caffe...等等。相較於由原發布者所提供的版本，使用者更能從 NGC 所提供的 AI 框架獲得巨大的優勢，原因在於 NGC 所提供的 AI 框架都經過針對 GPU 的細緻優化，使其在運算時的效率會比原始版本更高、訓練速度更快。

並且 NVIDIA 以一個月做為更新 AI 框架的頻率，持續不斷地在 NGC 平台釋出更優化的版本，以確保使用者可以使用最新、最快的 AI 框架來加速他們的開發過程。我們實際測試了幾個任務，並且得出了以下的結論：

## 預訓練模型、Tao toolkit 加速 AI 開發與落地應用
從對話式 AI 到電腦視覺，NGC 有成千上百個不同任務別的 AI 預訓練模型，並且這些預訓練模型都達到可直接用於 production 的水準。這些預訓練模型是由 NVIDIA 的 AI 專家所維護，持續優化模型的準確度。例如：用於人物偵測 PeopleNet 的預訓練模型在 2020 年於 NGC 釋出，使用 800 萬張圖片樣本進行訓練。在 2021 年，NVIDIA 以翻倍的訓練樣本數量搭配專家的策略，重新訓練並釋出了優化後的 PeopleNet。

當然，除了 PeopleNet 之外，NGC 上所有的預訓練模型都採取上述的方式被持續維護、優化。也因此使用者能透過 NGC 獲得品質最棒的預訓練模型，直接用於自己的任務，或者以這些預訓練模型作為基準進行微調。

預訓練模型的再訓練或微調，最佳的方式是搭配 Tao toolkit 以及 NGC 所提供的流程程式碼來進行。Tao toolkit 是基於 TensorFlow 和 PyTorch 構建的遷移學習工具包，其特點是提供 no-code 或 low-code 的體驗，讓開發者可以將精力放在問題解決本身。無論是資料增強、模型優化(量化、剪枝)、模型匯出用於推論，都可以用 Tao toolkit 以及 NGC 所提供的流程程式碼自動完成。

值得一提的是，目前的 Tao toolkit 介面通常是 Jupyterlab 或者 CLI，但 NVIDIA 已經釋出圖形使用者介面的早鳥版本。訓練資料的管理、模型微調、模型優化、模型匯出乃至自動佈署到坐落在各場域的邊緣裝置，在未來只需要透過介面、彈指即可完成。

## Webinar：基於人物的行為辨識應用與雲端佈署
在回到開頭的提問：如果我告訴你有個地方有著成千上百個預訓練模型讓你免費取用，更對於模型的訓練、佈署都有高度的優化，能夠讓 AI 專案的開發效率得以大幅提升，你會不會想要親自體驗呢？

參加由 NVIDIA 舉辦的網路研討會，快速學會使用 NGC 與 Taotoolkit 開發、佈署您的電腦視覺應用到雲端。透過本研討會您將會學會：
* 如何將 NGC 的 機器學習模型佈署於 Google Cloud Vertex AI
* 如何使用 Google Cloud Vertex AI Workbench 建立資料存取與分析，快速建立機器學習模型
* 使用 NGC 的電腦視覺預訓練模型加速開發應用
* 使用 Tao toolkit 依照你的使用情境微調預訓練模型
* 將模型運行於 Deepstream 上，進行即時推論

報名請掃描 QRCODE，我們研討會上見！