TPU ?! 跟GPU有什麼差 ? 那LPU又是什麼 ?

TPU (Tensor Processing Unit)

張量處理單元 附註：開發商：Google

TPU 首先被應用於 Google 的 Tensor ，也就是其自研的 SoC 晶片上（首搭載於 Google Pixel 6）

Google Tensor 晶片簡圖

雖然在跑分測試上分數輸於同時期的旗艦晶片，但 Google 稱他們設計晶片是專注於「 5年後的機器學習需求 」

但為什麼 「 機器學習會需要 TPU 呢 ？ 」

那就要先來談談 TPU 與 GPU 的差異

GPU (Graphics Processing Unit)

圖像處理單元

俗話說：「 CPU 就像一小群大學生，而 GPU 就像一大群小學生 」

因為 CPU 在電腦中的定位是負責複雜的運算

GPU 則是負責相對簡單的運算

而圖像處理需要運算大量的像素點，所以自然交由 GPU 去處理

然而在機器學習領域中，也需要處理大量的平行運算（詳見汪老師機器學習），所以 GPU 也常被用於此領域 （詳見 Nvidia 股價）

而 TPU 就是更分化的 GPU

比如 Tensor 晶片中 GPU 有 4千個核心， TPU 則有 1.6萬個

可以想像成 GPU 是一間工廠，每個機器都能製造車輛的每個零件，但因為考量通用性，所以製造效率較差

而 TPU 就是一間專業分工後的工廠，部分機器專門設計用來做輪胎，部分專門做車門、避震、組裝等等，因為專長特化了，所以提升了組裝效率