# 操作實務 - Gemini Management Console v1.8.0

GMC v1.8.0終於釋出了。

這次的版本，有很多新功能。


除了secret之外，還有volume的功能、錢包以及資源自動回收。至於那個MIG，因為我手邊沒有這麼好的GPU卡，所以就忽略他吧。

下面我們來看看，當你手邊拿到GMC v1.8.0的環境之後，都可以怎麼使用它。

---

## 壹、系統管理員

用系統管理員身份登入，在admin專案裡面，我們可以看到左側的功能列表中，有很多系統管理員才能看到的功能。


主要是：

* Platform Management
* Infrastructure
* Project
* Computing
* Compute Resource
* Storage
* Log

當然其中的Project、Computing、Compute Resource、Storage以及Log，這些同樣在user也看得到，只不過admin專案裡面，是可以看到所有專案的資訊的。

---

### Platform Management/平台管理

GMC v1.8.0其實也是可以做到多叢集管理的。只要透過Add Platform功能，就能將kubernetes納進來統一管理使用。(前提是網路要設定好，能夠連通)


---

### Infrastructure/基礎設施

這個功能的重點在於Host與Host上面的resource(container pod)

首先是**Host**功能。看名稱大概就能猜得到，這是要顯示主機資訊的。


這裡有個小框框，顯示Select Platform。意思就是說，如果有多個叢集被GMC管理的話，切換就能看到不同Platform所擁有的主機列表。

:::info
另外值得一提的是，列表中，有一個Schedule的欄位可以切換，當切換到disable時，該主機之後就不會有新的container site或是job會被建立進去。通常是主機有異常，需要維護時，建議把這個欄位設定成disable，再進行關機。
:::

再來是，**Availability Zone**功能。


通常是用來將機器做分群，這樣使用者在建立Container site或是job時，可以選擇不同的AZ，來將container開在指定的機器中(群組內隨機挑選主機)。

最後是**Resource Usage**功能。


這是要快速查詢所有已建立的container site/job以及它所在的主機資訊列表。

---

### User/使用者

**User Management**

我想這是一個系統最基本的功能之一了，GMC提供本機使用者(註冊/新增)，另外也提供來自LDAP/AD的串接整合。

:::info
溫馨提示一下，如果要提供LDAP/AD帳號使用，可以無須import帳號，因為GMC目前所有的使用者，預設都會有default專案的存取權限。
換句話說，只要設定好LDAP/AD串接設定，即使當前系統內沒有該LDAP/AD帳號，但是只要該帳號成功登入系統，系統就會自動將該帳號import進來，同時也會加入到default專案。
:::


如果需要串接LDAP/AD認證的話，就必須到整個畫面的右上方有個帳號的圖案，下拉選單開啟Setting功能，進行設定。


LDAP/AD設定完畢後，可以測試登入系統是否正常。

另外，每個使用者的內容裡，都可以設定使用者加入哪些專案，這比較簡單就不再多做說明了。

**User Activation**功能。

除了上面的新增本地帳號或者LDAP/AD帳號之外，系統首頁也有註冊功能，使用者註冊後，通常需要等待管理員激活後才可登入，不過如果要設定自動激活的話，也可以洽詢雙子星團隊協助設定。

註冊成功會看到這樣的訊息提示。


這時候系統管理員在User Activation的功能裡面會看到待激活的使用者清單。按下激活按鈕後，該使用者就可以開始登入了。


---

### Project/專案


多專案是GMC的核心功能之一。如果把專案概念放到kubernetes上，那就是namespace。同時，在建立專案時，同時可以設定資源額度(Quota)，用來限制使用者在這個專案內使用的資源大小。

專案內也有許多可以設定的地方，比如說專案內可以使用的應用程式方案(Solution)、專案額度(by Platform)、Platform啟用專案、使用者，以及自動回收資源設定。


我們拿自動回收資源設定來特別說明一下。自動回收策略分為兩種，一種是資源建立後，可以使用多久的時間設定。另一種是資源建立後，系統依據設定來判斷CPU/Memory/GPU等等使用率，若使用率低於條件值以及時間長度則是可以回收資源。

當然，這兩種回收設定時，都可以設定通知。

還有，在專案內的user設定裡面，也可以針對每個使用者設定其在專案內的資源使用額度。(專案本身的額度設定，除了建立時，也可以在專案內的Platform設定)


(Project Quota與Project User Quota任何一個資源不足的時候，將無法再繼續建立資源)

---

### Solution/解決方案

Solution也就是MarketPlace。系統管理員可以製作符合使用者所經常使用的應用程式服務。所有透過Container Service建立的資源，都是從Solution來的。


Solution可設定Public/Private。Private可以從專案的solution頁籤來設定是否可以使用。


至於Solution的製作方式，請參考其他官方的教學文件。

---

### Billing/計價模組

這是GMC v1.8.0最新的功能之一。直覺的來看，大家應該都猜得到這是和計費有關的。


在這個版本裡面，系統提供了基本的計費系統。


主要概念有兩個，一個是**Price**(資源售價定義)，一個是**Wallet**錢包儲值計費。

在GMC裡，建立Container Service(Site)或是Container Job都必須選擇資源規格(Flavor)，所以我們為了計算資源費用，Price則需要幫每個Flavor訂定價格。


另外，由於Container Service(Site)與Container Job屬性不太一樣，為了更有彈性的制訂價格，設定時，也可以選擇為Site或是Job來設定flavor價格。


有了定價之後，接下來就可以來計費了。目前，系統提供的是以Wallet(錢包)概念來計費。


:::info
每個專案皆可設定一錢包，錢包設定後，系統將自動啟用計費功能，預設每三小時為計費區間。
:::


系統左側最下方的Wallet History可以查詢計費紀錄。(儲值與扣款)

---

**其他**管理功能。


可以看到，除了上面說明的Platform、Project、Solution、User管理功能之外，admin專案裡，還有其他管理功能。

---

**COMPUTING**

由於這個功能和一般使用者差異不大，就不再詳細描述了。特別要提的是，系統管理員主要是可以看到所有專案所建立的Container Service(Site)與Container Job，而且具有刪除權限。但是，系統管理員是無法建立任何Site與Job的。

**COMPUTE RESOURCE**

*Flavors*

我們前面在說明錢包計費功能時，有提到，建立Site或是Job時，都必須選擇Flavor。所以，定義所有的Flavor資源規格這個任務同樣是落在系統管理員來執行。

Flavor可以設定CPU/Memory/GPU規格，以及Public/Private權限。

:::info
GPU Limits主要是提供使用者所分配到的GPU卡，如果沒有其他使用者同時使用時，可以超用所選擇的GPU規格，例如0.5GPU可超用到1GPU
:::


如果是Private Flavor，當使用者在建立Job時，將會無法看到這個Flavor，要特別注意這裡。

---

**STORAGE**

Storage兩大功能，這也是本次系統最重要的亮點之一。

我們先來說明一下*StorageClasses*


我們都知道，儲存系統的協定有很多種，NFS只是其中之一。Provisioner就是目前該環境所支援的種類。如果您要幫您的kubernetes安裝其他儲存系統的CSI，請參考各廠商所提供的安裝資訊。

當您的Platform(kubernets)已安裝CSI，當你在這裡新增StorageClass時，系統就會自動顯示。另外還有，不同的CSI類型，畫面會自動切換成該CSI適合的輸入欄位喔。


:::info
溫馨提示一：
***Using existing NFS data for volume create***(使用已存在的NFS資料建立儲存卷)，這個欄位如果勾選之後，系統所掛載的NFS路徑將會是以存在的名稱。另外，勾選之後，若是將來使用這個CSI所建立的volume被刪除，則實體路徑資料仍然會保留著。若是沒有勾選，當volume使用這個CSI時，實體路徑名稱會隨機產生，volume刪除後，資料也會被刪除，要注意喔。
:::

StorageClass的Mount Options可填寫
- hard
- nfsvers=4.1

:::info
溫馨提示二：
***Using existing NFS data for volume create***(使用已存在的NFS資料建立儲存卷)，這個欄位如果勾選之後，後續Volume建立時，只會被一個volume所使用，是無法重複使用的喔。
:::

*Volumes*

建立volume時，除了可以選擇『看得到的儲存空間類別(StorageClass)』之外，還可以設定，使用該類別的路徑後，加上子路徑，路徑名稱可以有多種設定喔。



:::info
溫馨提示：
在新增volume的第三步驟『儲存卷 設定』的地方，除了存取權限、容量之外，還可以依設定來決定這個volume掛載到容器後，出現在容器作業系統內的路徑名稱喔。

還有還有，如果『預設 儲存卷』有打勾的話，之後當你在建立container service或是container job時，UI都會幫你預設掛載好這個volume。當然，在UI你還是可以選擇把預設掛載好的volume項目刪除，之後容器建立也就不會出現了。
:::

儲存空間使用規則：

1. 系統管理員所建立的『預設 儲存卷』是所有專案、所有人都會預設掛載的，使用者在建立container service或是container job時，在UI都會看得到，當然也可以選擇刪除該項目。

2. 專案管理員所建立的『預設 儲存卷』是專案內，所有人都會預設掛載的，使用者在建立container service或是container job時，在UI都會看得到，當然也可以選擇刪除該項目。(在建立volume時，選擇勾選project volume選項)

3. 使用者所建立的『預設 儲存卷』是自己所有的專案都會預設掛載的，使用者在建立container service或是container job時，在UI都會看得到，當然也可以選擇刪除該項目。(在建立volume時，選擇勾選default volume選項)

---

## 貳、專案管理員與專案成員

在進入正式介紹前，我先來說明一下這個版本的新功能，**Secret**。

### Secret

:::warning
Secrets 協助開發者將一些敏感資訊，像是資料庫帳密、訪問其他台 server 的 Access Token 、SSH Key，用 非明碼的方式(opaque) 存放在 Kubernetes 中。

secret的權限僅止於個人範圍，因此，每個人(包括管理員)都只能看見和使用自己建立的secret。
:::

接下來我們先看看效果。

首先，我先用非系統管理員的身份登入系統。

左邊功能列表裡，在COMPUTE RESOURCE裡面，可以看到Secrets功能。(這邊要注意一下，不同的專案project裡面的Secret是分開的)


接下來我們建立一個Secret看看。


首先我們會看到第一步，除了輸入secret名稱之外，還要選擇secret type。

這邊有四個secret type可以選擇。不同的type，會影響下一步驟時的UI畫面。


secret在kubernetes官方有數種方式可以提供給容器使用，在我們的功能裡，主要是透過volume方式掛載，所以在建立container service或是job時，可以在Secret Volume Setting新增已經建立好的secret來使用。(Mount Directory路徑是容器運作之後，secret存放的路徑)



另外，Docker Registry類型的secret，是在建立container job時，選擇Other Registry時，可以選用的。


好了，前情提要說完，接下來我們就進入到使用者的世界。

---

:::success
專案角色分為兩種：專案成員與專案管理員

專案成員是GMC所管理的平台的『資源消費者』。建立container service或者container job都會使用到資源。專案成員只能看見自己在專案內的使用狀況。

專案管理員是GMC所管理的平台的『資源消費者』也是『資源使用的監控管理者』。任何人在專案內的使用狀況，專案管理員都能完全掌握。

:::

### Project

首先是**Overview**功能。

在這次的改版中，有新增了計費/錢包的新功能。如果畫面上的專案有啟動錢包功能，在Overview的資訊就會自動呈現該專案目前錢包剩餘的金額。


另外在錢包的下方，我們可以看到Monitoring的連結，點開來之後，系統會自動開啟另一個監控網站Grafana瀏覽器。系統也會自動以您的身份登入（包含專案）。

如果您要切換專案，可以在左下角的地方按下switch去選擇。


選定好專案之後，在左側的功能表選擇Dashboard->Manage功能。


接下來在選擇到系統已預先為您設計好的Dashboard即可看到該專案所有容器的運作狀況了。



Overview下方則會顯示目前正在運作的container service或是container job所佔用的資源，以及他們建立後的狀態總覽。


除了專案的Overview功能之外，專案可以使用的Solution(解決方案)和專案當前的資源使用量也是可以快速瀏覽的。



:::info
**資源使用量**有個要注意的地方，專案成員與專案管理員因為權限不同，所以可以看到專案內資源的範圍也不一樣。專案管理員是可以看到整個專案內的資源使用量，而專案成員只會看到自己在專案內的使用量。
:::


**Project User**

這個是專案管理員才可以使用的功能，清單內會列出所以該專案的成員。專案管理員可將使用者透過動作(Action)功能來切換使用者身份(Change Role)。


另外，專案管理員也可以透過自助服務(Self-Service)功能，來設定專案成員是否被允許自助服務，若不允許，則專案成員建立的資源送出後，都需要專案管理員來審核。

**Request**

專案服務申請，這個是專案管理員才可以使用的功能，當沒有自助服務權限的專案成員建立的資源送出後，都需要專案管理員來審核。


**Solutions**

解決方案功能會列出該專案所有可用的工具，以便在建立容器服務時使用。


**Resource Usage**

資源使用量的功能，會依據當前的專案角色(管理員或者成員)列出目前專案內所有已建立的資源，容器所運行的節點名稱(Node Name)也會呈現出來。


---

接下來要正式介紹對使用者來說最重要的功能，**計算**。

### Compute/計算

在我們的資源使用情境上，主要分為Container Service與Container Job，兩大種類。

雖然都是容器，但是在資源的消耗上卻不太一樣。

通常來說，我會以下面的描述來區分：

:::warning
Container Service = 常駐型容器
Container Job = 任務型容器
:::

常駐型容器，顧名思義，就是當你建立完畢之後，只要沒有被刪除，這個容器就會一直佔用資源，無論容器內是否有任何工作在運行。

任務型容器，概念就像是執行了一個命令(類似Linux command)，命令結束後，容器自動會被關閉，這時就不會再佔用資源了。

---

那我們就先來看看**Container Service**如何建立與使用吧。

首先先進入Container Service功能裡面，


接下來點選左上方的『建立容器服務』。

這時候會出現這個專案可以使用的Solution(解決方案)，你可以選擇任何一個你想建立的環境。這邊我已建立一個Tensorflow(JupyterLab)環境為例。


每一個Solution都會有建立時，需要填寫資料的不同，如果不確定該如何填寫，可以洽詢您的系統管理員。

第一步是為您的環境取名，(可用default產生的即可)


第二步通常是選擇容器映像檔，以及容器建立所需的資源規格，一般來說，Solution的作者會設計好。範例中，還有個password欄位，這裡指的是容器建立之後，Jupyter網頁需要輸入密碼才能登入，password就是將自己指定的密碼設定為登入密碼之用。

:::info
如果有環境變數想要帶入容器裡，在這個步驟可以新增喔。
:::


第三步，這裡就會指定容器加掛儲存空間的地方了。在這裡，我們會看到所有系統管理員或是專案管理員為我們建立好的default volume項目，如果要修改容器內的掛載目錄，這邊可以修改，或者要捨棄刪除都可以。

另外，也可以從『+新增更多』來選擇掛載其他已經設定好的volume。

:::info
還有，前面提到的secret也是在這個地方加入的喔。
:::


最後，如果還有其他需要填入的資訊就繼續完成它吧。


:::warning
填入的欄位如果有 * 號，代表該欄位是必填屬性，就一定要填寫。
:::

最後按下Submit按鈕，就正式建立Container Service囉。


這時候我們的清單就會出現剛剛建立的環境。依據Solution的設計，不同Solution所建立的環境可能會提供不同的用途。以Tensorflow為例，我們設計是希望使用者建立之後，可以提供使用者開啟JupyterLab Web，所以在清單的地方，我們會看到進入點這個URL，點開就會另開視窗載入JupyterLab Web喔。

如果要查看更多詳細資訊，可以點擊名稱欄位。


:::info
如果要變更名稱，或者是快速複製相同的資源，清單右側的圖示可以點擊展開。
:::

---

介紹完了Container Service(常駐型容器)之後，接下來我們要介紹另一個**計算**的好幫手：**Container Job**(任務型容器)。

我們從畫面中可以看到，Container Job相關的功能還有四種：


讓我先來說說這四種功能彼此的關係：

1. 工作(Job)
2. 管線(Pipeline)
3. 範本(Template)
4. 排程器(Scheduler)

**工作**，簡單來說就是一個任務型的容器，執行結束容器就關閉。

**管線**，就是定義好幾個工作，可以有同時進行或是先後執行的控制步驟。（但是最終還是會變成工作的容器來運行。

**範本**，他只是『定義』，可以用工作(Job)來轉成範本，或者用管線(Pipeline)來轉成範本。和工作，管線不同的地方是，範本一開始建立好，並不會有任何工作或管線馬上執行。可以手動立即執行範本，或者透過排程器來定時執行。

**排程器**，用來幫助範本，以時間、次數等方式，自動的執行範本。

**Job/工作**

首先我們先建立一個工作。

為我們的工作(Job)來制定名稱、容器映像檔、容器運作資源規格，以及工作的命令內容(command)。


第二步同樣是可以設定掛載的volume或是secret。


第三步，因為工作的執行數量可能會隨時間越來越多，我們可以在這個步驟幫工作設定將來的搜尋標籤，或者將環境變數帶入到工作容器內使用。


最後送出後，就能看到工作執行了。


執行過後的Job可以透過日誌功能來查看紀錄。


執行過後的Job也可以重新再執行、或是快速複製內容建立新的Job，也可以儲存成樣板(Template)後續搭配排程器(Scheduler)就可以設定定時執行囉。


---

接下來我們就來實作一個**管線(Pipeline)**，來達到多步驟階段工作的設計。

**Pipeline/管線**

首先，假設我們的工作流程是a)下載資料，b)整理資料，c)產出結果

現在我們就來建立Pipeline完成這個工作流程吧。

先到容器工作的管線裡面，點擊建立管線按鈕，然後設定管線名稱。



接下來，管線設定就是設計工作流程(多個job)的地方。這裡有『+新階段』，依據我們假設的流程，會有三個工作階段。工作階段是有順序性的。

將滑鼠游標移到『+新階段』的地方，點擊一下，輸入工作階段的名稱，將每個階段名稱先定義好。


這時候我們會看到在每個已經新增出來的工作階段裡，都有『+新工作』的按鈕，這裡就是定義在工作階段裡的『Job工作』。這個工作跟我們上面介紹的Job工作是一樣的。


把每個工作階段裡面的工作都建立好之後，就會像這樣。


:::info
溫馨提醒：
當Pipeline執行時，同一個工作階段裡面的Job工作，是同時進行的，不會互相影響。
但是不同階段，由於有先後順序，所以當前一階段若是有工作未完成，或是失敗，新工作階段就會終止，整體任務將宣告失敗。
:::

最後我們可以定義好管線的詳細描述，以及定義標籤，將來搜尋時可以依據標籤搜尋喔。


送出後，管線會自動執行。下圖階段的三個圈圈代表了該管線設計了三個階段。


這時候我們可以到工作(Job)功能，會發現第一階段了兩個工作已經同時進行。


第一階段的工作完成後，會自動進行第二階段的工作。


因為我們故意設計了第二階段其中一個工作會失敗，所以整個管線工作最後就會以失敗停止。



以上是建立新的管線步驟，如果該管線想要快速複製修改，或者再次執行，可以透過動作功能(Action)來執行。也可以將管線另存成範本(Template)之後便可設定排程器來定時執行範本了。


**Template/範本**

範本的建立可以從幾個方式而來：

1) Job(Action) 另存範本
2) Pipeline(Action) 另存範本
3) 建立範本

稍早的Job/Pipeline已經提過如何將已建立好的Job/Pipeline另存範本了，現在說明一下建立範本應該如何進行。


我們可以看到在範本功能裡面已經有建立範本的按鈕，按下之後，內容是非常像管線(Pipeline)的設定內容，基本上預設是以管線多個工作階段為設計方式，其實新增完畢後，除了新增了範本之外，仍然會有管線(Pipeline)被新增出來。


當範本建立後，可以透過動作(Action)來執行一次。這裡我們會看到有兩種執行範本的動作：立即執行管線和執行管線。

還記得我們上一部建立範本時，內容也需要設定預設管線名稱嗎，如果我們選擇『立即執行管線』，則系統會以預設管線名稱執行範本。如果選擇『執行管線』，這時候我們可以為這次的執行重新命名其他的管線名稱。



**Scheduler/排程器**

最後，我們可以幫範本設定一個定時排程器自動執行，這樣在一些需要經常性定期執行的任務上將會很有幫助。



:::info
透過排程器執行的範本還可以定義管線名稱喔。
:::