快速生成 MLOps 基礎程式碼架構：使用 ChatGPT - 劉育維

歡迎來到 PyCon TW 2023 共筆

共筆入口：https://hackmd.io/@pycontw/2023
手機版請點選上方 按鈕展開議程列表。
Welcome to PyCon TW 2023 Collaborative Writing
Collaborative Writing Workplace：https://hackmd.io/@pycontw/2023
Using mobile please tap to unfold the agenda.

Collaborative writing start from below
從這裡開始共筆

---

(以下內容由作者先行提供)

Gamma Slide: Shared Link

1. Warning
   -> 因為 LLM 和 ChatGPT 隨時在更新，請務必以最新科技資訊為主。

2. 今日主題：快速生成 MLOps 基礎程式碼架構：使用 ChatGPT
   -> 會先以 MLOps 和 ChatGPT 來做介紹

3. The Level of LLM Model
   Level 1: Web UI Application
   Level 2: API Service
   Level 3: Open-Source LLM Model
   Level 4: Custom LLM Model

4. ChatGPT: OpenAI 公司的 LLM 服務，不知道的趕快去玩
   -> ChatGPT Link: Link

5. 常見的製作AI問題：
   (1) 團隊溝通與建置速度: 製作模型需要跨知識、跨領域、跨部門溝通，需要共同環境來打造高效率團隊
   (2) 模型與專案倍增: AI 專案數量與 AI 模型數量都以倍數增加
   對於專案管理及系統資源的挑戰
   (3) 部署與營運問題: 如何將模型成為一個服務、模型部署成服務後的營運方法、是否能夠減少模型訓練至部署的人工作業

6. MLOps 介紹：
   (1) 三大重點: 標準化、流程化、自動化
   (2) 三大元素: 資料、模型、程式碼
   (3) 三大重點: 管理、流程和維護方法建立
   (4) 四大流程: 資料整理、模型訓練、模型部署、監控與維護模型

7. ChatGPT + MLOps:
   (1) 流程建置更容易
   (2) 不懂的先問他，他會告訴你一些好流程和做法

8. Demo Showcase

9. ChatGPT + MLOps 好處:
   (1) 節省時間
   (2) 減少錯誤
   (3) 人機協作
   (4) Scalability

10. 結論：ChatGPT + MLOps 帶來許多好處，節省時間、增加效率、人機協作、減省工程師負擔等

11. 你可以帶回去做的事情
    (1) 重整公司ML做法，導入MLOps
    (2) 嘗試導入OpenAI、ChatGPT，甚至是Local LLM，來幫助增加效率
    (3) 嘗試使用雲端服務與開源軟題工具來幫助製作模型能夠事半功倍

12. 投影片製作方式：Gamma
    -> Gamma邀請碼：https://gamma.app/signup?r=wv8kr34wimgb3je

---

Below is the part that speaker updated the talk/tutorial after speech
講者於演講後有更新或勘誤投影片的部份