# 大型語言模型LLMs課程教學 課程大綱 (四)

## [初階] 建立基於RAG方案的專屬私有知識庫教學

## :memo: Where do I start?
- 聯絡窗口 Email us : [e-mail] 王小姐

### 課程說明
- 上課時間: 2024 3/11 星期一 9:00-10:30
- 上課方式: 視訊課程 (請參考信件說明)
- 基本能力: 皆可
- 環境需求: Windows或Mac或Linux作業系統環境皆可

### 課程內容:
- 本堂課為示範教學為主, 下課後若學員有興趣, 會保留時間讓學員實地操作, 課程說明如下 (部分教學文件稍後補上)
- 預計課程學員學會的內容
- 範例影片: [YOUTUBE](https://youtu.be/pOLx6oiwY3s) 台灣杉三號生醫AI問答服務
- 範例影片: [YOUTUBE](https://youtu.be/8mjGT1agmlU) 醫學百科RAG增強索引生成範例

### :A: 簡報檔案:

- [[2024/04/01 初階課程 PDF]](https://drive.google.com/file/d/10r3wbMMi1ctPtHg88AdWB3V9UM_e8s6D/view?usp=sharing)
- [[初階課程 PDF]](https://drive.google.com/file/d/1RTFDjL-S96p4Km55UaJW_KgYQsPNxkiC/view?usp=sharing)
### :B: 教學文件
- [初階課程] [建立基於RAG方案的專屬私有知識庫教學](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/ryqUCfu6T)
- [中階課程] [基於RAG方案的專屬私有知識庫服務網站建置](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/Bk3TbayAp)
- [高階課程] [如何於國網台灣杉二號使用多顆GPU微調語言模型](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/SklMGVOaT)

## 使用自己電腦營運模型, 進行模型對談與RAG模式查詢
### A. 如何在自己電腦執行本地端大型語言模型 (Local LLMs)
- 利用 LMStudio 執行本地本地端大型語言模型(LLMS)
- 教學文件: [HACKMD](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/HyPYe9Op6)
- 教學影片: [YOUTUBE](https://youtu.be/2BUIhzjvKFk)
- 適用平台: Windows, macOS
- 軟體下載: https://lmstudio.ai/

### B. 如何在自己電腦對外提供大型語言模型服務 (Local API)
- 利用 LMStudio 對外提供語言模型 API 服務
- 教學文件: [HACKMD](https://hackmd.io/wDeqCis6TPaPPKUv5FrF1Q?view#LM-STUDIO-API)
- 教學影片: [YOUTUBE](https://youtu.be/pA-NTJZ02mw)

### C. 如何在自己電腦運用上述(A,B)方案, 執行基於RAG方案的專屬私有知識庫
- AnythingLLM LocalUI 安裝介紹
- 教學文件: [HACKMD](https://hackmd.io/SJZH9TYpa)
- 教學影片: [YOUTUBE](https://youtu.be/Amd1YUrMbWo)
- 適用平台: Windows, macOS
- 軟體下載: https://useanything.com/
- 介接外部 API 執行語言模型對話
- 教學文件: [HACKMD](https://hackmd.io/HkCg7RcTp)
- 教學影片: [YOUTUBE](https://youtu.be/XgqDRI9F6bo)
- 執行基於RAG方案的專屬私有知識庫對話
- 教學文件: [HACKMD](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/SJZH9TYpa#%E5%B0%8D%E8%A9%B1%E5%8D%80%E5%A1%8A%E8%A8%AD%E5%AE%9A-Workspaces1)
- 教學影片: [YOUTUBE](https://youtu.be/W-ouFldxBGo)

### D. 補充介紹: 如何在註冊OPENAI API
- [教學文件](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/r1g6_ftP6)