# 大型語言模型LLMs課程教學 課程大綱 (四) ## [初階] 建立基於RAG方案的專屬私有知識庫教學 ## :memo: Where do I start? - 聯絡窗口 Email us : 2303117@narlabs.org.tw 王小姐 ### 課程說明 - 上課時間: 2024 3/11 星期一 9:00-10:30 - 上課方式: 視訊課程 (請參考信件說明) - 基本能力: 皆可 - 環境需求: Windows或Mac或Linux作業系統環境皆可 ### 課程內容: - 本堂課為示範教學為主, 下課後若學員有興趣, 會保留時間讓學員實地操作, 課程說明如下 (部分教學文件稍後補上) - 預計課程學員學會的內容 - 範例影片: [YOUTUBE](https://youtu.be/pOLx6oiwY3s) 台灣杉三號生醫AI問答服務 - 範例影片: [YOUTUBE](https://youtu.be/8mjGT1agmlU) 醫學百科RAG增強索引生成範例 ### :A: 簡報檔案: - [[2024/04/01 初階課程 PDF]](https://drive.google.com/file/d/10r3wbMMi1ctPtHg88AdWB3V9UM_e8s6D/view?usp=sharing) - [[初階課程 PDF]](https://drive.google.com/file/d/1RTFDjL-S96p4Km55UaJW_KgYQsPNxkiC/view?usp=sharing) ### :B: 教學文件 - [初階課程] [建立基於RAG方案的專屬私有知識庫教學](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/ryqUCfu6T) - [中階課程] [基於RAG方案的專屬私有知識庫服務網站建置](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/Bk3TbayAp) - [高階課程] [如何於國網台灣杉二號使用多顆GPU微調語言模型](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/SklMGVOaT) ## 使用自己電腦營運模型, 進行模型對談與RAG模式查詢 ### A. 如何在自己電腦執行本地端大型語言模型 (Local LLMs) - 利用 LMStudio 執行本地本地端大型語言模型(LLMS) - 教學文件: [HACKMD](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/HyPYe9Op6) - 教學影片: [YOUTUBE](https://youtu.be/2BUIhzjvKFk) - 適用平台: Windows, macOS - 軟體下載: https://lmstudio.ai/ ### B. 如何在自己電腦對外提供大型語言模型服務 (Local API) - 利用 LMStudio 對外提供語言模型 API 服務 - 教學文件: [HACKMD](https://hackmd.io/wDeqCis6TPaPPKUv5FrF1Q?view#LM-STUDIO-API) - 教學影片: [YOUTUBE](https://youtu.be/pA-NTJZ02mw) ### C. 如何在自己電腦運用上述(A,B)方案, 執行基於RAG方案的專屬私有知識庫 - AnythingLLM LocalUI 安裝介紹 - 教學文件: [HACKMD](https://hackmd.io/SJZH9TYpa) - 教學影片: [YOUTUBE](https://youtu.be/Amd1YUrMbWo) - 適用平台: Windows, macOS - 軟體下載: https://useanything.com/ - 介接外部 API 執行語言模型對話 - 教學文件: [HACKMD](https://hackmd.io/HkCg7RcTp) - 教學影片: [YOUTUBE](https://youtu.be/XgqDRI9F6bo) - 執行基於RAG方案的專屬私有知識庫對話 - 教學文件: [HACKMD](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/SJZH9TYpa#%E5%B0%8D%E8%A9%B1%E5%8D%80%E5%A1%8A%E8%A8%AD%E5%AE%9A-Workspaces1) - 教學影片: [YOUTUBE](https://youtu.be/W-ouFldxBGo) ### D. 補充介紹: 如何在註冊OPENAI API - [教學文件](https://hackmd.io/@whYPD8MBSHWRZV6y-ymFwQ/r1g6_ftP6)