Try   HackMD

大型語言模型LLMs課程教學 課程大綱 (四)

[初階] 建立基於RAG方案的專屬私有知識庫教學

Image Not Showing Possible Reasons
  • The image file may be corrupted
  • The server hosting the image is unavailable
  • The image path is incorrect
  • The image format is not supported
Learn More →
Where do I start?

課程說明

  • 上課時間: 2024 3/11 星期一 9:00-10:30
  • 上課方式: 視訊課程 (請參考信件說明)
  • 基本能力: 皆可
  • 環境需求: Windows或Mac或Linux作業系統環境皆可

課程內容:

  • 本堂課為示範教學為主, 下課後若學員有興趣, 會保留時間讓學員實地操作, 課程說明如下 (部分教學文件稍後補上)
  • 預計課程學員學會的內容
  • 範例影片: YOUTUBE 台灣杉三號生醫AI問答服務
  • 範例影片: YOUTUBE 醫學百科RAG增強索引生成範例

:A: 簡報檔案:

:B: 教學文件

使用自己電腦營運模型, 進行模型對談與RAG模式查詢

A. 如何在自己電腦執行本地端大型語言模型 (Local LLMs)

  • 利用 LMStudio 執行本地本地端大型語言模型(LLMS)

B. 如何在自己電腦對外提供大型語言模型服務 (Local API)

  • 利用 LMStudio 對外提供語言模型 API 服務

C. 如何在自己電腦運用上述(A,B)方案, 執行基於RAG方案的專屬私有知識庫

  • AnythingLLM LocalUI 安裝介紹
  • 介接外部 API 執行語言模型對話
  • 執行基於RAG方案的專屬私有知識庫對話

D. 補充介紹: 如何在註冊OPENAI API

Last changed by 
 
c00cjz00
0
19
14479
Published on HackMD