# 大型語言模型實作讀書會
## 【主辦單位】台灣人工智慧協會進修交流委員會, H.I.T. 生醫創新實作社群
## 讀書會簡介
本讀書會旨在讓學員了解大型語言模型的基礎知識和原理，並培養學員運用大型語言模型進行實作的能力。讀書會將涵蓋大型語言模型的概念、特點、訓練、應用等方面，並提供實作案例和教學資源。
讀書會適合具備任何以下條件( Python 程式能力、專案管理，領域專家)。

讀書會將採分組討論和報告的方式進行。學員將分組選定主題進行研究，並在線上會議上分享成果。

結語

本讀書會將為學員提供一個學習大型語言模型實作技能的機會，並幫助學員提升在該領域的專業能力
## 讀書會目標
讓學員了解大型語言模型的基礎知識和原理
培養學員運用大型語言模型進行實作的能力
提升學員在大型語言模型應用領域的專業能力
培訓學員可能成為大型語言模型講師

## 準備事項
申請google 及chatgpt帳號,open ai api 儲值5美金以上
於課前將主辦單位精選的教學影片看完及研讀範例程式

## 運作方式:
### 分組討論:
分組選定主題(3-5個人),排定報告日期,搜集資料(相關paper,github,youtube影片,專案或應用),及分組報告,線上會議形式分享並由參與者給與報告者意見回饋
### 專題實作:
認領或自行提出相關LLM專題,每週review 進度,期末競賽並安排發表
### 講師認證:
製作教材並通過試講後取得認證
## 適合對象:
對大型語言模型實作有經驗或興趣者。
可以於課前將主辦單位精選的教學影片看完及研讀範例程式
## 完課證明：
80%出席並完成專題實作，台灣人工智慧協會進修交流委員會將發給證明您完成課程與專題實作的實質成就。
## 講師授課證明：
準備教材，通過試講，獲得台灣人工智慧協會進修交流委員會 LLM 講師授課證明，未來也有機會獲得講師認證。
## 參與條件：
對大型語言模型充滿興趣，並渴望在 AI 領域不斷進步。
名額有限50名，經審核通過就歡迎加入我們的學習行列！
## 報名方式:
請填下以下報名表,依所填資料書審通知 不另面試
112/12/10　報名截止
112/12/17　分組完成
[報名表](https://forms.gle/5Xup33MPEvAFR5rV7)
## 時間時段 : 每周二 21:00-23:00
## 課程日期 : 2023 年 12月19日 - 2024年 2 月 20日
## 專案競賽階段 : 2024 年 2 月 27 日 - 2024年 3 月 19 日
在最後一個階段，準備好迎接一個刺激的、為期一個月的團隊專案實施之旅。你將與其他團隊一較高下，展示在大型語言模型的技能和創造力。每個團隊將呈現他們的專案，由一個優秀的評審團進行評估並提供反饋。最傑出的團隊將獲得獎項和認可，以慶祝他們在這個令人興奮的大型語言模型實作探索之旅中的成就。
## 成果發表日： 2024 年 3 月 26 日
在Demo Day 上，展現您的學習成果。
## 讀書會大綱
0.12/19
讀書會運作說明及目的
說明讀書會的目標、流程、以及適合對象 Q&A
分組介紹說明
1.12/26 [快速了解大型語言模型](https://youtu.be/wG8-IUtqu-s?si=PE3Uhk96y6EOpgow)
[Intro to Large Language Models](https://www.youtube.com/watch?v=zjkBMFhNj_g)
認識大型語言模型的概念和特點
了解大型語言模型的訓練和應用
相關論文或專案研討
2.01/02 [ChatGPT Prompt Engineering for Developers](https://learn.deeplearning.ai/chatgpt-prompt-eng/lesson/1/introduction)
學習如何使用ChatGPT的Prompt Engineering技術
提升ChatGPT的創意和生成能力
相關論文或專案研討
3.01/09 [Building Systems with the ChatGPT API](https://learn.deeplearning.ai/chatgpt-building-system/lesson/1/introduction)
學習如何使用ChatGPT API進行開發
使用大型語言模型高效建構多步驟系統。
學習使用多階段提示將複雜任務拆分為一系列子任務。
評估您的 LLM 輸入和輸出的安全性、準確性和相關性。
相關論文或專案研討
4. 01/16 [LangChain for LLM Application Development](https://learn.deeplearning.ai/langchain/lesson/1/introduction)
構建ChatGPT應用系統
直接向框架創建者 Harrison Chase 學習 LangChain
將法學碩士應用於專有數據以建立個人助理和專業聊天機器人
使用代理、鍊式呼叫和記憶體來擴展您對 LLM 的使用
相關論文或專案研討
5.01/23 [LangChain: Chat with Your Data](https://learn.deeplearning.ai/langchain-chat-with-your-data/lesson/1/introduction)
學習使用LangChain框架進行大型語言模型應用開發
向 LangChain 創辦人 Harrison Chase 學習
在LangChain中使用80多個載入器來處理不同的資料來源
創建一個聊天機器人來與您自己的文件和數據進行交互
相關論文或專案研討
6.01/30 [Building Generative AI Applications with Gradio](https://learn.deeplearning.ai/huggingface-gradio/lesson/1/introduction)
學習使用Gradio工具構建生成式AI應用
快速開發 ML 應用程式
建立圖像生成、字幕和文字摘要應用程式
在 Hugging Face Spaces 上與隊友和 Beta 測試人員分享您的應用
相關論文或專案研討
7.02/06 [Quality and Safety for LLM Applications](https://learn.deeplearning.ai/quality-safety-llm-applications)
使用 SelfCheckGPT 等方法辨識幻覺
使用情緒分析和隱式毒性檢測模型檢測越獄（嘗試操縱 LLM 反應的提示）。
使用實體識別和向量相似性分析來識別資料外洩。
建立您自己的監控系統來評估應用程式的安全性和安全性
相關論文或專案研討
8.02/20 [Finetuning Large Language Models](https://learn.deeplearning.ai/finetuning-large-language-models/)
掌握 LLM 微調基礎知識
區分微調和即時工程，並知道何時使用兩者
獲得專案真實資料集的實務經驗
相關論文或專案研討
## 案例
1.[用少量資料建立客服機器人 ](https://github.com/seiching/gradioGPT)
2.[建立自己的chatgpt portal ](https://github.com/Yidadaa/ChatGPT-Next-Web)
3.[自己大量資料建立QA系統](https://github.com/hwchase17/chat-your-data)

參考資料
1.[deep ai](https://www.deeplearning.ai/short-courses/)
2.[李宏毅生成式AI](https://www.youtube.com/playlist?list=PLJV_el3uVTsOePyfmkfivYZ7Rqr2nMk3W)
3.[code_your_own_AI](https://www.youtube.com/watch?v=cs1TDTOby58&list=PLgy71-0-2-F3gD9gHydQENMWduSpVzpZB)
4.[Information Extraction with LangChain & Kor](https://www.youtube.com/watch?v=SW1ZdqH0rRQ)

1.[ 快速了解大型語言模型]( https://youtu.be/wG8-IUtqu-s?si=PE3Uhk96y6EOpgow)
2. [ChatGPT Prompt Engineering for Developers](https://www.deeplearning.ai/short-courses/chatgpt-prompt-engineering-for-developers/)
3.[ Building Systems with the ChatGPT API](https://www.deeplearning.ai/short-courses/building-systems-with-chatgpt/)
4. [LangChain for LLM Application Development](https://www.deeplearning.ai/short-courses/langchain-for-llm-application-development/)
5. [LangChain: Chat with Your Data](https://www.deeplearning.ai/short-courses/langchain-chat-with-your-data/)
6. [Building Generative AI Applications with Gradio](https://www.deeplearning.ai/short-courses/building-generative-ai-applications-with-gradio/)
7. [Quality and Safety for LLM Applications](https://www.deeplearning.ai/short-courses/quality-safety-llm-applications/)
8. [Finetuning Large Language Models](https://www.deeplearning.ai/short-courses/finetuning-large-language-models/)

[腦中風客服機器人](https://youtu.be/sYLx200WpiA)