---
# System prepended metadata

title: 大型語言模型實作讀書會第五組

---

# 大型語言模型實作讀書會第五組
##### 報告主題:[LangChain: Chat with Your Data](https://learn.deeplearning.ai/langchain-chat-with-your-data/lesson/1/introduction)
#### 報告日期 113/1/16, PM: _______, 組長: Wayne瑋恩



---

## 學習歷程 (第五組 Go go go!)

#### 第一週主題
- 認識大型語言模型的概念和特點
- 了解大型語言模型的訓練和應用

---


### 每週課程問題的收集與整理

**第一週(12/26)問題收集 (Wayne):** 

* 補充資料：

    1. [Prompt Engineering Guides](https://learnprompting.org/docs/intro)
    2. "Prompt Injection" - :D
    3. Use case - ChatGPT for debugging
    4. Prompt Engineering Guides
        a. give time to think step by step 
        b. chain of thought
        c. give examples
        d. give few shots 
        e. role play
    5. 寫之前先把問題們敘述完, 在開始回答
    6. Multi Model Alignment (圖片、語音、文字的整體整合)
    7. https://www.youtube.com/watch?v=pRTUVqgAYwY (provided by CS.Lee)
    8. Langchain - Open Source Project 
        a. 框架 (Langflow, Flowise) - 圖形化介面可以Embed :D 
    9. Langchain 
        a. Chunking - embed to Vector Store
        b. Fine Tune -> Openai 一次大概 200 美金左右 base on number of data


* 問題：

    1. 想要怎麼做成 API, (公司想要發文等等的使用場景) - by C
    2. 如何下好的prompt
    3. 因為有使用過PDF論文, ML paper reader? 有沒有人用過效果如何
    4. 申請 chatgpt, 付款 API 會用在哪裡?
    5. Fine Tune 實作, Dalle, Midjourney
    6. 商用上用在行銷上？
    7. 在商用上若為了想避免 LLM 回應不合適的回答，或是政治使用上回應不合適的回答，那開發者該如何評估 LLM 會傳出不合適回答的風險？
    8. LLM 通常為了讓它思考，會讓它慢慢的回答，以及回答的非常詳細，那對於比較緊急的場景（例如：醫院的急診科醫師診斷的判斷、救護人員救護過程對病患的了解）是否適合使用 LLM 慢慢確認分析的結果？
    9. Security Issue 身為使用者 or 應用程式開發者?
    

**第二週(12/26)問題收集 (CS.Lee):**

### **問題:**
1. 想知道如何在課程Jupyter環境外，打造可以獨立運行的ChatBot?
2. How to write a good promte so as to the GPT will follow our instructions? For example, HTML format as output.
3. 如何判斷(客觀評估) 答案是否正確?
4. 如何判定情感，如Positive 與Negative? 使用單字? 或是提供足夠的資料? 
5. Deeplearning Chatboot 是否有連接Webhook?如何串接到LINE, WeChat?
6. Temperature 設定: 可以在 0~1 的設定，GPT 是如何設定與相關影響評估。 



### 補充資料:
* 可以參考旗標出版社""ChatGPT 4 萬用手冊""  https://www.flag.com.tw/books/product/F3164"
* Microsoft Azure OpenAI Studio 
* Microsoft Power Virtual Agent (now is Copilot Studio )
* Reinforced Self-Training (ReST) for Language Modeling https://www.youtube.com/watch?v=Knuyalci7GY
* Reinformcement learning 智能科學 
https://www.youtube.com/@intelligencescience8664
* Iterative Prompt Development 
![Iterative Prompt Development](https://hackmd.io/_uploads/rJGIKHe_6.png)


**第三週(01/09)問題收集 ():**

### 會議內容

* 討論第五週報告分工
* chatgpt串open resource當作第五週Presentation展示
* 增加下週一次多一次專題討論時間，組長在line群組公告

### 討論問題: 
* Moderation: 未來是否可以透過圖片直接做調整，判定及分類。
* 這兩週課程學員發現程式碼比較長技術要求比較高，學員們想了解如何精進自己下prompts技巧。
* Messages, system, user 定義跟langchain會有不同後續如學習到langchain要在注意這部分。
* system to sytem 如何串接前台展示及如部屬雲端方法。
* ChatGPT是否不只是文字接龍，是如何做到正負評論或分類判斷?

### 補充資料:

* https://www.youtube.com/watch?v=m7dUFlX-yQI

*https://medium.com/@cteam.ai/%E5%A6%82%E4%BD%95%E5%B9%AB%E4%BD%A0%E7%9A%84-gpts-%E6%AD%A6%E8%A3%9D-actions-%E9%9B%B7%E7%A5%9E%E4%B9%8B%E9%8E%9A-no-code-269c5c03c19f
 
* https://medium.com/@cteam.ai/ai-%E5%A4%A7%E7%A5%9E%E6%B1%82%E8%A7%A3%E7%B1%A4-gpts%E8%88%87-actions-no-code-%E4%B8%B2%E6%8E%A5%E5%A4%96%E9%83%A8api-%E5%AF%A6%E4%BD%9C%E5%88%86%E4%BA%AB-bf7e5cbea2d5

*https://superiorapis.cteam.com.tw/interface/5519f613effa
https://drive.google.com/drive/folders/19H1desLsXJXjpk3ZrGiWPqguNr0Rr6RV --> DeepLearning AI course prompting souces code. 





**第四週(01/16)問題收集 ():**


**第五週(01/23)問題收集 ():**

**第六週(01/30)問題收集 ():** 

**第七週(02/06)問題收集 ():**

**第八週(02/13)問題收集 ():**


---

#### 待定區域(持續更新區域)

- 每週Zoom 會議時間 (約20分鐘)
    - Objectives: 
        - 腦力激盪出火花
        - 透過互助夥伴們達到學習的高效率
        - 找到潛在夥伴創業？ 
    - Agenda
        - 組長Que每個人分享這週大家學習的狀態
        - ___做總結

- 實體聚會 :D?

---

### 不錯的 References
Prompt Engineering Guides 提示工程資源提供給大家
- https://learnprompting.org/docs/intro
- https://www.promptingguide.ai/zh
- https://cookbook.langchain.com.cn/docs/langchain-prompt-templates/