工具

• postman

步驟

1. 點 API Network
2. 選用post
3. ip為

http://10.16.30.9:5000/generate

4. 點Body,選raw (通常input為空) payload:

{
    "instruction": "你的問題",
    "input": "" 
}

5. 按send送出
   

細節

• 有時候payload太長會報錯,是因為cuda memory不足
• 所以要簡短一點
• 不然就是碰碰運氣
  
  
  成功就長這樣
  但他跑了4分鐘= =

結論

要用可以,但可以先問chatgpt
不然就是等待地獄