## 工具 * postman ## 步驟 1. 點 API Network 2. 選用post 3. ip為 ``` http://10.16.30.9:5000/generate ``` 4. 點Body,選raw (通常input為空) payload: ```json { "instruction": "你的問題", "input": "" } ``` 5. 按send送出 ![image](https://hackmd.io/_uploads/SkcoD0E7A.png) ## 細節 ![image](https://hackmd.io/_uploads/rJ7eYAEQA.png) * 有時候payload太長會報錯,是因為cuda memory不足 * 所以要簡短一點 * 不然就是碰碰運氣 ![image](https://hackmd.io/_uploads/HJbxjCN7R.png) 成功就長這樣 但他跑了4分鐘= = ## 結論 要用可以,但可以先問chatgpt 不然就是等待地獄