---
# System prepended metadata

title: 2023/05/30開發日誌(第七周)

---

# 2023/05/30開發日誌(第七周)

# 目前進度(chatGLM)
目前微調缺少大量數據集，數據集製作中。
各項訓練參數待調整，目前訓練次數太多，導致原語言模型的部分遺忘。

# 目前進度(訓練成功的語言模型)
![](https://hackmd.io/_uploads/BJq-eLs8h.png)

# 目前問題(訓練範本還太少他只吃到有訓練的我是誰)
![](https://hackmd.io/_uploads/SyYXgLo82.png)

# 待解決的問題許願池:
1.目前在直播上偶爾會卡，ram和vram都快吃滿，可能要想辦法優化。
2.需要增加微調chatglm的文本數據。
3.需要優化訓練參數。
4.訓練時間偏久。

# 下周預計推進的進度
- [ ] 1.訓練優化
- [ ] 2.持續製作chatGLM的微調數據
- [ ] 3

<style>
.blue {
  color: red;
}
</style>
{%hackmd sMV2zv-CTsuIqnpb0hZLmA %}