add torch_gc to clear gpu cache in knowledge_based_chatglm.py

This commit is contained in:
littlepanda0716 2023-04-07 10:53:03 +08:00
parent c4b52dda72
commit 60d752bc18
1 changed files with 3 additions and 2 deletions

View File

@ -12,8 +12,9 @@
## 更新信息
**[2023/04/07]** 解决加载 ChatGLM 模型时发生显存占用为双倍的问题 (感谢 [@suc16](https://github.com/suc16) 和 [@myml](https://github.com/myml))
**[2023/04/07]**
1. 解决加载 ChatGLM 模型时发生显存占用为双倍的问题 (感谢 [@suc16](https://github.com/suc16) 和 [@myml](https://github.com/myml))
2. 新增清理显存机制。
## 使用方式
### 硬件需求