weiweiw
/
Langchain-Chatchat
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity

update README.md

This commit is contained in:
imClumsyPanda 2023-05-11 18:48:46 +08:00
parent 64406cee45
commit dcf6e4ffeb
1 changed files with 8 additions and 2 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

10
README.md
View File

@ -31,6 +31,10 @@
## 硬件需求 ## 硬件需求
- ChatGLM-6B 模型硬件需求 - ChatGLM-6B 模型硬件需求
注：如未将模型下载至本地，请执行前检查`$HOME/.cache/huggingface/`文件夹剩余空间，模型文件下载至本地需要 15 GB 存储空间。
模型下载方法可参考 [常见问题](docs/FAQ.md) 中 Q8。
| **量化等级** | **最低 GPU 显存**（推理） | **最低 GPU 显存**（高效参数微调） | | **量化等级** | **最低 GPU 显存**（推理） | **最低 GPU 显存**（高效参数微调） |
| -------------- | ------------------------- | --------------------------------- | | -------------- | ------------------------- | --------------------------------- |
@ -39,6 +43,10 @@
| INT4 | 6 GB | 7 GB | | INT4 | 6 GB | 7 GB |
- MOSS 模型硬件需求 - MOSS 模型硬件需求
注：如未将模型下载至本地，请执行前检查`$HOME/.cache/huggingface/`文件夹剩余空间，模型文件下载至本地需要 70 GB 存储空间
模型下载方法可参考 [常见问题](docs/FAQ.md) 中 Q8。
| **量化等级** | **最低 GPU 显存**（推理） | **最低 GPU 显存**（高效参数微调） | | **量化等级** | **最低 GPU 显存**（推理） | **最低 GPU 显存**（高效参数微调） |
|-------------------|-----------------------| --------------------------------- | |-------------------|-----------------------| --------------------------------- |
@ -114,8 +122,6 @@ $ pnpm i
$ npm run dev $ npm run dev
``` ```
注：如未将模型下载至本地，请执行前检查`$HOME/.cache/huggingface/`文件夹剩余空间，至少15G（MOSS模型下载需要70G）。
执行后效果如下图所示： 执行后效果如下图所示：
1. `对话` Tab 界面 1. `对话` Tab 界面
![](img/webui_0510_0.png) ![](img/webui_0510_0.png)