diff --git a/README.md b/README.md index e81ac1f..b384bd4 100644 --- a/README.md +++ b/README.md @@ -31,6 +31,10 @@ ## 硬件需求 - ChatGLM-6B 模型硬件需求 + + 注:如未将模型下载至本地,请执行前检查`$HOME/.cache/huggingface/`文件夹剩余空间,模型文件下载至本地需要 15 GB 存储空间。 + + 模型下载方法可参考 [常见问题](docs/FAQ.md) 中 Q8。 | **量化等级** | **最低 GPU 显存**(推理) | **最低 GPU 显存**(高效参数微调) | | -------------- | ------------------------- | --------------------------------- | @@ -39,6 +43,10 @@ | INT4 | 6 GB | 7 GB | - MOSS 模型硬件需求 + + 注:如未将模型下载至本地,请执行前检查`$HOME/.cache/huggingface/`文件夹剩余空间,模型文件下载至本地需要 70 GB 存储空间 + + 模型下载方法可参考 [常见问题](docs/FAQ.md) 中 Q8。 | **量化等级** | **最低 GPU 显存**(推理) | **最低 GPU 显存**(高效参数微调) | |-------------------|-----------------------| --------------------------------- | @@ -114,8 +122,6 @@ $ pnpm i $ npm run dev ``` -注:如未将模型下载至本地,请执行前检查`$HOME/.cache/huggingface/`文件夹剩余空间,至少15G(MOSS模型下载需要70G)。 - 执行后效果如下图所示: 1. `对话` Tab 界面 ![](img/webui_0510_0.png)