From dcf6e4ffeb2b8000517df3dd5fce44ae51d866e2 Mon Sep 17 00:00:00 2001 From: imClumsyPanda Date: Thu, 11 May 2023 18:48:46 +0800 Subject: [PATCH] update README.md --- README.md | 10 ++++++++-- 1 file changed, 8 insertions(+), 2 deletions(-) diff --git a/README.md b/README.md index e81ac1f..b384bd4 100644 --- a/README.md +++ b/README.md @@ -31,6 +31,10 @@ ## 硬件需求 - ChatGLM-6B 模型硬件需求 + + 注:如未将模型下载至本地,请执行前检查`$HOME/.cache/huggingface/`文件夹剩余空间,模型文件下载至本地需要 15 GB 存储空间。 + + 模型下载方法可参考 [常见问题](docs/FAQ.md) 中 Q8。 | **量化等级** | **最低 GPU 显存**(推理) | **最低 GPU 显存**(高效参数微调) | | -------------- | ------------------------- | --------------------------------- | @@ -39,6 +43,10 @@ | INT4 | 6 GB | 7 GB | - MOSS 模型硬件需求 + + 注:如未将模型下载至本地,请执行前检查`$HOME/.cache/huggingface/`文件夹剩余空间,模型文件下载至本地需要 70 GB 存储空间 + + 模型下载方法可参考 [常见问题](docs/FAQ.md) 中 Q8。 | **量化等级** | **最低 GPU 显存**(推理) | **最低 GPU 显存**(高效参数微调) | |-------------------|-----------------------| --------------------------------- | @@ -114,8 +122,6 @@ $ pnpm i $ npm run dev ``` -注:如未将模型下载至本地,请执行前检查`$HOME/.cache/huggingface/`文件夹剩余空间,至少15G(MOSS模型下载需要70G)。 - 执行后效果如下图所示: 1. `对话` Tab 界面 ![](img/webui_0510_0.png)