Commit Graph

25 Commits

Author SHA1 Message Date
RainGather b0714eed5e
Update chatglm_llm.py (#316) 2023-05-11 14:36:52 +08:00
Tyler Luan 8289338c47
Multi-gpu lora load bugfix (#312) 2023-05-11 11:32:17 +08:00
Tyler Luan 31655339f0
chatglm init twice (#313) 2023-05-11 11:31:15 +08:00
shrimp 55504fcd4d
新增加知识库测试能力 (#302) 2023-05-10 17:18:20 +08:00
JohnSaxon 466bfb7a3f
logger bug introduced by https://github.com/imClumsyPanda/langchain-ChatGLM/pull/268 , fixed #295 (#297) 2023-05-10 13:28:44 +08:00
CHANGXUBO 47e9bdb122
logging: 格式日志输出 (#268)
* logging: 统一日志格式输出

---------

Co-authored-by: Bob Chang <bob.chang@amway.com>
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
2023-05-08 18:29:09 +08:00
shrimp 0d9db37f45
完善API接口,完善模型加载 (#247)
* 完善知识库路径问题,完善api接口

统一webui、API接口知识库路径,后续路径如下:
知识库路经就是:/项目代码文件夹/vector_store/'知识库名字'
文件存放路经:/项目代码文件夹/content/'知识库名字'

修复通过api接口创建知识库的BUG,完善API接口功能。

* Update model_config.py


* 完善知识库路径问题,完善api接口 (#245) (#246)

* Fix 知识库无法上载,NLTK_DATA_PATH路径错误 (#236)

* Update chatglm_llm.py (#242)

* 完善知识库路径问题,完善api接口

统一webui、API接口知识库路径,后续路径如下:
知识库路经就是:/项目代码文件夹/vector_store/'知识库名字'
文件存放路经:/项目代码文件夹/content/'知识库名字'

修复通过api接口创建知识库的BUG,完善API接口功能。

* Update model_config.py

---------

Co-authored-by: shrimp <411161555@qq.com>
Co-authored-by: Bob Chang <bob-chang@outlook.com>

* 优化API接口,完善模型top_p参数

优化API接口,知识库非必须选项。
完善模型top_p参数

* 完善API接口,完善模型加载

API接口知识库非必须加载项
完善模型top_p参数。

---------

Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
Co-authored-by: Bob Chang <bob-chang@outlook.com>
2023-05-05 22:31:41 +08:00
shrimp 7497b261b3
完善知识库路径问题,完善api接口 (#245)
* Fix 知识库无法上载,NLTK_DATA_PATH路径错误 (#236)

* Update chatglm_llm.py (#242)

* 完善知识库路径问题,完善api接口

统一webui、API接口知识库路径,后续路径如下:
知识库路经就是:/项目代码文件夹/vector_store/'知识库名字'
文件存放路经:/项目代码文件夹/content/'知识库名字'

修复通过api接口创建知识库的BUG,完善API接口功能。

* Update model_config.py

---------

Co-authored-by: Bob Chang <bob-chang@outlook.com>
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
2023-05-05 18:44:37 +08:00
shrimp 14d998b8e6
可选择lora权重加载 (#231)
* Add files via upload

增加lora权重使用

* Update model_config.py

* Add files via upload

修复一个小错误,少写了模型加载

* 使用lora微调的权重

使用lora微调的权重

* Update model_config.py
2023-05-04 21:01:55 +08:00
imClumsyPanda 07ff81a119 update torch_gc 2023-05-04 20:48:36 +08:00
imClumsyPanda 57d4d0a29e update chatglm_llm.py 2023-05-03 11:29:59 +08:00
imClumsyPanda 4df9d76f8a add streaming option in configs/model_config.py 2023-05-01 23:52:28 +08:00
imClumsyPanda 966def8cfe add stream support to webui.py 2023-04-26 23:27:15 +08:00
imClumsyPanda b4aefca555 add stream support to cli_demo.py 2023-04-26 23:27:15 +08:00
imClumsyPanda 88ab9a1d21 update webui.py and local_doc_qa.py 2023-04-26 23:27:15 +08:00
imClumsyPanda 3b4b660d3c update chatglm_llm.py 2023-04-26 23:27:15 +08:00
imClumsyPanda 59aff96add update chatglm_llm.py 2023-04-22 21:20:18 +08:00
imClumsyPanda 54c983f4bc update chatglm_llm.py 2023-04-22 12:20:08 +08:00
soon 37ceeae6e2 提交更 2023-04-21 21:27:20 +08:00
imClumsyPanda f147043253 fix bug in chatglm_llm.py 2023-04-20 12:50:51 +08:00
imClumsyPanda 13b41553a3 update project to v0.1.3 2023-04-19 23:02:47 +08:00
imClumsyPanda 25ecc7f820 update chatglm_llm.py 2023-04-19 19:39:53 +08:00
Liao Zhenyu edbe155c2e 1. 参考ChatGLM-6B代码实现模型多卡部署 2023-04-18 15:54:51 +08:00
Thaumstrial 2cd52f6605 Support p-tuning-v2 2023-04-15 14:43:12 +08:00
imClumsyPanda a6184b01be 修改项目架构 2023-04-13 23:01:52 +08:00