imClumsyPanda
14c34516ba
Dev ( #572 )
...
* feat(webui): update port number in Vite config file from 1002 to 8090
* update chatglm_llm.py
---------
Co-authored-by: NieLamu <mxmxlty@gmail.com>
Co-authored-by: fxjhello <127916299+fxjhello@users.noreply.github.com>
2023-06-07 21:26:31 +08:00
shrimp
57b4f9306d
修复BUG ( #570 )
...
一、修复模型历史记录仅一条问题,修改了模型加载代码,已修复。
二、修复模型历史记录仅一条问题,修改了webui有一个地方有问题,已修复。
三、知识库单条数据入库因知识库名称缓存问题导致的BUG,也已修复。
2023-06-07 18:12:51 +08:00
glide-the
1c5f71beee
Merge remote-tracking branch 'origin/dev' into dev
2023-05-26 01:49:26 +08:00
glide-the
25e5ab1282
增加call_行为
2023-05-26 01:46:59 +08:00
imClumsyPanda
3d33191bd7
update chatglm_llm.py
2023-05-25 23:04:53 +08:00
imClumsyPanda
e4df46bcaa
merge master
2023-05-25 22:57:51 +08:00
imClumsyPanda
a1fd0b8750
Update chatglm_llm.py
2023-05-25 22:00:17 +08:00
glide-the
c4ee36b8ac
删除 AnswerResultStream 、generate_with_callback收集器
2023-05-25 21:07:40 +08:00
glide-the
e7b06a9072
删除流式请求中的缓存清理
2023-05-25 20:58:04 +08:00
imClumsyPanda
e352a04cbb
merge master
2023-05-22 00:18:48 +08:00
zhenkaivip
9f5d1afc31
fix bug : 1、历史最后一条丢失;2、上下两行连读造成歧义 ( #415 )
...
* fix _call bug
* fix
* fix bug : 上下两行连读造成歧义
2023-05-20 01:19:22 +08:00
glide-the
33bbb4779e
llm_model_dict 处理了loader的一些预设行为,如加载位置,模型名称,模型处理器实例, 定义checkpoint名称和远程路径
...
loader.py: 模型重载
定义 generatorAnswer 增加 AnswerResultStream
定义generate_with_callback收集器,在每次响应时将队列数据同步到AnswerResult
requirements.txt 变更项目依赖
2023-05-18 22:54:41 +08:00
RainGather
b0714eed5e
Update chatglm_llm.py ( #316 )
2023-05-11 14:36:52 +08:00
Tyler Luan
8289338c47
Multi-gpu lora load bugfix ( #312 )
2023-05-11 11:32:17 +08:00
Tyler Luan
31655339f0
chatglm init twice ( #313 )
2023-05-11 11:31:15 +08:00
shrimp
55504fcd4d
新增加知识库测试能力 ( #302 )
2023-05-10 17:18:20 +08:00
JohnSaxon
466bfb7a3f
logger bug introduced by https://github.com/imClumsyPanda/langchain-ChatGLM/pull/268 , fixed #295 ( #297 )
2023-05-10 13:28:44 +08:00
CHANGXUBO
47e9bdb122
logging: 格式日志输出 ( #268 )
...
* logging: 统一日志格式输出
---------
Co-authored-by: Bob Chang <bob.chang@amway.com>
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
2023-05-08 18:29:09 +08:00
shrimp
0d9db37f45
完善API接口,完善模型加载 ( #247 )
...
* 完善知识库路径问题,完善api接口
统一webui、API接口知识库路径,后续路径如下:
知识库路经就是:/项目代码文件夹/vector_store/'知识库名字'
文件存放路经:/项目代码文件夹/content/'知识库名字'
修复通过api接口创建知识库的BUG,完善API接口功能。
* Update model_config.py
* 完善知识库路径问题,完善api接口 (#245 ) (#246 )
* Fix 知识库无法上载,NLTK_DATA_PATH路径错误 (#236 )
* Update chatglm_llm.py (#242 )
* 完善知识库路径问题,完善api接口
统一webui、API接口知识库路径,后续路径如下:
知识库路经就是:/项目代码文件夹/vector_store/'知识库名字'
文件存放路经:/项目代码文件夹/content/'知识库名字'
修复通过api接口创建知识库的BUG,完善API接口功能。
* Update model_config.py
---------
Co-authored-by: shrimp <411161555@qq.com>
Co-authored-by: Bob Chang <bob-chang@outlook.com>
* 优化API接口,完善模型top_p参数
优化API接口,知识库非必须选项。
完善模型top_p参数
* 完善API接口,完善模型加载
API接口知识库非必须加载项
完善模型top_p参数。
---------
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
Co-authored-by: Bob Chang <bob-chang@outlook.com>
2023-05-05 22:31:41 +08:00
shrimp
7497b261b3
完善知识库路径问题,完善api接口 ( #245 )
...
* Fix 知识库无法上载,NLTK_DATA_PATH路径错误 (#236 )
* Update chatglm_llm.py (#242 )
* 完善知识库路径问题,完善api接口
统一webui、API接口知识库路径,后续路径如下:
知识库路经就是:/项目代码文件夹/vector_store/'知识库名字'
文件存放路经:/项目代码文件夹/content/'知识库名字'
修复通过api接口创建知识库的BUG,完善API接口功能。
* Update model_config.py
---------
Co-authored-by: Bob Chang <bob-chang@outlook.com>
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
2023-05-05 18:44:37 +08:00
shrimp
14d998b8e6
可选择lora权重加载 ( #231 )
...
* Add files via upload
增加lora权重使用
* Update model_config.py
* Add files via upload
修复一个小错误,少写了模型加载
* 使用lora微调的权重
使用lora微调的权重
* Update model_config.py
2023-05-04 21:01:55 +08:00
imClumsyPanda
07ff81a119
update torch_gc
2023-05-04 20:48:36 +08:00
imClumsyPanda
57d4d0a29e
update chatglm_llm.py
2023-05-03 11:29:59 +08:00
imClumsyPanda
4df9d76f8a
add streaming option in configs/model_config.py
2023-05-01 23:52:28 +08:00
imClumsyPanda
966def8cfe
add stream support to webui.py
2023-04-26 23:27:15 +08:00
imClumsyPanda
b4aefca555
add stream support to cli_demo.py
2023-04-26 23:27:15 +08:00
imClumsyPanda
88ab9a1d21
update webui.py and local_doc_qa.py
2023-04-26 23:27:15 +08:00
imClumsyPanda
3b4b660d3c
update chatglm_llm.py
2023-04-26 23:27:15 +08:00
imClumsyPanda
59aff96add
update chatglm_llm.py
2023-04-22 21:20:18 +08:00
imClumsyPanda
54c983f4bc
update chatglm_llm.py
2023-04-22 12:20:08 +08:00
soon
37ceeae6e2
提交更
2023-04-21 21:27:20 +08:00
imClumsyPanda
f147043253
fix bug in chatglm_llm.py
2023-04-20 12:50:51 +08:00
imClumsyPanda
13b41553a3
update project to v0.1.3
2023-04-19 23:02:47 +08:00
imClumsyPanda
25ecc7f820
update chatglm_llm.py
2023-04-19 19:39:53 +08:00
Liao Zhenyu
edbe155c2e
1. 参考ChatGLM-6B代码实现模型多卡部署
2023-04-18 15:54:51 +08:00
Thaumstrial
2cd52f6605
Support p-tuning-v2
2023-04-15 14:43:12 +08:00
imClumsyPanda
a6184b01be
修改项目架构
2023-04-13 23:01:52 +08:00