zR
|
b077085fbe
|
Merge branch 'dev'
|
2023-09-29 16:44:10 +08:00 |
zR
|
d9056a8df6
|
python3.8用户需要加上__future__ (#1624)
* 增加了仅限GPT4的agent功能,陆续补充,中文版readme已写
* issue提到的一个bug
* 温度最小改成0,但是不应该支持负数
* 修改了最小的温度
* 增加了部分Agent支持和修改了启动文件的部分bug
* 修改了GPU数量配置文件
* 1
1
* 修复配置文件错误
* 更新readme,稳定测试
* 更新readme
* python3.8用户需要加这两行
|
2023-09-29 16:04:44 +08:00 |
liunux4odoo
|
ba8d0f8e17
|
发版:v0.2.5 (#1620)
* 优化configs (#1474)
* remove llm_model_dict
* optimize configs
* fix get_model_path
* 更改一些默认参数,添加千帆的默认配置
* Update server_config.py.example
* fix merge conflict for #1474 (#1494)
* 修复ChatGPT api_base_url错误;用户可以在model_config在线模型配置中覆盖默认的api_base_url (#1496)
* 优化LLM模型列表获取、切换的逻辑: (#1497)
1、更准确的获取未运行的可用模型
2、优化WEBUI模型列表显示与切换的控制逻辑
* 更新migrate.py和init_database.py,加强知识库迁移工具: (#1498)
1. 添加--update-in-db参数,按照数据库信息,从本地文件更新向量库
2. 添加--increament参数,根据本地文件增量更新向量库
3. 添加--prune-db参数,删除本地文件后,自动清理相关的向量库
4. 添加--prune-folder参数,根据数据库信息,清理无用的本地文件
5. 取消--update-info-only参数。数据库中存储了向量库信息,该操作意义不大
6. 添加--kb-name参数,所有操作支持指定操作的知识库,不指定则为所有本地知识库
7. 添加知识库迁移的测试用例
8. 删除milvus_kb_service的save_vector_store方法
* feat: support volc fangzhou
* 使火山方舟正常工作,添加错误处理和测试用例
* feat: support volc fangzhou (#1501)
* feat: support volc fangzhou
---------
Co-authored-by: liunux4odoo <41217877+liunux4odoo@users.noreply.github.com>
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
* 第一版初步agent实现 (#1503)
* 第一版初步agent实现
* 增加steaming参数
* 修改了weather.py
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
* 添加configs/prompt_config.py,允许用户自定义prompt模板: (#1504)
1、 默认包含2个模板,分别用于LLM对话,知识库和搜索引擎对话
2、 server/utils.py提供函数get_prompt_template,获取指定的prompt模板内容(支持热加载)
3、 api.py中chat/knowledge_base_chat/search_engine_chat接口支持prompt_name参数
* 增加其它模型的参数适配
* 增加传入矢量名称加载
* 1. 搜索引擎问答支持历史记录;
2. 修复知识库问答历史记录传参错误:用户输入被传入history,问题出在webui中重复获取历史消息,api知识库对话接口并无问题。
* langchain日志开关
* move wrap_done & get_ChatOpenAI from server.chat.utils to server.utils (#1506)
* 修复faiss_pool知识库缓存key错误 (#1507)
* fix ReadMe anchor link (#1500)
* fix : Duplicate variable and function name (#1509)
Co-authored-by: Jim <zhangpengyi@taijihuabao.com>
* Update README.md
* fix #1519: streamlit-chatbox旧版BUG,但新版有兼容问题,先在webui中作处理,并限定chatbox版本 (#1525)
close #1519
* 【功能新增】在线 LLM 模型支持阿里云通义千问 (#1534)
* feat: add qwen-api
* 使Qwen API支持temperature参数;添加测试用例
* 将online-api的sdk列为可选依赖
---------
Co-authored-by: liunux4odoo <liunux@qq.com>
* 处理序列化至磁盘的逻辑
* remove depends on volcengine
* update kb_doc_api: use Form instead of Body when upload file
* 将所有httpx请求改为使用Client,提高效率,方便以后设置代理等。 (#1554)
将所有httpx请求改为使用Client,提高效率,方便以后设置代理等。
将本项目相关服务加入无代理列表,避免fastchat的服务器请求错误。(windows下无效)
* update QR code
* update readme_en,readme,requirements_api,requirements,model_config.py.example:测试baichuan2-7b;更新相关文档
* 新增特性:1.支持vllm推理加速框架;2. 更新支持模型列表
* 更新文件:1. startup,model_config.py.example,serve_config.py.example,FAQ
* 1. debug vllm加速框架完毕;2. 修改requirements,requirements_api对vllm的依赖;3.注释掉serve_config中baichuan-7b的device为cpu的配置
* 1. 更新congif中关于vllm后端相关说明;2. 更新requirements,requirements_api;
* 增加了仅限GPT4的agent功能,陆续补充,中文版readme已写 (#1611)
* Dev (#1613)
* 增加了仅限GPT4的agent功能,陆续补充,中文版readme已写
* issue提到的一个bug
* 温度最小改成0,但是不应该支持负数
* 修改了最小的温度
* fix: set vllm based on platform to avoid error on windows
* fix: langchain warnings for import from root
* 修复webui中重建知识库以及对话界面UI错误 (#1615)
* 修复bug:webui点重建知识库时,如果存在不支持的文件会导致整个接口错误;migrate中没有导入CHUNK_SIZE
* 修复:webui对话界面的expander一直为running状态;简化历史消息获取方法
* 根据官方文档,添加对英文版的bge embedding的指示模板 (#1585)
Co-authored-by: zR <2448370773@qq.com>
* Dev (#1618)
* 增加了仅限GPT4的agent功能,陆续补充,中文版readme已写
* issue提到的一个bug
* 温度最小改成0,但是不应该支持负数
* 修改了最小的温度
* 增加了部分Agent支持和修改了启动文件的部分bug
* 修改了GPU数量配置文件
* 1
1
* 修复配置文件错误
* 更新readme,稳定测试
* 更改readme 0928 (#1619)
* 增加了仅限GPT4的agent功能,陆续补充,中文版readme已写
* issue提到的一个bug
* 温度最小改成0,但是不应该支持负数
* 修改了最小的温度
* 增加了部分Agent支持和修改了启动文件的部分bug
* 修改了GPU数量配置文件
* 1
1
* 修复配置文件错误
* 更新readme,稳定测试
* 更新readme
* fix readme
* 处理序列化至磁盘的逻辑
* update version number to v0.2.5
---------
Co-authored-by: qiankunli <qiankun.li@qq.com>
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
Co-authored-by: zR <2448370773@qq.com>
Co-authored-by: glide-the <2533736852@qq.com>
Co-authored-by: Water Zheng <1499383852@qq.com>
Co-authored-by: Jim Zhang <dividi_z@163.com>
Co-authored-by: Jim <zhangpengyi@taijihuabao.com>
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
Co-authored-by: Leego <leegodev@hotmail.com>
Co-authored-by: hzg0601 <hzg0601@163.com>
Co-authored-by: WilliamChen-luckbob <58684828+WilliamChen-luckbob@users.noreply.github.com>
|
2023-09-28 23:30:21 +08:00 |
liunux4odoo
|
30b8daecb3
|
fix readme
|
2023-09-28 23:21:35 +08:00 |
zR
|
1b312d5715
|
更改readme 0928 (#1619)
* 增加了仅限GPT4的agent功能,陆续补充,中文版readme已写
* issue提到的一个bug
* 温度最小改成0,但是不应该支持负数
* 修改了最小的温度
* 增加了部分Agent支持和修改了启动文件的部分bug
* 修改了GPU数量配置文件
* 1
1
* 修复配置文件错误
* 更新readme,稳定测试
* 更新readme
|
2023-09-28 23:09:21 +08:00 |
zR
|
efd8edda16
|
Dev (#1618)
* 增加了仅限GPT4的agent功能,陆续补充,中文版readme已写
* issue提到的一个bug
* 温度最小改成0,但是不应该支持负数
* 修改了最小的温度
* 增加了部分Agent支持和修改了启动文件的部分bug
* 修改了GPU数量配置文件
* 1
1
* 修复配置文件错误
* 更新readme,稳定测试
|
2023-09-28 20:19:26 +08:00 |
imClumsyPanda
|
db169f628c
|
Update README.md
|
2023-09-28 16:00:01 +08:00 |
zR
|
5702554171
|
增加了仅限GPT4的agent功能,陆续补充,中文版readme已写 (#1611)
|
2023-09-27 19:19:25 +08:00 |
imClumsyPanda
|
af46ed9539
|
Update README.md
|
2023-09-23 08:35:13 +08:00 |
hzg0601
|
89aed8e675
|
update readme_en,readme,requirements_api,requirements,model_config.py.example:测试baichuan2-7b;更新相关文档
|
2023-09-22 14:30:28 +08:00 |
imClumsyPanda
|
f3042a6a29
|
merge master
|
2023-09-22 12:36:45 +08:00 |
imClumsyPanda
|
6a0a791c80
|
Update README.md
|
2023-09-20 22:42:46 +08:00 |
Leego
|
9bcce0a572
|
【功能新增】在线 LLM 模型支持阿里云通义千问 (#1534)
* feat: add qwen-api
* 使Qwen API支持temperature参数;添加测试用例
* 将online-api的sdk列为可选依赖
---------
Co-authored-by: liunux4odoo <liunux@qq.com>
|
2023-09-20 21:34:12 +08:00 |
imClumsyPanda
|
be22869c5e
|
Update README.md
|
2023-09-20 16:46:32 +08:00 |
Water Zheng
|
a580cbddab
|
fix ReadMe anchor link (#1500)
|
2023-09-20 16:46:31 +08:00 |
imClumsyPanda
|
30e72ebc3f
|
Update README.md
|
2023-09-20 08:26:48 +08:00 |
imClumsyPanda
|
1ec63de968
|
Update README.md
|
2023-09-18 12:02:42 +08:00 |
Water Zheng
|
7eed50337d
|
fix ReadMe anchor link (#1500)
|
2023-09-16 19:26:29 +08:00 |
imClumsyPanda
|
456229c13f
|
update README.md and README_en.md
|
2023-09-15 14:18:35 +08:00 |
imClumsyPanda
|
b2d86bf3f8
|
Merge branch 'master' into pre-release
|
2023-09-15 13:53:34 +08:00 |
imClumsyPanda
|
fc78004ab3
|
update qr code
|
2023-09-15 13:53:07 +08:00 |
imClumsyPanda
|
a87a2815da
|
update knowledge_base and dialogue page of webui
|
2023-09-15 13:45:47 +08:00 |
liunux4odoo
|
63f0d27167
|
在readme中添加支持的在线API模型 (#1485)
|
2023-09-15 10:16:15 +08:00 |
imClumsyPanda
|
20eef45a58
|
update README.md
|
2023-09-15 09:53:58 +08:00 |
hzg0601
|
6b734ced56
|
update readme,readme_en:更新fastchat信息;删除订阅号二维码
|
2023-09-14 17:00:20 +08:00 |
zR
|
769d75d784
|
修复测试文件 (#1467)
Co-authored-by: zR <zRzRzRzRzRzRzR>
|
2023-09-13 17:12:05 +08:00 |
zR
|
bfdbe69fa1
|
增加了自定义分词器适配 (#1462)
* 添加了自定义分词器适配和测试文件
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
|
2023-09-13 15:42:12 +08:00 |
imClumsyPanda
|
2020f5bb88
|
merge master
|
2023-09-12 15:51:28 +08:00 |
imClumsyPanda
|
518d3c4951
|
Update README.md
|
2023-09-11 15:18:03 +08:00 |
hzg0601
|
ed6df7cd24
|
update readme.md,readme_cn.md:更新订阅号QRcode
|
2023-09-09 17:34:56 +08:00 |
hzg0601
|
607831496b
|
update readme.md
|
2023-09-08 09:54:11 +08:00 |
hzg0601
|
80f00e27f9
|
update readme.md, add reame_en.md: 1. update supported models list;2. add readme_en.md
|
2023-09-07 16:27:12 +08:00 |
imClumsyPanda
|
54cf79f521
|
add support for new embedding models sensenova/piccolo-base-zh and sensenova/piccolo-large-zh
|
2023-09-06 21:17:32 +08:00 |
imClumsyPanda
|
8ec3db94f7
|
Update README.md
|
2023-09-06 20:04:03 +08:00 |
jinke
|
bc0a39ab82
|
update docker desc
更新0.2.3 docker
|
2023-09-06 10:23:34 +08:00 |
imClumsyPanda
|
e23e27a9f2
|
update autodl version
|
2023-09-05 18:19:13 +08:00 |
imClumsyPanda
|
74cca5eb0e
|
add support for shibing624/text2vec-bge-large-chinese
|
2023-09-05 18:19:13 +08:00 |
imClumsyPanda
|
75f1e84b1f
|
update autodl version
|
2023-09-05 18:15:43 +08:00 |
imClumsyPanda
|
780c1457d0
|
add support for shibing624/text2vec-bge-large-chinese
|
2023-09-05 18:04:21 +08:00 |
TongTie
|
98e4fbaaa3
|
docs: Correcting a spelling mistake in README (#1367)
Co-authored-by: tongtie <tongtie@gmail.com>
|
2023-09-05 11:52:22 +08:00 |
TongTie
|
53d3fbc335
|
docs: Correcting a spelling mistake in README (#1367)
Co-authored-by: tongtie <tongtie@gmail.com>
|
2023-09-05 11:10:14 +08:00 |
hzg0601
|
8dce5f7e7c
|
update readme.md:增加多卡启动gpus参数不生效的说明
|
2023-09-04 19:26:35 +08:00 |
hzg0601
|
b82ef5dcea
|
update readme.md:1. 更改一键启动说明的顺序;2. 在一键启动中增加多卡启动的说明
|
2023-09-04 19:25:57 +08:00 |
imClumsyPanda
|
a5ee38511d
|
Update README.md
|
2023-08-30 15:58:47 +08:00 |
miraged3
|
17c842df43
|
改正文本错误 (#1296)
|
2023-08-29 11:30:25 +08:00 |
imClumsyPanda
|
3eb3b7cbaa
|
Update README.md
|
2023-08-28 09:11:51 +08:00 |
imClumsyPanda
|
021677d5d6
|
Update README.md
|
2023-08-25 18:04:06 +08:00 |
hzg0601
|
faba1b3877
|
update readme.md, shutdown_all.sh: 在Linux上使用ctrl+C退出可能会由于linux的多进程机制导致multiprocessing遗留孤儿进程
|
2023-08-25 16:16:44 +08:00 |
liunux4odoo
|
29738c071c
|
update readme about startup.py
|
2023-08-25 08:19:58 +08:00 |
imClumsyPanda
|
412a3ea9c8
|
Update README.md
|
2023-08-24 21:45:54 +08:00 |
zR
|
7291e77978
|
support for bge-large-zh-noinstruct and openai text-embedding-ada-002 (#1119)
* support for bge-large-zh-noinstruct and openai text-embedding-ada-002
* 完善了readme,修改了BGE模型的载入方式
* 补充了readme中bge-large-zh-noinstruct的信息
* Update faiss_kb_service.py
* Update utils.py
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
|
2023-08-23 22:55:53 +08:00 |
Zhi-guo Huang
|
42f6b2d1f6
|
Update README.md
lora加载详细步骤参考
|
2023-08-22 23:53:29 +08:00 |
imClumsyPanda
|
2802e96b91
|
Update README.md
|
2023-08-22 11:29:18 +08:00 |
imClumsyPanda
|
cdea240c31
|
update README.md and llm_api_stale.py
|
2023-08-20 10:38:41 +08:00 |
imClumsyPanda
|
523aed015c
|
Update README.md
|
2023-08-18 19:46:16 +08:00 |
imClumsyPanda
|
4fb2e2198b
|
merge dev_allinone
|
2023-08-17 22:29:26 +08:00 |
imClumsyPanda
|
d9f74ec061
|
update README.md
|
2023-08-17 22:26:41 +08:00 |
imClumsyPanda
|
8b3b869418
|
update README.md
|
2023-08-17 21:44:30 +08:00 |
imClumsyPanda
|
0ecf3379b4
|
add descriptions about server_config in README.md
|
2023-08-17 21:29:16 +08:00 |
imClumsyPanda
|
a97cf021a9
|
Merge branch 'pre-release' into dev
|
2023-08-17 21:23:07 +08:00 |
imClumsyPanda
|
d430ec2be1
|
Update README.md
|
2023-08-17 21:09:05 +08:00 |
Ikko Eltociear Ashimine
|
c792e770e8
|
Fix typo in README.md
--model-path-addresss -> --model-path-address
|
2023-08-17 21:09:05 +08:00 |
hzg0601
|
0830f0d3b7
|
update readme: 更新startup启动方式说明
|
2023-08-17 17:17:06 +08:00 |
hzg0601
|
44d4bacf1c
|
update llm_api_launch,api_allinone,webui_allinone,readme:1.llm_api_launch,api_allinone_webui_allinone更名;2. 更新readme关于startup的说明
|
2023-08-17 16:59:16 +08:00 |
Zhi-guo Huang
|
f29a877bd0
|
Merge pull request #1137 from gaoyuanzero/dev
Update README.md
|
2023-08-17 10:49:14 +08:00 |
gaoyuanzero
|
a87fa10213
|
Update README.md
fastchat以hugggingface的PEFT包加载精调模型,不仅仅支持LoRA,还支持P-tuing, prefix-tuning, IA3等精调模型,故文档中的LoRA应统一改为PEFT
|
2023-08-17 10:43:46 +08:00 |
bones-zhu
|
4f8d65555f
|
Update README.md
更新端口占用情况下shell脚本启动方式的方法
|
2023-08-17 10:34:35 +08:00 |
chinainfant
|
87eecf56bd
|
Update README.md
fix typo
|
2023-08-17 10:21:51 +08:00 |
gaoyuanzero
|
a0ba4689fe
|
Update README.md
readme一键启动适用脚本说明修改
|
2023-08-17 10:05:52 +08:00 |
imClumsyPanda
|
38aea8fd9b
|
update README.md
|
2023-08-16 22:38:34 +08:00 |
imClumsyPanda
|
b9fa84635d
|
update README.md
|
2023-08-16 22:21:02 +08:00 |
imClumsyPanda
|
8085bc38c0
|
Update README.md
|
2023-08-16 22:17:18 +08:00 |
imClumsyPanda
|
8e93a69e1a
|
Update README.md
|
2023-08-16 22:17:18 +08:00 |
imClumsyPanda
|
8e805b18db
|
update README.md
|
2023-08-16 22:17:03 +08:00 |
imClumsyPanda
|
d7fe158d78
|
git update README.md
|
2023-08-16 22:06:27 +08:00 |
hzg0601
|
f3a1247629
|
update readme
|
2023-08-16 11:36:53 +08:00 |
hzg0601
|
8e00f8305b
|
1. 更新allinone脚本提示,增加中文提示;2. 新增服务一键停止脚本shutdown_all.sh;3. 更新readme说明;3. 修复命令行bug
|
2023-08-16 11:15:10 +08:00 |
hzg0601
|
116302f3b5
|
update readme
|
2023-08-15 15:33:16 +08:00 |
hzg0601
|
80f44ba24e
|
git pull dev
|
2023-08-15 11:22:19 +08:00 |
hzg0601
|
5c0274efce
|
1. 增加api的一键启动脚本;2. 增加webui的一键启动脚本;3. 更新readme;4. 调整llm_api_launch
|
2023-08-15 11:02:32 +08:00 |
imClumsyPanda
|
d5fcc958b8
|
update README.md
|
2023-08-14 19:48:02 +08:00 |
hzg0601
|
c81e63eeee
|
解决多卡启动问题
|
2023-08-14 19:42:21 +08:00 |
Zhi-guo Huang
|
811c308ef4
|
1. update readme;2. 解决多卡启动问题;3. 更新lora加载方式说明 (#1079)
* fix chat and knowledge_base_chat
* 更新多卡部署
* update readme
* update api and webui:
1. add download_doc to api
2. return local path or http url in kowledge_base_chat depends on
no_remote_api
3. change assistant avater in webui
* 解决多卡启动问题
* fix chat and knowledge_base_chat
* 更新readme的lora加载方式
* update readme
* 更新readme
---------
Co-authored-by: liunux4odoo <liunu@qq.com>
|
2023-08-14 19:42:16 +08:00 |
hzg0601
|
d652a28023
|
update readme
|
2023-08-14 19:32:28 +08:00 |
hzg0601
|
9fb38727fb
|
更新readme
|
2023-08-14 19:32:28 +08:00 |
hzg0601
|
c591dd7836
|
update readme
|
2023-08-14 19:32:28 +08:00 |
hzg0601
|
23421204dc
|
update readme
|
2023-08-14 19:32:22 +08:00 |
hzg0601
|
c320ed60ba
|
update readme
|
2023-08-14 19:17:34 +08:00 |
imClumsyPanda
|
3cbd4d24fa
|
update README.md
|
2023-08-14 19:17:34 +08:00 |
imClumsyPanda
|
793d972174
|
Update README.md
|
2023-08-14 19:17:34 +08:00 |
imClumsyPanda
|
d2440d3640
|
update README.md
|
2023-08-14 19:11:01 +08:00 |
hzg0601
|
bb8331384f
|
更新readme
|
2023-08-14 17:36:10 +08:00 |
Zhi-guo Huang
|
71b528a2d1
|
1. update readme;2. 解决多卡启动问题;3. 更新lora加载方式说明 (#1079)
* fix chat and knowledge_base_chat
* 更新多卡部署
* update readme
* update api and webui:
1. add download_doc to api
2. return local path or http url in kowledge_base_chat depends on
no_remote_api
3. change assistant avater in webui
* 解决多卡启动问题
* fix chat and knowledge_base_chat
* 更新readme的lora加载方式
* update readme
* 更新readme
---------
Co-authored-by: liunux4odoo <liunu@qq.com>
|
2023-08-14 17:35:51 +08:00 |
hzg0601
|
e730172a5a
|
update readme
|
2023-08-14 17:18:26 +08:00 |
hzg0601
|
c4142e24c5
|
更新readme的lora加载方式
|
2023-08-14 17:15:07 +08:00 |
imClumsyPanda
|
d14d80d759
|
Update README.md
|
2023-08-14 17:06:59 +08:00 |
hzg0601
|
90c92f8c93
|
解决多卡启动问题
|
2023-08-14 16:43:01 +08:00 |
hzg0601
|
986cb9179c
|
update readme
|
2023-08-14 11:36:58 +08:00 |
imClumsyPanda
|
932ca4e4c5
|
Update README.md
|
2023-08-14 10:42:05 +08:00 |
imClumsyPanda
|
84e4981cc1
|
Update README.md
|
2023-08-14 07:44:12 +08:00 |