weiweiw
/
Langchain-Chatchat
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity
1,162 Commits 1 Branch 0 Tags 72 MiB
Commit Graph

174 Commits

Author SHA1 Message Date
liunux4odoo b1201a5f23
优化LLM和Embedding模型运行设备配置，可设为auto自动检测；修复：重建知识库时FAISS未保存 (#1330) 
* 避免configs对torch的依赖；
* webui自动从configs获取api地址(close #1319)
* bug fix: 重建知识库时FAISS未保存
* 优化LLM和Embedding模型运行设备配置，可设为auto自动检测
 2023-08-31 17:44:48 +08:00
liunux4odoo 34a416b941
优化server_config配置项 (#1293) 
* update server_config.py:
- 在model_config中增加HISTORY_LEN配置参数
- 将server_config中helper function移动到server.utils中
- 统一set_httpx_timeout的定义和调用

* update webui.py:
应用model_config中的配置项：HISTORY_LEN,VECTOR_SEARCH_TOP_K,SEARCH_ENGINE_TOP_K

---------

Co-authored-by: liunux4odoo <liunu@qq.com>
 2023-08-29 10:06:09 +08:00
liunux4odoo ca0ae29fef
运行startup.py时，如果不加参数直接显示配置和帮助信息后退出 (#1284) 
* 统一XX_kb_service.add_doc/do_add_doc接口，不再需要embeddings参数

* 运行startup.py时，如果不加参数直接显示配置和帮助信息后退出

---------

Co-authored-by: liunux4odoo <liunu@qq.com>
 2023-08-28 16:03:53 +08:00
liunux4odoo 3acbf4d5d1
增加数据库字段，重建知识库使用多线程 (#1280) 
* close #1172: 给webui_page/utils添加一些log信息，方便定位错误

* 修复：重建知识库时页面未实时显示进度

* skip model_worker running when using online model api such as chatgpt

* 修改知识库管理相关内容:
1.KnowledgeFileModel增加3个字段：file_mtime(文件修改时间),file_size(文件大小),custom_docs(是否使用自定义docs)。为后面比对上传文件做准备。
2.给所有String字段加上长度，防止mysql建表错误(pr#1177)
3.统一[faiss/milvus/pgvector]_kb_service.add_doc接口，使其支持自定义docs
4.为faiss_kb_service增加一些方法，便于调用
5.为KnowledgeFile增加一些方法，便于获取文件信息，缓存file2text的结果。

* 修复/chat/fastchat无法流式输出的问题

* 新增功能：
1、KnowledgeFileModel增加"docs_count"字段，代表该文件加载到向量库中的Document数量，并在WEBUI中进行展示。
2、重建知识库`python init_database.py --recreate-vs`支持多线程。

其它：
统一代码中知识库相关函数用词：file代表一个文件名称或路径，doc代表langchain加载后的Document。部分与API接口有关或含义重叠的函数暂未修改。

---------

Co-authored-by: liunux4odoo <liunux@qq.com>, hongkong9771
 2023-08-28 13:50:35 +08:00
imClumsyPanda 8faafa6a32 update format 2023-08-27 20:23:07 +08:00
zqt 1fa4e906c7 适配score_threshold 2023-08-27 11:21:10 +08:00
liunux4odoo 96f69edf7b
修复重建知识库界面无反应的问题，添加一些log信息 (#1258) 
* close #1172: 给webui_page/utils添加一些log信息，方便定位错误

* 修复：重建知识库时页面未实时显示进度

---------

Co-authored-by: liunux4odoo <liunu@qq.com>
 2023-08-26 18:26:38 +08:00
liunux4odoo 9ca53fa3ad
fix #1224: failed to load json and pdf files (#1252) 
Co-authored-by: liunux4odoo <liunu@qq.com>
 2023-08-26 14:21:59 +08:00
imClumsyPanda f95d41ef47 [BUG] 修复csv文件读取后，单行数据被分成多段。 2023-08-26 11:45:01 +08:00
imClumsyPanda 4dafca2376 Merge branch 'master' into pre-release 2023-08-25 16:25:35 +08:00
liunux4odoo 447b370416 在search_engine_chat中检查Bing KEY，并更新tests 2023-08-25 10:58:40 +08:00
Pickupppp 0c63839ff6 修正 milvus 更改错误 2023-08-24 22:53:13 +08:00
zqt 2604341e9e 调整KBService 接口函数do_search 并适配pg 2023-08-24 22:35:30 +08:00
zqt 24e7351d32 Merge branch 'master' into dev 2023-08-24 22:31:37 +08:00
zqt996 67ac53242d
Merge pull request #1233 from Pickupppp/master 
修复 milvus 作为默认数据库初始化异常和调用search方法异常
 2023-08-24 22:28:38 +08:00
Meiracle bc3dbb443e
修复搜索引擎聊天接口 (#1228) 
* 修复搜索引擎聊天接口

* 修复知识库聊天接口

* 恢复
 2023-08-24 22:18:33 +08:00
Pickupppp 050a585a9d 修复 milvus 作为默认数据库初始化异常和调用search方法异常 2023-08-24 21:31:02 +08:00
zqt 2a2b95d214 search_engine_chat bug 2023-08-24 17:25:54 +08:00
liunux4odoo 63ca393731 参照chat，给knowledge_base_chat/search_engine_chat添加chatgpt代理设置 2023-08-24 15:10:51 +08:00
zqt ea4b5ebd16 Merge branch 'master' into dev 2023-08-24 14:16:21 +08:00
zqt 37454db3ec 添加chatgpt 调用代理设置 2023-08-24 13:51:17 +08:00
zR 7291e77978
support for bge-large-zh-noinstruct and openai text-embedding-ada-002 (#1119) 
* support for bge-large-zh-noinstruct and openai text-embedding-ada-002

* 完善了readme,修改了BGE模型的载入方式

* 补充了readme中bge-large-zh-noinstruct的信息

* Update faiss_kb_service.py

* Update utils.py

---------

Co-authored-by: zR <zRzRzRzRzRzRzR>
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
 2023-08-23 22:55:53 +08:00
liunux4odoo 351b62f7a7 fix part of #1206: add/delete/update_doc() get unexpected keyword argument 'not_refresh_vs_cache` 2023-08-23 15:26:52 +08:00
liunux4odoo 44edce6bcf fix #1142: 在History中使用jinja2模板代替f-string，避免消息中含有{ }时出错 2023-08-23 08:35:26 +08:00
zqt 16542f20b4 修复pg和milvus kbservice代码 2023-08-22 16:52:04 +08:00
zqt996 11856cc542
Merge pull request #1160 from shutter-cp/master 
fix bug 1159
 2023-08-22 16:38:06 +08:00
liunux4odoo c571585ffd optimize recreate vector store: save vector store once after all docs parsed for FAISS 2023-08-21 08:50:15 +08:00
liunux4odoo f40bb69224 优化FAISS向量库多文件操作；修复recreate_vector_store，大量文件时不再超时。 2023-08-20 19:10:29 +08:00
liunux4odoo 150a78bfd9 update kb_doc_api:make faiss cache working; delete vector store docs before add duplicate docs 2023-08-20 16:52:49 +08:00
imClumsyPanda 62aa97bb32 Merge branch 'master' into dev 2023-08-20 10:39:30 +08:00
imClumsyPanda cdea240c31 update README.md and llm_api_stale.py 2023-08-20 10:38:41 +08:00
liunux4odoo 69627a2fa3 update chat and knowledge base api: unify exception processing and return types 2023-08-19 15:14:45 +08:00
陈鹏 95d9fb0ee9
fix bug 1159 
修复使用使用pg存储向量时，向量检索错误 {TypeError}TypeError("'Document' object is not subscriptable")
 2023-08-18 14:41:11 +08:00
imClumsyPanda 4fb2e2198b merge dev_allinone 2023-08-17 22:29:26 +08:00
imClumsyPanda 52837429d2 update configs.__init__, webui.py and api.py 2023-08-17 22:19:37 +08:00
xain 6d1ea9bc99 Update utils.py (#1128) 
不区分文件扩展名的大小写。
 2023-08-17 21:09:05 +08:00
hzg0601 44d4bacf1c update llm_api_launch,api_allinone,webui_allinone,readme:1.llm_api_launch,api_allinone_webui_allinone更名;2. 更新readme关于startup的说明 2023-08-17 16:59:16 +08:00
liunux4odoo f92b002342 add startup.py: start specified servers with one command. see python startup.py --help 2023-08-17 13:24:53 +08:00
imClumsyPanda 8396b57101 update format of api_allinone.py and llm_api_launch.py 2023-08-16 22:24:29 +08:00
liunux4odoo 6c00c03faa llm_api can be terminated by Ctrl+c. success on windows 2023-08-16 17:48:55 +08:00
liunux4odoo e7d07a7923 Merge remote-tracking branch 'refs/remotes/origin/dev' into dev 2023-08-16 16:16:56 +08:00
liunux4odoo 8ed1f8efca update fastchat to 0.2.24 2023-08-16 16:15:45 +08:00
hzg0601 84b491b8b2 Merge branch 'dev' of github.com:chatchat-space/Langchain-Chatchat into dev 2023-08-16 16:00:40 +08:00
hzg0601 5f1471232d update llm_api_launch.py:修复本地加载问题 2023-08-16 16:00:24 +08:00
liunux4odoo f64affc930 update llm_api and api server: 
1. fastchat's controller/model_worker/api_server use swagger UI offline.
2. add custom title and icon.
3. remove fastapi-offline dependence
 2023-08-16 14:20:09 +08:00
liunux4odoo 67b8ebef52 update api and webui: 
1. 增加search_docs接口，返回原始知识库检索文档，close #1103
2. 为FAISS检索增加score_threshold参数。milvus和PG暂不支持
 2023-08-16 13:18:58 +08:00
hzg0601 b97358ea33 Merge branch 'dev' of github.com:chatchat-space/Langchain-Chatchat into dev 2023-08-16 11:15:31 +08:00
hzg0601 8e00f8305b 1. 更新allinone脚本提示，增加中文提示;2. 新增服务一键停止脚本shutdown_all.sh;3. 更新readme说明;3. 修复命令行bug 2023-08-16 11:15:10 +08:00
liunux4odoo a47240e871 fix KnowledgeFile: set text_splitter_name in database to SpacyTextSplitter if it is not set 2023-08-16 10:14:47 +08:00
hzg0601 348edb9a0d 更新提示 2023-08-16 10:13:51 +08:00