liunux4odoo
|
b1201a5f23
|
优化LLM和Embedding模型运行设备配置，可设为auto自动检测；修复：重建知识库时FAISS未保存 (#1330)
* 避免configs对torch的依赖；
* webui自动从configs获取api地址(close #1319)
* bug fix: 重建知识库时FAISS未保存
* 优化LLM和Embedding模型运行设备配置，可设为auto自动检测
|
2023-08-31 17:44:48 +08:00 |
|
liunux4odoo
|
ca0ae29fef
|
运行startup.py时，如果不加参数直接显示配置和帮助信息后退出 (#1284)
* 统一XX_kb_service.add_doc/do_add_doc接口，不再需要embeddings参数
* 运行startup.py时，如果不加参数直接显示配置和帮助信息后退出
---------
Co-authored-by: liunux4odoo <liunu@qq.com>
|
2023-08-28 16:03:53 +08:00 |
|
liunux4odoo
|
3acbf4d5d1
|
增加数据库字段，重建知识库使用多线程 (#1280)
* close #1172: 给webui_page/utils添加一些log信息，方便定位错误
* 修复：重建知识库时页面未实时显示进度
* skip model_worker running when using online model api such as chatgpt
* 修改知识库管理相关内容:
1.KnowledgeFileModel增加3个字段：file_mtime(文件修改时间),file_size(文件大小),custom_docs(是否使用自定义docs)。为后面比对上传文件做准备。
2.给所有String字段加上长度，防止mysql建表错误(pr#1177)
3.统一[faiss/milvus/pgvector]_kb_service.add_doc接口，使其支持自定义docs
4.为faiss_kb_service增加一些方法，便于调用
5.为KnowledgeFile增加一些方法，便于获取文件信息，缓存file2text的结果。
* 修复/chat/fastchat无法流式输出的问题
* 新增功能：
1、KnowledgeFileModel增加"docs_count"字段，代表该文件加载到向量库中的Document数量，并在WEBUI中进行展示。
2、重建知识库`python init_database.py --recreate-vs`支持多线程。
其它：
统一代码中知识库相关函数用词：file代表一个文件名称或路径，doc代表langchain加载后的Document。部分与API接口有关或含义重叠的函数暂未修改。
---------
Co-authored-by: liunux4odoo <liunux@qq.com>, hongkong9771
|
2023-08-28 13:50:35 +08:00 |
zqt
|
1fa4e906c7
|
适配score_threshold
|
2023-08-27 11:21:10 +08:00 |
|
zqt
|
2604341e9e
|
调整KBService 接口函数do_search 并适配pg
|
2023-08-24 22:35:30 +08:00 |
liunux4odoo
|
351b62f7a7
|
fix part of #1206: add/delete/update_doc() get unexpected keyword argument 'not_refresh_vs_cache`
|
2023-08-23 15:26:52 +08:00 |
|
zqt
|
16542f20b4
|
修复pg和milvus kbservice代码
|
2023-08-22 16:52:04 +08:00 |
陈鹏
|
95d9fb0ee9
|
fix bug 1159
修复使用使用pg存储向量时，向量检索错误 {TypeError}TypeError("'Document' object is not subscriptable")
|
2023-08-18 14:41:11 +08:00 |
|
liunux4odoo
|
67b8ebef52
|
update api and webui:
1. 增加search_docs接口，返回原始知识库检索文档，close #1103
2. 为FAISS检索增加score_threshold参数。milvus和PG暂不支持
|
2023-08-16 13:18:58 +08:00 |
imClumsyPanda
|
afc6aa968d
|
update webui layout
|
2023-08-11 23:40:41 +08:00 |
|
imClumsyPanda
|
8a4d9168fa
|
update import pkgs and format
|
2023-08-10 21:26:05 +08:00 |
|
liunux4odoo
|
17ddee38a4
|
fix conflict between def_fastchat and pr1037
|
2023-08-10 15:02:41 +08:00 |
|
zqt
|
d4f728dfa2
|
添加向量数据库pg支持，和向量库docker-compose.ym环境文件
|
2023-08-10 11:16:52 +08:00 |