ce1001a043
bugfix:dev分支创建知识库必然失败的bug修复 ( #1980 )
...
* bugfix:dev分支创建知识库必然失败的bug修复
* 统一 KBServiceFactory.get_service_by_name 的逻辑，数据库中不存在知识库时返回 None
---------
Co-authored-by: liunux4odoo <liunux@qq.com>
2023-11-09 17:45:21 +08:00
65592a45c3
支持在线 Embeddings, Lite 模式支持所有知识库相关功能 ( #1924 )
...
新功能：
- 支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api
- API 增加 /other/embed_texts 接口
- init_database.py 增加 --embed-model 参数，可以指定使用的嵌入模型（本地或在线均可）
- 对于 FAISS 知识库，支持多向量库，默认位置：{KB_PATH}/vector_store/{embed_model}
- Lite 模式支持所有知识库相关功能。此模式下最主要的限制是：
- 不能使用本地 LLM 和 Embeddings 模型
- 知识库不支持 PDF 文件
- init_database.py 重建知识库时不再默认情况数据库表，增加 clear-tables 参数手动控制。
- API 和 WEBUI 中 score_threshold 参数范围改为 [0, 2]，以更好的适应在线嵌入模型
问题修复：
- API 中 list_config_models 会删除 ONLINE_LLM_MODEL 中的敏感信息，导致第二轮API请求错误
开发者：
- 统一向量库的识别：以（kb_name,embed_model）为判断向量库唯一性的依据，避免 FAISS 知识库缓存加载逻辑错误
- KBServiceFactory.get_service_by_name 中添加 default_embed_model 参数，用于在构建新知识库时设置 embed_model
- 优化 kb_service 中 Embeddings 操作：
- 统一加载接口： server.utils.load_embeddings，利用全局缓存避免各处 Embeddings 传参
- 统一文本嵌入接口：server.knowledge_base.kb_service.base.[embed_texts, embed_documents]
- 重写 normalize 函数，去除对 scikit-learn/scipy 的依赖
2023-10-31 14:26:50 +08:00
deed92169f
支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api ( #1907 )
...
* 新功能：
- 支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api
- API 增加 /other/embed_texts 接口
- init_database.py 增加 --embed-model 参数，可以指定使用的嵌入模型（本地或在线均可）
问题修复：
- API 中 list_config_models 会删除 ONLINE_LLM_MODEL 中的敏感信息，导致第二轮API请求错误
开发者：
- 优化 kb_service 中 Embeddings 操作：
- 统一加载接口： server.utils.load_embeddings，利用全局缓存避免各处 Embeddings 传参
- 统一文本嵌入接口：server.embedding_api.[embed_texts, embed_documents]
2023-10-28 23:37:30 +08:00
e74fe2d950
Zilliz修复 ( #1874 )
...
* 修复zilliz的问题
2023-10-25 21:59:26 +08:00
19f5f07d57
fix: unused imported faiss in milvus_kb_server ( close #1849 )
2023-10-24 15:01:19 +08:00
69e5da4e7a
北京黑客松更新 ( #1785 )
...
* 北京黑客松更新
知识库支持：
支持zilliz数据库
Agent支持：
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传）
知识库更新
1. 支持知识库简介，用于Agent选择
2. UI对应知识库简介
提示词选择
1. UI 和模板支持提示词模板更换选择
2023-10-18 15:19:02 +08:00
94977c7ab1
修复：切换embed_model时，FAISS向量库未正确释放，导致`d == self.d assert ( #1766 )
...
修复：
- 切换embed_model时，FAISS向量库未正确释放，导致d == self.d assert error (close [求助] 初始化知识库发生错误 #1657 )
- ApiRequest中chat接口增加max_tokens参数
- FileDocModel模型字段错误(字段错误 #1691 )
2023-10-16 21:02:07 +08:00
1bae930691
修复faiss_pool知识库缓存key错误 ( #1507 )
2023-09-17 16:31:44 +08:00
c8d8727783
更新migrate.py和init_database.py，加强知识库迁移工具： ( #1498 )
...
1. 添加--update-in-db参数，按照数据库信息，从本地文件更新向量库
2. 添加--increament参数，根据本地文件增量更新向量库
3. 添加--prune-db参数，删除本地文件后，自动清理相关的向量库
4. 添加--prune-folder参数，根据数据库信息，清理无用的本地文件
5. 取消--update-info-only参数。数据库中存储了向量库信息，该操作意义不大
6. 添加--kb-name参数，所有操作支持指定操作的知识库，不指定则为所有本地知识库
7. 添加知识库迁移的测试用例
8. 删除milvus_kb_service的save_vector_store方法
2023-09-16 09:09:27 +08:00
f7c73b842a
优化configs ( #1474 )
...
* remove llm_model_dict
* optimize configs
* fix get_model_path
* 更改一些默认参数，添加千帆的默认配置
* Update server_config.py.example
2023-09-15 17:52:22 +08:00
a03b8d330d
升级到langchain==0.0.287,fschat==0.0.28;处理langchain.Milvus bug( #10492 ) ( #1454 )
...
* 修复milvus_kb_service中一些bug，添加文档后将数据同步到数据库
* 升级到langchain==0.0.287,fschat==0.0.28;处理langchain.Milvus bug(#10492 )
* 修复切换模型BUG: 从在线API切换模型时出错
2023-09-13 08:43:11 +08:00
efd6d4a251
修复milvus_kb_service中一些bug，添加文档后将数据同步到数据库 ( #1452 )
2023-09-12 22:34:03 +08:00
6a03611750
fix api and webui: ( #1435 )
...
1. fix #1431 : 优化知识库问答与搜索引擎问答的API接口，避免docs重复返回
2. startup.py根据configs.log_verbose控制log级别
3. 修复/llm_model/list_models的bug:
只有一个参数时，fastapi未返回json导致视图函数出错
2023-09-12 08:31:17 +08:00
22ff073309
修改Embeddings和FAISS缓存加载方式，知识库相关API接口支持多线程并发 ( #1434 )
...
* 修改Embeddings和FAISS缓存加载方式，支持多线程，支持内存FAISS
* 知识库相关API接口支持多线程并发
* 根据新的API接口调整ApiRequest和测试用例
* 删除webui.py失效的启动说明
2023-09-11 20:41:41 +08:00
5550e3c1a9
增加显示详细日志开关
2023-09-08 20:48:31 +08:00
1195eb75eb
merge pr1413
2023-09-08 10:30:07 +08:00
661a0e9d72
新功能:
...
- 知识库管理中的add_docs/delete_docs/update_docs均支持批量操作，并利用多线程提高效率
- API的重建知识库接口支持多线程
- add_docs可提供参数控制上传文件后是否继续进行向量化
- add_docs/update_docs支持传入自定义docs(以json形式)。后续考虑区分完整或补充式自定义docs
- download_doc接口添加`preview`参数，支持下载或预览
- kb_service增加`save_vector_store`方法，便于保存向量库（仅FAISS，其它无操作）
- 将document_loader & text_splitter逻辑从KnowledgeFile中抽离出来，为后续对内存文件进行向量化做准备
- KowledgeFile支持docs & splitted_docs的缓存，方便在中间过程做一些自定义
其它：
- 将部分错误输出由print改为logger.error
2023-09-08 08:55:12 +08:00
e21ca447af
milvus/pg kb_service需要实现get_doc_by_id方法
2023-09-04 16:40:05 +08:00
0bc9d5c8ee
Merge branch 'dev' into opt_add_doc
2023-09-03 21:38:45 +08:00
6cb1bdf623
添加切换模型功能，支持智谱AI在线模型 ( #1342 )
...
* 添加LLM模型切换功能，需要在server_config中设置可切换的模型
* add tests for api.py/llm_model/*
* - 支持模型切换
- 支持智普AI线上模型
- startup.py增加参数`--api-worker`，自动运行所有的线上API模型。使用`-a
(--all-webui), --all-api`时默认开启该选项
* 修复被fastchat覆盖的标准输出
* 对fastchat日志进行更细致的控制，startup.py中增加-q(--quiet)开关，可以减少无用的fastchat日志输出
* 修正chatglm api的对话模板
Co-authored-by: liunux4odoo <liunu@qq.com>
2023-09-01 23:58:09 +08:00
55e417a263
升级注意
...
数据库表发生变化，需要重建知识库
新功能
- 增加FileDocModel库表，存储知识文件与向量库Document ID对应关系以及元数据，便于检索向量库
- 增加FileDocModel对应的数据库操作函数（这些函数主要是给KBService调用，用户一般无需使用）：
- list_docs_from_db: 根据知识库名称、文件名称、元数据检索对应的Document IDs
- delete_docs_from_db: 根据知识库名称、文件名称删除对应的file-doc映射
- add_docs_to_db: 添加对应的file-doc映射
- KBService增加list_docs方法，可以根据文件名、元数据检索Document。当前仅支持FAISS，待milvus/pg实现get_doc_by_id方法后即自动支持。
- 去除server.utils对torch的依赖
待完善
- milvus/pg kb_service需要实现get_doc_by_id方法
2023-09-01 22:54:57 +08:00
b1201a5f23
优化LLM和Embedding模型运行设备配置，可设为auto自动检测；修复：重建知识库时FAISS未保存 ( #1330 )
...
* 避免configs对torch的依赖；
* webui自动从configs获取api地址(close #1319 )
* bug fix: 重建知识库时FAISS未保存
* 优化LLM和Embedding模型运行设备配置，可设为auto自动检测
2023-08-31 17:44:48 +08:00
16fb19d2c3
优化LLM和Embedding模型运行设备配置，可设为auto自动检测
2023-08-31 17:41:09 +08:00
80590ef5dc
bug fix: faiss vector store not saved when recreate
2023-08-31 17:34:22 +08:00
ca0ae29fef
运行startup.py时，如果不加参数直接显示配置和帮助信息后退出 ( #1284 )
...
* 统一XX_kb_service.add_doc/do_add_doc接口，不再需要embeddings参数
* 运行startup.py时，如果不加参数直接显示配置和帮助信息后退出
---------
Co-authored-by: liunux4odoo <liunu@qq.com>
2023-08-28 16:03:53 +08:00
3acbf4d5d1
增加数据库字段，重建知识库使用多线程 ( #1280 )
...
* close #1172 : 给webui_page/utils添加一些log信息，方便定位错误
* 修复：重建知识库时页面未实时显示进度
* skip model_worker running when using online model api such as chatgpt
* 修改知识库管理相关内容:
1.KnowledgeFileModel增加3个字段：file_mtime(文件修改时间),file_size(文件大小),custom_docs(是否使用自定义docs)。为后面比对上传文件做准备。
2.给所有String字段加上长度，防止mysql建表错误(pr#1177)
3.统一[faiss/milvus/pgvector]_kb_service.add_doc接口，使其支持自定义docs
4.为faiss_kb_service增加一些方法，便于调用
5.为KnowledgeFile增加一些方法，便于获取文件信息，缓存file2text的结果。
* 修复/chat/fastchat无法流式输出的问题
* 新增功能：
1、KnowledgeFileModel增加"docs_count"字段，代表该文件加载到向量库中的Document数量，并在WEBUI中进行展示。
2、重建知识库`python init_database.py --recreate-vs`支持多线程。
其它：
统一代码中知识库相关函数用词：file代表一个文件名称或路径，doc代表langchain加载后的Document。部分与API接口有关或含义重叠的函数暂未修改。
---------
Co-authored-by: liunux4odoo <liunux@qq.com>, hongkong9771
2023-08-28 13:50:35 +08:00
1fa4e906c7
适配score_threshold
2023-08-27 11:21:10 +08:00
9550c8262e
Merge branch 'master' into dev
2023-08-25 13:47:56 +08:00
0c63839ff6
修正 milvus 更改错误
2023-08-24 22:53:13 +08:00
2604341e9e
调整KBService 接口函数do_search 并适配pg
2023-08-24 22:35:30 +08:00
24e7351d32
Merge branch 'master' into dev
2023-08-24 22:31:37 +08:00
050a585a9d
修复 milvus 作为默认数据库初始化异常和调用search方法异常
2023-08-24 21:31:02 +08:00
7291e77978
support for bge-large-zh-noinstruct and openai text-embedding-ada-002 ( #1119 )
...
* support for bge-large-zh-noinstruct and openai text-embedding-ada-002
* 完善了readme,修改了BGE模型的载入方式
* 补充了readme中bge-large-zh-noinstruct的信息
* Update faiss_kb_service.py
* Update utils.py
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
2023-08-23 22:55:53 +08:00
351b62f7a7
fix part of #1206 : add/delete/update_doc() get unexpected keyword argument 'not_refresh_vs_cache`
2023-08-23 15:26:52 +08:00
16542f20b4
修复pg和milvus kbservice代码
2023-08-22 16:52:04 +08:00
11856cc542
Merge pull request #1160 from shutter-cp/master
...
fix bug 1159
2023-08-22 16:38:06 +08:00
f40bb69224
优化FAISS向量库多文件操作；修复recreate_vector_store，大量文件时不再超时。
2023-08-20 19:10:29 +08:00
150a78bfd9
update kb_doc_api:make faiss cache working; delete vector store docs before add duplicate docs
2023-08-20 16:52:49 +08:00
95d9fb0ee9
fix bug 1159
...
修复使用使用pg存储向量时，向量检索错误 {TypeError}TypeError("'Document' object is not subscriptable")
2023-08-18 14:41:11 +08:00
67b8ebef52
update api and webui:
...
1. 增加search_docs接口，返回原始知识库检索文档，close #1103
2. 为FAISS检索增加score_threshold参数。milvus和PG暂不支持
2023-08-16 13:18:58 +08:00
ec984205ae
fix knowledge base management:
...
1. docs in database were note deleted when clear vector store
2. diable buttons when local doc file not exist.
2023-08-14 19:09:02 +08:00
afc6aa968d
update webui layout
2023-08-11 23:40:41 +08:00
2a57f49d80
update knowledge base management ui.
...
remove numpy/pandas from requirements, move them to webui requirements
2023-08-11 13:53:20 +08:00
a08fe994c2
更新API与ApiReuest：
...
1. 重新整理webui_pages/utils与server/knowledge_base间的工具依赖
2.
将delete_knowledge_base与delete_doc接口从delete改为post.delete不支持body参数
3. 修复update_doc
4. 修复部分bug
2023-08-11 08:45:26 +08:00
8a4d9168fa
update import pkgs and format
2023-08-10 21:26:05 +08:00
17ddee38a4
fix conflict between def_fastchat and pr1037
2023-08-10 15:02:41 +08:00
d4f728dfa2
添加向量数据库pg支持，和向量库docker-compose.ym环境文件
2023-08-10 11:16:52 +08:00
8df00d0b04
add SCORE_THRESHOLD to faiss and milvus kb service
2023-08-10 00:36:59 +08:00
1b70fb5f9b
update faiss_kb_service.py
2023-08-09 22:57:36 +08:00
997f8b2e3f
update knowledge base api:
...
1. list_kbs_from_db return all kbs by default instead of return kbs with
file_count > 0 only.
2. KBServiceFactory.get_service_by_name could return a FaissKBService
that not in the db
2023-08-09 21:57:40 +08:00
WilliamChen-luckbob
liunux4odoo
zR
liunux4odoo
glide-the
zqt
Pickupppp
liunux4odoo
zqt996
陈鹏
imClumsyPanda