wvivi2023
9ba2120129
enhance
...
enhance
2023-11-23 12:38:31 +08:00
1c97673d41
feat: add db memory ( #2046 )
...
* feat: add db memory
* WEBUI 添加多会话功能
---------
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
Co-authored-by: liunux4odoo <liunux@qq.com>
2023-11-22 18:38:26 +08:00
3cf7422c21
修复：知识库json文件的中文被转为unicode码，导致无法匹配 ( #2128 )
2023-11-21 21:00:46 +08:00
ad7a6fd438
开发者： ( #2091 )
...
- 修复列出知识库磁盘文件时跳过临时文件的bug：只有目录被排除了，文件未排除
- 优化知识库文档加载器：
- 将 elements 模式改为 single 模式，避免文档被切分得太碎
- 给 get_loader 和 KnowledgeFile 增加 loader_kwargs 参数，可以自定义文档加载器参数
2023-11-17 11:39:32 +08:00
68a544ea33
开发者：XXKBService.get_doc_by_id 改为批量处理，提高访问向量库效率。
2023-11-16 11:09:40 +08:00
fbe214471b
知识库支持 .jsonl, .epub, .xlsx, .xlsd, .ipynb, .odt, .py, .srt, .toml, .doc, .ppt 文件 ( #2079 )
...
* 知识库支持行式 json 文件
如果要使用 json 文件， 需要 `conda install jq`（windows 下 pip install jq 会失败）
开发者：
删除 CustomJsonLoader，使用 langchain 自带的 JsonLoader 处理 json 文件，添加 JsonLinesLoader 处理 jsonl 文件。
* 知识库支持 .epub, .xlsx, .xlsd, .ipynb, .odt, .py, .srt, .toml, .doc, .ppt 文件
为 .eml, .msg, .rst, .rtf, .tsv, .docx, .xml, .pptx 指定专用加载器
2023-11-16 09:37:09 +08:00
3b3d948d27
添加文件对话模式 ( #2071 )
...
开发者：
- 添加 /chat/file_chat, /knowledge_base/upload_temp_docs API 接口
- 添加 CACHED_MEMO_VS_NUM, BASE_TEMP_DIR 配置项
2023-11-16 07:39:27 +08:00
wvivi2023
a59767711b
enhance
...
split by 1.2 first then split by 1.23
2023-11-14 18:10:41 +08:00
94d4304638
更新了chatglm3 6b agent的文档，提示词 ( #2041 )
...
更新了chatglm3 6b agent的文档，提示词
修复代理no_proxy格式问题 #1838 的问题，感谢多次复现和验证
修改了pg清理知识库后还会引用之前知识库的问题
2023-11-13 16:30:09 +08:00
wvivi2023
60a12c05f6
0.2.6 enhance
...
0.2.6 enhance
2023-11-13 09:20:19 +08:00
c1440c2609
增加ElasticSearch支持
2023-11-10 16:04:41 +08:00
b51ba11f45
支持通过配置项同时启动多个模型，将Wiki纳入samples知识库 ( #2002 )
...
新功能：
- 将 LLM_MODEL 配置项改为 LLM_MODELS 列表，同时启动多个模型
- 将 wiki 纳入 samples 知识库
依赖变化：
- 指定 streamlit~=1.27.0。1.26.0会报rerun错误，1.28.0会有无限刷新错误
修复优化：
- 优化 get_default_llm_model 逻辑
- 适配 Qwen 在线 API 做 Embeddings 时最大 25 行的限制
- 列出知识库磁盘文件时跳过 . 开头的文件
2023-11-09 22:15:52 +08:00
ce1001a043
bugfix:dev分支创建知识库必然失败的bug修复 ( #1980 )
...
* bugfix:dev分支创建知识库必然失败的bug修复
* 统一 KBServiceFactory.get_service_by_name 的逻辑，数据库中不存在知识库时返回 None
---------
Co-authored-by: liunux4odoo <liunux@qq.com>
2023-11-09 17:45:21 +08:00
wvivi2023
4cdd2a5e79
enhance search similarity
...
enhance search similarity
2023-11-07 14:30:01 +08:00
e233e4f220
reformat server/knowledge_base/migrate.py
2023-11-06 22:49:35 +08:00
fb32c31a70
reformat kb_doc_api.py
2023-11-06 22:44:50 +08:00
wvivi2023
526c4b52a8
search related doc title before similarity search
...
search related doc title before similarity search
2023-11-06 08:57:58 +08:00
57612d5232
修复一些bug ( #1965 )
...
* 修改一些bug
* 更新掉了一部分之前的bug
2023-11-03 18:56:27 +08:00
fa906b33a8
添加对话评分与历史消息保存功能 ( #1940 )
...
* 新功能：
- WEBUI 添加对话评分功能
- 增加 /chat/feedback 接口，用于接收对话评分
- /chat/chat 接口返回值由 str 改为 {"text":str, "chat_history_id": str}
- init_database.py 添加 --create-tables --clear-tables 参数
依赖：
- streamlit-chatbox==1.1.11
开发者：
- ChatHistoryModel 的 id 字段支持自动生成
- SAVE_CHAT_HISTORY 改到 basic_config.py
* 修复：点击反馈后页面未刷新
---------
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
Co-authored-by: liunux4odoo <liunux@qq.com>
Co-authored-by: liunux4odoo <41217877+liunux4odoo@users.noreply.github.com>
2023-11-03 11:31:45 +08:00
554122f60e
Feat ( #1951 )
...
* 知识库支持子目录（不包括temp和tmp开头的目录），文件相对路径总长度不可超过255
* init_database.py 增加 --import-db 参数，在版本升级时，如果 info.db
表结构发生变化，但向量库无需重建，可以在重建数据库后，使用本参数从旧的数据库中导入信息
2023-11-02 14:46:39 +08:00
d8e15b57ba
知识库支持子目录（不包括temp和tmp开头的目录），文件相对路径总长度不可超过255 ( #1928 )
2023-10-31 16:59:40 +08:00
65592a45c3
支持在线 Embeddings, Lite 模式支持所有知识库相关功能 ( #1924 )
...
新功能：
- 支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api
- API 增加 /other/embed_texts 接口
- init_database.py 增加 --embed-model 参数，可以指定使用的嵌入模型（本地或在线均可）
- 对于 FAISS 知识库，支持多向量库，默认位置：{KB_PATH}/vector_store/{embed_model}
- Lite 模式支持所有知识库相关功能。此模式下最主要的限制是：
- 不能使用本地 LLM 和 Embeddings 模型
- 知识库不支持 PDF 文件
- init_database.py 重建知识库时不再默认情况数据库表，增加 clear-tables 参数手动控制。
- API 和 WEBUI 中 score_threshold 参数范围改为 [0, 2]，以更好的适应在线嵌入模型
问题修复：
- API 中 list_config_models 会删除 ONLINE_LLM_MODEL 中的敏感信息，导致第二轮API请求错误
开发者：
- 统一向量库的识别：以（kb_name,embed_model）为判断向量库唯一性的依据，避免 FAISS 知识库缓存加载逻辑错误
- KBServiceFactory.get_service_by_name 中添加 default_embed_model 参数，用于在构建新知识库时设置 embed_model
- 优化 kb_service 中 Embeddings 操作：
- 统一加载接口： server.utils.load_embeddings，利用全局缓存避免各处 Embeddings 传参
- 统一文本嵌入接口：server.knowledge_base.kb_service.base.[embed_texts, embed_documents]
- 重写 normalize 函数，去除对 scikit-learn/scipy 的依赖
2023-10-31 14:26:50 +08:00
deed92169f
支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api ( #1907 )
...
* 新功能：
- 支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api
- API 增加 /other/embed_texts 接口
- init_database.py 增加 --embed-model 参数，可以指定使用的嵌入模型（本地或在线均可）
问题修复：
- API 中 list_config_models 会删除 ONLINE_LLM_MODEL 中的敏感信息，导致第二轮API请求错误
开发者：
- 优化 kb_service 中 Embeddings 操作：
- 统一加载接口： server.utils.load_embeddings，利用全局缓存避免各处 Embeddings 传参
- 统一文本嵌入接口：server.embedding_api.[embed_texts, embed_documents]
2023-10-28 23:37:30 +08:00
aa7c580974
Dev ( #1902 )
...
修改Agent的内容
2023-10-27 22:53:43 +08:00
24d1e28a07
一些细节优化 ( #1891 )
...
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-27 11:52:44 +08:00
b4c68ddd05
优化在线 API ，支持 completion 和 embedding，简化在线 API 开发方式 ( #1886 )
...
* 优化在线 API ，支持 completion 和 embedding，简化在线 API 开发方式
新功能
- 智谱AI、Minimax、千帆、千问 4 个在线模型支持 embeddings（不通过Fastchat，后续会单独提供相关api接口）
- 在线模型自动检测传入参数，在传入非 messages 格式的 prompt 时，自动转换为 completion 形式，以支持 completion 接口
开发者：
- 重构ApiModelWorker:
- 所有在线 API 请求封装到 do_chat 方法：自动传入参数 ApiChatParams，简化参数与配置项的获取；自动处理与fastchat的接口
- 加强 API 请求错误处理，返回更有意义的信息
- 改用 qianfan sdk 重写 qianfan-api
- 将所有在线模型的测试用例统一在一起，简化测试用例编写
* Delete requirements_langflow.txt
2023-10-26 22:44:48 +08:00
e74fe2d950
Zilliz修复 ( #1874 )
...
* 修复zilliz的问题
2023-10-25 21:59:26 +08:00
19f5f07d57
fix: unused imported faiss in milvus_kb_server ( close #1849 )
2023-10-24 15:01:19 +08:00
a036e3ccda
修改了部分Agent Prompt 修改了一些适配问题 ( #1839 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
* 修改了部分Agent的工具
* 增加一些Langchain的自带工具
* 修复一些兼容性的bug
2023-10-23 14:53:14 +08:00
e6382cacb1
修复了migrate兼容性错误，python3.8正常使用 ( #1837 )
...
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-23 14:41:56 +08:00
d316efe8d3
release 0.2.6 ( #1815 )
...
## 🛠 新增功能
- 支持百川在线模型 (@hzg0601 @liunux4odoo in #1623 )
- 支持 Azure OpenAI 与 claude 等 Langchain 自带模型 (@zRzRzRzRzRzRzR in #1808 )
- Agent 功能大量更新，支持更多的工具、更换提示词、检索知识库 (@zRzRzRzRzRzRzR in #1626 #1666 #1785 )
- 加长 32k 模型的历史记录 (@zRzRzRzRzRzRzR in #1629 #1630 )
- *_chat 接口支持 max_tokens 参数 (@liunux4odoo in #1744 )
- 实现 API 和 WebUI 的前后端分离 (@liunux4odoo in #1772 )
- 支持 zlilliz 向量库 (@zRzRzRzRzRzRzR in #1785 )
- 支持 metaphor 搜索引擎 (@liunux4odoo in #1792 )
- 支持 p-tuning 模型 (@hzg0601 in #1810 )
- 更新完善文档和 Wiki (@imClumsyPanda @zRzRzRzRzRzRzR @glide-the in #1680 #1811 )
## 🐞 问题修复
- 修复 bge-* 模型匹配超过 1 的问题 (@zRzRzRzRzRzRzR in #1652 )
- 修复系统代理为空的问题 (@glide-the in #1654 )
- 修复重建知识库时 `d == self.d assert error` (@liunux4odoo in #1766 )
- 修复对话历史消息错误 (@liunux4odoo in #1801 )
- 修复 OpenAI 无法调用的 bug (@zRzRzRzRzRzRzR in #1808 )
- 修复 windows下 BIND_HOST=0.0.0.0 时对话出错的问题 (@hzg0601 in #1810 )
2023-10-20 23:16:06 +08:00
e920cd0064
合并分支，支持 ( #1808 )
...
* 北京黑客松更新
知识库支持：
支持zilliz数据库
Agent支持：
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传）
知识库更新
1. 支持知识库简介，用于Agent选择
2. UI对应知识库简介
提示词选择
1. UI 和模板支持提示词模板更换选择
* 数据库更新介绍问题解决
* 关于Langchain自己支持的模型
1. 修复了Openai无法调用的bug
2. 支持了Azure Openai Claude模型
（在模型切换界面由于优先级问题，显示的会是其他联网模型)
3. 422问题被修复，用了另一种替代方案。
4. 更新了部分依赖
2023-10-20 18:13:55 +08:00
b9b42991f6
- 支持metaphor搜索引擎（无需代理，key申请简单，目前不支持中文）
...
- 增加默认知识库和默认搜索引擎的配置项
- 修复WEBUI弹出当前模型错误
2023-10-18 23:02:20 +08:00
69e5da4e7a
北京黑客松更新 ( #1785 )
...
* 北京黑客松更新
知识库支持：
支持zilliz数据库
Agent支持：
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传）
知识库更新
1. 支持知识库简介，用于Agent选择
2. UI对应知识库简介
提示词选择
1. UI 和模板支持提示词模板更换选择
2023-10-18 15:19:02 +08:00
94977c7ab1
修复：切换embed_model时，FAISS向量库未正确释放，导致`d == self.d assert ( #1766 )
...
修复：
- 切换embed_model时，FAISS向量库未正确释放，导致d == self.d assert error (close [求助] 初始化知识库发生错误 #1657 )
- ApiRequest中chat接口增加max_tokens参数
- FileDocModel模型字段错误(字段错误 #1691 )
2023-10-16 21:02:07 +08:00
77d38db00e
修改部分错误的文档，加长了历史记录（for 32k Models） ( #1629 )
...
* 更新上agent提示词代码
* 更新部分文档，修复了issue中提到的bge匹配超过1 的bug
* 按需修改
2023-09-29 20:17:29 +08:00
eb6f5cf84b
fix: embedding_model_dict used for bge-* models ( #1628 )
...
change to use `get_model_path`
2023-09-29 18:57:15 +08:00
ba8d0f8e17
发版：v0.2.5 ( #1620 )
...
* 优化configs (#1474 )
* remove llm_model_dict
* optimize configs
* fix get_model_path
* 更改一些默认参数，添加千帆的默认配置
* Update server_config.py.example
* fix merge conflict for #1474 (#1494 )
* 修复ChatGPT api_base_url错误；用户可以在model_config在线模型配置中覆盖默认的api_base_url (#1496 )
* 优化LLM模型列表获取、切换的逻辑： (#1497 )
1、更准确的获取未运行的可用模型
2、优化WEBUI模型列表显示与切换的控制逻辑
* 更新migrate.py和init_database.py，加强知识库迁移工具： (#1498 )
1. 添加--update-in-db参数，按照数据库信息，从本地文件更新向量库
2. 添加--increament参数，根据本地文件增量更新向量库
3. 添加--prune-db参数，删除本地文件后，自动清理相关的向量库
4. 添加--prune-folder参数，根据数据库信息，清理无用的本地文件
5. 取消--update-info-only参数。数据库中存储了向量库信息，该操作意义不大
6. 添加--kb-name参数，所有操作支持指定操作的知识库，不指定则为所有本地知识库
7. 添加知识库迁移的测试用例
8. 删除milvus_kb_service的save_vector_store方法
* feat: support volc fangzhou
* 使火山方舟正常工作，添加错误处理和测试用例
* feat: support volc fangzhou (#1501 )
* feat: support volc fangzhou
---------
Co-authored-by: liunux4odoo <41217877+liunux4odoo@users.noreply.github.com>
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
* 第一版初步agent实现 (#1503 )
* 第一版初步agent实现
* 增加steaming参数
* 修改了weather.py
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
* 添加configs/prompt_config.py，允许用户自定义prompt模板： (#1504 )
1、 默认包含2个模板，分别用于LLM对话，知识库和搜索引擎对话
2、 server/utils.py提供函数get_prompt_template，获取指定的prompt模板内容（支持热加载）
3、 api.py中chat/knowledge_base_chat/search_engine_chat接口支持prompt_name参数
* 增加其它模型的参数适配
* 增加传入矢量名称加载
* 1. 搜索引擎问答支持历史记录；
2. 修复知识库问答历史记录传参错误：用户输入被传入history，问题出在webui中重复获取历史消息，api知识库对话接口并无问题。
* langchain日志开关
* move wrap_done & get_ChatOpenAI from server.chat.utils to server.utils (#1506 )
* 修复faiss_pool知识库缓存key错误 (#1507 )
* fix ReadMe anchor link (#1500 )
* fix : Duplicate variable and function name (#1509 )
Co-authored-by: Jim <zhangpengyi@taijihuabao.com>
* Update README.md
* fix #1519 : streamlit-chatbox旧版BUG，但新版有兼容问题，先在webui中作处理，并限定chatbox版本 (#1525 )
close #1519
* 【功能新增】在线 LLM 模型支持阿里云通义千问 (#1534 )
* feat: add qwen-api
* 使Qwen API支持temperature参数；添加测试用例
* 将online-api的sdk列为可选依赖
---------
Co-authored-by: liunux4odoo <liunux@qq.com>
* 处理序列化至磁盘的逻辑
* remove depends on volcengine
* update kb_doc_api: use Form instead of Body when upload file
* 将所有httpx请求改为使用Client，提高效率，方便以后设置代理等。 (#1554 )
将所有httpx请求改为使用Client，提高效率，方便以后设置代理等。
将本项目相关服务加入无代理列表，避免fastchat的服务器请求错误。(windows下无效)
* update QR code
* update readme_en,readme,requirements_api,requirements,model_config.py.example:测试baichuan2-7b;更新相关文档
* 新增特性：1.支持vllm推理加速框架；2. 更新支持模型列表
* 更新文件：1. startup,model_config.py.example,serve_config.py.example,FAQ
* 1. debug vllm加速框架完毕；2. 修改requirements,requirements_api对vllm的依赖；3.注释掉serve_config中baichuan-7b的device为cpu的配置
* 1. 更新congif中关于vllm后端相关说明；2. 更新requirements，requirements_api;
* 增加了仅限GPT4的agent功能，陆续补充，中文版readme已写 (#1611 )
* Dev (#1613 )
* 增加了仅限GPT4的agent功能，陆续补充，中文版readme已写
* issue提到的一个bug
* 温度最小改成0，但是不应该支持负数
* 修改了最小的温度
* fix: set vllm based on platform to avoid error on windows
* fix: langchain warnings for import from root
* 修复webui中重建知识库以及对话界面UI错误 (#1615 )
* 修复bug:webui点重建知识库时，如果存在不支持的文件会导致整个接口错误;migrate中没有导入CHUNK_SIZE
* 修复：webui对话界面的expander一直为running状态；简化历史消息获取方法
* 根据官方文档，添加对英文版的bge embedding的指示模板 (#1585 )
Co-authored-by: zR <2448370773@qq.com>
* Dev (#1618 )
* 增加了仅限GPT4的agent功能，陆续补充，中文版readme已写
* issue提到的一个bug
* 温度最小改成0，但是不应该支持负数
* 修改了最小的温度
* 增加了部分Agent支持和修改了启动文件的部分bug
* 修改了GPU数量配置文件
* 1
1
* 修复配置文件错误
* 更新readme，稳定测试
* 更改readme 0928 (#1619 )
* 增加了仅限GPT4的agent功能，陆续补充，中文版readme已写
* issue提到的一个bug
* 温度最小改成0，但是不应该支持负数
* 修改了最小的温度
* 增加了部分Agent支持和修改了启动文件的部分bug
* 修改了GPU数量配置文件
* 1
1
* 修复配置文件错误
* 更新readme，稳定测试
* 更新readme
* fix readme
* 处理序列化至磁盘的逻辑
* update version number to v0.2.5
---------
Co-authored-by: qiankunli <qiankun.li@qq.com>
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
Co-authored-by: zR <2448370773@qq.com>
Co-authored-by: glide-the <2533736852@qq.com>
Co-authored-by: Water Zheng <1499383852@qq.com>
Co-authored-by: Jim Zhang <dividi_z@163.com>
Co-authored-by: Jim <zhangpengyi@taijihuabao.com>
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
Co-authored-by: Leego <leegodev@hotmail.com>
Co-authored-by: hzg0601 <hzg0601@163.com>
Co-authored-by: WilliamChen-luckbob <58684828+WilliamChen-luckbob@users.noreply.github.com>
2023-09-28 23:30:21 +08:00
8fa99026c8
根据官方文档，添加对英文版的bge embedding的指示模板 ( #1585 )
...
Co-authored-by: zR <2448370773@qq.com>
2023-09-28 19:18:31 +08:00
b3c7f8b072
修复webui中重建知识库以及对话界面UI错误 ( #1615 )
...
* 修复bug:webui点重建知识库时，如果存在不支持的文件会导致整个接口错误;migrate中没有导入CHUNK_SIZE
* 修复：webui对话界面的expander一直为running状态；简化历史消息获取方法
2023-09-28 15:12:03 +08:00
d39878ff35
Dev ( #1613 )
...
* 增加了仅限GPT4的agent功能，陆续补充，中文版readme已写
* issue提到的一个bug
* 温度最小改成0，但是不应该支持负数
* 修改了最小的温度
2023-09-27 21:17:50 +08:00
f3042a6a29
merge master
2023-09-22 12:36:45 +08:00
3ff130ecc2
修复csv文件解析编码报错的问题。 ( #1508 )
2023-09-21 14:41:49 +08:00
818cb1a491
update kb_doc_api: use Form instead of Body when upload file
2023-09-21 09:57:36 +08:00
0586f94c5a
summary_chunk 文档分段总结业务实现
...
使用 MapReduceDocumentsChain 生成摘要
2023-09-20 23:55:56 +08:00
bd0164ea62
处理序列化至磁盘的逻辑
2023-09-20 21:35:23 +08:00
cb2b560a5b
fix : Duplicate variable and function name ( #1509 )
...
Co-authored-by: Jim <zhangpengyi@taijihuabao.com>
2023-09-20 16:46:31 +08:00
59fb309ba4
fix : Duplicate variable and function name ( #1509 )
...
Co-authored-by: Jim <zhangpengyi@taijihuabao.com>
2023-09-18 11:00:04 +08:00
1bae930691
修复faiss_pool知识库缓存key错误 ( #1507 )
2023-09-17 16:31:44 +08:00
902ba0c321
增加传入矢量名称加载
2023-09-17 13:56:18 +08:00
c8d8727783
更新migrate.py和init_database.py，加强知识库迁移工具： ( #1498 )
...
1. 添加--update-in-db参数，按照数据库信息，从本地文件更新向量库
2. 添加--increament参数，根据本地文件增量更新向量库
3. 添加--prune-db参数，删除本地文件后，自动清理相关的向量库
4. 添加--prune-folder参数，根据数据库信息，清理无用的本地文件
5. 取消--update-info-only参数。数据库中存储了向量库信息，该操作意义不大
6. 添加--kb-name参数，所有操作支持指定操作的知识库，不指定则为所有本地知识库
7. 添加知识库迁移的测试用例
8. 删除milvus_kb_service的save_vector_store方法
2023-09-16 09:09:27 +08:00
80375e1ff3
fix merge conflict for #1474 ( #1494 )
2023-09-15 18:11:15 +08:00
f7c73b842a
优化configs ( #1474 )
...
* remove llm_model_dict
* optimize configs
* fix get_model_path
* 更改一些默认参数，添加千帆的默认配置
* Update server_config.py.example
2023-09-15 17:52:22 +08:00
20eef45a58
update README.md
2023-09-15 09:53:58 +08:00
6ad8aee88c
add ES function
2023-09-14 07:54:42 +08:00
769d75d784
修复测试文件 ( #1467 )
...
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-09-13 17:12:05 +08:00
bfdbe69fa1
增加了自定义分词器适配 ( #1462 )
...
* 添加了自定义分词器适配和测试文件
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-09-13 15:42:12 +08:00
16d8809c9a
api和webui知识库操作支持chunk_size/overlap_size/zh_title_enhance参数 ( #1459 )
2023-09-13 11:19:47 +08:00
a03b8d330d
升级到langchain==0.0.287,fschat==0.0.28;处理langchain.Milvus bug( #10492 ) ( #1454 )
...
* 修复milvus_kb_service中一些bug，添加文档后将数据同步到数据库
* 升级到langchain==0.0.287,fschat==0.0.28;处理langchain.Milvus bug(#10492 )
* 修复切换模型BUG: 从在线API切换模型时出错
2023-09-13 08:43:11 +08:00
efd6d4a251
修复milvus_kb_service中一些bug，添加文档后将数据同步到数据库 ( #1452 )
2023-09-12 22:34:03 +08:00
2020f5bb88
merge master
2023-09-12 15:51:28 +08:00
8064586374
delete .doc from supported formats
2023-09-12 15:22:18 +08:00
6a03611750
fix api and webui: ( #1435 )
...
1. fix #1431 : 优化知识库问答与搜索引擎问答的API接口，避免docs重复返回
2. startup.py根据configs.log_verbose控制log级别
3. 修复/llm_model/list_models的bug:
只有一个参数时，fastapi未返回json导致视图函数出错
2023-09-12 08:31:17 +08:00
22ff073309
修改Embeddings和FAISS缓存加载方式，知识库相关API接口支持多线程并发 ( #1434 )
...
* 修改Embeddings和FAISS缓存加载方式，支持多线程，支持内存FAISS
* 知识库相关API接口支持多线程并发
* 根据新的API接口调整ApiRequest和测试用例
* 删除webui.py失效的启动说明
2023-09-11 20:41:41 +08:00
5550e3c1a9
增加显示详细日志开关
2023-09-08 20:48:31 +08:00
775870a516
改变api视图函数的sync/async，提高api并发能力： ( #1414 )
...
1. 4个chat类接口改为async
2. 知识库操作，涉及向量库修改的使用async，避免FAISS写入错误；涉及向量库读取的改为sync，提高并发
2023-09-08 12:25:02 +08:00
1195eb75eb
merge pr1413
2023-09-08 10:30:07 +08:00
661a0e9d72
新功能:
...
- 知识库管理中的add_docs/delete_docs/update_docs均支持批量操作，并利用多线程提高效率
- API的重建知识库接口支持多线程
- add_docs可提供参数控制上传文件后是否继续进行向量化
- add_docs/update_docs支持传入自定义docs(以json形式)。后续考虑区分完整或补充式自定义docs
- download_doc接口添加`preview`参数，支持下载或预览
- kb_service增加`save_vector_store`方法，便于保存向量库（仅FAISS，其它无操作）
- 将document_loader & text_splitter逻辑从KnowledgeFile中抽离出来，为后续对内存文件进行向量化做准备
- KowledgeFile支持docs & splitted_docs的缓存，方便在中间过程做一些自定义
其它：
- 将部分错误输出由print改为logger.error
2023-09-08 08:55:12 +08:00
1027ab6c06
增加构建文档metadata检索的开关，移动到dev_metadata_search
2023-09-05 20:59:57 +08:00
491c9605d9
增加构建文档metadata检索的开关
2023-09-05 18:35:11 +08:00
464ccc6d53
Update migrate.py ( #1371 )
...
fix bug at line 85 : for kb_file in kb_file
2023-09-05 11:52:22 +08:00
015ce57691
Update migrate.py ( #1371 )
...
fix bug at line 85 : for kb_file in kb_file
2023-09-05 11:47:25 +08:00
93b133f9ac
将KnowledgeFile的file2text拆分成file2docs、docs2texts和file2text三个部分，在保持接口不变的情况下，实现：
...
1、支持chunk_size和chunk_overlap参数
2、支持自定义text_splitter
3、支持自定义docs
修复：csv文件不使用text_splitter
2023-09-04 21:00:16 +08:00
e21ca447af
milvus/pg kb_service需要实现get_doc_by_id方法
2023-09-04 16:40:05 +08:00
0bc9d5c8ee
Merge branch 'dev' into opt_add_doc
2023-09-03 21:38:45 +08:00
6cb1bdf623
添加切换模型功能，支持智谱AI在线模型 ( #1342 )
...
* 添加LLM模型切换功能，需要在server_config中设置可切换的模型
* add tests for api.py/llm_model/*
* - 支持模型切换
- 支持智普AI线上模型
- startup.py增加参数`--api-worker`，自动运行所有的线上API模型。使用`-a
(--all-webui), --all-api`时默认开启该选项
* 修复被fastchat覆盖的标准输出
* 对fastchat日志进行更细致的控制，startup.py中增加-q(--quiet)开关，可以减少无用的fastchat日志输出
* 修正chatglm api的对话模板
Co-authored-by: liunux4odoo <liunu@qq.com>
2023-09-01 23:58:09 +08:00
55e417a263
升级注意
...
数据库表发生变化，需要重建知识库
新功能
- 增加FileDocModel库表，存储知识文件与向量库Document ID对应关系以及元数据，便于检索向量库
- 增加FileDocModel对应的数据库操作函数（这些函数主要是给KBService调用，用户一般无需使用）：
- list_docs_from_db: 根据知识库名称、文件名称、元数据检索对应的Document IDs
- delete_docs_from_db: 根据知识库名称、文件名称删除对应的file-doc映射
- add_docs_to_db: 添加对应的file-doc映射
- KBService增加list_docs方法，可以根据文件名、元数据检索Document。当前仅支持FAISS，待milvus/pg实现get_doc_by_id方法后即自动支持。
- 去除server.utils对torch的依赖
待完善
- milvus/pg kb_service需要实现get_doc_by_id方法
2023-09-01 22:54:57 +08:00
d6dce95682
bug fix
2023-09-01 14:15:13 +08:00
6c4ef26e9a
add RapidOCRPDFLoader and RapidOCRLoader ( #1275 )
...
* add RapidOCRPDFLoader
* update mypdfloader.py and requirements.txt
* add myimgloader.py
* add test samples
* add TODO to mypdfloader
* add loaders to KnowledgeFile class
* add loaders to KnowledgeFile class
2023-09-01 10:23:57 +08:00
b1201a5f23
优化LLM和Embedding模型运行设备配置，可设为auto自动检测；修复：重建知识库时FAISS未保存 ( #1330 )
...
* 避免configs对torch的依赖；
* webui自动从configs获取api地址(close #1319 )
* bug fix: 重建知识库时FAISS未保存
* 优化LLM和Embedding模型运行设备配置，可设为auto自动检测
2023-08-31 17:44:48 +08:00
ca0ae29fef
运行startup.py时，如果不加参数直接显示配置和帮助信息后退出 ( #1284 )
...
* 统一XX_kb_service.add_doc/do_add_doc接口，不再需要embeddings参数
* 运行startup.py时，如果不加参数直接显示配置和帮助信息后退出
---------
Co-authored-by: liunux4odoo <liunu@qq.com>
2023-08-28 16:03:53 +08:00
3acbf4d5d1
增加数据库字段，重建知识库使用多线程 ( #1280 )
...
* close #1172 : 给webui_page/utils添加一些log信息，方便定位错误
* 修复：重建知识库时页面未实时显示进度
* skip model_worker running when using online model api such as chatgpt
* 修改知识库管理相关内容:
1.KnowledgeFileModel增加3个字段：file_mtime(文件修改时间),file_size(文件大小),custom_docs(是否使用自定义docs)。为后面比对上传文件做准备。
2.给所有String字段加上长度，防止mysql建表错误(pr#1177)
3.统一[faiss/milvus/pgvector]_kb_service.add_doc接口，使其支持自定义docs
4.为faiss_kb_service增加一些方法，便于调用
5.为KnowledgeFile增加一些方法，便于获取文件信息，缓存file2text的结果。
* 修复/chat/fastchat无法流式输出的问题
* 新增功能：
1、KnowledgeFileModel增加"docs_count"字段，代表该文件加载到向量库中的Document数量，并在WEBUI中进行展示。
2、重建知识库`python init_database.py --recreate-vs`支持多线程。
其它：
统一代码中知识库相关函数用词：file代表一个文件名称或路径，doc代表langchain加载后的Document。部分与API接口有关或含义重叠的函数暂未修改。
---------
Co-authored-by: liunux4odoo <liunux@qq.com>, hongkong9771
2023-08-28 13:50:35 +08:00
8faafa6a32
update format
2023-08-27 20:23:07 +08:00
1fa4e906c7
适配score_threshold
2023-08-27 11:21:10 +08:00
96f69edf7b
修复重建知识库界面无反应的问题，添加一些log信息 ( #1258 )
...
* close #1172 : 给webui_page/utils添加一些log信息，方便定位错误
* 修复：重建知识库时页面未实时显示进度
---------
Co-authored-by: liunux4odoo <liunu@qq.com>
2023-08-26 18:26:38 +08:00
9ca53fa3ad
fix #1224 : failed to load json and pdf files ( #1252 )
...
Co-authored-by: liunux4odoo <liunu@qq.com>
2023-08-26 14:21:59 +08:00
f95d41ef47
[BUG] 修复csv文件读取后，单行数据被分成多段。
2023-08-26 11:45:01 +08:00
4dafca2376
Merge branch 'master' into pre-release
2023-08-25 16:25:35 +08:00
0c63839ff6
修正 milvus 更改错误
2023-08-24 22:53:13 +08:00
2604341e9e
调整KBService 接口函数do_search 并适配pg
2023-08-24 22:35:30 +08:00
24e7351d32
Merge branch 'master' into dev
2023-08-24 22:31:37 +08:00
050a585a9d
修复 milvus 作为默认数据库初始化异常和调用search方法异常
2023-08-24 21:31:02 +08:00
7291e77978
support for bge-large-zh-noinstruct and openai text-embedding-ada-002 ( #1119 )
...
* support for bge-large-zh-noinstruct and openai text-embedding-ada-002
* 完善了readme,修改了BGE模型的载入方式
* 补充了readme中bge-large-zh-noinstruct的信息
* Update faiss_kb_service.py
* Update utils.py
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
2023-08-23 22:55:53 +08:00
351b62f7a7
fix part of #1206 : add/delete/update_doc() get unexpected keyword argument 'not_refresh_vs_cache`
2023-08-23 15:26:52 +08:00
16542f20b4
修复pg和milvus kbservice代码
2023-08-22 16:52:04 +08:00
11856cc542
Merge pull request #1160 from shutter-cp/master
...
fix bug 1159
2023-08-22 16:38:06 +08:00
c571585ffd
optimize recreate vector store: save vector store once after all docs parsed for FAISS
2023-08-21 08:50:15 +08:00
f40bb69224
优化FAISS向量库多文件操作；修复recreate_vector_store，大量文件时不再超时。
2023-08-20 19:10:29 +08:00
150a78bfd9
update kb_doc_api:make faiss cache working; delete vector store docs before add duplicate docs
2023-08-20 16:52:49 +08:00
69627a2fa3
update chat and knowledge base api: unify exception processing and return types
2023-08-19 15:14:45 +08:00
wvivi2023
qiankunli
liunux4odoo
liunux4odoo
zR
hzg0601
WilliamChen-luckbob
imClumsyPanda
peterz3g
glide-the
Jim Zhang
唐国梁
zqt
Pickupppp
liunux4odoo
zqt996