deed92169f
支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api ( #1907 )
...
* 新功能：
- 支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api
- API 增加 /other/embed_texts 接口
- init_database.py 增加 --embed-model 参数，可以指定使用的嵌入模型（本地或在线均可）
问题修复：
- API 中 list_config_models 会删除 ONLINE_LLM_MODEL 中的敏感信息，导致第二轮API请求错误
开发者：
- 优化 kb_service 中 Embeddings 操作：
- 统一加载接口： server.utils.load_embeddings，利用全局缓存避免各处 Embeddings 传参
- 统一文本嵌入接口：server.embedding_api.[embed_texts, embed_documents]
2023-10-28 23:37:30 +08:00
27418ba9fa
fix bug, add dependencies: strsimpy, markdownify
2023-10-25 08:58:31 +08:00
69e5da4e7a
北京黑客松更新 ( #1785 )
...
* 北京黑客松更新
知识库支持：
支持zilliz数据库
Agent支持：
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传）
知识库更新
1. 支持知识库简介，用于Agent选择
2. UI对应知识库简介
提示词选择
1. UI 和模板支持提示词模板更换选择
2023-10-18 15:19:02 +08:00
f7c73b842a
优化configs ( #1474 )
...
* remove llm_model_dict
* optimize configs
* fix get_model_path
* 更改一些默认参数，添加千帆的默认配置
* Update server_config.py.example
2023-09-15 17:52:22 +08:00
a87a2815da
update knowledge_base and dialogue page of webui
2023-09-15 13:45:47 +08:00
eb49a91190
update webui_pages/knowledge_base.py
2023-09-15 11:04:23 +08:00
f066e427ce
update webui_pages/knowledge_base.py
2023-09-15 10:58:52 +08:00
30aeec1c45
修改智谱API默认名称，给WEBUI设置主题 ( #1484 )
...
* 給WEBUI设置主题
* chatglm-api更名为zhipu-api
2023-09-15 01:48:02 +08:00
16d8809c9a
api和webui知识库操作支持chunk_size/overlap_size/zh_title_enhance参数 ( #1459 )
2023-09-13 11:19:47 +08:00
1195eb75eb
merge pr1413
2023-09-08 10:30:07 +08:00
4cfee9c17c
根据新的接口修改ApiRequest和webui，以及测试用例。修改后预期webui中批量知识文件相关操作减少时间
2023-09-08 10:22:04 +08:00
6702f39db1
update knowledge_base page
2023-09-05 21:01:40 +08:00
fdfbf31318
fix streamlit-aggrid showing "For Trial Use Only"
2023-09-05 18:19:13 +08:00
3acbf4d5d1
增加数据库字段，重建知识库使用多线程 ( #1280 )
...
* close #1172 : 给webui_page/utils添加一些log信息，方便定位错误
* 修复：重建知识库时页面未实时显示进度
* skip model_worker running when using online model api such as chatgpt
* 修改知识库管理相关内容:
1.KnowledgeFileModel增加3个字段：file_mtime(文件修改时间),file_size(文件大小),custom_docs(是否使用自定义docs)。为后面比对上传文件做准备。
2.给所有String字段加上长度，防止mysql建表错误(pr#1177)
3.统一[faiss/milvus/pgvector]_kb_service.add_doc接口，使其支持自定义docs
4.为faiss_kb_service增加一些方法，便于调用
5.为KnowledgeFile增加一些方法，便于获取文件信息，缓存file2text的结果。
* 修复/chat/fastchat无法流式输出的问题
* 新增功能：
1、KnowledgeFileModel增加"docs_count"字段，代表该文件加载到向量库中的Document数量，并在WEBUI中进行展示。
2、重建知识库`python init_database.py --recreate-vs`支持多线程。
其它：
统一代码中知识库相关函数用词：file代表一个文件名称或路径，doc代表langchain加载后的Document。部分与API接口有关或含义重叠的函数暂未修改。
---------
Co-authored-by: liunux4odoo <liunux@qq.com>, hongkong9771
2023-08-28 13:50:35 +08:00
96f69edf7b
修复重建知识库界面无反应的问题，添加一些log信息 ( #1258 )
...
* close #1172 : 给webui_page/utils添加一些log信息，方便定位错误
* 修复：重建知识库时页面未实时显示进度
---------
Co-authored-by: liunux4odoo <liunu@qq.com>
2023-08-26 18:26:38 +08:00
9ca53fa3ad
fix #1224 : failed to load json and pdf files ( #1252 )
...
Co-authored-by: liunux4odoo <liunu@qq.com>
2023-08-26 14:21:59 +08:00
f40bb69224
优化FAISS向量库多文件操作；修复recreate_vector_store，大量文件时不再超时。
2023-08-20 19:10:29 +08:00
69627a2fa3
update chat and knowledge base api: unify exception processing and return types
2023-08-19 15:14:45 +08:00
d4cf77170a
fix webui: correct error messages
2023-08-18 11:47:49 +08:00
1551adb867
fix webui: use kb_names as selected_kb's options to avoid index error after delete_doc
2023-08-16 10:04:17 +08:00
7c0e9c46db
fix api & webui: 1.add logs, 2. check json response, 3. set timeout=False in recreate_vector_stoore
2023-08-15 14:24:54 +08:00
ec984205ae
fix knowledge base management:
...
1. docs in database were note deleted when clear vector store
2. diable buttons when local doc file not exist.
2023-08-14 19:09:02 +08:00
2ad33e010d
update webui.py and README.md
2023-08-12 14:08:21 +08:00
844b15a6f7
update webui.knowledge_base layout
2023-08-12 01:26:17 +08:00
afc6aa968d
update webui layout
2023-08-11 23:40:41 +08:00
2bb9a7949f
fix: delete knowledge base error
2023-08-11 23:35:27 +08:00
9add46ebbd
add recreate vector store to knowledge base mamagement ui
2023-08-11 14:11:34 +08:00
2a57f49d80
update knowledge base management ui.
...
remove numpy/pandas from requirements, move them to webui requirements
2023-08-11 13:53:20 +08:00
a08fe994c2
更新API与ApiReuest：
...
1. 重新整理webui_pages/utils与server/knowledge_base间的工具依赖
2.
将delete_knowledge_base与delete_doc接口从delete改为post.delete不支持body参数
3. 修复update_doc
4. 修复部分bug
2023-08-11 08:45:26 +08:00
3c44cf65cd
update webui layout
2023-08-10 23:51:10 +08:00
d89fcb3b2e
update knowledge base management page:
...
1. move get_kb_details & get_doc_details to utils.py
2. adjust aggrid columns width.
2023-08-10 11:37:14 +08:00
450b23c4f2
update knowledge base management api and ui
2023-08-09 22:00:33 +08:00
c7b91bfaf1
update api/kb_doc_api and knowledge base management ui:
...
1. add update_doc to api which can udpate vector store from existed
content file
2. add parameter `delete_content` to delete_doc api. user can decide
whether delete local content file when delete doc.
3. fix bug in ApiReqeust.upload_doc
4. support listing docs existed in local folder bu not in db
2023-08-09 16:52:04 +08:00
ec76adc81d
update knowledge base management ui
2023-08-08 23:58:44 +08:00
08493bffbb
add a basic knowledge base management ui.
2023-08-07 21:00:55 +08:00
5ce2484af0
update webui.py
2023-08-01 15:08:19 +08:00
bcfd3f5af5
add webui_pages
2023-08-01 14:47:38 +08:00
liunux4odoo
liunux4odoo
zR
imClumsyPanda
liunux4odoo