3b3d948d27
添加文件对话模式 ( #2071 )
...
开发者：
- 添加 /chat/file_chat, /knowledge_base/upload_temp_docs API 接口
- 添加 CACHED_MEMO_VS_NUM, BASE_TEMP_DIR 配置项
2023-11-16 07:39:27 +08:00
2adfa4277c
在webui模型列表中包括：非model worker启动的在线模型（如openai-api）；已经下载的本地模型 ( #2060 )
2023-11-14 21:17:32 +08:00
21b079d751
GLM3支持传入提示词 ( #2058 )
...
支持传入提示词的Agent ChatGLM3-6B
2023-11-14 17:45:22 +08:00
e78a804ec6
close #2044 : duplicated mount_knowledge_base_routes in server/api.py
2023-11-13 20:30:32 +08:00
94d4304638
更新了chatglm3 6b agent的文档，提示词 ( #2041 )
...
更新了chatglm3 6b agent的文档，提示词
修复代理no_proxy格式问题 #1838 的问题，感谢多次复现和验证
修改了pg清理知识库后还会引用之前知识库的问题
2023-11-13 16:30:09 +08:00
91ff0574df
支持ChatGLM3-6B ( #2021 )
...
* 更新依赖和配置文件中的Agent模型
* 支持基础的glm3_agent
2023-11-12 16:45:50 +08:00
c1440c2609
增加ElasticSearch支持
2023-11-10 16:04:41 +08:00
b51ba11f45
支持通过配置项同时启动多个模型，将Wiki纳入samples知识库 ( #2002 )
...
新功能：
- 将 LLM_MODEL 配置项改为 LLM_MODELS 列表，同时启动多个模型
- 将 wiki 纳入 samples 知识库
依赖变化：
- 指定 streamlit~=1.27.0。1.26.0会报rerun错误，1.28.0会有无限刷新错误
修复优化：
- 优化 get_default_llm_model 逻辑
- 适配 Qwen 在线 API 做 Embeddings 时最大 25 行的限制
- 列出知识库磁盘文件时跳过 . 开头的文件
2023-11-09 22:15:52 +08:00
ce1001a043
bugfix:dev分支创建知识库必然失败的bug修复 ( #1980 )
...
* bugfix:dev分支创建知识库必然失败的bug修复
* 统一 KBServiceFactory.get_service_by_name 的逻辑，数据库中不存在知识库时返回 None
---------
Co-authored-by: liunux4odoo <liunux@qq.com>
2023-11-09 17:45:21 +08:00
e233e4f220
reformat server/knowledge_base/migrate.py
2023-11-06 22:49:35 +08:00
fb32c31a70
reformat kb_doc_api.py
2023-11-06 22:44:50 +08:00
051a2e97dc
add support for Zhipu-api "chatglm-turbo"
2023-11-06 22:38:05 +08:00
57612d5232
修复一些bug ( #1965 )
...
* 修改一些bug
* 更新掉了一部分之前的bug
2023-11-03 18:56:27 +08:00
fa906b33a8
添加对话评分与历史消息保存功能 ( #1940 )
...
* 新功能：
- WEBUI 添加对话评分功能
- 增加 /chat/feedback 接口，用于接收对话评分
- /chat/chat 接口返回值由 str 改为 {"text":str, "chat_history_id": str}
- init_database.py 添加 --create-tables --clear-tables 参数
依赖：
- streamlit-chatbox==1.1.11
开发者：
- ChatHistoryModel 的 id 字段支持自动生成
- SAVE_CHAT_HISTORY 改到 basic_config.py
* 修复：点击反馈后页面未刷新
---------
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
Co-authored-by: liunux4odoo <liunux@qq.com>
Co-authored-by: liunux4odoo <41217877+liunux4odoo@users.noreply.github.com>
2023-11-03 11:31:45 +08:00
554122f60e
Feat ( #1951 )
...
* 知识库支持子目录（不包括temp和tmp开头的目录），文件相对路径总长度不可超过255
* init_database.py 增加 --import-db 参数，在版本升级时，如果 info.db
表结构发生变化，但向量库无需重建，可以在重建数据库后，使用本参数从旧的数据库中导入信息
2023-11-02 14:46:39 +08:00
d8e15b57ba
知识库支持子目录（不包括temp和tmp开头的目录），文件相对路径总长度不可超过255 ( #1928 )
2023-10-31 16:59:40 +08:00
65592a45c3
支持在线 Embeddings, Lite 模式支持所有知识库相关功能 ( #1924 )
...
新功能：
- 支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api
- API 增加 /other/embed_texts 接口
- init_database.py 增加 --embed-model 参数，可以指定使用的嵌入模型（本地或在线均可）
- 对于 FAISS 知识库，支持多向量库，默认位置：{KB_PATH}/vector_store/{embed_model}
- Lite 模式支持所有知识库相关功能。此模式下最主要的限制是：
- 不能使用本地 LLM 和 Embeddings 模型
- 知识库不支持 PDF 文件
- init_database.py 重建知识库时不再默认情况数据库表，增加 clear-tables 参数手动控制。
- API 和 WEBUI 中 score_threshold 参数范围改为 [0, 2]，以更好的适应在线嵌入模型
问题修复：
- API 中 list_config_models 会删除 ONLINE_LLM_MODEL 中的敏感信息，导致第二轮API请求错误
开发者：
- 统一向量库的识别：以（kb_name,embed_model）为判断向量库唯一性的依据，避免 FAISS 知识库缓存加载逻辑错误
- KBServiceFactory.get_service_by_name 中添加 default_embed_model 参数，用于在构建新知识库时设置 embed_model
- 优化 kb_service 中 Embeddings 操作：
- 统一加载接口： server.utils.load_embeddings，利用全局缓存避免各处 Embeddings 传参
- 统一文本嵌入接口：server.knowledge_base.kb_service.base.[embed_texts, embed_documents]
- 重写 normalize 函数，去除对 scikit-learn/scipy 的依赖
2023-10-31 14:26:50 +08:00
deed92169f
支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api ( #1907 )
...
* 新功能：
- 支持在线 Embeddings：zhipu-api, qwen-api, minimax-api, qianfan-api
- API 增加 /other/embed_texts 接口
- init_database.py 增加 --embed-model 参数，可以指定使用的嵌入模型（本地或在线均可）
问题修复：
- API 中 list_config_models 会删除 ONLINE_LLM_MODEL 中的敏感信息，导致第二轮API请求错误
开发者：
- 优化 kb_service 中 Embeddings 操作：
- 统一加载接口： server.utils.load_embeddings，利用全局缓存避免各处 Embeddings 传参
- 统一文本嵌入接口：server.embedding_api.[embed_texts, embed_documents]
2023-10-28 23:37:30 +08:00
aa7c580974
Dev ( #1902 )
...
修改Agent的内容
2023-10-27 22:53:43 +08:00
bb72d9ac26
支持GLM ( #1896 )
...
* 支持glm3
2023-10-27 17:56:27 +08:00
6ed87954b2
修复科大讯飞token问题和Azure的token问题 ( #1894 )
...
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-27 13:51:59 +08:00
b68f7fcdea
修改qianfan-api使用原始post访问，qianfan sdk无法访问
2023-10-27 13:42:16 +08:00
dea468ab0f
Dev ( #1892 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
* 修改了部分Agent的工具
* 增加一些Langchain的自带工具
* 修复一些兼容性的bug
* 恢复知识库
* 恢复知识库
* 1
* 修复Azure问题
* 修复zilliz的问题
* 修复Agent历史记录问题，优化知识库问答搜索的uoji
* 修复讯飞大模型token问题
* 修复讯飞大模型token问题和配置文件
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-27 13:14:48 +08:00
24d1e28a07
一些细节优化 ( #1891 )
...
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-27 11:52:44 +08:00
b4c68ddd05
优化在线 API ，支持 completion 和 embedding，简化在线 API 开发方式 ( #1886 )
...
* 优化在线 API ，支持 completion 和 embedding，简化在线 API 开发方式
新功能
- 智谱AI、Minimax、千帆、千问 4 个在线模型支持 embeddings（不通过Fastchat，后续会单独提供相关api接口）
- 在线模型自动检测传入参数，在传入非 messages 格式的 prompt 时，自动转换为 completion 形式，以支持 completion 接口
开发者：
- 重构ApiModelWorker:
- 所有在线 API 请求封装到 do_chat 方法：自动传入参数 ApiChatParams，简化参数与配置项的获取；自动处理与fastchat的接口
- 加强 API 请求错误处理，返回更有意义的信息
- 改用 qianfan sdk 重写 qianfan-api
- 将所有在线模型的测试用例统一在一起，简化测试用例编写
* Delete requirements_langflow.txt
2023-10-26 22:44:48 +08:00
e74fe2d950
Zilliz修复 ( #1874 )
...
* 修复zilliz的问题
2023-10-25 21:59:26 +08:00
35a7ca74c0
Azure 的fschat支持，弃用Langchain-MODEL ( #1873 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
* 修改了部分Agent的工具
* 增加一些Langchain的自带工具
* 修复一些兼容性的bug
* 恢复知识库
* 恢复知识库
* 修复Azure问题
2023-10-25 21:32:40 +08:00
03e55e11c4
支持lite模式：无需安装torch等重依赖，通过在线API实现LLM对话和搜索引擎对话 ( #1860 )
...
* move get_default_llm_model from webui to ApiRequest
增加API接口及其测试用例：
- /server/get_prompt_template: 获取服务器配置的 prompt 模板
- 增加知识库多线程访问测试用例
支持lite模式：无需安装torch等重依赖，通过在线API实现LLM对话和搜索引擎对话
* fix bug in server.api
---------
Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>
2023-10-25 08:30:23 +08:00
be67ea43d8
Merge pull request #1828 from qiankunli/feat/add-completion-api
...
增加completion功能的API接口，注意暂不支持online_api模型
2023-10-24 22:10:54 +08:00
19f5f07d57
fix: unused imported faiss in milvus_kb_server ( close #1849 )
2023-10-24 15:01:19 +08:00
a036e3ccda
修改了部分Agent Prompt 修改了一些适配问题 ( #1839 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
* 修改了部分Agent的工具
* 增加一些Langchain的自带工具
* 修复一些兼容性的bug
2023-10-23 14:53:14 +08:00
c983e9f559
增加一些Langchain的Agent工具 ( #1836 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
* 修改了部分Agent的工具
* 增加一些Langchain的自带工具
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-23 13:22:10 +08:00
b002a2879b
feat: add completion api
2023-10-22 17:07:26 +08:00
303c9d94df
修改，格式了部分Agent工具 ( #1823 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
* 修改了部分Agent的工具
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-22 00:07:32 +08:00
1b50547e60
Dev ( #1822 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-22 00:00:15 +08:00
1c5382d96b
支持AgentLM模型 ( #1821 )
...
* 支持了agentlm
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-21 22:09:53 +08:00
d316efe8d3
release 0.2.6 ( #1815 )
...
## 🛠 新增功能
- 支持百川在线模型 (@hzg0601 @liunux4odoo in #1623 )
- 支持 Azure OpenAI 与 claude 等 Langchain 自带模型 (@zRzRzRzRzRzRzR in #1808 )
- Agent 功能大量更新，支持更多的工具、更换提示词、检索知识库 (@zRzRzRzRzRzRzR in #1626 #1666 #1785 )
- 加长 32k 模型的历史记录 (@zRzRzRzRzRzRzR in #1629 #1630 )
- *_chat 接口支持 max_tokens 参数 (@liunux4odoo in #1744 )
- 实现 API 和 WebUI 的前后端分离 (@liunux4odoo in #1772 )
- 支持 zlilliz 向量库 (@zRzRzRzRzRzRzR in #1785 )
- 支持 metaphor 搜索引擎 (@liunux4odoo in #1792 )
- 支持 p-tuning 模型 (@hzg0601 in #1810 )
- 更新完善文档和 Wiki (@imClumsyPanda @zRzRzRzRzRzRzR @glide-the in #1680 #1811 )
## 🐞 问题修复
- 修复 bge-* 模型匹配超过 1 的问题 (@zRzRzRzRzRzRzR in #1652 )
- 修复系统代理为空的问题 (@glide-the in #1654 )
- 修复重建知识库时 `d == self.d assert error` (@liunux4odoo in #1766 )
- 修复对话历史消息错误 (@liunux4odoo in #1801 )
- 修复 OpenAI 无法调用的 bug (@zRzRzRzRzRzRzR in #1808 )
- 修复 windows下 BIND_HOST=0.0.0.0 时对话出错的问题 (@hzg0601 in #1810 )
2023-10-20 23:16:06 +08:00
dd7223b3a9
merge master to dev
2023-10-20 21:48:24 +08:00
46225ad784
Dev ( #1811 )
...
* 北京黑客松更新
知识库支持：
支持zilliz数据库
Agent支持：
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传）
知识库更新
1. 支持知识库简介，用于Agent选择
2. UI对应知识库简介
提示词选择
1. UI 和模板支持提示词模板更换选择
* 数据库更新介绍问题解决
* 关于Langchain自己支持的模型
1. 修复了Openai无法调用的bug
2. 支持了Azure Openai Claude模型
（在模型切换界面由于优先级问题，显示的会是其他联网模型)
3. 422问题被修复，用了另一种替代方案。
4. 更新了部分依赖
* 换一些图
2023-10-20 20:07:59 +08:00
1d9d9df9e9
update baichuan-api: 修正messages参数；支持流式；添加测试用例
2023-10-20 19:09:05 +08:00
e920cd0064
合并分支，支持 ( #1808 )
...
* 北京黑客松更新
知识库支持：
支持zilliz数据库
Agent支持：
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传）
知识库更新
1. 支持知识库简介，用于Agent选择
2. UI对应知识库简介
提示词选择
1. UI 和模板支持提示词模板更换选择
* 数据库更新介绍问题解决
* 关于Langchain自己支持的模型
1. 修复了Openai无法调用的bug
2. 支持了Azure Openai Claude模型
（在模型切换界面由于优先级问题，显示的会是其他联网模型)
3. 422问题被修复，用了另一种替代方案。
4. 更新了部分依赖
2023-10-20 18:13:55 +08:00
0b25d7b079
fix: correct model_worker's logger and semaphor
2023-10-20 11:50:50 +08:00
d053950aee
新功能： ( #1801 )
...
- 更新langchain/fastchat依赖，添加xformers依赖
- 默认max_tokens=None, 生成tokens自动为模型支持的最大值
修复：
- history_len=0 时会带入1条不完整的历史消息，导致LLM错误
- 当对话轮数 达到history_len时，传入的历史消息为空
2023-10-19 22:09:15 +08:00
b9b42991f6
- 支持metaphor搜索引擎（无需代理，key申请简单，目前不支持中文）
...
- 增加默认知识库和默认搜索引擎的配置项
- 修复WEBUI弹出当前模型错误
2023-10-18 23:02:20 +08:00
69e5da4e7a
北京黑客松更新 ( #1785 )
...
* 北京黑客松更新
知识库支持：
支持zilliz数据库
Agent支持：
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传）
知识库更新
1. 支持知识库简介，用于Agent选择
2. UI对应知识库简介
提示词选择
1. UI 和模板支持提示词模板更换选择
2023-10-18 15:19:02 +08:00
9ce328fea9
实现Api和WEBUI的前后端分离 ( #1772 )
...
* update ApiRequest: 删除no_remote_api本地调用模式；支持同步/异步调用
* 实现API和WEBUI的分离：
- API运行服务器上的配置通过/llm_model/get_model_config、/server/configs接口提供，WEBUI运行机器上的配置项仅作为代码内部默认值使用
- 服务器可用的搜索引擎通过/server/list_search_engines提供
- WEBUI可选LLM列表中只列出在FSCHAT_MODEL_WORKERS中配置的模型
- 修改WEBUI中默认LLM_MODEL获取方式，改为从api端读取
- 删除knowledge_base_chat中`local_doc_url`参数
其它修改：
- 删除多余的kb_config.py.exmaple(名称错误)
- server_config中默认关闭vllm
- server_config中默认注释除智谱AI之外的在线模型
- 修改requests从系统获取的代理，避免model worker注册错误
* 修正：
- api.list_config_models返回模型原始配置
- api.list_config_models和api.get_model_config中过滤online api模型的敏感信息
- 将GPT等直接访问的模型列入WEBUI可选模型列表
其它：
- 指定langchain==0.3.313, fschat==0.2.30, langchain-experimental==0.0.30
2023-10-17 16:52:07 +08:00
94977c7ab1
修复：切换embed_model时，FAISS向量库未正确释放，导致`d == self.d assert ( #1766 )
...
修复：
- 切换embed_model时，FAISS向量库未正确释放，导致d == self.d assert error (close [求助] 初始化知识库发生错误 #1657 )
- ApiRequest中chat接口增加max_tokens参数
- FileDocModel模型字段错误(字段错误 #1691 )
2023-10-16 21:02:07 +08:00
cd748128c3
add paramter `max_tokens` to 4 chat api with default value 1024 ( #1744 )
2023-10-12 16:18:56 +08:00
1ac173958d
fix #1737 : MakeFastAPIOffline函数内代码编写错误
2023-10-12 10:56:49 +08:00
7475205eca
Agent提示词更改，增加图片 ( #1667 )
...
* 更新上agent提示词代码
* 更新部分文档，修复了issue中提到的bge匹配超过1 的bug
* 按需修改
* 解决了部分最新用户用依赖的bug，加了两个工具，移除google工具
* Agent大幅度优化
1. 修改了UI界面
(1)高亮所有没有进行agent对齐的模型，
(2)优化输出体验和逻辑，使用markdown
2. 降低天气工具使用门槛
3. 依赖更新
(1) vllm 更新到0.2.0，增加了一些参数
(2) torch 建议更新到2.1
(3)pydantic不要更新到1.10.12
* 更新了一些注释
2023-10-07 11:52:54 +08:00
2c8fc95f7a
Agent大更新合并 ( #1666 )
...
* 更新上agent提示词代码
* 更新部分文档，修复了issue中提到的bge匹配超过1 的bug
* 按需修改
* 解决了部分最新用户用依赖的bug，加了两个工具，移除google工具
* Agent大幅度优化
1. 修改了UI界面
(1)高亮所有没有进行agent对齐的模型，
(2)优化输出体验和逻辑，使用markdown
2. 降低天气工具使用门槛
3. 依赖更新
(1) vllm 更新到0.2.0，增加了一些参数
(2) torch 建议更新到2.1
(3)pydantic不要更新到1.10.12
2023-10-07 11:26:11 +08:00
387b4cb967
fix #1638 : baichuan-api未正确配置
2023-10-05 22:46:31 +08:00
038f2eb1ec
修复代理为空的问题
...
(cherry picked from commit 84a4141dec
2023-10-04 14:05:00 +08:00
48338207bd
修复代理为空的问题
...
(cherry picked from commit a655608d01
2023-10-04 14:05:00 +08:00
84a4141dec
修复代理为空的问题
2023-10-04 14:02:57 +08:00
a655608d01
修复代理为空的问题
2023-10-04 13:33:42 +08:00
fc6a3b07ed
Dev ( #1652 )
...
* 更新上agent提示词代码
* 更新部分文档，修复了issue中提到的bge匹配超过1 的bug
* 按需修改
* 解决了部分最新用户用依赖的bug，加了两个工具，移除google工具
2023-10-04 12:05:46 +08:00
332f8be401
fix: windows下bind_host设为0.0.0.0时，将fschat_xx_address指向127.0.0.1，避免请求错误 ( #1651 )
2023-10-03 23:40:05 +08:00
77d38db00e
修改部分错误的文档，加长了历史记录（for 32k Models） ( #1629 )
...
* 更新上agent提示词代码
* 更新部分文档，修复了issue中提到的bge匹配超过1 的bug
* 按需修改
2023-09-29 20:17:29 +08:00
eb6f5cf84b
fix: embedding_model_dict used for bge-* models ( #1628 )
...
change to use `get_model_path`
2023-09-29 18:57:15 +08:00
d9056a8df6
python3.8用户需要加上__future__ ( #1624 )
...
* 增加了仅限GPT4的agent功能，陆续补充，中文版readme已写
* issue提到的一个bug
* 温度最小改成0，但是不应该支持负数
* 修改了最小的温度
* 增加了部分Agent支持和修改了启动文件的部分bug
* 修改了GPU数量配置文件
* 1
1
* 修复配置文件错误
* 更新readme，稳定测试
* 更新readme
* python3.8用户需要加这两行
2023-09-29 16:04:44 +08:00
00745c99e2
update baichuan.py
2023-09-29 13:19:17 +08:00
0e20552083
1. 增加baichuan-api支持；2.增加批量复制configs下.example文件为.py文件的脚本copy_config_example.py;3. 更新model_config.py.example
2023-09-29 13:16:14 +08:00
efd8edda16
Dev ( #1618 )
...
* 增加了仅限GPT4的agent功能，陆续补充，中文版readme已写
* issue提到的一个bug
* 温度最小改成0，但是不应该支持负数
* 修改了最小的温度
* 增加了部分Agent支持和修改了启动文件的部分bug
* 修改了GPU数量配置文件
* 1
1
* 修复配置文件错误
* 更新readme，稳定测试
2023-09-28 20:19:26 +08:00
8fa99026c8
根据官方文档，添加对英文版的bge embedding的指示模板 ( #1585 )
...
Co-authored-by: zR <2448370773@qq.com>
2023-09-28 19:18:31 +08:00
b3c7f8b072
修复webui中重建知识库以及对话界面UI错误 ( #1615 )
...
* 修复bug:webui点重建知识库时，如果存在不支持的文件会导致整个接口错误;migrate中没有导入CHUNK_SIZE
* 修复：webui对话界面的expander一直为running状态；简化历史消息获取方法
2023-09-28 15:12:03 +08:00
8d0f8a5d67
fix: langchain warnings for import from root
2023-09-27 21:55:02 +08:00
d39878ff35
Dev ( #1613 )
...
* 增加了仅限GPT4的agent功能，陆续补充，中文版readme已写
* issue提到的一个bug
* 温度最小改成0，但是不应该支持负数
* 修改了最小的温度
2023-09-27 21:17:50 +08:00
5702554171
增加了仅限GPT4的agent功能，陆续补充，中文版readme已写 ( #1611 )
2023-09-27 19:19:25 +08:00
f3042a6a29
merge master
2023-09-22 12:36:45 +08:00
e4a927c5d1
将所有httpx请求改为使用Client，提高效率，方便以后设置代理等。 ( #1554 )
...
将所有httpx请求改为使用Client，提高效率，方便以后设置代理等。
将本项目相关服务加入无代理列表，避免fastchat的服务器请求错误。(windows下无效)
2023-09-21 15:19:51 +08:00
3ff130ecc2
修复csv文件解析编码报错的问题。 ( #1508 )
2023-09-21 14:41:49 +08:00
818cb1a491
update kb_doc_api: use Form instead of Body when upload file
2023-09-21 09:57:36 +08:00
0586f94c5a
summary_chunk 文档分段总结业务实现
...
使用 MapReduceDocumentsChain 生成摘要
2023-09-20 23:55:56 +08:00
92359fb6b9
remove depends on volcengine
2023-09-20 23:02:43 +08:00
bd0164ea62
处理序列化至磁盘的逻辑
2023-09-20 21:35:23 +08:00
9bcce0a572
【功能新增】在线 LLM 模型支持阿里云通义千问 ( #1534 )
...
* feat: add qwen-api
* 使Qwen API支持temperature参数；添加测试用例
* 将online-api的sdk列为可选依赖
---------
Co-authored-by: liunux4odoo <liunux@qq.com>
2023-09-20 21:34:12 +08:00
cb2b560a5b
fix : Duplicate variable and function name ( #1509 )
...
Co-authored-by: Jim <zhangpengyi@taijihuabao.com>
2023-09-20 16:46:31 +08:00
b6c390777a
fix argument name in help text ( #1532 )
2023-09-20 10:38:50 +08:00
46af5b7571
fix: llm_model_dict with `xxx/xxx` local_model_path was parsed as online-api ( #1513 )
2023-09-18 12:10:03 +08:00
59fb309ba4
fix : Duplicate variable and function name ( #1509 )
...
Co-authored-by: Jim <zhangpengyi@taijihuabao.com>
2023-09-18 11:00:04 +08:00
1bae930691
修复faiss_pool知识库缓存key错误 ( #1507 )
2023-09-17 16:31:44 +08:00
ec85cd1954
move wrap_done & get_ChatOpenAI from server.chat.utils to server.utils ( #1506 )
2023-09-17 16:19:50 +08:00
bb7ce601fc
1. 搜索引擎问答支持历史记录；
...
2. 修复知识库问答历史记录传参错误：用户输入被传入history，问题出在webui中重复获取历史消息，api知识库对话接口并无问题。
2023-09-17 13:58:57 +08:00
902ba0c321
增加传入矢量名称加载
2023-09-17 13:56:18 +08:00
175c90c362
增加其它模型的参数适配
2023-09-17 13:56:08 +08:00
a65bc4a63c
添加configs/prompt_config.py，允许用户自定义prompt模板： ( #1504 )
...
1、 默认包含2个模板，分别用于LLM对话，知识库和搜索引擎对话
2、 server/utils.py提供函数get_prompt_template，获取指定的prompt模板内容（支持热加载）
3、 api.py中chat/knowledge_base_chat/search_engine_chat接口支持prompt_name参数
2023-09-17 13:27:11 +08:00
598eb298df
第一版初步agent实现 ( #1503 )
...
* 第一版初步agent实现
* 增加steaming参数
* 修改了weather.py
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-09-17 11:19:16 +08:00
13cca9cf81
feat: support volc fangzhou ( #1501 )
...
* feat: support volc fangzhou
---------
Co-authored-by: liunux4odoo <41217877+liunux4odoo@users.noreply.github.com>
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
2023-09-17 00:53:12 +08:00
9a7beef270
使火山方舟正常工作，添加错误处理和测试用例
2023-09-17 00:21:13 +08:00
745a105bae
feat: support volc fangzhou
2023-09-16 22:21:16 +08:00
3dde02be28
优化LLM模型列表获取、切换的逻辑： ( #1497 )
...
1、更准确的获取未运行的可用模型
2、优化WEBUI模型列表显示与切换的控制逻辑
2023-09-16 07:15:08 +08:00
955b0bc211
修复ChatGPT api_base_url错误；用户可以在model_config在线模型配置中覆盖默认的api_base_url ( #1496 )
2023-09-15 22:56:13 +08:00
80375e1ff3
fix merge conflict for #1474 ( #1494 )
2023-09-15 18:11:15 +08:00
f7c73b842a
优化configs ( #1474 )
...
* remove llm_model_dict
* optimize configs
* fix get_model_path
* 更改一些默认参数，添加千帆的默认配置
* Update server_config.py.example
2023-09-15 17:52:22 +08:00
20eef45a58
update README.md
2023-09-15 09:53:58 +08:00
30aeec1c45
修改智谱API默认名称，给WEBUI设置主题 ( #1484 )
...
* 給WEBUI设置主题
* chatglm-api更名为zhipu-api
2023-09-15 01:48:02 +08:00
f0f1dc2537
补充更多千帆平台支持的模型；除了指定模型名称，支持直接指定模型APIURL，便于填写单独申请的模型地址
2023-09-15 00:30:18 +08:00
4cf2e5ea5e
修复文心一言，添加测试用例
2023-09-14 23:37:34 +08:00
883445e5b2
增加 百度文心一言 API 接入支持 ( #1477 )
...
* add RapidOCRPDFLoader
* update mypdfloader.py and requirements.txt
* add myimgloader.py
* add test samples
* add TODO to mypdfloader
* add loaders to KnowledgeFile class
* add loaders to KnowledgeFile class
* add ChineseRecursiveTextSplitter
* add ChineseRecursiveTextSplitter
* add baidu ernie api
2023-09-14 15:30:06 +08:00
liunux4odoo
zR
liunux4odoo
hzg0601
WilliamChen-luckbob
imClumsyPanda
qiankunli
liqiankun.1111
glide-the
peterz3g
Leego
Jim Zhang
lehug