1b0cf67a57
支持软连接的知识库 ( #2167 )
...
* GLM3支持传入提示词
支持传入提示词的Agent ChatGLM3-6B
* 软连接处理
1. 有效的软连接处理，参考了 #2125
2. 更新了依赖，现在fschat原生支持GLM3的全功能
* 更新了支持的模型列表和依赖
1. 推荐用户使用GLM3-6B取代2代GLM模型
2. 推荐用户使用性能更强的bge模型
3 推荐使用vllm和torch的最新稳定版本
2023-11-24 22:47:55 +08:00
dfcebf7bc3
支持昆仑万维天工大模型 ( #2166 )
...
---------
Co-authored-by: Eden <chuangqi.huang@ubtrobot.com>
Co-authored-by: liunux4odoo <liunux@qq.com>
2023-11-24 22:25:35 +08:00
824c29a6d2
将 MiniMax 和 千帆 在线 Embedding 改为 10 个文本一批，防止接口数量限制 ( #2161 )
2023-11-24 16:42:20 +08:00
76151e884a
feat: add with-history prompt ( #2156 )
...
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
2023-11-24 10:05:50 +08:00
aae4144476
数据库和向量库中文档 metadata["source"] 改为相对路径，便于向量库迁移 ( #2153 )
...
修复：
- 上传知识库文件名称包括子目录时，自动创建子目录
2023-11-23 19:54:00 +08:00
1c97673d41
feat: add db memory ( #2046 )
...
* feat: add db memory
* WEBUI 添加多会话功能
---------
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
Co-authored-by: liunux4odoo <liunux@qq.com>
2023-11-22 18:38:26 +08:00
3b3d948d27
添加文件对话模式 ( #2071 )
...
开发者：
- 添加 /chat/file_chat, /knowledge_base/upload_temp_docs API 接口
- 添加 CACHED_MEMO_VS_NUM, BASE_TEMP_DIR 配置项
2023-11-16 07:39:27 +08:00
21b079d751
GLM3支持传入提示词 ( #2058 )
...
支持传入提示词的Agent ChatGLM3-6B
2023-11-14 17:45:22 +08:00
94d4304638
更新了chatglm3 6b agent的文档，提示词 ( #2041 )
...
更新了chatglm3 6b agent的文档，提示词
修复代理no_proxy格式问题 #1838 的问题，感谢多次复现和验证
修改了pg清理知识库后还会引用之前知识库的问题
2023-11-13 16:30:09 +08:00
91ff0574df
支持ChatGLM3-6B ( #2021 )
...
* 更新依赖和配置文件中的Agent模型
* 支持基础的glm3_agent
2023-11-12 16:45:50 +08:00
3462d06759
update model_config.py.example
2023-11-10 19:40:55 +08:00
5e9acfd633
update model_config.py.example
2023-11-10 16:35:42 +08:00
9a741fd14d
update model_config.py.example
2023-11-10 16:34:13 +08:00
c1440c2609
增加ElasticSearch支持
2023-11-10 16:04:41 +08:00
b51ba11f45
支持通过配置项同时启动多个模型，将Wiki纳入samples知识库 ( #2002 )
...
新功能：
- 将 LLM_MODEL 配置项改为 LLM_MODELS 列表，同时启动多个模型
- 将 wiki 纳入 samples 知识库
依赖变化：
- 指定 streamlit~=1.27.0。1.26.0会报rerun错误，1.28.0会有无限刷新错误
修复优化：
- 优化 get_default_llm_model 逻辑
- 适配 Qwen 在线 API 做 Embeddings 时最大 25 行的限制
- 列出知识库磁盘文件时跳过 . 开头的文件
2023-11-09 22:15:52 +08:00
3952fbd464
更新依赖和配置文件中的Agent模型 ( #1984 )
2023-11-07 13:52:47 +08:00
051a2e97dc
add support for Zhipu-api "chatglm-turbo"
2023-11-06 22:38:05 +08:00
ed2122a8f6
fix bug in basic_config.py.example
2023-11-06 21:49:05 +08:00
a938b67163
reformat config files
2023-11-05 11:17:09 +08:00
57612d5232
修复一些bug ( #1965 )
...
* 修改一些bug
* 更新掉了一部分之前的bug
2023-11-03 18:56:27 +08:00
fa906b33a8
添加对话评分与历史消息保存功能 ( #1940 )
...
* 新功能：
- WEBUI 添加对话评分功能
- 增加 /chat/feedback 接口，用于接收对话评分
- /chat/chat 接口返回值由 str 改为 {"text":str, "chat_history_id": str}
- init_database.py 添加 --create-tables --clear-tables 参数
依赖：
- streamlit-chatbox==1.1.11
开发者：
- ChatHistoryModel 的 id 字段支持自动生成
- SAVE_CHAT_HISTORY 改到 basic_config.py
* 修复：点击反馈后页面未刷新
---------
Co-authored-by: liqiankun.1111 <liqiankun.1111@bytedance.com>
Co-authored-by: liunux4odoo <liunux@qq.com>
Co-authored-by: liunux4odoo <41217877+liunux4odoo@users.noreply.github.com>
2023-11-03 11:31:45 +08:00
bb72d9ac26
支持GLM ( #1896 )
...
* 支持glm3
2023-10-27 17:56:27 +08:00
f19211b1f5
support adding keywords to model tokenizer ( #1622 )
...
* support adding keywords to model tokenizer
* add keyword_preprocess.py usage doc
* init new token with good weights
---------
Co-authored-by: Charles Ju <charlesyju@gmail.com>
2023-10-27 13:57:14 +08:00
dea468ab0f
Dev ( #1892 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
* 修改了部分Agent的工具
* 增加一些Langchain的自带工具
* 修复一些兼容性的bug
* 恢复知识库
* 恢复知识库
* 1
* 修复Azure问题
* 修复zilliz的问题
* 修复Agent历史记录问题，优化知识库问答搜索的uoji
* 修复讯飞大模型token问题
* 修复讯飞大模型token问题和配置文件
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-27 13:14:48 +08:00
24d1e28a07
一些细节优化 ( #1891 )
...
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-27 11:52:44 +08:00
ce8e341b9f
update server_config.py.example: qianfan-api 默认模型改为 ERNIE-Bot。qianfan sdk 对模型名称大小写敏感
2023-10-26 22:48:56 +08:00
e74fe2d950
Zilliz修复 ( #1874 )
...
* 修复zilliz的问题
2023-10-25 21:59:26 +08:00
35a7ca74c0
Azure 的fschat支持，弃用Langchain-MODEL ( #1873 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
* 修改了部分Agent的工具
* 增加一些Langchain的自带工具
* 修复一些兼容性的bug
* 恢复知识库
* 恢复知识库
* 修复Azure问题
2023-10-25 21:32:40 +08:00
be67ea43d8
Merge pull request #1828 from qiankunli/feat/add-completion-api
...
增加completion功能的API接口，注意暂不支持online_api模型
2023-10-24 22:10:54 +08:00
c983e9f559
增加一些Langchain的Agent工具 ( #1836 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
* 修改了部分Agent的工具
* 增加一些Langchain的自带工具
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-23 13:22:10 +08:00
b002a2879b
feat: add completion api
2023-10-22 17:07:26 +08:00
1b50547e60
Dev ( #1822 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能，加入了Embed方面的一个优化
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-22 00:00:15 +08:00
1c5382d96b
支持AgentLM模型 ( #1821 )
...
* 支持了agentlm
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-21 22:09:53 +08:00
9b5f64788c
update dev version: v0.2.7-preview
2023-10-20 23:32:30 +08:00
d316efe8d3
release 0.2.6 ( #1815 )
...
## 🛠 新增功能
- 支持百川在线模型 (@hzg0601 @liunux4odoo in #1623 )
- 支持 Azure OpenAI 与 claude 等 Langchain 自带模型 (@zRzRzRzRzRzRzR in #1808 )
- Agent 功能大量更新，支持更多的工具、更换提示词、检索知识库 (@zRzRzRzRzRzRzR in #1626 #1666 #1785 )
- 加长 32k 模型的历史记录 (@zRzRzRzRzRzRzR in #1629 #1630 )
- *_chat 接口支持 max_tokens 参数 (@liunux4odoo in #1744 )
- 实现 API 和 WebUI 的前后端分离 (@liunux4odoo in #1772 )
- 支持 zlilliz 向量库 (@zRzRzRzRzRzRzR in #1785 )
- 支持 metaphor 搜索引擎 (@liunux4odoo in #1792 )
- 支持 p-tuning 模型 (@hzg0601 in #1810 )
- 更新完善文档和 Wiki (@imClumsyPanda @zRzRzRzRzRzRzR @glide-the in #1680 #1811 )
## 🐞 问题修复
- 修复 bge-* 模型匹配超过 1 的问题 (@zRzRzRzRzRzRzR in #1652 )
- 修复系统代理为空的问题 (@glide-the in #1654 )
- 修复重建知识库时 `d == self.d assert error` (@liunux4odoo in #1766 )
- 修复对话历史消息错误 (@liunux4odoo in #1801 )
- 修复 OpenAI 无法调用的 bug (@zRzRzRzRzRzRzR in #1808 )
- 修复 windows下 BIND_HOST=0.0.0.0 时对话出错的问题 (@hzg0601 in #1810 )
2023-10-20 23:16:06 +08:00
dd7223b3a9
merge master to dev
2023-10-20 21:48:24 +08:00
46225ad784
Dev ( #1811 )
...
* 北京黑客松更新
知识库支持：
支持zilliz数据库
Agent支持：
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传）
知识库更新
1. 支持知识库简介，用于Agent选择
2. UI对应知识库简介
提示词选择
1. UI 和模板支持提示词模板更换选择
* 数据库更新介绍问题解决
* 关于Langchain自己支持的模型
1. 修复了Openai无法调用的bug
2. 支持了Azure Openai Claude模型
（在模型切换界面由于优先级问题，显示的会是其他联网模型)
3. 422问题被修复，用了另一种替代方案。
4. 更新了部分依赖
* 换一些图
2023-10-20 20:07:59 +08:00
a81bd827dd
根据系统指定binding_host
2023-10-20 19:32:06 +08:00
e920cd0064
合并分支，支持 ( #1808 )
...
* 北京黑客松更新
知识库支持：
支持zilliz数据库
Agent支持：
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传）
知识库更新
1. 支持知识库简介，用于Agent选择
2. UI对应知识库简介
提示词选择
1. UI 和模板支持提示词模板更换选择
* 数据库更新介绍问题解决
* 关于Langchain自己支持的模型
1. 修复了Openai无法调用的bug
2. 支持了Azure Openai Claude模型
（在模型切换界面由于优先级问题，显示的会是其他联网模型)
3. 422问题被修复，用了另一种替代方案。
4. 更新了部分依赖
2023-10-20 18:13:55 +08:00
1b3bd4442c
update model_config.py.example ( #1784 )
2023-10-19 22:37:08 +08:00
b9b42991f6
- 支持metaphor搜索引擎（无需代理，key申请简单，目前不支持中文）
...
- 增加默认知识库和默认搜索引擎的配置项
- 修复WEBUI弹出当前模型错误
2023-10-18 23:02:20 +08:00
69e5da4e7a
北京黑客松更新 ( #1785 )
...
* 北京黑客松更新
知识库支持：
支持zilliz数据库
Agent支持：
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传）
知识库更新
1. 支持知识库简介，用于Agent选择
2. UI对应知识库简介
提示词选择
1. UI 和模板支持提示词模板更换选择
2023-10-18 15:19:02 +08:00
9ce328fea9
实现Api和WEBUI的前后端分离 ( #1772 )
...
* update ApiRequest: 删除no_remote_api本地调用模式；支持同步/异步调用
* 实现API和WEBUI的分离：
- API运行服务器上的配置通过/llm_model/get_model_config、/server/configs接口提供，WEBUI运行机器上的配置项仅作为代码内部默认值使用
- 服务器可用的搜索引擎通过/server/list_search_engines提供
- WEBUI可选LLM列表中只列出在FSCHAT_MODEL_WORKERS中配置的模型
- 修改WEBUI中默认LLM_MODEL获取方式，改为从api端读取
- 删除knowledge_base_chat中`local_doc_url`参数
其它修改：
- 删除多余的kb_config.py.exmaple(名称错误)
- server_config中默认关闭vllm
- server_config中默认注释除智谱AI之外的在线模型
- 修改requests从系统获取的代理，避免model worker注册错误
* 修正：
- api.list_config_models返回模型原始配置
- api.list_config_models和api.get_model_config中过滤online api模型的敏感信息
- 将GPT等直接访问的模型列入WEBUI可选模型列表
其它：
- 指定langchain==0.3.313, fschat==0.2.30, langchain-experimental==0.0.30
2023-10-17 16:52:07 +08:00
111bc45d04
Wiki完善和Agent完善计划 ( #1680 )
...
* 更新上agent提示词代码
* 更新部分文档，修复了issue中提到的bge匹配超过1 的bug
* 按需修改
* 解决了部分最新用户用依赖的bug，加了两个工具，移除google工具
* Agent大幅度优化
1. 修改了UI界面
(1)高亮所有没有进行agent对齐的模型，
(2)优化输出体验和逻辑，使用markdown
2. 降低天气工具使用门槛
3. 依赖更新
(1) vllm 更新到0.2.0，增加了一些参数
(2) torch 建议更新到2.1
(3)pydantic不要更新到1.10.12
* 更新了一些注释
* 修改部分依赖，修改了部分wiki用图
---------
Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-07 22:00:56 +08:00
7475205eca
Agent提示词更改，增加图片 ( #1667 )
...
* 更新上agent提示词代码
* 更新部分文档，修复了issue中提到的bge匹配超过1 的bug
* 按需修改
* 解决了部分最新用户用依赖的bug，加了两个工具，移除google工具
* Agent大幅度优化
1. 修改了UI界面
(1)高亮所有没有进行agent对齐的模型，
(2)优化输出体验和逻辑，使用markdown
2. 降低天气工具使用门槛
3. 依赖更新
(1) vllm 更新到0.2.0，增加了一些参数
(2) torch 建议更新到2.1
(3)pydantic不要更新到1.10.12
* 更新了一些注释
2023-10-07 11:52:54 +08:00
387b4cb967
fix #1638 : baichuan-api未正确配置
2023-10-05 22:46:31 +08:00
0304279545
fix #1656 : rename kb_config.py.exmaple to kb_config.py.example
2023-10-05 22:35:13 +08:00
fc6a3b07ed
Dev ( #1652 )
...
* 更新上agent提示词代码
* 更新部分文档，修复了issue中提到的bge匹配超过1 的bug
* 按需修改
* 解决了部分最新用户用依赖的bug，加了两个工具，移除google工具
2023-10-04 12:05:46 +08:00
e88d926bbb
修改部分错误的文档，加长了历史记录（for 32k Models） ( #1630 )
...
* 更新上agent提示词代码 (#1626 )
* 修改部分错误的文档，加长了历史记录（for 32k Models） (#1629 )
* 更新上agent提示词代码
* 按需修改
2023-09-29 20:19:31 +08:00
77d38db00e
修改部分错误的文档，加长了历史记录（for 32k Models） ( #1629 )
...
* 更新上agent提示词代码
* 更新部分文档，修复了issue中提到的bge匹配超过1 的bug
* 按需修改
2023-09-29 20:17:29 +08:00
zR
Eden
liunux4odoo
qiankunli
imClumsyPanda
hzg0601
charlesyju
liunux4odoo
liqiankun.1111