Commit Graph

1489 Commits

Author SHA1 Message Date
liunux4odoo 0b25d7b079 fix: correct model_worker's logger and semaphor 2023-10-20 11:50:50 +08:00
liunux4odoo 1b3bd4442c update model_config.py.example (#1784) 2023-10-19 22:37:08 +08:00
liunux4odoo d053950aee
新功能: (#1801)
- 更新langchain/fastchat依赖,添加xformers依赖
- 默认max_tokens=None, 生成tokens自动为模型支持的最大值

修复:
- history_len=0 时会带入1条不完整的历史消息,导致LLM错误
- 当对话轮数 达到history_len时,传入的历史消息为空
2023-10-19 22:09:15 +08:00
liunux4odoo 7e28291e9f
Merge pull request #1792 from liunux4odoo/fix
支持metaphor搜索引擎(无需代理,key申请简单,目前不支持中文)
2023-10-18 23:05:57 +08:00
liunux4odoo b9b42991f6 - 支持metaphor搜索引擎(无需代理,key申请简单,目前不支持中文)
- 增加默认知识库和默认搜索引擎的配置项
- 修复WEBUI弹出当前模型错误
2023-10-18 23:02:20 +08:00
imClumsyPanda b8aad555a1
Update README.md 2023-10-18 22:49:00 +08:00
imClumsyPanda 4d48d5f2ab
Add files via upload 2023-10-18 22:48:37 +08:00
zR 69e5da4e7a
北京黑客松更新 (#1785)
* 北京黑客松更新

知识库支持:
支持zilliz数据库
Agent支持:
支持以下工具调用
1. 支持互联网Agent调用
2. 支持知识库Agent调用
3. 支持旅游助手工具(未上传)

知识库更新
1. 支持知识库简介,用于Agent选择
2. UI对应知识库简介

提示词选择
1. UI 和模板支持提示词模板更换选择
2023-10-18 15:19:02 +08:00
liunux4odoo 9ce328fea9
实现Api和WEBUI的前后端分离 (#1772)
* update ApiRequest: 删除no_remote_api本地调用模式;支持同步/异步调用
* 实现API和WEBUI的分离:
- API运行服务器上的配置通过/llm_model/get_model_config、/server/configs接口提供,WEBUI运行机器上的配置项仅作为代码内部默认值使用
- 服务器可用的搜索引擎通过/server/list_search_engines提供
- WEBUI可选LLM列表中只列出在FSCHAT_MODEL_WORKERS中配置的模型
- 修改WEBUI中默认LLM_MODEL获取方式,改为从api端读取
- 删除knowledge_base_chat中`local_doc_url`参数

其它修改:
- 删除多余的kb_config.py.exmaple(名称错误)
- server_config中默认关闭vllm
- server_config中默认注释除智谱AI之外的在线模型
- 修改requests从系统获取的代理,避免model worker注册错误

* 修正:
- api.list_config_models返回模型原始配置
- api.list_config_models和api.get_model_config中过滤online api模型的敏感信息
- 将GPT等直接访问的模型列入WEBUI可选模型列表

其它:
- 指定langchain==0.3.313, fschat==0.2.30, langchain-experimental==0.0.30
2023-10-17 16:52:07 +08:00
liunux4odoo 94977c7ab1
修复:切换embed_model时,FAISS向量库未正确释放,导致`d == self.d assert (#1766)
修复:
- 切换embed_model时,FAISS向量库未正确释放,导致d == self.d assert error (close [求助] 初始化知识库发生错误 #1657 )
- ApiRequest中chat接口增加max_tokens参数
- FileDocModel模型字段错误(字段错误 #1691)
2023-10-16 21:02:07 +08:00
imClumsyPanda 9163dda5df
Update README.md 2023-10-15 22:20:22 +08:00
imClumsyPanda 70dd7c1f64
Add files via upload 2023-10-15 22:19:57 +08:00
liunux4odoo cd748128c3
add paramter `max_tokens` to 4 chat api with default value 1024 (#1744) 2023-10-12 16:18:56 +08:00
liunux4odoo 1ac173958d fix #1737: MakeFastAPIOffline函数内代码编写错误 2023-10-12 10:56:49 +08:00
liunux4odoo 01577d6264 只启动在server_config中配置的在线API模型 2023-10-12 10:55:53 +08:00
imClumsyPanda f4153beccf
Update README.md 2023-10-12 09:30:26 +08:00
imClumsyPanda d35dbc730a
Update README.md 2023-10-11 22:22:23 +08:00
imClumsyPanda 68eb72e94f
Update README.md 2023-10-11 09:21:48 +08:00
imClumsyPanda dfb36562ca
Add files via upload 2023-10-11 09:21:18 +08:00
imClumsyPanda c313f99b40 update README.md 2023-10-11 06:13:48 +08:00
imClumsyPanda 76e21c87da update README.md 2023-10-11 06:10:02 +08:00
imClumsyPanda bc5f846c6a update README.md 2023-10-10 21:33:38 +08:00
imClumsyPanda 4578bc4780 update README.md 2023-10-10 21:24:48 +08:00
glide-the 21cf43567a
Merge pull request #1707 from chatchat-space/glide-the-patch-3
Update README.md
2023-10-09 14:00:58 +08:00
glide-the ff652f1f6b
Update README.md 2023-10-09 14:00:49 +08:00
glide-the e9381f74af
Merge pull request #1705 from chatchat-space/glide-the-patch-1
微信二维码
2023-10-09 13:59:37 +08:00
glide-the 97c2126e80
Merge pull request #1706 from chatchat-space/glide-the-patch-2
Update README.md
2023-10-09 13:59:24 +08:00
glide-the 15fab6e10f
Update README.md 2023-10-09 13:59:09 +08:00
glide-the 27f5e7d967
微信二维码 2023-10-09 13:58:20 +08:00
zR 111bc45d04
Wiki完善和Agent完善计划 (#1680)
* 更新上agent提示词代码

* 更新部分文档,修复了issue中提到的bge匹配超过1 的bug

* 按需修改

* 解决了部分最新用户用依赖的bug,加了两个工具,移除google工具

* Agent大幅度优化

1. 修改了UI界面
(1)高亮所有没有进行agent对齐的模型,
(2)优化输出体验和逻辑,使用markdown

2. 降低天气工具使用门槛
3. 依赖更新
(1) vllm 更新到0.2.0,增加了一些参数
(2) torch 建议更新到2.1
(3)pydantic不要更新到1.10.12

* 更新了一些注释

* 修改部分依赖,修改了部分wiki用图

---------

Co-authored-by: zR <zRzRzRzRzRzRzR>
2023-10-07 22:00:56 +08:00
zR 7475205eca
Agent提示词更改,增加图片 (#1667)
* 更新上agent提示词代码

* 更新部分文档,修复了issue中提到的bge匹配超过1 的bug

* 按需修改

* 解决了部分最新用户用依赖的bug,加了两个工具,移除google工具

* Agent大幅度优化

1. 修改了UI界面
(1)高亮所有没有进行agent对齐的模型,
(2)优化输出体验和逻辑,使用markdown

2. 降低天气工具使用门槛
3. 依赖更新
(1) vllm 更新到0.2.0,增加了一些参数
(2) torch 建议更新到2.1
(3)pydantic不要更新到1.10.12

* 更新了一些注释
2023-10-07 11:52:54 +08:00
zR 2c8fc95f7a
Agent大更新合并 (#1666)
* 更新上agent提示词代码

* 更新部分文档,修复了issue中提到的bge匹配超过1 的bug

* 按需修改

* 解决了部分最新用户用依赖的bug,加了两个工具,移除google工具

* Agent大幅度优化

1. 修改了UI界面
(1)高亮所有没有进行agent对齐的模型,
(2)优化输出体验和逻辑,使用markdown

2. 降低天气工具使用门槛
3. 依赖更新
(1) vllm 更新到0.2.0,增加了一些参数
(2) torch 建议更新到2.1
(3)pydantic不要更新到1.10.12
2023-10-07 11:26:11 +08:00
liunux4odoo 387b4cb967 fix #1638: baichuan-api未正确配置 2023-10-05 22:46:31 +08:00
liunux4odoo 0304279545 fix #1656: rename kb_config.py.exmaple to kb_config.py.example 2023-10-05 22:35:13 +08:00
glide-the 038f2eb1ec 修复代理为空的问题
(cherry picked from commit 84a4141dec)
2023-10-04 14:05:00 +08:00
glide-the 37500b878e 指定transformers==4.33.3版本
(cherry picked from commit f30b4d5d57)
2023-10-04 14:05:00 +08:00
glide-the 48338207bd 修复代理为空的问题
(cherry picked from commit a655608d01)
2023-10-04 14:05:00 +08:00
glide-the 295783b549
Merge pull request #1654 from glide-the/master
修复代理为空的问题
2023-10-04 14:04:11 +08:00
glide-the 84a4141dec 修复代理为空的问题 2023-10-04 14:02:57 +08:00
glide-the db3efb306a
Merge pull request #1653 from glide-the/master
修复代理和transformers版本问题
2023-10-04 13:38:21 +08:00
glide-the f30b4d5d57 指定transformers==4.33.3版本 2023-10-04 13:35:11 +08:00
glide-the a655608d01 修复代理为空的问题 2023-10-04 13:33:42 +08:00
zR fc6a3b07ed
Dev (#1652)
* 更新上agent提示词代码

* 更新部分文档,修复了issue中提到的bge匹配超过1 的bug

* 按需修改

* 解决了部分最新用户用依赖的bug,加了两个工具,移除google工具
2023-10-04 12:05:46 +08:00
liunux4odoo 332f8be401
fix: windows下bind_host设为0.0.0.0时,将fschat_xx_address指向127.0.0.1,避免请求错误 (#1651) 2023-10-03 23:40:05 +08:00
zR e88d926bbb
修改部分错误的文档,加长了历史记录(for 32k Models) (#1630)
* 更新上agent提示词代码 (#1626)

* 修改部分错误的文档,加长了历史记录(for 32k Models) (#1629)

* 更新上agent提示词代码

* 按需修改
2023-09-29 20:19:31 +08:00
zR 77d38db00e
修改部分错误的文档,加长了历史记录(for 32k Models) (#1629)
* 更新上agent提示词代码

* 更新部分文档,修复了issue中提到的bge匹配超过1 的bug

* 按需修改
2023-09-29 20:17:29 +08:00
liunux4odoo eb6f5cf84b
fix: embedding_model_dict used for bge-* models (#1628)
change to use `get_model_path`
2023-09-29 18:57:15 +08:00
zR b11d6ab5bb
更新上agent提示词代码 (#1626) (#1627) 2023-09-29 18:47:11 +08:00
zR 61c4000859
更新上agent提示词代码 (#1626) 2023-09-29 18:45:50 +08:00
zR b077085fbe Merge branch 'dev' 2023-09-29 16:44:10 +08:00