liunux4odoo
|
ec85cd1954
|
move wrap_done & get_ChatOpenAI from server.chat.utils to server.utils (#1506)
|
2023-09-17 16:19:50 +08:00 |
|
liunux4odoo
|
a65bc4a63c
|
添加configs/prompt_config.py，允许用户自定义prompt模板： (#1504)
1、 默认包含2个模板，分别用于LLM对话，知识库和搜索引擎对话
2、 server/utils.py提供函数get_prompt_template，获取指定的prompt模板内容（支持热加载）
3、 api.py中chat/knowledge_base_chat/search_engine_chat接口支持prompt_name参数
|
2023-09-17 13:27:11 +08:00 |
|
liunux4odoo
|
f7c73b842a
|
优化configs (#1474)
* remove llm_model_dict
* optimize configs
* fix get_model_path
* 更改一些默认参数，添加千帆的默认配置
* Update server_config.py.example
|
2023-09-15 17:52:22 +08:00 |
|
liunux4odoo
|
8b040620de
|
对话接口支持temperature参数 (#1455)
|
2023-09-13 10:00:54 +08:00 |
|
liunux4odoo
|
6a03611750
|
fix api and webui: (#1435)
1. fix #1431: 优化知识库问答与搜索引擎问答的API接口，避免docs重复返回
2. startup.py根据configs.log_verbose控制log级别
3. 修复/llm_model/list_models的bug:
只有一个参数时，fastapi未返回json导致视图函数出错
|
2023-09-12 08:31:17 +08:00 |
|
liunux4odoo
|
775870a516
|
改变api视图函数的sync/async，提高api并发能力： (#1414)
1. 4个chat类接口改为async
2. 知识库操作，涉及向量库修改的使用async，避免FAISS写入错误；涉及向量库读取的改为sync，提高并发
|
2023-09-08 12:25:02 +08:00 |
|
liunux4odoo
|
6cb1bdf623
|
添加切换模型功能，支持智谱AI在线模型 (#1342)
* 添加LLM模型切换功能，需要在server_config中设置可切换的模型
* add tests for api.py/llm_model/*
* - 支持模型切换
- 支持智普AI线上模型
- startup.py增加参数`--api-worker`，自动运行所有的线上API模型。使用`-a
(--all-webui), --all-api`时默认开启该选项
* 修复被fastchat覆盖的标准输出
* 对fastchat日志进行更细致的控制，startup.py中增加-q(--quiet)开关，可以减少无用的fastchat日志输出
* 修正chatglm api的对话模板
Co-authored-by: liunux4odoo <liunu@qq.com>
|
2023-09-01 23:58:09 +08:00 |
liunux4odoo
|
447b370416
|
在search_engine_chat中检查Bing KEY，并更新tests
|
2023-08-25 10:58:40 +08:00 |
zqt
|
2a2b95d214
|
search_engine_chat bug
|
2023-08-24 17:25:54 +08:00 |
|
liunux4odoo
|
63ca393731
|
参照chat，给knowledge_base_chat/search_engine_chat添加chatgpt代理设置
|
2023-08-24 15:10:51 +08:00 |
|
liunux4odoo
|
44edce6bcf
|
fix #1142: 在History中使用jinja2模板代替f-string，避免消息中含有{ }时出错
|
2023-08-23 08:35:26 +08:00 |
imClumsyPanda
|
8a4d9168fa
|
update import pkgs and format
|
2023-08-10 21:26:05 +08:00 |
|
liunux4odoo
|
222689ed5b
|
update kb and search chat: disable streaming in swagger besides streaming in ApiRequest
|
2023-08-09 23:35:36 +08:00 |
|
imClumsyPanda
|
1b70fb5f9b
|
update faiss_kb_service.py
|
2023-08-09 22:57:36 +08:00 |
|
liunux4odoo
|
db29a2fea7
|
update knowledge_base_chat and search_engine_chat: yield chinese correctly
|
2023-08-09 22:54:37 +08:00 |
|
liunux4odoo
|
323fc13d4c
|
make parameter examples available in openapi docs
|
2023-08-09 18:15:14 +08:00 |
|
imClumsyPanda
|
2d49746a8d
|
add history to chat apis
|
2023-08-08 23:54:51 +08:00 |
liunux4odoo
|
c4994e85df
|
fix: knowledge_base_chat and search_engine_chat should stream json text
instead of dict. client should use json.loads.
|
2023-08-04 12:12:13 +08:00 |
|
imClumsyPanda
|
329c24ee73
|
1. change bing_search_chat and duckduckgo_search_chat into search_engine_chat
2. add knowledge_base not found to knowledge_base_chat and add search_engine not found to search_engine_chat
|
2023-08-03 18:22:36 +08:00 |