liunux4odoo
|
f7c73b842a
|
优化configs (#1474)
* remove llm_model_dict
* optimize configs
* fix get_model_path
* 更改一些默认参数,添加千帆的默认配置
* Update server_config.py.example
|
2023-09-15 17:52:22 +08:00 |
imClumsyPanda
|
a87a2815da
|
update knowledge_base and dialogue page of webui
|
2023-09-15 13:45:47 +08:00 |
liunux4odoo
|
8b040620de
|
对话接口支持temperature参数 (#1455)
|
2023-09-13 10:00:54 +08:00 |
liunux4odoo
|
a03b8d330d
|
升级到langchain==0.0.287,fschat==0.0.28;处理langchain.Milvus bug(#10492) (#1454)
* 修复milvus_kb_service中一些bug,添加文档后将数据同步到数据库
* 升级到langchain==0.0.287,fschat==0.0.28;处理langchain.Milvus bug(#10492)
* 修复切换模型BUG: 从在线API切换模型时出错
|
2023-09-13 08:43:11 +08:00 |
liunux4odoo
|
6a03611750
|
fix api and webui: (#1435)
1. fix #1431: 优化知识库问答与搜索引擎问答的API接口,避免docs重复返回
2. startup.py根据configs.log_verbose控制log级别
3. 修复/llm_model/list_models的bug:
只有一个参数时,fastapi未返回json导致视图函数出错
|
2023-09-12 08:31:17 +08:00 |
liunux4odoo
|
f94f2793f8
|
update startup.py: (#1416)
1. 恢复模型切换功能
2. --model-name支持多个名称(空格分开),同时启动多个模型
3. 优化服务启动顺序。严格按照顺序启动:controller -> [openai-api,
model_worker, api_worker]并行 -> api.py -> webui.py
4. 修复:从在线API模型切换到本地模型时失败
|
2023-09-08 15:18:13 +08:00 |
imClumsyPanda
|
2275b1d84a
|
fix place_holder mistake
|
2023-09-05 09:53:58 +08:00 |
liunux4odoo
|
6cb1bdf623
|
添加切换模型功能,支持智谱AI在线模型 (#1342)
* 添加LLM模型切换功能,需要在server_config中设置可切换的模型
* add tests for api.py/llm_model/*
* - 支持模型切换
- 支持智普AI线上模型
- startup.py增加参数`--api-worker`,自动运行所有的线上API模型。使用`-a
(--all-webui), --all-api`时默认开启该选项
* 修复被fastchat覆盖的标准输出
* 对fastchat日志进行更细致的控制,startup.py中增加-q(--quiet)开关,可以减少无用的fastchat日志输出
* 修正chatglm api的对话模板
Co-authored-by: liunux4odoo <liunu@qq.com>
|
2023-09-01 23:58:09 +08:00 |
liunux4odoo
|
34a416b941
|
优化server_config配置项 (#1293)
* update server_config.py:
- 在model_config中增加HISTORY_LEN配置参数
- 将server_config中helper function移动到server.utils中
- 统一set_httpx_timeout的定义和调用
* update webui.py:
应用model_config中的配置项:HISTORY_LEN,VECTOR_SEARCH_TOP_K,SEARCH_ENGINE_TOP_K
---------
Co-authored-by: liunux4odoo <liunu@qq.com>
|
2023-08-29 10:06:09 +08:00 |
imClumsyPanda
|
33ce276e3e
|
change default search_engine option to 'duckduckgo'
|
2023-08-25 15:18:43 +08:00 |
liunux4odoo
|
67b8ebef52
|
update api and webui:
1. 增加search_docs接口,返回原始知识库检索文档,close #1103
2. 为FAISS检索增加score_threshold参数。milvus和PG暂不支持
|
2023-08-16 13:18:58 +08:00 |
liunux4odoo
|
7c0e9c46db
|
fix api & webui: 1.add logs, 2. check json response, 3. set timeout=False in recreate_vector_stoore
|
2023-08-15 14:24:54 +08:00 |
liunux4odoo
|
cc08e2cb96
|
update api and webui:
1. add download_doc to api
2. return local path or http url in kowledge_base_chat depends on
no_remote_api
3. change assistant avater in webui
|
2023-08-14 11:46:36 +08:00 |
imClumsyPanda
|
b543f49278
|
update webui design
|
2023-08-13 22:25:01 +08:00 |
imClumsyPanda
|
77364c046e
|
withdraw conversation management func
|
2023-08-13 17:53:59 +08:00 |
imClumsyPanda
|
1b07648238
|
fix bug in webui search_engine_chat
|
2023-08-13 16:20:53 +08:00 |
liunux4odoo
|
5df3de8dd0
|
fix webui: keep chat session sequence when delete session, again
|
2023-08-13 14:58:14 +08:00 |
liunux4odoo
|
9974bf33a0
|
fix webui: switch to created chat session automatically
|
2023-08-13 12:59:06 +08:00 |
liunux4odoo
|
b59b34eaf7
|
fix webui: switch to created chat session automatically
|
2023-08-12 22:58:13 +08:00 |
liunux4odoo
|
1535059d2c
|
fix webui: create and rename chat session
|
2023-08-12 22:30:21 +08:00 |
imClumsyPanda
|
2ad33e010d
|
update webui.py and README.md
|
2023-08-12 14:08:21 +08:00 |
imClumsyPanda
|
e65458a506
|
update requirements.txt
|
2023-08-12 10:44:04 +08:00 |
imClumsyPanda
|
90d385cb92
|
update webui.dialogue layout
|
2023-08-12 02:30:50 +08:00 |
imClumsyPanda
|
afc6aa968d
|
update webui layout
|
2023-08-11 23:40:41 +08:00 |
liunux4odoo
|
a08fe994c2
|
更新API与ApiReuest:
1. 重新整理webui_pages/utils与server/knowledge_base间的工具依赖
2.
将delete_knowledge_base与delete_doc接口从delete改为post.delete不支持body参数
3. 修复update_doc
4. 修复部分bug
|
2023-08-11 08:45:26 +08:00 |
imClumsyPanda
|
3c44cf65cd
|
update webui layout
|
2023-08-10 23:51:10 +08:00 |
liunux4odoo
|
7a57f67587
|
fix: bug when delete chat session
|
2023-08-10 13:06:30 +08:00 |
liunux4odoo
|
25280e0cea
|
update webui: use history_len as pairs of conversation
|
2023-08-09 14:11:10 +08:00 |
liunux4odoo
|
4da7c04859
|
fix: parse history parameter to correct type
|
2023-08-09 12:09:45 +08:00 |
liunux4odoo
|
08493bffbb
|
add a basic knowledge base management ui.
|
2023-08-07 21:00:55 +08:00 |
liunux4odoo
|
3318cef751
|
update streamlit ui: support latest knowledge base and search engine
chat api; export messages to markdown.
|
2023-08-04 12:52:58 +08:00 |
liunux4odoo
|
5c804aac75
|
make api and webui support top_k paramter
|
2023-08-03 15:47:53 +08:00 |
liunux4odoo
|
df61f31c8e
|
修改knowledge_base_chat实现:利用缓存避免每次请求重新加载向量库;增加top_k参数。
|
2023-08-03 15:22:46 +08:00 |
liunux4odoo
|
e1698ce12e
|
webui中增加多会话功能
|
2023-08-03 15:06:10 +08:00 |
liunux4odoo
|
4651b50176
|
WEB UI中对话功能已完成。目前很多参数还不支持,待API接口完善后再加入。
|
2023-08-03 13:41:31 +08:00 |
imClumsyPanda
|
5ce2484af0
|
update webui.py
|
2023-08-01 15:08:19 +08:00 |
imClumsyPanda
|
bcfd3f5af5
|
add webui_pages
|
2023-08-01 14:47:38 +08:00 |