liunux4odoo
b4c68ddd05
优化在线 API ,支持 completion 和 embedding,简化在线 API 开发方式 ( #1886 )
...
* 优化在线 API ,支持 completion 和 embedding,简化在线 API 开发方式
新功能
- 智谱AI、Minimax、千帆、千问 4 个在线模型支持 embeddings(不通过Fastchat,后续会单独提供相关api接口)
- 在线模型自动检测传入参数,在传入非 messages 格式的 prompt 时,自动转换为 completion 形式,以支持 completion 接口
开发者:
- 重构ApiModelWorker:
- 所有在线 API 请求封装到 do_chat 方法:自动传入参数 ApiChatParams,简化参数与配置项的获取;自动处理与fastchat的接口
- 加强 API 请求错误处理,返回更有意义的信息
- 改用 qianfan sdk 重写 qianfan-api
- 将所有在线模型的测试用例统一在一起,简化测试用例编写
* Delete requirements_langflow.txt
2023-10-26 22:44:48 +08:00
zR
35a7ca74c0
Azure 的fschat支持,弃用Langchain-MODEL ( #1873 )
...
* 支持了agentlm
* 支持了agentlm和相关提示词
* 修改了Agent的一些功能,加入了Embed方面的一个优化
* 修改了部分Agent的工具
* 增加一些Langchain的自带工具
* 修复一些兼容性的bug
* 恢复知识库
* 恢复知识库
* 修复Azure问题
2023-10-25 21:32:40 +08:00
liunux4odoo
387b4cb967
fix #1638 : baichuan-api未正确配置
2023-10-05 22:46:31 +08:00
Leego
9bcce0a572
【功能新增】在线 LLM 模型支持阿里云通义千问 ( #1534 )
...
* feat: add qwen-api
* 使Qwen API支持temperature参数;添加测试用例
* 将online-api的sdk列为可选依赖
---------
Co-authored-by: liunux4odoo <liunux@qq.com>
2023-09-20 21:34:12 +08:00
liunux4odoo
9a7beef270
使火山方舟正常工作,添加错误处理和测试用例
2023-09-17 00:21:13 +08:00
liunux4odoo
4cf2e5ea5e
修复文心一言,添加测试用例
2023-09-14 23:37:34 +08:00
imClumsyPanda
883445e5b2
增加 百度文心一言 API 接入支持 ( #1477 )
...
* add RapidOCRPDFLoader
* update mypdfloader.py and requirements.txt
* add myimgloader.py
* add test samples
* add TODO to mypdfloader
* add loaders to KnowledgeFile class
* add loaders to KnowledgeFile class
* add ChineseRecursiveTextSplitter
* add ChineseRecursiveTextSplitter
* add baidu ernie api
2023-09-14 15:30:06 +08:00
liunux4odoo
512638a3b1
支持讯飞星火大模型在线API ( #1460 )
...
* 支持讯飞星火大模型在线API
2023-09-13 13:51:05 +08:00
liunux4odoo
03c021d50f
添加MiniMax在线API支持 ( #1445 )
2023-09-12 15:24:47 +08:00
liunux4odoo
6cb1bdf623
添加切换模型功能,支持智谱AI在线模型 ( #1342 )
...
* 添加LLM模型切换功能,需要在server_config中设置可切换的模型
* add tests for api.py/llm_model/*
* - 支持模型切换
- 支持智普AI线上模型
- startup.py增加参数`--api-worker`,自动运行所有的线上API模型。使用`-a
(--all-webui), --all-api`时默认开启该选项
* 修复被fastchat覆盖的标准输出
* 对fastchat日志进行更细致的控制,startup.py中增加-q(--quiet)开关,可以减少无用的fastchat日志输出
* 修正chatglm api的对话模板
Co-authored-by: liunux4odoo <liunu@qq.com>
2023-09-01 23:58:09 +08:00