Zhi-guo Huang a5ca4bf26a 1.增加对llama-cpp模型的支持；2.增加对bloom/chatyuan/baichuan模型的支持；3. 修复多GPU部署的bug;4. 修复了moss_llm.py的bug；5. 增加对openai支持（没有api,未测试);6. 支持在多卡情况自定义设备GPU (#664) ... * 修复 bing_search.py的typo;更新model_config.py中Bing Subscription Key申请方式及注意事项 * 更新FAQ，增加了[Errno 110] Connection timed out的原因与解决方案 * 修改loader.py中load_in_8bit失败的原因和详细解决方案 * update loader.py * stream_chat_bing * 修改stream_chat的接口，在请求体中选择knowledge_base_id;增加stream_chat_bing接口 * 优化cli_demo.py的逻辑：支持 输入提示；多输入；重新输入 * update cli_demo.py * add bloom-3b,bloom-7b1,ggml-vicuna-13b-1.1 * 1.增加对llama-cpp模型的支持；2.增加对bloom模型的支持；3. 修复多GPU部署的bug;4. 增加对openai支持（没有api,未测试)；5.增加了llama-cpp模型部署的说明 * llama模型兼容性说明 * modified: ../configs/model_config.py modified: ../docs/INSTALL.md 在install.md里增加对llama-cpp模型调用的说明 * 修改llama_llm.py以适应llama-cpp模型 * 完成llama-cpp模型的支持； * make fastchat and openapi compatiable * 1. 修复/增加对chatyuan,bloom,baichuan-7等模型的支持；2. 修复了moss_llm.py的bug; * set default model be chatglm-6b * 在多卡情况下也支持自定义GPU设备 --------- Co-authored-by: imClumsyPanda <littlepanda0716@gmail.com>		2023-07-11 19:36:50 +08:00
..
API.md	add api.py	2023-05-03 22:35:05 +08:00
CHANGELOG.md	update README.md	2023-04-18 19:59:07 +08:00
FAQ.md	更新FAQ,model_config.py,bing_search.py文件，增加bing搜索问答相关问题的原因和可能解决方案，修复了一些typo;修改loader.py中load_in_8bit失败的原因和详细解决方案 (#610)	2023-06-14 21:31:26 +08:00
INSTALL.md	1.增加对llama-cpp模型的支持；2.增加对bloom/chatyuan/baichuan模型的支持；3. 修复多GPU部署的bug;4. 修复了moss_llm.py的bug；5. 增加对openai支持（没有api,未测试);6. 支持在多卡情况自定义设备GPU (#664)	2023-07-11 19:36:50 +08:00
Issue-with-Installing-Packages-Using-pip-in-Anaconda.md	Update docs	2023-04-14 01:49:15 +08:00
StartOption.md	增加项目可选启动项说明、增加项目结构说明	2023-05-18 22:55:50 +08:00
cli.md	添加命令行管理脚本 (#355)	2023-05-15 19:13:12 +08:00
fastchat.md	add fastchat.md	2023-05-31 22:50:35 +08:00
启动API服务.md	添加启动API的参数，支持https、wss方式API调用 (#728)	2023-07-04 19:52:17 +08:00
在Anaconda中使用pip安装包无效问题.md	Update docs	2023-04-14 01:49:15 +08:00