hzg0601
|
e8ff31be1f
|
1.使api.py里可以使用args.py的参数;2.兼容args.py和model_config.py的控制方式;3.更新fastchat调用模型名的说明
|
2023-07-26 17:46:02 +08:00 |
|
hzg0601
|
58a5de92a5
|
1.更改加载lora的方式;2.允许api.py调用args.py的命令行;3. FastChat路径提示
|
2023-07-26 17:05:37 +08:00 |
chinainfant
|
ec2bf9757c
|
Update args.py 将use-ptuning-v2的命名行改为action='store_true'
|
2023-07-21 15:28:11 +08:00 |
imClumsyPanda
|
a54b73aaf9
|
Update args.py
|
2023-07-17 21:26:13 +08:00 |
zg h
|
43d1bf4fb3
|
支持命令行输入ptuning路径
|
2023-07-13 22:10:54 +08:00 |
|
hzg0601
|
a3ee718ab5
|
temp
|
2023-06-12 12:57:41 +08:00 |
glide-the
|
218aca2e20
|
删除model_dir和NO_REMOTE_MODEL
|
2023-06-08 16:51:04 +08:00 |
|
glide-the
|
a1b1b78108
|
使用model_config默认配置启动
llama_llm.py 删除流式输出
base.py、shared.py 删除多余代码
fastchat_llm.py 业务实现
|
2023-05-23 23:10:31 +08:00 |
|
glide-the
|
33bbb4779e
|
llm_model_dict 处理了loader的一些预设行为，如加载位置，模型名称，模型处理器实例, 定义checkpoint名称和远程路径
loader.py: 模型重载
定义 generatorAnswer 增加 AnswerResultStream
定义generate_with_callback收集器，在每次响应时将队列数据同步到AnswerResult
requirements.txt 变更项目依赖
|
2023-05-18 22:54:41 +08:00 |