# prompt模板使用Jinja2语法,简单点就是用双大括号代替f-string的单大括号 # 本配置文件支持热加载,修改prompt模板后无需重启服务。 # LLM对话支持的变量: # - input: 用户输入内容 # 知识库和搜索引擎对话支持的变量: # - context: 从检索结果拼接的知识文本 # - question: 用户提出的问题 # Agent对话支持的变量: # - tools: 可用的工具列表 # - tool_names: 可用的工具名称列表 # - history: 用户和Agent的对话历史 # - input: 用户输入内容 # - agent_scratchpad: Agent的思维记录 PROMPT_TEMPLATES = { "completion": { "default": "{input}" }, "llm_chat": { "default": "{{ input }}", "py": """ 你是一个聪明的代码助手,请你给我写出简单的py代码。 \n {{ input }} """ , }, "knowledge_base_chat": { "default": """ <指令>根据已知信息,简洁和专业的来回答问题。如果无法从中得到答案,请说 “根据已知信息无法回答该问题”,不允许在答案中添加编造成分,答案请使用中文。 <已知信息>{{ context }}、 <问题>{{ question }} """, "text": """ <指令>根据已知信息,简洁和专业的来回答问题。如果无法从中得到答案,请说 “根据已知信息无法回答该问题”,答案请使用中文。 <已知信息>{{ context }}、 <问题>{{ question }} """, "Empty": # 搜不到内容的时候调用,此时没有已知信息,这个Empty可以更改,但不能删除,会影响程序使用 """ <指令>请根据用户的问题,进行简洁明了的回答 <问题>{{ question }} """, }, "search_engine_chat": { "default": """ <指令>这是我搜索到的互联网信息,请你根据这些信息进行提取并有调理,简洁的回答问题。如果无法从中得到答案,请说 “无法搜索到能回答问题的内容”。 <已知信息>{{ context }}、 <问题>{{ question }} """, "search": """ <指令>根据已知信息,简洁和专业的来回答问题。如果无法从中得到答案,请说 “根据已知信息无法回答该问题”,答案请使用中文。 <已知信息>{{ context }}、 <问题>{{ question }} """, "Empty": # 搜不到内容的时候调用,此时没有已知信息,这个Empty可以更改,但不能删除,会影响程序使用 """ <指令>请根据用户的问题,进行简洁明了的回答 <问题>{{ question }} """, }, "agent_chat": { "default": """ Answer the following questions as best you can. If it is in order, you can use some tools appropriately.You have access to the following tools: {tools} Please note that the "知识库查询工具" is information about the "西交利物浦大学" ,and if a question is asked about it, you must answer with the knowledge base, Please note that the "天气查询工具" can only be used once since Question begin. Use the following format: Question: the input question you must answer1 Thought: you should always think about what to do and what tools to use. Action: the action to take, should be one of [{tool_names}] Action Input: the input to the action Observation: the result of the action ... (this Thought/Action/Action Input/Observation can be repeated zero or more times) Thought: I now know the final answer Final Answer: the final answer to the original input question Begin! history: {history} Question: {input} Thought: {agent_scratchpad} """, "ChatGLM3": # ChatGLM3必须用官方的提示词,没有修改空间,目前参数都不会传入进去 """ history: {history} Question: {input} Thought: {agent_scratchpad} """, }, }