什么是 Prompt Tool
Prompt Tool 是 UR-2.0 中用于构建语言模型输入的组件。每个 Prompt Tool 由@app.prompt
装饰定义,其主要职责是根据问题、检索段等输入,加载模板文件并生成标准化的 PromptMessage
,可直接传递给 LLM 模型进行生成。
如何实现一个 Prompt Tool?
实现一个 Prompt Tool 通常包含以下三个步骤:Step 1:准备 Prompt 模板
请将你的 prompt 模板保存为 .jinja 结尾的文件,例如:Step 2:在 Prompt Server 中实现 Tool
调用我们提供的load_prompt_template
方法加载模板,并在 Prompt Server 中实现一个工具函数(Tool)用于组装 prompt:
servers/prompt/src/prompt.py
Step 3:在 Pipeline 中使用该 Tool
- 在 YAML 配置文件中注册 Prompt Server 并调用你实现的 Tool:
- 构建后,修改运行时参数,指定你的模板文件路径:
为多个工具绑定不同模板
servers/prompt/src/prompt.py
servers/prompt/parameter.yaml
中添加: