Skip to content

Commit 375e220

Browse files
committed
docs(zh): sync recipe bundle convention in RECIPES_zh.md
Translate the bundle convention from RECIPES.md: one <agg|disagg>[-<axis>]-variants.yaml per master-config entry of one recipe design, a base with schema: 2 beside it, one override per row holding its deltas and name, nulls that stay in base, and the cases that keep standalone files.
1 parent 74ce1b7 commit 375e220

1 file changed

Lines changed: 1 addition & 1 deletion

File tree

  • inferencex-e2e/benchmarks/multi_node/srt-slurm-recipes

‎inferencex-e2e/benchmarks/multi_node/srt-slurm-recipes/RECIPES_zh.md‎

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -22,7 +22,7 @@ qwen3.5/trtllm/gb300-fp4/agentx/disagg-variants.yaml
2222
- 工作负载目录为 `1k1k`、`8k1k` 或 `agentx`。已有的跨序列长度配置集合放在 `fixed-seq-len` 下,保留其覆盖项选择器。
2323
- 文件名使用小写字母和连字符,以 `agg` 或 `disagg` 开头。包含拓扑及用于区分同目录配置的关键参数,例如并行方式、批大小、并发数、MTP、卸载或缓存设置。避免日期、带序号的延迟/吞吐量标签,以及重复目录中已有的模型或硬件信息。
2424
- 拓扑名中的 `1p4d` 表示预填充/解码 worker 数,不一定等于物理节点数。`p-tp4` 和 `d-tp8` 分别标识预填充和解码 TP;`b` 表示批大小,`c` 表示并发数。运行参数以 YAML 为准。
25-
- 覆盖项集合使用 `*-variants.yaml` 命名。仅在各配置间存在差异的多节点 AgentX 配置,按主配置条目合并为一个集合,通常为 `agg-variants.yaml` 或 `disagg-variants.yaml`:`base` 保存共享设置,每个原配置成为一个具名 `override_<name>` 块,只包含其差异(使用普通覆盖项,而非 `zip_override_*`)。主配置行通过 `srt-recipe: <bundle>.yaml:override_<name>` 选择其一,路径相对于条目的 `srt-recipe-dir`。即使内容相同,也保留独立扫描入口:配置路径参与评估分组。Qwen3.5 的 `*-stp-sweep.yaml` 和 `*-mtp-sweep.yaml` 保留了这一既有区别。
25+
- 主配置条目中若有两行或更多行采用同一配置设计,这些行统一放在一个 `<agg|disagg>[-<axis>]-variants.yaml` 中;`<axis>` 仅用于区分同一目录下的多个配置集合。`base` 保存各测试点共享的全部设置,`schema: 2` 与 `base` 并列;每行对应一个普通的 `override_<topology>_c<conc>` 块(或其他能标识该测试点、且不含日期或硬件信息的名称),只包含该行的差异,包括其 `name`。覆盖项中的 `null` 会删除 `base` 中的对应键,因此测试点需要的 null 值(例如 TensorRT-LLM 的 `cuda_graph_config:`)应保留在 `base` 中。主配置行通过 `srt-recipe: <bundle>.yaml:override_<name>` 选择覆盖项,路径相对于 `srt-recipe-dir`。不要添加 `zip_override_*` 块,也不要跨条目共用配置集合;每行保留一个覆盖项,因为配置引用参与评估分组。以下情况仍保留独立文件:只有一行的条目、`# Source:` 所注明的上游基础配置存在实质差异的改编配置,以及差异过大、无法共用 `base` 的测试点,例如与 wide-EP 配置并列的 TP 低延迟配置。
2626
- 移动文件时,同步更新主配置中的 `srt-recipe-dir`、`srt-recipe` 和 `eval-srt-recipe` 引用,以及启动器路径规则、工作流过滤器和本地文档。保留上游来源 URL,并保持历史性能变更日志不变。不为旧目录结构提供别名。
2727

2828
共享运行时资源保留在模型目录旁的 `configs/` 中,不属于独立基准测试配置。`configs/dsv4-moe-load-balancer-configs/` 中的四个文件原样取自 NVIDIA/srt-slurm 提交 `deb1dfd9934398664f92d194169c183e009da83b`,保留了此前 DSV4 TRT 配置使用的 EPLB 初始专家分配;目前没有已提交的配置引用这些文件。srt driver([`infx/launch/drivers/srt/checkout.py`](../../../infx/launch/drivers/srt/checkout.py))将这些文件复制到作业仓库的 `configs/` 目录,供配置中的绑定挂载使用。将配置文件放入本目录不会启用该配置;实际基准测试矩阵由主配置决定。

0 commit comments

Comments
 (0)