跳转至

模板:ops/dataset_versioning

源文件:examples/template_library/ops/dataset_versioning.py

场景说明

数据版本对比模板。

场景说明:同一模型在不同数据版本上的回归验证。

复制后最少需要改动: 1. 将 exp_fn 中的伪指标逻辑替换为真实训练/评测代码; 2. 调整 grid/variants 到你的参数空间; 3. 将产物写入 ctx.run_dir / "artifacts"

一键复制起步

cp examples/template_library/ops/dataset_versioning.py your_experiment.py
python your_experiment.py

模板代码

"""数据版本对比模板。

场景说明:同一模型在不同数据版本上的回归验证。

复制后最少需要改动:
1. 将 `exp_fn` 中的伪指标逻辑替换为真实训练/评测代码;
2. 调整 `grid/variants` 到你的参数空间;
3. 将产物写入 `ctx.run_dir / "artifacts"`。
"""

from __future__ import annotations

import json
import random
import time
from pathlib import Path

from ztxexp import ExperimentPipeline, RunContext


def exp_fn(ctx: RunContext):
    """单次实验函数模板。"""
    cfg = ctx.config
    lr = float(cfg.get("lr", 0.001))
    time.sleep(0.05 + random.random() * 0.05)

    primary = 0.6 + random.random() * 0.35 - lr * 0.2

    artifact = {
        "run_id": ctx.run_id,
        "config": cfg,
        "note": "replace with your real training/evaluation outputs",
    }
    artifact_path = Path(ctx.run_dir) / "artifacts" / "summary.json"
    artifact_path.write_text(json.dumps(artifact, ensure_ascii=False, indent=2), encoding="utf-8")

    return {
        "score": round(primary, 4),
        "latency_ms": round(200 + random.random() * 200, 2),
    }


if __name__ == "__main__":

    pipeline = (
        ExperimentPipeline(
            results_root="./results_templates/dataset_versioning",
            base_config={'seed': 42, 'task': 'dataset_versioning'},
        )
        .grid({'lr': [0.001], 'data_version': ['v1', 'v2', 'v3']})
        .variants([{'model': 'tiny'}, {'model': 'base'}])
        .exclude_completed()
    )
    summary = pipeline.run(
        exp_fn,
        mode="sequential",
        workers=1,
        cpu_threshold=80,
    )
    print(summary)