什么是 交叉拟合（Cross-Fitting）？
交叉拟合（Cross-Fitting）是一种 Sample-splitting 流程：在一部分样本上训练 Nuisance Model，再用未见过当前观测的模型预测该观测并计算 Estimating Score，最后聚合各 Fold 的分数。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
Out-of-fold Prediction 是核心产物
应为每条观测保存唯一 Nuisance Prediction，以及 Fold ID、训练数据边界、特征版本、模型版本和资格检查。Fold k 的 Score 只能使用未在 Fold k 上训练的模型。若改用 All-data Final Model 生成预测、根据 Held-out Score 调参，或在切分前全局拟合 Preprocessing，就会重新引入 Own-observation Leakage。
Orthogonality 与 Cross-Fitting 解决不同问题
Chernozhukov 等人在 Double/Debiased Machine Learning 中把 Neyman-orthogonal Score 与 Cross-Fitting 结合。Orthogonality 降低目标对 Nuisance Error 的一阶敏感性；Cross-Fitting 控制 Nuisance Fitting 与 Score Evaluation 之间的经验依赖。两者都不能修复不可识别 Estimand、缺失 Overlap、Treatment 后特征或任意模型失效。
Fold 边界必须匹配真实采样单元
如果同一用户、Session、家庭、实验 Cluster 或未来时间段的记录可以跨越 Train 与 Held-out Set，随机行切分就无效。应在独立单元上分 Fold，必要时采用 Blocked 或 Forward-time Design；如果 Split Variability 重要，则使用已声明 Seed 重复整个流程。Hyperparameter Tuning 必须在每个训练侧内部完成，或放在独立层。
主要特点
- 为每条观测生成 Out-of-fold Nuisance Prediction
- 把 Nuisance Fitting 与 Estimating-score Evaluation 分离
- 不同于预测型 Cross-Validation 与最终模型训练
- 适合与 Orthogonal 和 Doubly Robust Score 配合
- 观测有依赖时需要 Group-aware 或 Time-aware Fold
- 不能修复 Overlap、识别、特征泄漏或错误结果定义
常见用途
- 使用灵活 Outcome 与 Propensity Model 估计 Treatment Effect
- 从历史决策计算 Doubly Robust Policy Value
- 减少半参数机器学习中的 Own-observation Bias
- 为 Orthogonal Moment Equation 构造 Out-of-fold Residual
- 审计因果或 OPE Pipeline 的泄漏边界
示例
Loading code...常见问题
Cross-Fitting 与 Cross-Validation 有什么区别？
Cross-Validation 主要估计预测性能或选择 Hyperparameter。Cross-Fitting 生成 Out-of-fold Nuisance Prediction，并把它放进 Target Parameter 的 Estimating Equation。两者可以共用 Fold，但目标、聚合与重训规则不同。
为什么 Cross-Fitting 有助于 Doubly Robust Estimator？
它阻止每条观测影响预测自身的 Nuisance Model。配合 Orthogonal Score 和合适的 Nuisance Convergence，可以减少 Own-observation Overfitting 的影响，并支持使用灵活 Learner 进行 Target-parameter Inference。
Cross-Fitting 应该使用多少个 Fold？
5 或 10 个 Fold 很常见，但没有普适最优值。更多 Fold 扩大每个训练集，也增加计算；更少 Fold 简化依赖与重复训练。应根据样本量、稀有群组、Cluster Boundary 和计算预算预先选择。
可以在 Cross-Fitting 切分前拟合 Preprocessing 吗？
只有独立于观测样本固定的转换才适合全局执行。通过数据学习的 Imputation、Normalization、Feature Selection、Representation Learning、Calibration 与 Hyperparameter Selection 必须在每个训练侧拟合，否则会泄漏 Held-out Information。
Cross-Fitting 能保证无偏或因果估计吗？
不能。它处理 Nuisance Fitting 与 Score Evaluation 中的观测复用。识别仍取决于 Estimand、Treatment 或 Action Consistency、Overlap、混杂假设、正确时序，以及具有所需统计性质的 Score。