什么是 训练数据?

训练数据(Training Data)是学习过程在拟合模型参数或表示时,被允许使用的版本化样本、监督信号及配套元数据集合,并服务于明确的训练目标。

快速了解

全称Training Data
创建时间概念随着 1950-1960 年代机器学习的发展而演变
规范文档官方规范

工作原理

把每条记录绑定到任务与观测时点

采集前应定义预测单位、目标人群、特征可用时点、Label Window 与错误成本。某字段可能在结果发生后有效,却在真实决策时不可获得,从而形成 Target Leakage。Label 是由规则、人员、传感器或后续结果产生的测量值,各自都存在歧义、延迟、缺失和潜在偏差。

先按信息血缘切分,再拟合转换

Training Data 用于拟合参数,Validation Data 用于选择模型、超参数、Threshold 与 Early Stopping,Test Data 只在选择冻结后估计最终表现。不存在通用的 70/15/15 比例。若用户、会话、来源文档、设备或未来时间共享信息,应整体进入同一分区;Normalization、Vocabulary、Imputation 与 Feature Selection 也只能在训练集上拟合。

数据质量是多维约束

质量检查应覆盖部署切片、标签一致性、来源可靠性、缺失值与非法值、重复与近重复、类别基础率、时间新鲜度和不确定性。生产中的类别分布本就可能不均衡,因此 Balance 不是自动正确的目标。只有留出行为、Calibration、Robustness 或明确 Failure Slice 得到改善时,增删数据才有证据支持。

把数据集作为受治理制品

版本化来源快照、抽取 Query、转换代码、Label Guide、Split Assignment、License、Consent、隐私处理、排除项与 Checksum。Dataset Card 应写明预期用途、禁止用途和已知缺口。部署后还要比较线上输入与结果分布是否偏离训练契约,在确认漂移原因前不能自动触发重训。

主要特点

  • 具有明确任务、目标人群、观测时点、Target 与用途契约
  • 可以包含标签、自监督目标、轨迹、奖励或偏好信号
  • 让共享实体与信息血缘保持在同一评测分区
  • 记录来源、转换、标注策略、权利、隐私处理和版本
  • 衡量覆盖与不确定性,而不是假设规模或类别平衡等于质量
  • 需要结合线上输入与结果持续监测漂移和反馈回路

常见用途

  1. 使用符合真实预测时点的标签训练分类器
  2. 使用有来源和许可证记录的语料预训练或微调语言模型
  3. 从校正曝光偏差的交互和偏好记录学习排序策略
  4. 按设备、地点、主体和采集会话切分感知模型数据
  5. 从不可变数据、代码和切分版本复现模型发布

示例

loading...
Loading code...

常见问题

什么是机器学习中的训练数据?

训练数据是学习过程可以用来拟合参数或表示的数据。具体形式取决于目标:监督学习使用 Input-Target Pair,自监督学习从输入构造 Target,无监督目标使用原始观测,序列学习还可使用 Trajectory 和 Feedback。数据来源与预期用途也是定义的一部分。

怎样判断训练数据质量?

质量是对明确任务的适用性,不是单一整洁度分数。应检查部署覆盖、测量有效性、标签一致性、重复、缺失、来源可靠性、新鲜度、权利、隐私和关键风险切片。格式完美的数据如果抽错人群或把结果代理写进特征,仍然不可用。

我需要多少训练数据?

不存在通用样本数。需求取决于任务歧义、信号、噪声、模型容量、目标误差、稀有事件基础率、切片覆盖和预训练迁移效果。应观察 Learning Curve 与留出切片的不确定性;重复、泄漏或无关样本只会增加体积,不会增加有效信息。

训练数据、验证数据和测试数据有什么区别?

Training Data 拟合模型参数,Validation Data 影响模型、预处理、超参数、阈值和停止条件,Test Data 只在这些选择冻结后估计最终行为。比例取决于数据量与不确定性;实体、时间、来源和血缘边界比固定百分比更重要。

训练数据泄漏是怎样发生的?

当拟合过程使用了真实决策时不可获得的信息,或接触到只应留给验证与测试的数据时,就发生 Leakage。常见路径包括未来信息特征、同一实体跨 Split、在全量数据上拟合预处理、相关会话轮次被拆开,以及反复依据所谓最终测试集调参。

相关术语

相关文章