什么是 训练数据?
训练数据(Training Data)是学习过程在拟合模型参数或表示时,被允许使用的版本化样本、监督信号及配套元数据集合,并服务于明确的训练目标。
快速了解
| 全称 | Training Data |
|---|---|
| 创建时间 | 概念随着 1950-1960 年代机器学习的发展而演变 |
| 规范文档 | 官方规范 |
工作原理
把每条记录绑定到任务与观测时点
采集前应定义预测单位、目标人群、特征可用时点、Label Window 与错误成本。某字段可能在结果发生后有效,却在真实决策时不可获得,从而形成 Target Leakage。Label 是由规则、人员、传感器或后续结果产生的测量值,各自都存在歧义、延迟、缺失和潜在偏差。
先按信息血缘切分,再拟合转换
Training Data 用于拟合参数,Validation Data 用于选择模型、超参数、Threshold 与 Early Stopping,Test Data 只在选择冻结后估计最终表现。不存在通用的 70/15/15 比例。若用户、会话、来源文档、设备或未来时间共享信息,应整体进入同一分区;Normalization、Vocabulary、Imputation 与 Feature Selection 也只能在训练集上拟合。
数据质量是多维约束
质量检查应覆盖部署切片、标签一致性、来源可靠性、缺失值与非法值、重复与近重复、类别基础率、时间新鲜度和不确定性。生产中的类别分布本就可能不均衡,因此 Balance 不是自动正确的目标。只有留出行为、Calibration、Robustness 或明确 Failure Slice 得到改善时,增删数据才有证据支持。
把数据集作为受治理制品
版本化来源快照、抽取 Query、转换代码、Label Guide、Split Assignment、License、Consent、隐私处理、排除项与 Checksum。Dataset Card 应写明预期用途、禁止用途和已知缺口。部署后还要比较线上输入与结果分布是否偏离训练契约,在确认漂移原因前不能自动触发重训。
主要特点
- 具有明确任务、目标人群、观测时点、Target 与用途契约
- 可以包含标签、自监督目标、轨迹、奖励或偏好信号
- 让共享实体与信息血缘保持在同一评测分区
- 记录来源、转换、标注策略、权利、隐私处理和版本
- 衡量覆盖与不确定性,而不是假设规模或类别平衡等于质量
- 需要结合线上输入与结果持续监测漂移和反馈回路
常见用途
- 使用符合真实预测时点的标签训练分类器
- 使用有来源和许可证记录的语料预训练或微调语言模型
- 从校正曝光偏差的交互和偏好记录学习排序策略
- 按设备、地点、主体和采集会话切分感知模型数据
- 从不可变数据、代码和切分版本复现模型发布
示例
Loading code...常见问题
什么是机器学习中的训练数据?
训练数据是学习过程可以用来拟合参数或表示的数据。具体形式取决于目标:监督学习使用 Input-Target Pair,自监督学习从输入构造 Target,无监督目标使用原始观测,序列学习还可使用 Trajectory 和 Feedback。数据来源与预期用途也是定义的一部分。
怎样判断训练数据质量?
质量是对明确任务的适用性,不是单一整洁度分数。应检查部署覆盖、测量有效性、标签一致性、重复、缺失、来源可靠性、新鲜度、权利、隐私和关键风险切片。格式完美的数据如果抽错人群或把结果代理写进特征,仍然不可用。
我需要多少训练数据?
不存在通用样本数。需求取决于任务歧义、信号、噪声、模型容量、目标误差、稀有事件基础率、切片覆盖和预训练迁移效果。应观察 Learning Curve 与留出切片的不确定性;重复、泄漏或无关样本只会增加体积,不会增加有效信息。
训练数据、验证数据和测试数据有什么区别?
Training Data 拟合模型参数,Validation Data 影响模型、预处理、超参数、阈值和停止条件,Test Data 只在这些选择冻结后估计最终行为。比例取决于数据量与不确定性;实体、时间、来源和血缘边界比固定百分比更重要。
训练数据泄漏是怎样发生的?
当拟合过程使用了真实决策时不可获得的信息,或接触到只应留给验证与测试的数据时,就发生 Leakage。常见路径包括未来信息特征、同一实体跨 Split、在全量数据上拟合预处理、相关会话轮次被拆开,以及反复依据所谓最终测试集调参。