什么是 流形学习？
流形学习是一组假设高维观测采样自或接近某个低维几何结构，并寻找保留该结构特定性质之坐标的非线性表示方法。
快速了解
| 全称 | Manifold Learning |
|---|---|
| 创建时间 | 现代谱流形学习由 2000 年发表的 Isomap 与 LLE 工作奠定 |
| 规范文档 | 官方规范 |
工作原理
区分环境维度、内在维度与表示维度
Ambient Dimension 是观测坐标数量，Intrinsic Dimension 是局部描述底层结构所需的自由度数量，Output Dimension 则是建模选择。为了可视化而把输出维度设得小于内在维度时，失真不可避免。
2000 年发表的 Isomap 与 LLE 论文推动了现代流形学习。两者不同的目标本身就说明，只说某个方法「保留流形」并不完整。
先构建并审计局部几何
多数方法都从 Metric、Kernel 或 Neighborhood Graph 开始。特征缩放、距离选择、邻居数量或半径、对称化、密度变化和近似近邻 Recall，会在任何 Eigensolver 或 Optimizer 开始前改变图结构。
应检查 Connected Component、Isolated Point、Degree Distribution、跨折叠 Shortcut Edge、Local Rank、重采样后的邻域稳定性，以及 Batch 或 Group Effect。scikit-learn 流形学习指南列出的 Isomap、LLE 变体、Spectral Embedding、MDS 与 t-SNE，在复杂度和 Out-of-sample 行为上存在实质差异。
验证保留量而不是视觉吸引力
应使用 Neighborhood Trustworthiness 与 Continuity、适用时的测地或两两距离残差、重构诊断、图扰动实验和下游指标。还要与 PCA 和 Random Projection 比较，让非线性复杂度证明可测量收益。
许多经典方法是 Transductive，需要完整样本图才能放置所有点。如果实现提供 transform，要说明它使用插值、邻居重构还是其他近似，并单独测试漂移或超出训练支持范围的样本。二维图中的 Cluster Shape 不能当作 Ground Truth。
主要特点
- 假设高维观测位于或接近低维结构
- 通过局部 Metric、Kernel、Graph 或 Reconstruction Relationship 建模
- 包含不同的全局与局部结构保留目标
- 对采样密度、噪声、邻域尺度与拓扑敏感
- 输出坐标通常没有直接特征级解释
- 需要方法特定的稳定性、失真与新样本验证
常见用途
- 探索受控科学测量中的非线性自由度
- 可视化轨迹、姿态、光谱等平滑变化观测
- 在下游建模前比较局部与全局几何假设
- 为聚类或半监督分析构建图表示
- 诊断非线性降维是否优于线性与随机基线
示例
Loading code...常见问题
机器学习中的 Manifold Assumption 是什么？
它认为高维观测集中在自由度更少的结构附近。该假设必须通过采样、噪声、拓扑与任务证据检验；仅仅因为某张非线性投影图看起来有结构，并不能证明假设成立。
Manifold Learning 与 PCA 有什么区别？
PCA 拟合一个全局线性子空间。流形方法使用局部邻域、Graph、Kernel 或非线性目标表达弯曲结构。它们可能捕获 PCA 忽略的几何，也会引入更多假设、调参、计算与不稳定性。
应该如何选择 Manifold Learning 方法？
先明确需要保留的是全局测地距离、局部重构、图平滑性还是邻域概率，再用稳定性、失真、下游价值和运行成本，把有依据的候选与线性及随机基线比较。
流形学习为什么会在真实数据上失效？
稀疏或不均匀采样、噪声、分支、孔洞、内在维度变化、错误 Metric、捷径边、断连分量与批次效应都会破坏局部几何。方法也可能保留数学目标，却丢掉应用真正需要的信号。
Manifold Learning 能转换未见过的数据吗？
取决于方法和实现。经典 Graph Embedding 通常是 Transductive；部分系统会从冻结邻居插值或拟合辅助映射，但这些路径需要版本化，并在分布漂移或超出训练支持范围的输入上单独评测。