什么是 局部切空间对齐?
局部切空间对齐(LTSA)是一种非线性降维方法,它在重叠样本邻域中估计切空间坐标,并寻找与这些局部 Affine Chart 最一致的全局坐标。
快速了解
| 全称 | Local Tangent Space Alignment (LTSA) |
|---|---|
| 创建时间 | 由 Zhenyue Zhang 与 Hongyuan Zha 于 2004 年提出 |
| 规范文档 | 官方规范 |
工作原理
为每个邻域估计 Tangent Chart
LTSA 为每个样本收集近邻、减去邻域均值,再执行 Local SVD 或 PCA。前 d 个 Singular Direction 定义 Tangent Basis,邻居在这些方向上的投影形成 Local Chart。每个 Chart 内部的 Translation 与 Rotation 都是任意的,不能单独解释。
原始 LTSA 论文把这些 Chart 视为含噪参数化流形的局部近似。邻域必须小到足以线性化,又要大且分布充分,才能稳定估计秩 d。
通过一个全局特征子空间对齐重叠 Chart
LTSA 去除常数方向,并把每个邻域投影到其估计 Tangent-coordinate Span 的正交补。它把局部 Alignment Error 散射到一个全局对称矩阵,再取最小非平凡 Eigenvector 作为全局坐标;邻域重叠使各 Chart 相互约束。
这解释了 LTSA 为什么在计算上接近 LLE,却具有不同含义。LLE 冻结 Barycentric Reconstruction Weight,LTSA 冻结局部切坐标子空间。符号、基旋转和近重全局特征值仍会使单个输出轴不可识别。
验证局部维度、重叠与全局一致性
邻居太少会产生噪声大或秩不足的 Tangent Estimate,太多则可能跨越曲率、分支、边界、密度跃迁或相邻折叠。错误的输出维度会改变每个 Local Chart,并可能生成视觉合理但无效的全局对齐。
当前 scikit-learn 文档以 method="ltsa" 提供 LTSA。应审计局部 Singular-value Gap、图分量、Overlap Residual、Eigengap、Trustworthiness 与 Continuity、重采样稳定性和留出任务效果,并与 PCA、Standard LLE 和 Hessian Eigenmaps 比较。
主要特点
- 用局部 Tangent Space 近似每个样本邻域
- 使用 Local PCA 或 SVD 坐标而不是重构权重
- 对齐重叠 Chart 前消除任意局部平移
- 通过全局 Eigenproblem 求相互一致的坐标
- 依赖输出维度、邻域大小、局部秩与重叠
- 对曲率、噪声、边界、分支与稀疏采样敏感
常见用途
- 展开具有可靠 Local Tangent Estimate 的平滑流形
- 比较 Tangent-chart Alignment 与 Reconstruction-based LLE
- 分析受控形状、姿态、传感器或流程轨迹
- 检验一个全局坐标系统能否解释重叠局部 Patch
- 研究内在维度选择对非线性 Embedding 的影响
示例
Loading code...常见问题
LTSA 与局部线性嵌入有什么区别?
LLE 保留邻居重构权重;LTSA 则在每个邻域中估计 Tangent-coordinate Subspace,并寻找局部限制与这些 Chart 对齐的全局坐标。两者使用相近的 Sparse Eigenproblem,但编码不同局部不变量。
LTSA 如何估计 Local Tangent Space?
算法先对邻域中心化,再执行 Local PCA 或 SVD。前 `d` 个 Singular Direction 近似 Tangent Basis,样本投影成为局部坐标。可靠估计要求清晰的局部秩和分布充分的邻居。
如何选择 LTSA 的邻域大小?
邻域要有足够样本估计稳定的 `d` 维 Tangent Space 并连接相邻 Chart,但不能大到跨越曲率、折叠、分支或密度区间。应在预设范围内比较 Singular Gap、Alignment Residual、连通性与稳定性。
LTSA 会自动估计内在维度吗?
不会。标准实现要求给定输出维度,而该值也控制每个局部 Tangent Estimate。应独立估计候选维度、检查局部 Singular Spectrum,并验证多个候选,不能从一张漂亮的 Embedding 反推真值。
LTSA 能嵌入未见样本吗?
经典 LTSA 是 Transductive。具体实现可以从拟合邻域插值或另训映射,但 Chart Selection、Preprocessing、Tangent Basis 与全局坐标都必须版本化,并在分布漂移样本上测试。