什么是 Hessian 特征映射？
Hessian 特征映射是一种非线性流形学习方法，它在局部切坐标中估计二阶导数，并利用组装后 Hessian Quadratic Form 的近零空间恢复低维参数。
快速了解
| 全称 | Hessian Eigenmaps |
|---|---|
| 创建时间 | 由 David Donoho 与 Carrie Grimes 于 2003 年提出 |
| 规范文档 | 官方规范 |
工作原理
从 Hessian Null Space 恢复坐标
原始 Hessian Eigenmaps 论文考虑与 Euclidean Space 中开放连通子集局部等距的流形。对切空间 Hessian 的 Frobenius Norm 平方进行积分后，所得 Quadratic Form 的 Null Space 维度为 d + 1：一个常数函数加 d 个等距坐标函数。
HLLE 估计这个算子的离散版本，并选择最小非平凡特征值对应的 Eigenvector。与 Isomap 不同，Parameter Domain 不必凸，但局部等距、平滑、连通与充分采样仍是实质假设。
先估计切坐标，再估计二阶导数
每个样本邻域先中心化，再用 Local PCA 估计 d 维 Tangent Chart。算法把局部坐标的常数项、线性 Monomial 与二次 Monomial 正交化，以二次块估计 Hessian Coefficient，最后把局部贡献组装成全局对称矩阵。
二次项数量按 d(d+1)/2 增长。当前 scikit-learn 文档因此要求 method="hessian" 满足 n_neighbors > d(d+3)/2。满足这个不等式只是实现必要条件，不能证明邻域几何有效。
检查局部秩、噪声与特征子空间稳定性
二阶导数估计会放大噪声；当局部 Singular Value 无法分离 Tangent 与 Normal Direction 时，结果容易不稳定。Boundary、Hole、变化的内在维度、重复点、Anisotropic Sampling 以及跨折叠邻域都会破坏组装算子。
应审计局部 Singular Spectrum、Condition Number、Residual Hessian Energy、预期 Nullity、Eigengap、图连通性、重采样稳定性与下游效果，并对比 Standard LLE、LTSA、Isomap 和线性基线。经典结果是 Transductive；任何新样本插值都需要独立的冻结 Chart 与漂移测试。
主要特点
- 假设平滑流形与 Euclidean Coordinate 局部等距
- 通过 Local Principal Component 估计 Tangent Space
- 拟合二阶项以近似切空间 Hessian
- 从全局 Quadratic Form 的近零空间恢复坐标
- 要求邻居数量超过随维度二次增长的下界
- 对噪声、局部秩、边界、Conditioning 与 Eigengap 敏感
常见用途
- 从充分采样的局部等距流形中恢复参数
- 研究不满足 Isomap 全局凸性条件的非凸参数域
- 比较一阶 LLE Weight 与二阶平滑约束
- 检验局部 Tangent 与 Hessian 结构能否被统计识别
- 理解 Differential Operator 在非线性降维中的作用
示例
Loading code...常见问题
Hessian 特征映射与标准 LLE 有什么区别？
Standard LLE 保留局部重构权重；Hessian Eigenmaps 则估计局部切坐标并惩罚二阶导数，寻找 Hessian Null Space 中的坐标函数。两者共享邻域和 Eigenproblem 机制，但优化量不同。
为什么 HLLE 需要较多邻居？
`d` 维局部二次模型除常数和线性项外，还含有 `d(d+1)/2` 个二阶项。邻域必须足够大且 Condition 良好才能估计这些项，同时仍要足够局部，避免跨越曲率或折叠。
Hessian Eigenmaps 依赖哪些假设？
核心定理假设流形平滑，并与一个开放连通 Euclidean Domain 局部等距，同时需要充分采样和可识别的 Tangent Structure。噪声、边界、变化的内在维度或非等距几何都会削弱 Null-space 解释。
如何验证 HLLE 结果？
检查局部秩与 Conditioning、预期 Null-space Dimension、Eigenvalue Separation、邻域和重采样稳定性、图连通性、关系保留与下游性能，并与更简单方法比较，让二阶复杂度证明其价值。
Hessian 特征映射能转换未见样本吗？
经典算法只返回拟合样本集的坐标。扩展方法必须为新样本估计 Local Tangent Chart 并插值到冻结表示，或另训映射；这些行为取决于具体实现，在训练支持范围之外并不可靠。