流形学习(1)

2019-12-19 本文已影响0人 zidea

流形学习概述

流形学习的观点：认为我们所能观察到的数据实际上是由一个低维流形映射到高维空间的。我们怎么理解什么是流形，我们这里解释一下。例如我们在三维空间上一个球面，这里说的是球面而不是球体，球面就是流形。球面也是一个流形，欧式空间是流形的一种特殊情况。

我们将高维空间一个平滑低维的曲面。例如我们打开20x20图片，其实图片为400维的数据，这是在 400 维的高度空间的。但是许多维度是冗余的，只有在一部分维度是有意义。

我们举一个例子，我们有时候如何认知一个陌人生呢?有时候我们需要通过他朋友和同事的信息来推测这个人。周围同事举止言谈就能反映你要认识陌生人，然后我们可以通过同事待遇加上权重来推测个陌人生的待遇。

推导公式

$E(w) = \sum_i |x_i - \sum_j w_{ij}x_j|^2$

$x_i$ 表示第 i 个样本
我们通过邻接的 j 样本进行加权 $w_{ij}$ 求和来推测 $x_i$
所谓E(w)我们通过计算差值最小

$\begin{aligned} = \epsilon^{(i)} = |x^{(i)} - \sum_j w^{(j)} \eta^{(j)}|^2 \\ = |\sum_{j=1}^k(x^{(i)} - \eta^{(j)}) \cdot w^{(j)}|^2 \end{aligned}$

上一篇下一篇

猜你喜欢

热点阅读