Deep Learning 深度学习 (二)
2017-08-05 本文已影响30人
V_coa
![](https://img.haomeiwen.com/i1051883/253f2249106a724e.png)
Generative Model
可以通过计算 P(x) 得到 x 出现的概率
![](https://img.haomeiwen.com/i1051883/751a1fad101d906c.png)
P(C1) 和 P(C2) 叫做 Prior
,它们是比较好计算的
![](https://img.haomeiwen.com/i1051883/3b293d937a2ec8f6.png)
![](https://img.haomeiwen.com/i1051883/2bab6feb07ba67d0.png)
![](https://img.haomeiwen.com/i1051883/750a86051d3d48c8.png)
Gaussian Distribution
可以想成它是一个 function,它的 input
就是一个 vector,它的 output 是一个 x 在 Distribution 中被 simple 出来几率
![](https://img.haomeiwen.com/i1051883/bfc9157dcd9f23a8.png)
把 Gaussian function 写出来,把 x 代入前面那个 function 就可以得出 x 被 simple 出来的几率
![](https://img.haomeiwen.com/i1051883/82ae63c0dd58edf0.png)
那怎么把 µ 和 ∑ 找出来。用到的方法叫做 Maximum Likelihood
,如果确定了 µ 和 ∑ 就可以计算出 x1 到 x79 的几率
![](https://img.haomeiwen.com/i1051883/bbccd24bc3d6613d.png)
要找到 L(µ, ∑) 的最大值
![](https://img.haomeiwen.com/i1051883/e7d88304ed613a4c.png)
算出来的 P(C1|x) > 0.5 的话,它就属于 class 1
![](https://img.haomeiwen.com/i1051883/01c1dcf890e03f4e.png)
![](https://img.haomeiwen.com/i1051883/d83fa53eb372f9d4.png)
Sigmoid function
z 的输入趋近无穷大的时候,输出趋近于 1,反之趋近于 0