(10)监督学习-分类问题-线性判别分析(LDA与Fisher)

2018-11-06  本文已影响0人  顽皮的石头7788121

      线性判别分析包括LDA和Fisher,其思想都是讲数据映射到一条直线上,使得同类方差最小,不同类的方差最大。

  LDA于Fisher的区别是不同类的协方差矩阵是否相等且满秩。

(1)LDA

        LDA算法的思想非常朴素:给定训练样本集,设法将样例投射到一条直线上,使得同类样例的投影点尽可能的近,异类样例的投影点尽可能的远。再对新样本进行分类的时候,同样将其投影到这条直线上,再根据投影点的位置确定样本的类别。比较规则为类间散度和类内散度。

        

LDA示意图

        LDA也可以看做一种降维方法,但是它与PCA有很大区别。LDA和PCA都是降维方法,但是LDA是由监督的。PCA降维后,可能会把一些数据混在一起,再分类的时候效果很差。而LDA是按类别降维的,用到了标签信息。

        一般来说,若想要从一段音频中提取出人的语音信号,可以先使用PCA进行降维,过滤掉一些固定频率的背景噪声。但是要从这段声音中推断出声音属于哪个人,使用LDA降维,使每个人的语音具有区分性。

上一篇下一篇

猜你喜欢

热点阅读