集成算法笔记（随机森林等）
2020-10-28 本文已影响0人
程序媛啊
https://www.zhihu.com/question/64043740/answer/644998828
pdf文档：
在13节集成算法原理
集成基本思想：
训练时用多种分类器一起完成同一份任务
投票策略：软投票与硬投票
- 硬投票：直接用类别值，少数服从多数
- 软投票：各自分类器的概率值进行加权平均
Bagging策略
- 首先对训练数据集进行多次采样，保证每次得到的采样数据都是不同的
- 分别训练多个模型，例如树模型
- 预测时需得到所有模型结果再进行集成
Boosting-提升策略
AdaBoost
跟上学时的考试一样，这次做错的题，是不是得额外注意，下次的时候就和别错了！
