树模型演变过程

Decision Tree -(Bagging)-> Random Forest -(Boosting)-> Gradient Boosting->XGBoost

【1】https://zhuanlan.zhihu.com/p/34534004
【2】https://www.zhihu.com/question/41354392/answer/545973472

决策树

决策树是一个有监督的分类模型，本质是选择一个能带来最大信息增益的特征值进行分裂，直到到达结束条件或者叶子节点纯度到达一定阈值。
决策树的每个非叶子节点表示一个特征属性上的测试，每个分支代表这个特征属性在某个值域上的输出。叶子节点存放一个类别，将存放的类别作为决策结果。
按照分裂指标不同，决策树分为ID3，C4.5，和CART。
1. ID3：以信息增益为划分标准
信息增益的计算基于信息熵（度量样本集合纯度指标）

信息熵越小，数据集X纯度越大
因此，假设于数据集D上建立决策树，数据有K个类别：

（1）中|Ck|/|D| 表示第k类样本的数据占数据集D样本总数的比例；
（2）H(D|A)表示的是以特征A作为分裂属性，得到的信息熵：Di表示的是以属性A为划分，分成n个分支，第i个分支的节点集合。因此，该公式求的是以属性A为划分，n个分支的信息熵总和
（3）为分割后与分割前的信息熵的差值，也就是信息增益，越大越好。

ID3的缺陷：
假设每个记录有一个属性“ID”，若按照ID来进行分割的话，由于ID是唯一的，因此在这一个属性上，能够取得的特征值等于样本的数目，也就是说ID的特征值很多。那么无论以哪个ID为划分，叶子结点的值只会有一个，纯度很大，得到的信息增益会很大，但这样划分出来的决策树是没意义的。由此可见，ID3决策树偏向于取值较多的属性进行分割，存在一定的偏好。为减小这一影响，有学者提出C4.5的分类算法。

2. C4.5：基于信息增益率准则选择最优分割属性算法
信息增益率通过引入一个被称作分裂信息（Split information）的项来惩罚取值较多的属性。

分子即ID3中计算的信息增益。分母由属性a的特征值个数决定，IV值越大，信息增益率越小，这样就可以避免模型偏好特征值多的属性。
但是，如果使用这个公式，模型又会偏向特征数少的特征。因此，C4.5决策树先从候选分裂属性中找出信息增益高于平均水平的属性，从中选择增益率最高的。

对于连续值属性来说，可取值数目不再有限，因此可以采用离散化技术（如二分法）进行处理。将属性值从小到大排序，然后选择中间值作为分割点，数值比它小的点被划分到左子树，数值不小于它的点被分到右子树，计算分割的信息增益率，选择信息增益率最大的属性值进行分割。

3. CART：以基尼系数为准则选择最优划分属性，可以应用于分类和回归

CART是一棵二叉树，采用二元切分法，每次把数据切成两份，分别进入左子树、右子树。而且每个非叶子节点都有两个孩子，所以CART的叶子节点比非叶子多1。相比ID3和C4.5，CART应用要多一些，既可以用于分类也可以用于回归。CART分类时，使用基尼指数（Gini）来选择最好的数据分割的特征，gini描述的是纯度，与信息熵的含义相似。CART中每一次迭代都会降低GINI系数。

Di表示以A是属性值划分成n个分支里的数目

Gini(D)反映了数据集D的纯度，值越小，纯度越高。我们在候选集合中选择使得划分后基尼指数最小的属性作为最优化分属性。

分类与回归树具有两点特征：

• 决策规则和决策树一样
  但是分类树在每一次分支时，是穷举每一个特征属性。回归树在每个节点都会得到预测值。以年龄为例，预测值等于这个节点所有人年龄的平均值，衡量的标准变成最小化均方误差。
• 每个叶子节点都包含一个权重，也叫作分数

回归树优点：

• 应用广泛：如随机森林，GBM
• 对输入范围不敏感，不需要对输入归一化
• 能学习特征之间更高级别的相互关系
• 很容易对其进行扩展

Bagging

组合分类器是将多个分类器的结果进行多票表决或者取平均值，以此作为最终结果。
Bagging的思想是每一次从原始数据中根据均匀概率分布有放回的抽取和原始数据大小相同的样本集合，样本点可能出现重复，然后对每一次产生的训练集构造一个分类器，再对分类器进行组合。

构建组合分类器的好处：

• 提升模型精度：

  
  

• 处理过大或过小的数据集：
  数据集较大时，可以将数据集划分成多个子集，对子集构建分类器；数据集较小时，可通过多种抽样方式（bootstrap）从原始数据集抽样产生多组不同的数据集，构建分类器。

• 若决策边界过于复杂，则线性模型不能很好地描述真实情况。因此先对于特定区域的数据集，训练多个线性分类器，再将它们集成。

  
  

• 比较适合处理多源异构数据（存储方式不同（关系型、非关系型），类别不同（时序型、离散型、连续型、网络结构数据））

  
  

随机森林

随机森林是一个多棵决策树的组合分类器。主要包括两方面：数据的随机选取，以及待选特征的随机选取。

1.数据的随机选取
第一，从原始的数据集中采取有放回的抽样（bootstrap），构造子数据集，子数据集的数据量是和原始数据集相同的。不同子数据集的元素可以重复，同一个子数据集中的元素也可以重复。
第二，利用子数据集来构建子决策树，将这个数据放到每个子决策树中，每个子决策树输出一个结果。最后，如果有了新的数据需要通过随机森林得到分类结果，就可以通过对子决策树的判断结果的投票，得到随机森林的输出结果了。如下图，假设随机森林中有3棵子决策树，2棵子树的分类结果是A类，1棵子树的分类结果是B类，那么随机森林的分类结果就是A类。

2. 待选特征的随机选取

与数据集的随机选取类似，随机森林中的子树的每一个分裂过程并未用到所有的待选特征，而是从所有的待选特征中随机选取一定的特征，之后再在随机选取的特征中选取最优的特征。这样能够使得随机森林中的决策树都能够彼此不同，提升系统的多样性，从而提升分类性能。

Boosting

Boosting的每一次抽样的样本分布都是不一样的。每一次迭代，都根据上一次迭代的结果，增加被错误分类的样本的权重，使得模型能在之后的迭代中更加注意到难以分类的样本，这是一个不断学习的过程，也是一个不断提升的过程，这也就是boosting思想的本质所在。迭代之后，将每次迭代的基分类器进行集成。那么如何进行样本权重的调整和分类器的集成是我们需要考虑的关键问题。

boosting 算法结构图

Gradient Boosting(GB)模型

思想就是迭代生成多个弱模型，将每个弱模型的结果相加。

Grandient Boosting模型算法具有相似的步骤：
（1）初始化模型为常数值
（2）迭代生成基学习器（计算伪残差-> 生成基学习器 -> 目标函数优化 -> 更新模型）

GBDT：GB(Grandient Boosting)+DT(Decision Tree)

1. GBDT推导
GBDT是以决策树CART为基学习器的GB算法，是迭代树。

GBDT每一棵树学习的都是之前所有树的结论和残差。这个残差就是一个加预测值后能得真实值的累加量。比如A的真实年龄是18岁，但第一棵树的预测年龄是12岁，差了6岁，即残差为6岁。那么在第二棵树里我们把A的年龄设为6岁去学习，如果第二棵树真的能把A分到6岁的叶子节点，那累加两棵树的结论就是A的真实年龄；如果第二棵树的结论是5岁，则A仍然存在1岁的残差，第三棵树里A的年龄就变成1岁，继续学习。



损失函数的一阶导：

残差就是损失函数一阶导、

2. GBDT缺点：
基于残差的GBDT做回归，对异常值过于敏感。一个例子如下：

很明显，后续会对第4个值关注过多，这不是一个好现象。
所以一般回归类的损失函数会用绝对损失或者huber损失函数来代替平方损失函数：

XGBoost

如前面所述，gbdt模型可以认为是是由k个基模型组成的一个加法运算式：

其中F是指所有基模型组成的函数空间。

那么一般化的损失函数是预测值 y^与 真实值y之间的关系，如我们前面的平方损失函数，那么对于n个样本来说，则可以写成：

更一般的，我们知道一个好的模型，在偏差和方差上有一个较好的平衡，而算法的损失函数正是代表了模型的偏差面，最小化损失函数，就相当于最小化模型的偏差，但同时我们也需要兼顾模型的方差，所以目标函数还包括抑制模型复杂度的正则项，因此目标函数可以写成：

好的模型需要具备两个基本要素：一是要有好的精度（即好的拟合程度），二是模型要尽可能的简单（复杂的模型容易出现过拟合，并且更加不稳定）因此，我们构建的目标函数右边第一项是模型的误差项，第二项是正则化项（也就是模型复杂度的惩罚项）
常用的误差项有平方误差和逻辑斯蒂误差，常见的惩罚项有l1，l2正则，l1正则是将模型各个元素进行求和，l2正则是对元素求平方。

每一次迭代，都在现有树的基础上，增加一棵树去拟合前面树的预测结果与真实值之间的残差

目标函数如上图，最后一行画圈部分实际上就是预测值和真实值之间的残差

先对训练误差进行展开：

xgboost则对代价函数进行了二阶泰勒展开，同时用到了残差平方和的一阶和二阶导数

再研究目标函数中的正则项：

树的复杂度可以用树的分支数目来衡量，树的分支我们可以用叶子结点的数量来表示

那么树的复杂度式子：右边第一项是叶子结点的数量T，第二项是树的叶子结点权重w的l2正则化，正则化是为了防止叶子结点过多

此时，每一次迭代，相当于在原有模型中增加一棵树，目标函数中，我们用wq（x）表示一棵树，包括了树的结构以及叶子结点的权重，w表示权重（反映预测的概率），q表示样本所在的索引号（反映树的结构）

将最终得到的目标函数对参数w求导，带回目标函数，可知目标函数值由红色方框部分决定：

因此，xgboost的迭代是以下图中gain式子定义的指标选择最优分割点的：

那么如何得到优秀的组合树呢？

一种办法是贪心算法，遍历一个节点内的所有特征，按照公式计算出按照每一个特征分割的信息增益，找到信息增益最大的点进行树的分割。增加的新叶子惩罚项对应了树的剪枝，当gain小于某个阈值的时候，我们可以剪掉这个分割。但是这种办法不适用于数据量大的时候，因此，我们需要运用近似算法。

另一种方法：XGBoost在寻找splitpoint的时候，不会枚举所有的特征值，而会对特征值进行聚合统计，按照特征值的密度分布，构造直方图计算特征值分布的面积，然后划分分布形成若干个bucket(桶)，每个bucket的面积相同，将bucket边界上的特征值作为splitpoint的候选，遍历所有的候选分裂点来找到最佳分裂点。

上图近似算法公式的解释：将特征k的特征值进行排序，计算特征值分布，rk（z）表示的是对于特征k而言，其特征值小于z的权重之和占总权重的比例，代表了这些特征值的重要程度，我们按照这个比例计算公式，将特征值分成若干个bucket，每个bucket的比例相同，选取这几类特征值的边界作为划分候选点，构成候选集；选择候选集的条件是要使得相邻的两个候选分裂节点差值小于某个阈值。

GBDT和XGBoost区别

综合以上所述，我们可以得到xgboost相比于GBDT的创新之处：

1. 传统GBDT以CART作为基分类器，xgboost还支持线性分类器，这个时候xgboost相当于带L1和L2正则化项的逻辑斯蒂回归（分类问题）或者线性回归（回归问题）。
2. 传统GBDT在优化时只用到一阶导数信息，xgboost则对代价函数进行了二阶泰勒展开，同时用到了一阶和二阶导数。顺便提一下，xgboost工具支持自定义代价函数，只要函数可一阶和二阶求导。
3. xgboost在代价函数里加入了正则项，用于控制模型的复杂度。正则项里包含了树的叶子节点个数、每个叶子节点上输出的score的L2模的平方和。从Bias-variance tradeoff角度来讲，正则项降低了模型的variance，使学习出来的模型更加简单，防止过拟合，这也是xgboost优于传统GBDT的一个特性。
4. Shrinkage（缩减），相当于学习速率（xgboost中的eta）。每次迭代，增加新的模型，在前面成上一个小于1的系数，降低优化的速度，每次走一小步逐步逼近最优模型比每次走一大步逼近更加容易避免过拟合现象；
5. 列抽样（column subsampling）。xgboost借鉴了随机森林的做法，支持列抽样（即每次的输入特征不是全部特征），不仅能降低过拟合，还能减少计算，这也是xgboost异于传统gbdt的一个特性。
6. 忽略缺失值：在寻找splitpoint的时候，不会对该特征为missing的样本进行遍历统计，只对该列特征值为non-missing的样本上对应的特征值进行遍历，通过这个工程技巧来减少了为稀疏离散特征寻找splitpoint的时间开销
7. 指定缺失值的分隔方向：可以为缺失值或者指定的值指定分支的默认方向，为了保证完备性，会分别处理将missing该特征值的样本分配到左叶子结点和右叶子结点的两种情形，分到那个子节点带来的增益大，默认的方向就是哪个子节点，这能大大提升算法的效率。
8. 并行化处理：在训练之前，预先对每个特征内部进行了排序找出候选切割点，然后保存为block结构，后面的迭代中重复地使用这个结构，大大减小计算量。在进行节点的分裂时，需要计算每个特征的增益，最终选增益最大的那个特征去做分裂，那么各个特征的增益计算就可以开多线程进行，即在不同的特征属性上采用多线程并行方式寻找最佳分割点。