书名：计算机视觉40例从入门到深度学习：OpenCV-Python
作者：李立宗
出版社：电子工业出版社
出版时间：2022-07-01
ISBN：9787121436857

第15章 机器学习导读

15.3 OpenCV中的机器学习模块

15.3.2 决策树

• 决策树是常用的一种机器学习方法，其符合分而治之的理念。

一、专家系统

• 很多早期的专家系统是依赖决策树实现的。
  例如，电话机器人就是通过不断地与客户互动，让用户通过电话按键对一系列问题做出选择，并根据用户的选择指导用户操作计算机进而完美地解决问题的。
  具体步骤为，计算机上有一块故障检测面板，上面有四个指示灯，每次互动专家系统会要求用户通过按下电话按键来报告哪些灯闪烁，并根据用户的反馈提供操作指导。重复上述过程，直至问题得到完美解决或者转到人工系统。

二、决策树

• 在使用机器解决问题时，同样可以采用一系列“决策”的方式完成。

• 决策树的终点是我们希望得到的决策结果。
  决策树由大量的选择构成，每个选择都是针对某个属性的判断，其结果或者引出下一个选择，或者是最终决策。
  新的选择面对的样本在上一个选择所限定的范围内

  
  图15-22 判断一只动物的种类的决策树

三、决策树的结构

• 通常情况下，一棵决策树是由一个根结点、若干个选择结点（内部结点、中间结点）和若干个叶子结点（终点）构成的。
  叶子结点是决策的结果，其他结点对应的是一个选择测试。
  根结点包含全部样本集，其他结点是根据上一层的选择结点得到的对应样本子集。
  从根结点到每个叶子节点都是由一系列的选择构成的。决策树通过学习构建了一棵对未知数据具有预测能力、准确度高（泛化能力强）的树结构。

四、决策树的策略

• 决策树中一个关键的策略是如何确定属性的顺序。
  例如，先使用“羽毛”划分数据，还是先使用“胡须”划分数据？
• 决策树采用信息熵的增益来确定属性的顺序。