朴素贝叶斯（NaiveBayes）

朴素贝叶斯

• 基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，基于特征条件独立假设学习输入/输出的联合概率分布。
• 同时我们还可以得到样本的类别的先验概率分布。然后对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。
• 贝叶斯估计的参数估计有极大似然估计，但是可能会出现估计概率值为0的情况。贝叶斯估计在极大似然估计的基础上进行平滑处理，解决了这种问题。（当lambda为1时，相当于拉普拉斯平滑）；

名字含义

• 朴素：特征条件独立
  该假设说明用于分类的特征在类确定的条件下都是条件独立的；

• 贝叶斯：基于贝叶斯定理

重要步骤，公式

极大似然估计（统计机器学习）

• 训练-先验概率

• 训练-条件概率

• 预测-后验概率

贝叶斯估计（统计机器学习）

用极大似然估计可能会出现估计概率值为0的情况，因此需要做平滑处理。

• 训练-先验概率

• 训练-条件概率

• 预测-后验概率
  同 极大似然估计 预测公式