贝叶斯学派

参考协和八——说人话的统计学
相关链接：
https://mp.weixin.qq.com/s/syK8VSxnrJc0paM8HVQxzQ
https://mp.weixin.qq.com/s/QE11EeudrPit9kITnascLA

1. 贝叶斯学派与贝叶斯定理

• 贝叶斯学派的目标是直接算出假设成立的可能性

• 贝叶斯派统计学的基石：贝叶斯定理

  
  贝叶斯定理

• 换一种说法：

  
  贝叶斯定理2

• 后验概率（在观察到某个现象之后，某一假说成立的概率）由三个因素决定：

  1. 似然（likelihood）：在这个假说成立的前提下产生该现象的可能性，或者说现象有多符合假说的预测。
  2. 先验概率（prior probability）：观察现象之前这个假说成立的可能性大小。
  3. 证据（evidence）：在万事万物中出现这一现象本身的可能性。

• 再换一种说法：

  
  贝叶斯统计学

• 由此，我们可以算出在给定我们当前已有数据的前提下，某个假说（由一系列参数表示）成立的概率。

2. 贝叶斯学派和频率学派的关系

• 如果把贝叶斯定理换一种说法：原假设的后验概率与p值（和似然是一回事）和它的先验概率的乘积成正比，这样就引入了频率学派的p值
• 两者对于似然性的处理是类似的
• 它们的最大区别在于是否引入先验概率
• 它们的分歧还在于概率的定义
  • 频率学派认为概率是频率在无限多次重复试验时的极限值。
  • 贝叶斯学派认为概率是我们思想中对事情发生可能性的一种猜测与信念，并且我会逐步收集信息来更新我的认识。

3. 贝叶斯统计学面临的困难

• P(数据)需要把参数的所有可能情况取遍，实际应用中经常遇到有成百上千个参数的情况，计算量非常大。不过近年出现了Markov Chain Monte Carlo（马尔可夫链蒙特卡洛）方法，再结合计算机，有希望解决这一困难。
• 先验概率对结果有较大的影响。目前的解决方案有：
  • 使用尽量客观的方法设定先验概率，包括利用荟萃分析综合大量数据，以及某些专门的行为学、心理学手段从相关领域专家获得尽可能准确的先验信息；
  • 使用“弱信息”或“无信息”先验，也就是不对假设成立的先验概率做出预先判断，类似于认为不同的参数取值可能性差不多是一样的。