大师兄的Python机器学习笔记:统计学基础之底层代码实现（二）

大师兄的Python机器学习笔记:统计学基础之底层代码实现（一）
大师兄的Python机器学习笔记:Numpy库、Scipy库和Matplotlib库（一）

五、概率分布(Probability Distribution)

1. 简单事件(Simple event)和样本空间(Sample space)

• 假设：同时投两枚硬币，计算各种情况出现的概率。

>>>from collections import Counter

>>># 简单事件
>>>d1 = (0,1) # token1
>>>d2 = (0,1) # token2

>>># 样本空间
>>>s = []
>>>for i in d1:
>>>    for j in d2:
>>>        s.append(i+j)

>>># 概率
>>>counter = dict(Counter(s)) # 计算元素重复的次数
>>>p = dict()
>>>for k,v in counter.items():
>>>    p[k] = v*(1/len(s))

>>>print('样本空间对应概率为：{}'.format(str(p)))
样本空间对应概率为：{0: 0.25, 1: 0.5, 2: 0.25}

2. 伯努利分布( Bernoulli distribution)

• 又叫两点分布，是一种离散分布。
• 通过一次试验，若成功随机变量取值为1，成功概率为p； 若失败随机变量取0，失败概率为1-p。
• 参数：
• 期望值：
• 方差：
• 假设：投一次硬币，求正反面的概率。

from scipy.stats import binom # 导入scipy包中的伯努利分布函数
import numpy as np

n = 1 # 投硬币的次数
p = 0.5 # 硬币正面的概率
k = np.arange(0,2) # 0次或1次正面朝上的概率 

binomial = binom.pmf(k,n,p) 
print(binomial) # 正反面都是50%几率
[0.5 0.5]

3. 二项分布( Binomial distribution)

• 实验次独立且相同的伯努利试验。
• 每次实验保持不变。
• 期望值：
• 方差：
• 假设：一枚硬币投20次，计算正面次数的概率分布。

>>>from scipy.stats import binom # 导入scipy包中的伯努利分布函数
>>>import matplotlib.pyplot as plt
>>>import numpy as np
>>>n = 20 # 投硬币的次数
>>>p = 0.5 # 硬币正面的概率
>>>k = np.arange(0,21) # 0-20次正面朝上的概率
>>># 概率质量函数
>>>binomial = binom.pmf(k,n,p) # 各点正面朝上次数的概率
>>>#平均值, 方差, 偏度, 峰度
>>>mean,var,skew,kurt=binom.stats(n,p,moments='mvsk')
>>>print("平均值：{}\n方差：{}\n偏度:{}\n峰度:{}".format(mean,var,skew,kurt))
>>># 画图
>>>plt.plot(k,binomial,'o-')
>>>plt.title('binom')
>>>plt.xlabel('n')
>>>plt.ylabel('p')
>>>plt.show()
平均值：10.0
方差：5.0
偏度:0.0
峰度:-0.1

4. 泊松分布( Poisson distribution)

• 单位时间内随机事件发生的次数的概率分布。
• 概率分布：
• 期望：
• 方差：
• 假设：武汉某医院每天平均治愈5人，求该医院每天平均治愈1-20人的概率分布。

>>>import matplotlib.pyplot as plt
>>>import numpy as np
>>>from  scipy.stats import poisson

>>>rate = 5 # 平均数
>>>n = np.arange(0,20)
>>>y = poisson.pmf(n,rate)
>>>plt.plot(n,y,'o-')
>>>plt.title('Possion sample')
>>>plt.xlabel('number of cured')
>>>plt.ylabel('probability')
>>>plt.show()

5. 正态分布( Normal distribution)/高斯分布(Gaussian distribution)

• 统计学中常见的连续概率分布。
• 概率密度函数:
• 期望:
• 方差:
• 假设：1000名高中生的平均身高为1.78m平均差为1，计算学生身高在1.5m-2m之间的分布概率。

>>>import matplotlib.pyplot as plt
>>>import numpy as np
>>>from scipy.stats import norm

>>>MEAN = 1.78 # 平均身高
>>>SIGMA = 1 # 标准差
>>>x = np.arange(1.5,2.0,0.01)
>>>y = norm.pdf(x,MEAN,SIGMA)
>>>plt.plot(x,y)
>>>plt.title('Normal sample')
>>>plt.xlabel('height')
>>>plt.ylabel('probability')
>>>plt.grid(True)
>>>plt.show()

6.beta二项式分布(Beta distribution)

• 将伯努利实验常数变成了随机变量的二项式分布。
• 经常在贝叶斯算法中应用。
• 密度函数：
• 期望值:
• 方差：
• 假设：棒球职业选手的正常击打率为26.6%,某选手在某次比赛中的打击率为60%，预测选手通常的打击率的概率分布。

>>>import matplotlib.pyplot as plt
>>>import numpy as np
>>>from scipy.stats import beta
a,b = 26.6,60
x = np.arange(0.2,0.4,0.01)
y = beta.pdf(x,a,b)
plt.plot(x,y)
plt.title('beta sample')
plt.xlabel('batting average')
plt.ylabel('probablility')
plt.show()

7.指数分布(Exponential distribution)

• 表示泊松过程中事件发生的时间的连续概率分布。
• 概率密度函数：
• 期望值：
• 方差：
• 假设：预测医院平均访客在1-10人的情况下，访客进入医院的单位时间间隔概率分布。

>>>import matplotlib.pyplot as plt
>>>import numpy as np

>>>lambd = 0.5
>>>x = np.arange(1,10,0.1)
>>>y = lambd * np.exp(-lambd*x)

>>>plt.plot(x,y)
>>>plt.title('exp sample')
>>>plt.xlabel('number of ppl')
>>>plt.ylabel('PDF')
>>>plt.show()