从卡方校验到事物间的相关性
生活中有各种各样的事物,如篮球、汽车、体育、股票等等,它们之间要么相关,要么不相关(一句废话,哈哈),也就是具有不确定性,生活就是因为各种不确定性而奇妙有趣~是否有办法确定事物间是不是相关的,比如写作与打篮球是否相关?甚至是量化这个相关程度呢?
答案是:有办法!
该办法名叫卡方校验。在详细介绍这个“办法”之前,先来科普一点基础知识。卡方校验是一种假设检验方法,用来统计样本的实际观测值与理论推断值之间的偏差程度;卡方值越大,表示偏离程度越大,卡方值越小,则偏离程度越小,若卡方值为0,则表示没有偏差。用大白话讲就是,某个事情的实际情况 与 你认为的情况 的偏离程度。
上文中量化相关程度的问题,可转化对样本间的偏差程度衡量的问题,那如何表征偏差程度?
在高中数学中,我们学过期望E和方差σ(不记得了?简单回顾下白话版概念:期望就是所有样本的平均值,方差就是样本相对于平均值的分散程度)。如果用期望来衡量偏差程度是否可以?期望能表征样本集的综合水平,但并不能表征样本的分布情况,例如,一个50人的班级平均数学成绩是65分,用65分来定义这个班的数学水平却不完全合理,因为有可能50人中有40人是80分以上,另外10人不到10分,无疑这个班的总体水平还是比较高的,只是有少数拖后腿的拉低了平均分而已,也就是正负相抵。 而方差可以表征样本相对平均值的分散情况,恰好可以弥补期望存在的缺陷。
于是,一个好的衡量偏差程度的指标,需要综合期望和方差两个参数。我们可定义这个偏差指标为(姑且简单的理解为方差比期望吧):
公式(1)上式中,n表示样本的个数,i表示其中的某个样本。实际上,通过式(1)已经可以计算出偏差程度了,但看上去不太接地气,不是很好用。我们再来转化一下。
生活中最常见问题一般可以通过判断两个事物间的相关性解决(术语叫作自由度为1的卡方校验问题)。假定有两类事物——a、b,存在这样一个表:
表(1)表(1)中的A、B、C、D分别表示在一个样本集中,a和b同时存在的样本数、存在b不存在a的样本数、存在a但不存在b的样本数、a和b都不存在的样本数,那么可以推导出卡方校验的卡方值的公式为:
公式(2)公式(2)的推导过程,此处就不展开了,感兴趣的可自行百度(在此简单介绍下思路:通过表1中的数据,实际上可以分别介绍表中四种情况准确性,即A/B/C/D与真实值的偏差情况,套用公式1可得;因a、b事件发生是相互独立的,那么a、b事件同时发生时与真实情况的偏差就是所有四种子情况的偏差之和,最终即可推到出公式2,即a与b的卡方值。a、b的卡方值越大,表示a与b越相关,卡方值为0则表示完全不相关)。(Tips:因为相关性的表达是一个相对值,很多时候计算卡方值时,会忽略(A+B+C+D)这个常量)
接下来回到文章开头的问题:确定写作与打篮球的相关性。
以一个班级的50名同学为样本空间,打篮球的同学作为事件a,写作的同学作事件b,分别调研班上同学在表1中四个象限的人数,将相应的值带入公式2,即可得到卡方值,该值的及表示打篮球与写作在这个班级的相关性情况,值越大,则表示它们越相关。
总结一下计算俩事物间相关性的步骤:
选择合适的样本空间-->调查四个象限的样本值-->套公式。
1自由度的卡方校验,可用于解决许多日常生活中的问题,比如准备开个水果店,可利用卡方校验,确定店的选址与地铁口的相关性。后续再介绍多自由度的卡方校验及应用场景。