信用评分卡研究第4章预测力指标

2020-02-01 本文已影响0人考研小巫

第4章预测力指标

这个部分主要是评判自变量与因变量之间，自变量之间的预测能力。这里明确相关性和关联性的一些细微区别，相关性在统计学上更多表示是变量之间的线性关系，而关联性则不一定。前者更多是连续型变量与连续型变量，或者顺序变量与连续型变量的关系。

之所以要衡量自变量间的相关性，主要有两个原因：

自变量之间有强相关性是逻辑回归模型本身不允许的，加入具有强共线性的自变量会导致模型本身不稳定。
自变量具有相关性，说明有一些变量是重复的，或者说是包含的信息可以用更少的变量个数表达出来，这个时候可以用PCA主成分分析或者因子分析找出决定数据方差的最少自变量。

一般来说会有一个大的自变量的集合，这些是有关客户的所有的有关变量，而特征工程最终就是要筛选出一个预测力最强的自变量的最优子集。因此需要剔除掉那些与用户「正常/逾期」这个因变量预测力不够的变量。

image-20200201121656054

符号

两个连续变量

皮尔逊相关系数和斯皮尔相关系数

两个分类变量

列联表计算各个类别的频率

image-20200201122123831

其中 $N=\sum_{i=1}^r\sum_{j=1}^cn_{ij}$

分类变量和连续变量

对于分类变量X的每个类别，列出该类别下的y的所有值。

image-20200201122750763

计算以下几个指标：

每一行的总和，也就是x的每个类别的总和

$y_i=\sum_{j=1}^ry_{ij}$

第i行的平均值为 $\bar{y_{i}}=\frac{y_i}{n_i}$ ，其中 $n_i$ 为变量 $X$ 该类别下的观测值个数。

总的y和为

$y=\sum^{c}_{j=1}\sum^{r}_{i=1}y_{ij}$

变量y的总体平均值为 $\bar{y}=\frac{y}{n}$

根据总体平均值定义离差的平方和

$STD=\sum_{i=1}^{r}(\sum_{j=1}^{n_i}(y_{ij}-\bar{y})^2)$

定义行均平方差之和

总体平均值定义类别平均值的离差平方的加权总和：

$SSTR=\sum_{i=1}^{r}n_i(\bar{y_i}-\bar{y})^2$

行均的y的值离差平方的总和为：

$SSE=\sum_{i=1}^{r}\sum_{j=1}^{n_i}(y_{ij}-\bar{y_i})$

最后两个和的均值为

$MSTR=\frac{SSTR}{r-1}$

$MSE=\frac{SSE}{N-r}$

皮尔逊相关系数

跟协方差进行比较

给定两个连续的变量x和y，皮尔逊相关系数的计算方式如下：

$\rho=\frac{\sum^{N}_{i=1}(x_i-\bar{x})(y_i-\bar{y})}{[\sum_{i=1}^{N}(x_i-\bar{x})^2\sum_{i=1}^{N}(y_i-\bar{y})^2]^{\frac{1}{2}}}$

$x_i-\bar{x}$ 可以看作是自变量进行去中心化后的结果，也就是把中心移动到了原点。

皮尔逊相关系数可以理解成向量 $[x_1,x_2,x_3,x_4,x_5……, x_N]$ 和 $[y_1,y_2,y_3,y_4,y_5……, y_N]$ 这两个向量的余弦值，根据空间几何我们知道，两个向量越相近，夹角越小，余弦值越大，如果完全共线就是1，如果完全不相关就是夹角为90°，也就是余弦值为0。