信息计量学|熵权法

熵权法是为一个评价体系中的指标赋予权重的一种方法。

一、何为熵？

熵主要是信息论中的一个概念，是对不确定性的一种度量。信息量越大，不确定性就越小，熵也就越小；信息量越小，不确定性越大，熵也越大。
将此概念引入到指标权重的分配上：

• 若某个指标的信息熵越小，表明指标值的变异程度越大，提供的信息量越多，在综合评价中所能起到的作用也越大，其权重也就越大。
• 某个指标的信息熵越大，表明指标值得变异程度越小，提供的信息量也越少，在综合评价中所起到的作用也越小，其权重也就越小。

二、熵权法赋权步骤

1.假设前提
设数据涉及m个指标，共有n个样本数据。用xij表达第i个样本的第j个指标下的数值，i和j满足下式：

i,j
2.数据标准化
此处的数据标准化使用的为min-max标准化（有关数据标准化方法，请参见信息计量学|数据标准化方法）。为了记忆方便，标准化后的指标仍记为xij，在数据标准化过程中要注意正负指标的不同。

• 正向指标公式

  
  正向指标标准化

• 负向指标公式

  
  负向指标标准化

3. 计算第j项指标下，第i个样本值占该指标的比重

   
   样本值所占比重
   

   4.计算第j项的熵值

   
   第j项的熵值
   式中的k，ej满足以下的性质：
   k,ej
   

   5.计算信息熵的冗余度

   
   冗余度
   6.计算各指标的权重
   指标权重
   7.计算各样本的综合得分
   各样本得分
   至此，可以依据各样本得分对样本进行排序和评价，并参考已有的排名验证评价体系及评价指标的合理性。

三、其他

熵权法只是为指标分配权重的方法之一，其他方法诸如德尔菲法、主成分分析法均在研究中有所运用，各方法均具有优缺性。

本文参考资料：
https://blog.csdn.net/wangh0802/article/details/53981356