AI数学基础25——平均（Average）

在AI算法里面，经常会遇到平均（Average），但平均的公式总跟我们想象的算术平均公式不一样，所以本文将常见的平均计算方法、用途及其背后的思想都总结一下。

首先，看看平均（Average）的基础定义：

通常来说，平均是一个数值，它用于表示一组数据的中心。

In general, the average could be any single number that represents the center of a set of values

所以，当你拿到一组数，比如1万条数据，或者100万条数据，你想知道这组数据的中心在哪里，可以先计算该组数据的平均值。

平均值，有很多种计算方法，第一种，就是我们常说的算术平均（arithmetic mean），在日常生活中，比如谈论平均价格、平均身高等，我们口头上说的“平均”通常指用“算术平均”计算出来的平均。这也导致初学者，看到很多AI里面的“平均”感到不熟悉、或者困惑不解。

算术平均（AM: Arithmetic Mean），对于有n个数，每个数记住a(i)，这里i=1,2,3...n, 则其算术平均值AM计算公式如下：

从公式可以看出：

1，算术平均较中位数（Median）和众数(Mode)更少受到随机因素影响， 但缺点是它极易受到极大极小值的影响。例如，有数组 (5, 7, 5, 4, 6, 7, 8, 5, 4, 7, 8, 6, 20)，平均值是 7.1，但实际上大部分数据（10个）都不超过7，如果去掉 20，平均数为 6。

在log vs normal 分布下，mode,median和mean的比较

2，计算算术平均，需要把所有数据累加求和，当数据很多的时候，比如1百万条，需要很多的存储空间，所谓“费时费力”。所以，当遇到大数据时，通常由其它平均计算方法来代替

几何平均（Geometric mean），对于n个正实数，几何平均计算公式为：

几何平均适用于对比率、指数等进行平均，主要用于平均增长（变化）率。凡是变量的连乘积等于总比率或总增长，就适合用几何平均。例如，某工厂，车间1的合格率为95%，车间2的合格率为92%，车间3的合格率为90%，车间4的合格率为85%，则工厂的总合格率适合用几何平均计算 :

为什么叫几何平均呢？我个人猜测，对于a,b两个数，其几何平均为 square root(a*b)，这个值就是直角三角形的斜边上的高，这个高把斜边分为两个部分，一个是a,一个是b。由于这个值具备几何意义，所以叫做几何平均。如下图所示。

调和平均(Harmonic mean),对于一组非零实数，调和平均的计算公式为：

两个数的调和平均：

应用1：一段路，前半段时速 60 公里，后半段时速 30 公里〔两段距离相等〕，则其平均速度为两者的调和平均数 40 公里

应用2：两个电阻 R1 和 R2 并联后的等效电阻 Req 为调和平均数的一半

应用3：物理学中的减缩质量也为调和平均数的一半

应用4：直角三角形直角边分别为a,b, 斜边上的高为h, 则h的平方 为a平方，b平方的调和平均数的一半

应用5，在计算机科学，尤其是机器学习中，分类任务的性能度量F1，定义为查准率P(Precision)和查全率R(Recall)的调和平均。相对于算术平均，调和平均引入了惩罚机制，即：对于参与调和平均的所有对象，如果它们的值不均衡，那么即使其中某些值非常高，均值也不会高。例如：假设p和r一个是1.0一个是0.1,算术平均会接近0.5 而调和平均接近0.2。

另外，调和平均会强调两者的一致性，明显不一致时倾向于小的值，这在机器学习评估分类器好坏的时候更符合人们的直观感受

引用自 Andrew Ng 《Single number evaluation metric》

AM，GM，HM三者的关系：对于任意一组正实数，有：

很容易记忆，按照字母表顺序，A在前，G在中，H在最后

移动平均（Moving Average，MA）又称“移动平均线”简称均线，是一种简单平滑预测技术，它的基本思想是：根据时间序列资料、逐项推移，依次计算包含一定项数的序时平均值，以反映长期趋势的方法。因此，当时间序列的数值由于受周期变动和随机波动的影响，起伏较大，不易显示出事件的发展趋势时，使用移动平均法可以消除这些因素的影响，显示出事件的发展方向与趋势（即趋势线），然后依趋势线分析预测序列的长期趋势。

移动平均法适用于即期预测。当产品需求既不快速增长也不快速下降，且不存在季节性因素时，移动平均法能有效地消除预测中的随机波动，是非常有用的。移动平均可抚平短期波动，反映出长期趋势或周期。最常见的是利用股价、回报或交易量等变量计算出移动平均。

数学上，移动平均可视为一种卷积（卷积是通过两个函数 f 和 g 生成第三个函数的一种数学算子，表征函数 f 与经过翻转和平移的 g 的重叠部分的累积。如果将参加卷积的一个函数看作区间的指示函数，卷积还可以被看作是“移动平均”的推广）。

移动平均法可以分为：简单移动平均和加权移动平均。

加权移动平均，请参见：《AI数学基础21——指数加权移动平均》，在机器学习中，常用于梯度下降法的优化，比如平滑dW的抖动的动量梯度下降法。参考《AI数学基础22——动量梯度下降法》

其它各种平均计算方式，wiki/Average上已经总结好了，边用边学，急用先学，学以致用，立竿见影！~