继卡尔曼滤波 - 笔记（一）的补充。

最小二乘与贝叶斯

上一篇的最后，介绍了通过最小二乘和贝叶斯都可以推导卡尔曼滤波，那么最小二乘和贝叶斯之间有什么关系呢？
在历史上最小二乘是由勒让德首先提出，不久后高斯也提出了相同的结论，据考证两人都是独立提出的。
不同的是勒让德只给出了一个结论，而高斯采用概率的论证方式，不但给出结论，还给出了验证方式，由此最小二乘有了理论基础，从而使得其成为了那个世纪的数学主旋律。
高斯从最大似然视角证明，在i.i.d条件下，样本的联合概率等于边缘概率的乘积，对等式两边取对数（其单调性不影响原函数形状），得出求和公式，将误差的正态分布方程带入其中并求导，可化简为最小二乘法。
而贝叶斯估计可以看做先验为1的最大似然。

其他参数

Q表示过程噪声的协方差，比如温度对晶振的影响，依据系统原理。
H为测量与状态的计算矩阵。