声明： 本文的图文均来自https://www.kalmanfilter.net如有侵权，请联系删除。

本文由微信公众号组成【DeepDriving】由于全文内容较多，分为三部分发出。关注微信官方账号【DeepDriving】，后台回复关键词卡尔曼滤波器可获得全文PDF。

在介绍卡尔曼滤波器之前，让我们学习一些与数学相关的基础知识。

均值（Mean）和期望值（Expected Value）这是两个相似但不同的概念。假设我们有2枚5分硬币和3枚10分硬币，很容易计算出它们的平均值：

V m e a n = 1 N ∑ n = 1 N V n = 1 5 ( 5 5 10 10 10 ) = 8 分 V_{mean}= \frac{1}{N} \sum _{n=1}^{N}V_{n}= \frac{1}{5} \left( 5 5 10 10 10 \right) = 8 分 Vmean=N1n=1∑NVn​=51​(5+5+10+10+10)=8分

上面的结果不能称为期望值，因为系统的状态不是隐式的并且我们用了全部的5枚硬币来计算均值。

现在假设一个人连续测5次体重，得到的结果分别为：79.8千克、80千克、 80.1千克、79.8千克、80.2千克，体重秤自身的随机测量误差导致每次的测量值都不同。我们并不知道真实的体重到底是多少，因为这是一个隐式变量，但是我们可以对5次的测量结果求平均值来估计出一个相对准确的体重值：

W = 1 N ∑ n = 1 N W n = 1 5 ( 79.8 + 80 + 80.1 + 79.8 + 80.2 ) = 79.98 千 克 W= \frac{1}{N} \sum _{n=1}^{N}W_{n}= \frac{1}{5} \left( 79.8+80+80.1+79.8+80.2 \right) = 79.98 千克 W=N1​n=1∑N​Wn​=51​(79.8+80+80.1+79.8+80.2)=79.98千克

上面这个平均值就可以称为是隐式变量体重的期望值。 均值通常使用希腊字母 μ \mu μ来表示，期望值则用字母 E E E来表示。

方差（Variance）用来衡量一组数据的离散程度，即样本数据与均值之间的偏差；标准差（Standard Deviation）是方差的平方根，一般用希腊字母 σ \sigma σ来表示，并将方差表示为 σ 2 \sigma^{2} σ2。

假设有两支高中篮球队队员的身高如下表所示：

我们想比较一下这两个篮球队队员的身高数据。首先，从上表中可以知道两个队的平均身高是一样的。更进一步地，我们可以比较它们的方差和标准差。用 x x x表示身高， μ \mu μ表示身高的平均值，根据方差和标准差的计算公式

σ 2 = 1 N ∑ n = 1 N ( x n − μ ) 2 \sigma ^{2}= \frac{1}{N} \sum _{n=1}^{N} \left( x_{n}- \mu \right) ^{2} σ2=N1​n=1∑N​(xn​−μ)2

σ = 1 N ∑ n = 1 N ( x n − μ ) 2 \sigma =\sqrt[]{\frac{1}{N} \sum _{n=1}^{N} \left( x_{n}- \mu \right) ^{2}} σ=N1​n=1∑N​(xn​−μ)2 ​

求得A队身高的方差 σ A 2 = 0.014 m 2 \sigma^{2}_{A}=0.014m^{2} σA2​=0.014m2，标准差 σ A = 0.12 m \sigma_{A}=0.12m σA​=0.12m；B队身高的方差 σ B 2 = 0.0013 m 2 \sigma^{2}_{B}=0.0013m^{2} σB2​=0.0013m2，标准差 σ B = 0.036 m \sigma_{B}=0.036m σB​=0.036m。从两队身高的方差可以知道，A队队员身高的差异性更大一些。

假如我们要计算所有高中篮球队所有队员身高的均值和方差，这将会是一个很难完成的任务，因为需要从每个学校的每个队员那里统计数据。不过我们可以收集一个比较大的数据集，然后通过这个数据集来估计所有队员身高的均值和方差。比如，我们可以随机收取100个队员的身高数据，这个数据集足以对所有队员身高的均值和方差进行准确的估计。需要注意的是，这时计算方差的公式与上面的略有不同，除数是 N − 1 N-1 N−1而不是 N N N：

σ 2 = 1 N − 1 ∑ n = 1 N ( x n − μ ) 2 \sigma ^{2}= \frac{1}{N-1} \sum _{n=1}^{N} \left( x_{n}- \mu \right) ^{2} σ2=N−11​n=1∑N​(xn​−μ)2

系数 N − 1 N-1 N−1被称为贝塞尔校正（Bessel's correction），详细的数学证明可以参考这篇文章。

许多自然现象都遵循正态分布（Normal Distribution）的规律。还是以篮球运动员的身高为例，如果我们随机抽取队员的身高建立一个大的数据集，并绘制出身高数值与其出现频次的图表，我们将会得到一个类似下图的钟型曲线：

可以看到这条曲线是以均值1.9m为中心的对称曲线，并且均值附近的数值出现的次数远高于远端数值出现的次数。这组数据的标准差为0.2m，如下图所示，有68.26%的值位于距均值一个标准差的范围内（1.7m~2.1m）:

正态分布又被称为高斯分布，其公式如下：

f ( x ; μ , σ 2 ) = 1 2 π σ 2 e − ( x − μ ) 2 2 σ 2 f \left( x; \mu , \sigma ^{2} \right) = \frac{1}{\sqrt[]{2 \pi \sigma ^{2}}}e^{\frac{- \left( x- \mu \right) ^{2}}{2 \sigma ^{2}}} f(x;μ,σ2)=2πσ2 ​1​e2σ2−(x−μ)2​

上面的曲线被称为是正态分布的概率密度函数（Probability Density Function，PDF）。

测量误差通常是符合正态分布的，所以我们在设计卡尔曼滤波器的时候会假设测量误差是呈正态分布的。

如果用测速枪测量一辆行驶中的车辆的车速，那么测速枪的测量值是一个随机变量，测量的结果呈正态分布。随机变量可以是连续的，也可以是离散的，所有测量值都是连续随机变量。

协方差用来衡量两个随机变量 x x x和 y y y的联合变化程度，表示的是两个变量的总体的误差，这与方差不同，方差只表示一个变量误差。方差可以看成是协方差的一种特殊情况，即两个变量是一样的。如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。如果两个变量的变化趋势相反，即其中一个大于自身的期望值，而另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。如果 x x x与 y y y是统计独立的，那么二者之间的协方差就是0。随机变量 x x x与 y y y的协方差计算公式如下：

σ ( x , y ) = 1 N − 1 ∑ n = 1 N ( x n − μ x ) ( y n − μ y ) \sigma(x,y)= \frac{1}{N-1} \sum _{n=1}^{N} \left( x_{n}- \mu_{x} \right) \left( y_{n}- \mu_{y} \right) σ(x,y)=N−11​n=1∑N​(xn​−μx​)(yn​−μy​)