来源:作者牛海强等。

摘 要：本文总结了基于机器学习方法的水声被动定位研究进展。涉及的机器学习方法包括多层感知机（前馈神经网络）、支持向量机、随机森林和深度神经网络，主要由卷积网络层和全连接层组成。本文重点介绍了近年来在国际期刊和会议上发表的相关前沿研究工作，详细讨论了机器学习方法应用于水声被动定位的关键理论基础、单水听器和阵列前端信号预处理算法设计和几种典型的机器学习模型。此外,还指出了现有算法在推向实际应用中面临的困难及挑战。最后，基于作者的思考，本文展望了未来基于机器学习的水声定位算法的几个潜在研究方向。

关键词:水声被动定位；机器学习；深度学习；神经网络；监督学习；

1引言

近年来，机器学习方法（特别是深度学习方法）在语音识别[1]、图像处理[2]、自然语言理解[3]等科学领域取得了突破，促进了自动驾驶、人脸识别、语音个人助理、医学图像分析等领域的技术变革。不仅如此，机器学习方法也对其他自然科学领域(如地球物理[4-7])的发展方向产生了深远的影响。从统计学的角度来看，机器学习是一种优化方法。利用大量的统计数据来训练具有特定结构和未知参数的数学模型，可以生成具有训练数据内部统计特征的拟合器。从这个角度来看，机器学习方法是一个普遍的框架，可以用来优化问题的解决。因此，它可以应用于许多其他自然科学领域。水声远程被动定位问题是通过适当的信号处理算法，根据观测到的远程声源辐射的声压数据，在空域中找到声源或最可能的位置。显然，给出适当的预处理训练数据，这个问题可以通过机器学习来解决。例如，当机器学习用于分类时，模型的输出是可能类型的概率分布。类似地，当模型输出为声源距离或深度的概率分布时，找到最佳声源位置也可以作为机器学习的分类问题。本文总结了基于机器学习的水声被动定位算法，重点讨论和给出算法理论基础、单阵元和阵列前端信号预处理算法、模型选择、培训和性能评价。

将机器学习方法应用于水声被动定位，可追溯到90年代。1991年,Steinberg[8]等人用神经网络定位均匀介质中的点声源。同年,Ozard[9]等人在匹配场处理中模拟了神经网络的距离和深度判断。之后,Caiti[10-11]等人(1994、1996)利用径向基函数神经网络估计海底沉积层的特性。另外,Michalopoulou[12](1995)、Stephan[13](1998)和Benson[14](2000)等人将神经网络用于海底分类和地声参数反演。一般来说，上述工作对神经网络在水声学中的应用进行了探索性研究。然而，由于当时的计算资源和缺乏高效的训练算法，以及当时主流的被动定位算法-匹配场定位[15-19]，正处于快速发展阶段。长期以来，机器学习方法在水声学领域得不到足够的重视，基于物理场声学建模的匹配场处理方法已成为水声被动定位的研究热点。然而，尽管经过几十年的发展，匹配场处理方法取得了巨大的进展，并在相关工程实践中得到了广泛的应用，但匹配场处理方法在实际应用中仍面临着典型的环境失匹问题等诸多困难和挑战。海洋是一种复杂的时空声信道，导致测量声场与理论建模声场之间不可避免的偏差和不匹配，有时会对匹配场的定位产生很大的影响。为了克服和减少海洋环境参数不确定性对匹配场定位的影响，研究人员提出了一些改进的匹配场处理方法，如环境聚焦匹配场处理[20-24]或贝叶斯匹配场定位[25-26]。但这些方法带来的问题是计算量显著增加，实时处理难度增加。

由于匹配场处理方法的局限性和近年来机器学习理论和技术的新发展，一些基于机器学习的水声被动定位方法开始出现，相关研究和报告也出现了。2017年,Lefort[27]等人利用水箱实验数据模拟研究了非线性回归算法在起伏海洋环境中的定位性能，表明机器学习算法在水声目标定位中具有一定的优势和潜力。同年,Niu[28-29]提出了基于机器学习算法的可行水下声源定位方法，系统研究了前馈神经网络、支持向量机和随机森林的声源定位性能，并首次通过海上测试实验数据验证了机器学习算法的定位性能。2018年,Wang[30]等人将实测数据作为实验数据，利用广义回归神经网络定位声源。同年,Huang[31]等人试图将模拟声场作为训练数据，利用多层深度卷积神经网络定位声源。2019年,Liu[32]等人利用集合卷积网络测距深海直达声区的声源。Niu[33]等人利用50层残余卷积神经网络和单水听器定位不确定环境条件下的声源。所有这些工作都表明了机器学习方法在水声被动定位中的应用潜力。与此同时，值得注意的是，国际水声学领域的相关研究也开始显示出影响，越来越多的学者投资于相关研究。以美国声学学会年会为例，基于机器学习的水声定位或反演研究在2016年的两次会议上相对罕见。到2018年11月秋季年会，相关会议报告[34- 40]显著增加。由此可见，该研究方向正处于快速发展阶段，并逐渐对整个水声学领域产生影响。

2定位算法

到目前为止，水声远程被动定位涉及的机器学习方法大多属于监督学习算法。即利用有标注的数据对机器学习模型进行训练。若机器学习模型的输出是连续的，则为回归器。若模型输出为多个离散值，则该机器学习模型称为分类器。理论上，利用回归器或分类器估计声源的距离和深度是可行的。定位算法的框图如图1所示。定位算法分为训练阶段和预测阶段两个阶段。

图1 机器学习定位算法框图

Fig.1 Localization algorithm using machine learning

在图1所示的训练阶段，前端预处理原始声压数据(见第2.2)然后输入机器学习模型。用于训练的标记数据是声源位置或与声源位置相关的量。对于回归器，标记为连续声源距离或深度[28]。对于分类器，标记通常使用位向量[28]（即组成元素为0和1）来编码声源的距离或深度。在给出相应的标记后，结合模型输出，可以使用特定的训练损失函数来训练机器学习模型，以获得模型中未知的参数。几种典型的机器学习模型及相应的训练损失函数见第2.3节。训练阶段训练良好的机器学习模型可用于预测阶段对未知数据的预测。预测阶段机器学习模型的输入是相同预处理后的测量数据。对于回归器,模型的输出为声源距离或深度;对于分类器,输出为声源距离或深度的概率分布,一般取概率最大值为声源位置的估计值。

2.1理论基础

虽然机器学习模型在某些应用中被认为是一个无法解释的黑盒子模型，但将机器学习方法应用于水声被动定位是一个合理的物理理论基础。例如，机器学习模型实际上是一个函数拟合器，它按照一定的规则映射输入。在水声学中，不同位置（距离和深度）的声源产生不同的声场。具体来说，声源对应于不同位置的信道响应是不同的，而声源激励一般与位置无关。因此，预处理后的物理量可以映射到声源位置或与声源位置相关的量。以浅海环境中的单阵元为例，图2显示了模拟单阵元接收信号范围的距离-频率图，显示了不同距离对应的不同频率干扰结构。类似的干扰结构[32]也存在于深海直达声区。因此，该功能[32-33]可作为机器学习模型的输入。阵列信号的采样协方差矩阵也包含类似的信息(矩阵对角线元素对应每个阵元信号的范围，非对角线元素对应不同阵元信号之间的相位差)。第2.前端预处理算法的目的是将原始测量信号转换为信道响应或类似信道响应，以尽量减少训练数据和预测数据之间的差异。在实际应用中，两者之间的差异通常是由不同的声源激励引起的，包括相位和的差异。对于阵列信号采用的归一化采样协方差矩阵[28-29]和单阵元信号采用的分段归一化范围[32-33]，以减少这种差异。

图2 干涉结构(距离-频率图)接收信号

Fig.2 Interference structure of received signals (range-frequency)

2.2前端预处理算法

其中,nf为每个分段的频点数。向量是机器学习模型预处理后输入的单个样本点。

p(f)=S(f)g(f,r) ε(f)

(1)

其中,S(f)复数声源激励项，g(f,r)与声源位置相关的信道响应或格林函数，ε(f)为噪声。由于一般来说，声源激励项与声源位置无关，训练数据和预测数据之间可能存在差异，预处理算法旨在消除或减少声源激励谱范围和相位的影响[28-29]，以保持机器学习模型的输入数据相同的特性。

首先，复声压数据被归一为[28-29]

(2)

如果噪声为零，公式（2）的集成方法可以完全消除声源激励范围谱的影响。声源范围谱的影响可以信噪比下。

然后，利用归一化后的复声压，可以获得多次快速拍摄的平均采样协方差矩阵(SCM)[28-29]:

(3)

其中,Ns为快拍数。声源激励相位的影响可以通过公式(1)和(3)来有效地抑制和减弱。公式(2)和(3)确保输入与声源激励相似的物理量作为水声被动定位的机器学习模型，而不是原始测量的声压。由于公式（3）计算的采样协方差矩阵是共轭对称的，为了提高计算效率，减少内存占用，机器学习模型可以输入三角矩阵对应元素的实际和虚拟部分。对于单频信号，L预处理后，每个样本点的输入维数为每个样本点L×(L 1)。若考虑多频信号输入，可将多频点数据拼接成长向量作为模型输入。

公式(2)和(3)是对阵列信号的预处理方法。对于单阵元信号，水声被动定位也是可行的，如典型的波导不变原理。基于波导不变量的测距方法实际上是利用宽带信号的干涉结构，即不同距离的干涉结构。从另一个角度来看，波导不变量测距方法采用宽带信号范围谱，也可以借鉴基于机器学习的定位方法。因此，对于单阵元的宽带信号，预处理算法使训练数与阵列信号预处理方法相似和预测数据的特征分布保持一致。记单阵元接收到的F个频率的复声压矢量为p=[p1,…,pf,…,pF],对应的幅度谱可写为:

q=[|p1|,…,|pf|,…,|pF|]

(4)

然后,将公式(4)向量中的元素归一化到[0, 1]区间[33]:

(5)

与阵列信号预处理相似,为降低训练数据和测试数据声源谱不一致造成的影响,对于缓变的声源谱,可用如下的分段归一化方法[33]:

(6)

在线实时融冰技术，将可以有效防止输电线路覆冰灾害，减少输电线路覆冰承载参数，降低输电线路设计成本。文献[7]提出一种自融冰导线设计方法，并设计了自融冰设备，为实现输电线路实时在线融冰提供了新思路和新方法。

另外,除了以上预处理算法外,还可以利用协方差矩阵的本征向量[31]作为模型的输入。该方法将多次快拍平均的采样协方差矩阵进行分解,理论上可将整个空间分解为模态信号空间和噪声空间。然后取前M个较大本征值(即理想情况下的前M阶简正波)对应的本征向量作为机器学习模型的输入。理想情况下,由于只取前M个特征向量,故该方法可抑制部分噪声。但同时存在的问题是若采样协方差矩阵统计不充分,子空间的分解可能存在一定的问题。另外,信号有效模态数M的值不太好确定,与海洋传播环境及信号频率等密切相关。总之,机器学习模型输入特征的提取和构造是一个非常值得研究的问题,关系到机器学习模型的学习效率和稳健性。

2.3 典型机器学习模型

根据现有文献,用于水声被动定位的机器学习模型有支持向量机、随机森林、前馈神经网络、深度神经网络以及集成神经网络模型等。其中,支持向量机、随机森林和单隐层的前馈神经网络属于浅层模型,对于小训练数据集具有很好的定位性能。而深度神经网络属于深度学习模型,学习能力更强,可构建高度复杂的机器学习模型,但同时需要的训练数据也越多。在训练数据不足的情况下,机器学习模型可能会出现过拟合的现象。选择哪种模型取决于训练数据集的大小及水声被动定位具体的应用场景(见第3节中对海试试验结果的概述)。下面对这几种模型进行简要介绍。

支持向量机[41]是一种典型的分类模型,它通过使间隔(margin)最大化的策略寻找一个超平面实现输入样本的分类。如果训练数据空间是线性可分的,可通过硬间隔最大化得到线性支持向量机分类器;若输入空间是近似线性可分时,可通过引入松弛变量即软间隔最大化,得到线性分类器;当训练数据为线性不可分时,可通过核技巧实现非线性支持向量机。以二分类为例,首先假设输入样本空间{xn; n=1,2,…,N}是线性可分的,对应的类型为sn∈{1, -1},则分类模型具有以下的形式:

yn=wTxn+b

(7)

其中,w和b是待求解的权重和偏置项。用于分类的超平面满足wTxn+b=0,若估计值yn在超平面之上(yn>0),则对应的估计类型为相反,若yn位于超平面之下(yn<0),则估计类型为样本点xn到超平面的垂直距离d等于点xn与其在超平面上投影点x0之间的距离,满足:

(8)

因此,距离d可写为[28]:

(9)

间隔距离dM定义为从超平面到间隔边界上最近的样本点(即支持向量)的距离。模型参数可由最大化间隔求解得到:

(10)

公式(10)等价于求解如下优化问题:

(11)

若训练数据是线性不可分的,可引入松弛变量ξn≥0,使得部分样本点有一定的误分类。此时对应的优化问题为[41]:

n=1,…,N

(12)

其中,参数C>0控制间隔最大化和误分类之间的权重。另外,对于非线性的分类问题,公式(7)可写为:

yn=wT(xn)+b

(13)

其中(xn)表示特征空间的变换。对于该类问题,可通过核函数的技巧进行求解。与支持向量机分类器不同,支持向量回归器则是最小化如下ε敏感度的误差函数[41]:

(14)

其中,rn是样本xn对应的真实的声源位置。

随机森林模型[42- 43]是决策树模型的推广,它将输入数据划分到不同的特征空间中。即从根节点开始,对样本的某一特征进行测试,根据测试结果将样本分配到相应的子节点(每个子节点对应特征的一个取值),然后依次递归,最终将样本划分到不同叶节点。若输入样本{xn; n=1,2,…,N}是D维空间中的向量。按照决策树的思想,通过在第i维空间上定义一个截止门限c,输入数据可被划分到左右两个区域(或特征空间):

(15)

在每个分支处的代价函数可写为:

(16)

nleft和nright分别为划分到左右两个区域中的样本点数,H(·)为纯净度函数。对于分类问题,一种表达纯净度的函数为基尼指数(Gini Index):

(17)

nm为区域xm内的样本点数,lm为区域xm对应的标注预测,表示区域内样本数量最多的类型标注:

(18)

其中,rk为声源位置对应的预测类型,tn为样本xn对应的标注,且

(19)

对于回归算法,区域的标注预测lm和纯净度函数H(·)为:

(20)

(21)

其中rn为对应样本的声源位置(标注)。单个决策树模型容易产生过拟合的问题,而随机森林则是一种通过统计自助抽样集成,综合多个决策树的模型,稳健性更好。对于给定的训练集,随机森林模型通过自助法产生Mr个训练集,在每个训练集上训练产生一个决策树。最终通过多个决策树的统计结果,样本被归为出现频次最多的类型。

另一类机器学习模型是前馈神经网络[41],一般也被称之为多层感知机,它具有前向直连的非循环结构。记输入层L1为D维的向量x=[x1,…,xD]T,与输入层相连的第二层L2含有M个神经元,每个神经元的激活值为输入层单元的线性组合:

(22)

其中,和被称之为权重和偏置,上标代表当前的层数。该层神经网络的输出为激活值经过一个激活函数f(·)的变换:

zj=f(aj)

(23)

激活函数有多种选择,包括sigmoid函数、tanh函数、ReLU函数等。以sigmoid函数为例,其数学形式为:

(24)

可以看出该函数为单调递增函数,当a→+, f(a)→1,当a→-, f(a)→0。以此类推,第三层L3中K个神经元对应的激活值为:

(25)

若该层为输出层,对于多分类问题,一般采用softmax函数作为激活函数,对应的K个输出为:

(26)

yk表示样本属于第k个类型的概率,满足0≤yk≤1且∑kyk=1。记tn为二进制的位向量(one-hot vector),向量中仅有一个数为非零,其在向量中的位置代表相应的类型。训练神经网络时,互熵一般作为训练的代价函数:

(27)

对于N个样本,对应的平均互熵及最优的权重分别为[41]:

(28)

(29)

对于回归问题,一般将平方误差函数作为最小化的代价函数[41]:

(30)

其中,rn为声源位置(标注)。神经网络的训练一般采用误差反向传播算法进行权重的更新。

深度神经网络一般被认为是在深度方向上拥有许多层结构的神经网络。例如,上文介绍的具有多个隐层的前馈神经网络也是一种深度神经网络,层与层之间通过全连接的方式进行互连。除了前馈神经网络,在图像和语音处理领域,被广泛采用的深度神经网络还有深度卷积神经网络及循环神经网络。深度卷积神经网络的基本组成单元为卷积层,通过权值参数共享的方式极大地减少了待求解的参数数量。循环神经网络则主要用来对序列进行建模,典型特点为具有有向环的结构。到目前为止,循环神经网络还未在水声被动定位中有所应用,因此本文仅简要介绍卷积神经网络。对于卷积层,记输入样本I的维度为W×H×D,在图像处理中代表宽、高及通道数,对于水声定位,输入可为一维或二维。卷积操作即为输入I与卷积核K的卷积(convolution),在卷积网络算法实现中,经常用互相关(cross-correlation)代替卷积,二者的区别在于是否对卷积核进行翻转。对于单个通道D=1,数学表达式为:

(31)

卷积操作后的输出经常被称之为特征图(feature map),卷积核的维度通常远小于输入的维度。然后,与其他神经网络类似,卷积之后的输出经过一个激活函数(卷积网络中一般为修正线性单元ReLU),最后经过一个池化层(pooling)对输出进行进一步修正处理。例如,常见的两种池化操作为最大池化和平均池化,分别对某一矩形区域内的元素取最大值或平均值。多个卷积层的级联可构成深度卷积神经网络,深度越深,模型的表达能力越强,但同时带来的问题是梯度消失问题,导致模型越难训练。为此,有研究人员提出残差神经网络(ResNet)[44]来缓解深度模型的训练问题。与常规卷积神经网络模拟输入x与输出H(x)之间的映射不同,残差网络模拟的是输入输出的残差函数F(x),即H(x)=F(x)+x。图3所示的瓶颈(bottleneck)结构[44]是一种实现残差网络的基本单元。

图3 残差网络中的瓶颈结构

Fig.3 Bottleneck structure in ResNet

另外,还有研究人员利用集成神经网络对声源进行测距[32]。集成神经网络模型是利用集成学习的思想(类似单个决策树和随机森林之间的关系),并综合多个神经网络模型,对结果进行统计预测,可在一定程度上提高模型的稳健性和性能。

机器学习模型的训练可在现有主流框架上进行高效地训练,如TensorFlow[45]和Scikit-learn[46]等。

2.4 性能评价

为度量机器学习方法的定位性能,有三种常见的评价准则,分别是均方误差(MSE)、平均绝对值误差(MAE)以及平均绝对百分比误差(MAPE)。记测试样本数为N、第i个样本对应的距离或深度的真实值为gi、第i个样本对应的距离或深度的预测值为yi,则均方误差的计算公式为:

(32)

平均绝对误差的计算公式为:

(33)

平均绝对百分比误差的计算公式为:

(34)

对于同一数据集,这三种评价准则的结果并不完全一致,一般情况下,可选择一种或多种度量对定位结果进行比较和评价。

2.5 与匹配场定位的区别

基于机器学习的水声定位方法,与经典的匹配场定位相比,有以下几点明显区别:

(1)算法的执行策略和效率不同。机器学习方法可以被认为是一种离线训练、在线预测的策略。大量密集的计算集中在模型的训练阶段,训练好的模型在预测阶段进行轻量级的计算,因此可较为容易地实现数据的实时处理。相反,匹配场处理方法采用的则是在一个参数空间内进行在线匹配的策略,如果参数空间较大(如同时包含环境参数),则计算效率会显著降低,导致无法进行实时处理。

(2)用于定位的代价函数不同。机器学习方法根据回归或者分类任务,大多采用最小均方误差或最小化互熵等训练的代价函数。而匹配场处理大多采用相关处理的方式。

(3)大数据处理的能力。机器学习方法可以很自然的采用大数据集结合深度学习模型进行训练,数据量越大,在统计意义上越有可能逼近真实的数据分布,并且可以同时利用仿真数据和实测数据作为训练数据。匹配场处理方法一般情况下无法有效处理大数据。

3 部分海试实验数据概述