a25-2021-TKDE(A类)-无监督-Unsupervised Deep Anomaly Detection for Multi-Sensor Time-Series Signals-基于预测和重构的精度
代码链接：https://github.com/7fantasysz/MSCRED 引用库链接：https://pyod.readthedocs.io/en/stable/
- 由于时间序列数据中的时间组成，时空域异常检测变得更加复杂。由于不能同时捕获空间和时间依赖性，传统的异常检测技术无法处理多变时间序列信号。
- 基于重构的模型通常用于异常检测。假设异常样本的压缩不同于正常样本，异常样本的重构误差会更高。在现实生活中，由于模型的高复杂性和数据噪声，训练模型也可以很好地拟合异常输入的重构误差。
- 为减少多传感器数据的维传感器数据的维数和检测异常。两种模型分开训练，容易陷入局部最佳状态。
基于深度学习提出了一种新的异常检测算法，称为深度卷积自编码记忆网络(CAE-M)。
首先，利用最大平均偏差构建深度卷积自编码器(MMD)为了更好地区分噪声、正常和异常数据，表示多传感器数据的空间依赖性。然后，我们构建了线性（自回归模型）和非线性预测（注意双向LSTM)从时间序列数据中获取时间依赖性的记忆网络。CAE-M联合优化这两个子网络。
子网络=表征网络 记忆网络 Deep Convolutional Autoencoder Attention-based Bidirectional LSTM Maximum Mean Discreancy(MMD) AR 复合模型：通过同时进行进行重构和预测分析来表征复杂的时空模式。
通过学习重建给定的输入，自动编码器常用于异常检测。。一旦输入与正常数据质量相同，输入序列将被视为异常数据。
从这篇文章中可以看出，这篇论文也用历史指标来预测新的指标，没有引用label，因此，仍然没有监督（或称为自我监督）。
具体来说，我们通过深度积累多传感器时间序列信号中的空间信息(CAE)在低维表示中编码。一些研究试图增加内存模块或高斯混合模型，以减少噪声数据的影响(GMM)。在我们提出的方法中，我们将这些模块简化为惩罚项，称为最大平均差异(Maximum Mean difference, MMD)惩罚。增加一个MMD项目可以使训练数据的分布与高斯分布相似，从而降低训练数据中噪声和异常引起的过拟合风险。然后将这些表示和重构误差输入基于注意机制的双向LSTM (Bi-LSTM)在后续预测网络中，通过建模时间信息，实现对未来特征值的预测。多传感器时间序列信号的时空依赖性可以通过复合模型获得。最后，我们提出了一个带有权重系数的复合目标函数来指导端到端训练。对于正常数据，数据编码生成的重构值类似于原始输入序列，预测值类似于时间序列的未来值，而异常数据生成的重构值和预测值变化较大。因此，在推理过程中，可以通过计算复合模型中的损失函数来准确检测异常。
将编码后的表示和重构误差输入记忆网络，记忆网络获取两部分数据。
(1)从多个信号中提取的特征； (2)基于欧氏距离和闵可夫斯基距离等距度量的重构误差。
MMD:目的是使噪声数据的分布接近于正常训练数据的分布，从而降低过拟合的风险。 (为了捕捉空间和时间的相关性，我们提出的模型旨在通过重建分析和预测分析来表示复杂的时空模式。–再理解理解
- 非线性预测
双向采用注意机制[60]LSTM，在计算相关隐藏状态时，可以考虑全局/局部环境。具体来说，双向LSTM (BiLSTM)输入有两种方式，一种是从过去到未来LSTM，另一种是从未来到过去LSTM。与单向不同的是，这两种隐藏状态的结合可以随时保存过去和未来的信息。 注意力机制 (问题:注意机制的公式没有出现，如何使用)
- 线性预测
自回归(AR)该模型是利用观测值与滞后观测值之间的相关性的回归模型。理论上，非线性递归网络比较AR模型更有表现力和功能。事实上，AR模型在短期建模预测中也有很好的效果。
-
联合优化
-
决策阈值
-
算法流程
-
实验数据 Conv2D→Maxpooling→Conv2D→Maxpooling→Conv2DTranspose→Conv2D T ranspose→Conv2D Transpose
the non-linear network runs with BiLSTM(512)→Attention(h?1)→Dropout(0.2)→FC(1000, linear) the linear network runs with FC(1000, linear).
在这里，重构构数据输入预测网络进行预测.