医疗行业产生了大量未标记的生理数据。通过比较学习可以利用这些数据。比较学习是一种自我监督的预训练方法，鼓励实例相似。我们提出了一系列的比较学习方法，即CLOCS，鼓励跨空间、时间和病人的表达相似。当线性评估和微调下游任务时，我们发现，CLOCS性能总是优于SOTA方法BYOL和SimCLR。我们还发现，训练数据只有25%标记，CLOCS实现了较强的泛化性能。此外，我们的训练过程自然产生了特定患者的表达，可以用来量化患者的相似性。
图1.ECG(心电图)记录反映了时间和空间信息。这是因为他们在一段时间内使用不同的信息leads（导体）测量心电图活动。时间不变性：心电图记录不太可能在几秒钟内突然改变，因此持续时间较短的相邻部分将继续共享上下文。空间不变性：不同导体的记录反映了相同的心脏功能，以便共享上下文。
图2.比较多段编码(CMSC)、比较多导联编码(CMLC)、比较多段多导联编码(CMSMLC)小批量相似矩阵。为了识别阳性配对，我们将每个例子及其患者ID关联起来。对角线元素(绿色)通过设计对应同一患者。类似地，实例1和50(黄色)属于同一患者。蓝色区域对应于阴性示例，因为它们来自不同患者。
图3.应用于SimCLR和CMSC单次(蓝色)和顺序(绿色)扰动对线性评估的影响。我们使用四个导联PhysioNet预训练和评估是在2020年数据集上进行的。我们发现，无论施加什么扰动，CMSC都优于SimCLR。
表1.在Chapman或PhysioNet2020年数据集预训练后，线性评估测试表示AUC。粗体表示性能的最佳方法。
表2.在Chapman或PhysioNet2020年数据集预训练后，F=0:5微调测试AUC。我们发现，CMSC或CMSMLC的表现优于BYOL和SimCLR。
图4.随机初始化或通过CMSC验证初始化并暴露在不同数量训练数据的网络中AUC。阴影部分表示标准差。我们发现使用CMSC初始化并暴露在较少的数据中(F<1)网络优于随机初始化和所有数据暴露(F=1)的网络。
图5.在Chapman在数据集上进行预训练，Cardiology当数据集微调时，嵌入维度和标记分数进行测试AUC影响。误差条表示标准差。
图6.同一患者(Intra-Patient)的表示与不同患者(Inter-Patient)欧氏距离的成对分布。SimCLR相比，使用CMSC同一患者平均距离较低，两种分布之间的可分性也有所改善。
本文提出了一系列基于生理信号对比学习的自监督预训练机制，称为CLOCS。我们鼓励跨空间、时间和病人的表达相似。我们发现，在线性评估和微调下游任务时，我们的方法优于SOTA方法BYOL和SimCLR。这一结论在施加干扰和使用不同数量的导联进行预训练和评估时仍然成立。未来几个值得探索的方向如下：
。我们已经学会了特定患者的说法。这些说法可以用来量化患者的相似性，帮助诊断或更好地了解医疗状况。这些说法可以通过已知的相似患者来验证。
。我们将参数从一个任务转移到另一个输入模式(ECG)任务。这些数据可能并不总是用于自我监督学习。一个有趣的探索方向是自我监督学习是否能很好地转移到另一个模式。
。我们使用单模态ECG比较学习时空不变性。然而，我们也设想CLOCS应用于其他模式(如心脏超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超声、脑超MRI和ICU生命数据)。例如，随时记录的血氧饱和度和呼吸频率可以解释为同一生理现象的两个空间视图CMLC利用。此外，ECG信号通常与其他模式一起记录，如光电容积图(PPG)。利用时间对齐的潜在方法ECG和PPG多模态对比学习表示。
原文：
KiyassehD,ZhuT,CliftonDA.Clocs:Contrastivelearningofcardiacsignalsacrossspace,time,andpatients[C]//InternationalConferenceonMachineLearning.PMLR,2021:5606-5615.