1、Continual Learning for Visual Search with Backward Consistent Feature Embedding
Timmy S. T. Wan, Jun-Cheng Chen, Tzer-Yi Wu, Chu-Song Chen
https://arxiv.org/pdf/2205.13384
在图像搜索算法中,随着时间的推移,数据库中的图像会增加。但现有的方法依赖于在整个数据集中训练的模型,而忽略了模型的不断更新。随着模型的更新,新模型必须重新提取整个图库集的特征,以保持兼容的特征空间,这给大型图库集带来了很高的计算成本。为了解决长期视觉搜索的问题,论文引入了持续学习 (CL) 该方法可处理增量增长图片集。该方法强制执行会话之间的数据一致性和模型一致性以及不同训练会话(数据增长后的重新训练)的损失差异。解决方案还解决了在模糊边界中添加新类别的问题,而不假设所有类别在开始和模型更新期间都已知。这应该是第一个解决后一致特征嵌入问题并允许在新会话中出现新类别的问题 CL 方法。对各种基准的广泛实验表明论文的方法在各种设置下的有效性
2、Bootstrap Confidence Regions for Learned Feature Embeddings
Kris Sankaran
https://arxiv.org/pdf/2202.00180
学习器为非矩阵结构化信号(如图像、音频、文本和图形)提供高维向量表示。 低维投影可以用来探索这些数据集之间的变化。 但目前还不清楚如何评估与这些预测相关的不确定性。 论文采用bootstrapping principal components analysis适应从非矩阵数据中学习特征的方法。 论文凭经验比较了衍生的信心区域,影响特征学习和指导的不同因素。 该方法在空间蛋白质组数据了改变方法。 R语言用于开发和开源代码、数据和训练模型。
3、Who supervises the supervisor? Model monitoring in production using deep featureembeddings with applications to workpiece inspection
Michael Banf, Gregor Steinhagen
https://arxiv.org/pdf/2201.06599
近期监管领域取得了巨大进展。但这些模型变得越来越强大和复杂,不透明和无法解释。一个主要挑战是监控这些机器学习系统的实时部署,并在遇到可能影响模型性能的事件时发出警报。特别是目前的监督分类器通常是在基础数据分布的稳定性假设下建造的。例如,训练一组材料表面缺陷的视觉检测系统通常无法适应甚至识别数据分布的逐渐变化,即所谓的数据漂移问题(如出现新的表面缺陷)。如果发生这种情况,可能会导致非常严重的错误预测,例如,新缺陷类别的样本被归类为无缺陷。因此,有必要对分类器的性能进行实时跟踪,监控额外的错误类别,并手动干预分类器的重新训练。本文提出了监督分类系统上的无监督框架,利用其内部深度特征来跟踪部署过程中数据分布的变化,从而预测分类器性能的下降
4、Extreme Beam-forming with Impedance Metasurfaces Featuring Embedded Sources and Auxiliary Surface Wave Optimization
Gengyu Xu, Vasileios G. Ataloglou, Sean V. Hum, George V. Eleftheriades
https://arxiv.org/pdf/2107.12025
论文提出了端到端紧凑型无源无损超表面(MTS)设计天线。整个系统由单层无功阻抗MTS构成建立了精确高效的基础 体积-表面 作为快速优化设备性能的基础,积分方程的设备模型。在实际应用中,论文推导出了几种可行性约束MTS天线的功率效率和带宽。全波数值模拟证实了该方法的有效性和综合设计的极端场变换能力。
5、ContextNet: A Click-Through Rate Prediction Framework Using Contextual information to Refine Feature Embedding
Zhiqiang Wang, Qingyun She, PengTao Zhang, Junlin Zhang
https://arxiv.org/pdf/2107.12025
点击率 (CTR) 估计是个性化广告和推荐系统的基本任务,对于排名模型有效捕捉复杂的高级特征非常重要。论文的灵感来自 ELMO 和 Bert 在 NLP 该领域的成功可以根据单词出现的上下文句子信息动态细化单词嵌入,因此论文认为是CTR据估计,根据输入实例中包含的上下文信息,逐层动态细化每个特征的嵌入也非常重要。这样,每个特征的有用特征交互就可以有效地捕获。提出一个名字 ContextNet 的新型 CTR 框架,框架根据输入上下文动态细化每个特征的嵌入,进行隐式建模高级特征交互。具体来说,ContextNet 它由两个关键组件组成:嵌入模块和上下文 ContextNet 块。上下文嵌入模块从输入实例中聚合上下文信息,ContextNet 块通过将上下文的高级交互信息结合到特征嵌入中,逐层维护每个特征的嵌入,动态细化其表示。为了使框架具体化,还通过 ContextNet 将线性上下文嵌入网络和两个非线性映射和两个非线性映射子网络(ContextNet-PFFN 和 ContextNet-SFFN)。对四个现实世界的数据集进行了广泛的实验,实验结果表明,ContextNet-PFFN 和 ContextNet-SFFN 模型明显优于 DeepFM 和 xDeepFM 等待最先进的模型。
https://avoid.overfit.cn/post/8987c6b35a3c4131887de97a4031d665
作者:Monodeep