随着“平安城市”的广泛建设,各大城市已经建有大量的视频监控系统,虽然监控系统己经广泛地存在于银行、商场、车站和交通路口等公共场所,但是在公安工作中,由于设备或者其他条件的限制,案情发生后的图像回放都存在图像不清晰,数据不完整的问题,无法为案件的及时侦破提供有效线索。嫌疑人的面部特征往往不清楚,难以识别,车牌模糊,无法识别。这给公安部门破案、法院取证带来了极大的麻烦。随着平安城市的推广和各地监控系统建设的进一步推进,这类问题将越来越突出。
1.模糊图像产生的原因
1. 系统本身的因素 (1)镜头聚焦不当,摄像机故障等。 (2)视频线传输视频线老化 (3)光学镜头的极限分辨率和摄像机不匹配导致的模糊; (4)相机分辨率低,欠采样成像。 2. 自然环境 (1)相机罩或镜头被污垢、堵塞等。 (2)雾、灰尘、雨雪等环境影响。 3. 人为环境 (1)环境电磁干扰; (2)视频压缩算法和传输带宽造成的模糊。 (3)运动目标高速运动引起的运动模糊;
二. 常用的模糊图像处理方法
对于模糊图像处理技术,国内大学和科研机构多年前就在研究这些理论和应用,发表了大量相关文献,并取得了一些良好的应用。目前,许多软件在美国都有一套相当成熟的模糊图像恢复方法FBI其他执法机构已实际应用多年,恢复的图像可以直接作为法庭证据使用可见模糊图像处理技术已实际应用。
在技术方面,模糊图像处理方法主要分为图像增强、图像恢复和超分辨率重构三类。
2.1 图像增强
增强图像中的有用信息可以是一个扭曲的过程。其目的是提高图像的视觉效果。对于给定图像的应用,有目的地强调图像的整体或局部特征,使原始不清晰的图像清晰或强调一些感兴趣的特征,扩大图像中不同物体特征的差异,抑制不感兴趣的特征,提高图像质量,丰富信息量,增强图像判断和识别效果,满足一些特殊分析的需要。
图像增强技术可分为基于空域的算法和基于频域的算法。
前者将图像视为二维信号,增强基于二维傅里叶变换的信号。采用低通滤波法(即只允许低频信号通过)去除图片中的噪声;采用高通滤波法,可增强边缘等高频信号,使模糊图片清晰。具有代表性的空间域算法有局部求平均值法和中值滤波法(取局部邻域中间像素值),可用于去除或减弱噪声。
基于空域的算法分为点操作算法和邻域去噪算法。点算法是灰度级校正、灰度变换和直方图校正,目的是使图像成像均匀,或扩大图像动态范围,扩大对比度。邻域增强算法分为图像平滑和锐化。平滑通常用于消除图像噪声,但也容易造成边缘模糊。常用算法包括均值滤波和中值滤波。锐化的目的是突出物体的边缘轮廓,便于目标识别。常用法、算子、高通滤波、掩模匹配法、统计差值法等常用算法。
2.1.1 图像增强的几个方面和方法
1.对比度变化:线性变化、非线性变化
2.空间滤波:图像卷积运算平滑,锐化
3.颜色变化:单波段颜色变化,多波段颜色操作HIS
4.多光谱变换:K-L变换、K-T变换
5.图像运算:插值运算、比值运算
2.1.2 图像增强的应用概况
图像增强的方法分为空域法和频域法。空域法操作图像中的像素点,公式描述如下:
g(x,y)=f(x,y)*h(x,y)
其中是f(x,y)原图像;h(x,y)空间转换函数;g(x,y)表示处理后的图像。
频域法是一种间接处理方法,它首先在图像的频域中操作图像的变换值,然后将其转换为空域。例如,首先将图像的傅里叶转换为频域,然后对图像的频谱进行一定的滤波修正,最后将修正后的图像转换为空域,以增强图像。
许多传统的图像算法可以降低图像的模糊性, 如图像滤波、几何变换、对比度拉伸、直方图平衡、空间域锐化、亮度均匀、形态学、色彩处理等。总之,这些算法相对成熟和简单。然而,对于特定的模糊图像,通常需要上述一种或多种算法组合,并与不同的参数合作,以达到理想的效果。
这些算法和参数的组合进一步发展为具体的增强算法,如图像雾算法(可参考何凯明经典雾算法)、图像噪声算法、图像锐化算法、图像暗细节增强算法等。
2.2 图像复原
2.2.1 图像恢复概述
在图像的获取、传输以及保存过程中,由于各种因素,如大气湍流效应、摄像设备中光学系统的衍射、传感器特性的非线性、光学系统的像差、成像设备与物体之间的相对运动、感光胶卷的非线性、胶片颗粒的噪声以及电视摄像扫描的非线性造成的几何失真,必然会导致图像的畸变和失真。通常称这些因素导致的质量下降为图像退化。
早期图像恢复是利用光学方法校正失真观测图像,而数字图像恢复技术最早是从天文观测图像的后期处理中逐渐发展起来的。成功的例子之一是NASA1964年,喷气推进实验室用计算机处理月球照片。照片是在空间飞行器上用电视摄像机拍摄的,图像的复原包括消除干扰和噪声,校正几何失真和对比度损失以及反卷积。另一个典型的例子是处理肯尼迪遇刺事件的现场照片。照片是在相机移动过程中拍摄的,图像恢复的主要目的是消除移动造成的失真。
早期恢复方法包括:非邻域滤波法、最近邻域滤波法、维纳滤波和最小二乘滤波。目前,国内外图像恢复技术的研究和应用主要集中在空间探索、天文观测、物质研究、遥感遥测、军事科学、生物科学、医学图像、交通监测、刑事侦察等领域。例如,在生物学方面,主要用于生物活体细胞内部组织的三维再现和重构,通过恢复荧光显微镜收集的细胞内部分层切片图来重现细胞内部组成;在医学方面,如对肿瘤周围组织进行显微观察,以获取肿瘤安全边缘与癌症原发部位关系的定量数据;在天文学方面,如气动光学效应图像恢复研究,采用迭代盲反卷积。
2.2.2 图像退化模型
图像恢复问题的有效性之一取决于描述图像退化过程模型的准确性。为了建立图像退化模型,我们必须首先了解和分析图像退化的机制,并使用数学模型进行表示。在实际图像处理过程中,图像需要用数字离散函数表示,因此退化模型必须离散。
2.2.3 介绍了几种经典的恢复方法
图像恢复算法有线性和非线性。线性算法通过反向过滤图像来实现反向卷积。这种方法方便快捷,可以直接获得反向卷积结果,无需循环或迭代。然而,它有一些局限性,如无法保证图像的非负性。在满足预设的终止条件之前,非线性方法通过连续迭代过程不断提高恢复质量,结果往往令人满意。但是迭代程序导致计算量大,图像恢复时间长,有时甚至需要几个小时。因此,在实际应用中,还需要综合考虑两种处理方法。
1)维纳滤波法
由于维纳滤波法Wiener首先,在一维信号处理中的应用取得了良好的效果。此后,维纳滤波法用于二维信号处理,也取得了良好的效果,特别是在图像恢复领域,由于维纳滤波计算量小,恢复效果好,得到了广泛的应用和发展。
2)正则滤波法
另一种容易实现线性恢复的方法称为约束的最小二乘方滤波IPT它被称为正则滤波,通过函数deconvreg来实现。
3)Lucy-Richardson算法
L-R算法是一种迭代非线性恢复算法,它是从最大的似然公式打印出来的,图像是通过泊松分布模型化的。当迭代收敛时,模型的最大似然函数可以得到令人满意的方程。
4)盲去卷积
在图像复原过程中,最困难的问题之一是,如何获得PSF的恰当估计。那些不以PSF为基础的图像复原方法统称为盲区卷积。它以MLE为基础的,即一种用被随机噪声所干扰的量进行估计的最优化策略。工具箱通过函数deconvblind来执行盲区卷积。
2.2.4 图像复原与图像增强
图像复原与图像增强技术一样,也是一种改善图像质量的技术。图像复原是根据图像退化的先验知识建立一个退化模型,以此模型为基础,采用各种逆退化处理方法进行恢复,改善图像质量。
图像复原和图像增强是有区别的,二者的目的都是为了改善图像的质量。但图像增强不考虑图像是如何退化的,只有通过试探各种技术来增强图像的视觉效果,而图像复原就完全不同,需知道图像退化过程的先验知识,据此找出一种相应的逆过程方法,从而得到复原的图像。图像复原主要取决于对图像退化过程的先验知识所掌握的精确程度。
对由于离焦、运动、大气湍流等原因引起的图像模糊,图像复原的方法效果较好,常用的算法包括维纳滤波算法、小波算法、基于训练的方法等。在知道退化模型的情况下,相对图像增强来说,图像复原可以取得更好的效果。
2.3 图像超分辨率重构
现有的监控系统主要目标为宏观场景的监视,一个摄像机,覆盖很大的一个范围,导致画面中目标太小,人眼很难直接辨认。这类由于欠采样导致的模糊占很大比例,对于由欠采样导致的模糊需要使用超分辨率重构的方法。
超分辨率复原是通过信号处理的方法,在提高图像的分辨率的同时改善采集图像质量。其核心思想是通过对成像系统截止频率之外的信号高频成分估计来提高图像的分辨率。超分辨率复原技术最初只对单幅图像进行处理,这种方法由于可利用的信息只有单幅图像,图像复原效果有着固有的局限。序列图像的超分辨率复原技术旨在采用信号处理方法通过对序列低分辨率退化图像的处理来获得一幅或者多幅高分辨率复原图像。由于序列图像复原可利用帧间的额外信息,比单幅复原效果更好,是当前的研究热点。
序列图像的超分辨率复原主要分为频域法和空域法两大类,频域方法的优点是:理论简单,运算复杂度低,缺点是:只局限于全局平移运动和线性空间不变降质模型,包含空域先验知识的能理有限。
空域方法所采用的观测模型涉及全局和局部运动、空间可变模糊点扩散函数、非理想亚采样等,而且具有很强的包含空域先验约束的能力。常用的空域法有非均匀插值法、迭代反投影方法(IBP)、凸集投影法(POCS)、最大后验估计法(MAP)、最大似然估计法(ML)、滤波器法等,其中,MAP和POCS法研究较多,发展空间很大。
三:模糊图像处理的关键和不足
虽然很多模糊图像的处理方法在实际应用中取得了很好的效果,但是当前仍然有一些因素制约着模糊图像处理的进一步发展,主要如下:
1、 算法的高度针对性;
绝大部分的模糊图像处理算法只适用于特定图像,而算法本身无法智能决定某个算法模块的开启还是关闭。举例来说,对于有雾的图像,“去雾算法”可以取得很好的处理效果,但是作用于正常图像,反而导致图像效果下降,“去雾算法”模块的打开或者关闭需要人工介入。
2、 算法参数复杂性;
模糊图像处理里面所有的算法都会包含大量的参数,这些参数的选择需要和实际的图像表现相结合,直接决定最终的处理效果。目前算法还没有办法智能选择这些最优参数。
3、 算法流程的经验性;
由于实际图像很复杂,需要处理多种情况,这就需要一个算法处理流程,对于一个具体的模糊视频,采用什么样的处理流程很难做到自动选择,需要人工选择一个合适的方法,只能靠人的经验。
四:实践和总结
由于环境、线路、镜头、摄像机等影响,监控系统建成运营一段时间后,都会出现一部分的视频模糊不清的问题。前面提到了针对模糊图像的各种处理算法,虽然这些算法都取得了一些较好的处理效果,但是再好的算法都是一种后期的补救措施。如果能及时发现监控系统中图像的各种问题,并及时维修,必然会起到事半功倍的效果。
利用先进的视频诊断技术,开发出适用于各种需求场景的视频质量诊断系统。它能够对视频图像出现的模糊、噪声、亮度异常和视频丢失等低质视频以及常见摄像机故障问题进行诊断,有效预防因硬件问题导致的图像质量低下所带来的损失。从几路视频到几百上千、上万路视频,均可高效的进行检测,自动生成检测报告,提供及时且精准的维护信息,第一时间从根源上解决图像模糊的问题。
总体来说,对于不同种类的模糊问题,要区别对待。对于由镜头离焦、灰尘遮挡、线路老化、摄像机故障等造成的模糊或者图像质量下降,在视频诊断系统的帮助下,一定要及时维修,从源头上解决问题。对于低光照等优先选择日夜两用型高感光度摄像机,对于雨雾、运动和前采样等造成的图像质量下降,可以借助于“视频增强服务器”包含的各种模糊图像处理算法,提升图像质量。
后记
Single-Image Super-Resolution for anime/fan-art using Deep Convolutional Neural Networks. waifu2x是采用了最新锐的人工智能技术“Deep Convolutional Neural Networks”开发的网络服务。
名字来源于海外的动画粉丝们将喜欢的角色称作“waifu(即‘我老婆’)”。把缩小的锯齿状图传到waifu2x的话,“现在给你的图是某张图缩小一半的图。求缩小前的图哦”,人工智能就会将噪点和锯齿的部分进行补充,生成新的图。于是“扩大时的图”将不存在了,小的图变成了扩大了的图,同时还可以去除噪点。