来源丨3D感知与智能
苹果最近正式推出了新款iPad Pro，吸引了很多人的注意。在官方口号中，有一句话特别引人注目，
新款iPad Pro搭载的Pro级摄像头不仅包括全新的超广角摄像头，还包括激光雷达扫描仪。扫描仪使用dToF结合运动传感器和技术iPadOS内部结构，可以进行深度测量，限可能地开启增强现实和更广泛的领域。
本文将介绍dToF和iToF对比分析成像原理dToF和iToF两者的区别，带领大家了解一下ToF领域。
Time-of-Flight(ToF)，顾名思义，它是一种利用光飞时间的技术。接触过3D视觉读者应该知道，ToF和结构光、双目立体视觉是近年来三大主流D成像方式。ToF近红外光发射到场景中，用光的飞行时间信息测量场景中物体的距离。ToF比较另外两种3D深度信息计算量小，抗干扰性强，测量范围长。促进了各种优势ToF应用于机器人、交互等工业领域。特别是在移动端，华为、OPPO、苹果，用于手机后置摄像头。
dToF，全称是direct Time-of-Flight。顾名思义，dToF飞行时间直接测量。dToF包括核心组件VCSEL、单光子雪崩二极管SPAD和时间数字转换器TDC。Single Photon Avalanche Diode(SPAD)它是一种具有单光子探测能力的光电探测雪崩二极管，只要有微弱的光信号就能产生电流。dToF模组的VCSEL脉冲波发射到场景中，SPAD接收从目标物体反射的脉冲波。Time Digital Converter(TDC)能记录每次接收到的光信号的飞行时间，即发射脉冲和接收脉冲之间的时间间隔。dToF会在单帧测量时间内发射和接收N次光信号，然后对记录的N次飞行时间做直方图统计，其中出现频率最高的飞行时间t用来计算待测物体的深度，。图1是dToF单像素点记录的光飞行时间直方图，其中高度最高的柱对应的时间是像素点的最终光飞行时间。
图1. 单像素记录的光飞行时间直方图
dToF虽然原理看起来很简单，但实际上很难达到更高的精度。脉冲信号的精度除了对时钟同步有很高的精度要求外，还有很高的要求。普通光电二极管很难满足这种需求。而dToF核心组件SPAD由于生产工艺复杂，能胜任生产任务的厂家不多，集成困难。所以目前的研究dToF厂家不多，更多的是在研究和推广iToF。
iToF的概念和dToF对应，全称是indirect Time-of-Flight，直译是间接光飞行时间。间接是指iToF通过测量相位偏移间接测量光的飞行时间，而不是直接测量光的飞行时间。
iToF向场景中发射调制后的红外光信号，再由传感器接收场景中待测物体反射回来的光信号，根据曝光（积分）时间内的累计电荷计算发射信号和接收信号之间的相位差，从而获取目标物体的深度。如图2所示。
图2. iToF[1]
iToF包括模块的核心组件VCSEL图像传感器。VCSEL调制红外光发射特定频率。图像传感器在曝光时间内接收反射光并进行光电转换。曝光(积分)后，读取数据，通过模拟数字转换器传输到计算单元，最后计算单元计算每个像素的相位偏移。iToF计算深度的方法通常是4-sampling-bucket算法使用4个相位延迟为0°，90°，180°和270°采样信号计算深度。如图3所示
图3. 连续波调法测相位移原理示意图[2]
根据上述原理图，可以得到相位偏移的计算公式，。然后根据相位偏移计算深度，。其中，调制信号的频率，是光速。
dToF和iToF虽然采用光飞行时间技术，但两者在测距原理和硬件实现上存在差异。软硬件的差异会导致这两种类型ToF性能各方面各有千秋。
衡量ToF性能指标需要考虑几个方面。因为ToF作为一种测距设备，基本的评价指标是测距精度和有效的测距距离。其次，图像分辨率也是相机的重要评价指标。此外，由于ToF本身只能提供3D未来信息的发展将集成到3D比如3D建模、AR移动平台。集成到其他3D在相关应用中，特别是移动终端和机器人平台，必须考虑其能耗和成本，以及在各种复杂场景下的抗干扰能力。这些特征决定了dToF和iToF各有适用的应用场景。
接下来，本文将从精度、有效探测距离、图像分辨率、能耗、成本、抗干扰等七个方面进行比较iToF和dToF的优劣。
精度是指真实深度值与相机测量值之间的差异，是测量设备的基本指标。
对于dToF，采用单光子雪崩二极管（SPAD），吸收的光子数可以在很短的时间间隔内测量，最小数可以在很短的时间内测量响应电流在等级时间内产生。TDC时间分辨率也高于，因此，其理论精度可以达到。但由于雪崩过程中存在量子噪声和放大器噪声，以及dToF中TDC模块存在的固有噪声，导致目前dToF只能达到实际精度cm级，和iToF相近。但理论上dToF测量误差不会随着测量距离的增加而增加。
iToF测量精度与调制光频率、光功率和积分时间有关。前面已经提到iToF深度计算公式。因此，可以推出深噪声(精度)。由于C对应光速，是一个固定值，因此深度精度、调制光频率和相位信噪比（phase SNR）有关。相位信噪比一定时，频率越高，深度噪声越小，深度精度越高。
iToF相位信噪比与传感器接收到的光电流有关，。
其中，代表调制信号生成的电子，电子总和代表调制光和环境光，代表电容器的固有噪声，调制对比度，描述传感器分离和收集光电子的质量。所以，调制光信号产生的电子数量越多，相位信噪比越大，深度精度越高。增大有两种方法，一种是增加光功率，另一种是延长曝光时间，即上述积分时间。
总的来说，目前的iToF深度精度在等级，随着测量距离的增加，反射光的强度降低，相位测量的信噪比降低，绝对误差也会增加。
有效检测距离是指相机能够输出可靠深度的距离范围，这意味着深度值与真实值之间的误差小于一定阈值。假设测量误差为2cm在内部，我们认为深度值是可靠的。如果一个ToF当模块测量5米物体时，测量值为5米.02米，误差刚刚达到预定义的极限。当物体位于5.01米时，测量值为5.误差超过22米cm。我们可以说是的ToF模块的有效探测距离为5米。
当然，限制ToF相位模糊是有效探测距离的主要因素之一。
对于dToF就测量距离而言，当测量距离较远时，光来回飞行时间超过两个连续发射脉冲的间隔。传感器在发射第二个测量信号后接收第一个测量信号的反射波，将反射波误认为是第二个测量信号的近距离反射波，然后相位模糊。如图4所示。图4中case1表示在近距离场景下dToF测距原理图，case2表示远程场景中相位模糊的测距原理图。
图4. dToF脉冲测距原理示意图[3]
对于iToF就相位偏移而言，深度是通过相位偏移计算的，而相位偏移是通过切函数反正得到的。反正切函数的返回值只会落在，因此，测量深度的返回值只会下降。换句话说，即使实际距离超过了，最终iToF输出深度也会降低。这是三角函数周期性带来的相位模糊。
dToF会受到测量频率（相邻两次测量的间隔时间）限制，iToF的有效探测距离会受到调制光的频率限制。dToF在测量远距离物体时，可以适当增加两次测量之间的间隔，减少测量次数。但是，减少测量次数会同时降低测量精度，相当于是用精度换取有效探测距离。而iToF也可以通过降低调制光的频率，从而牺牲一定的测量精度以获得更远的有效探测距离。
对于iToF而言，可以利用双频解决相位模糊现象。利用两个不同频率的测量数据去求解相位模糊度，从而恢复正确深度值。借助双频测量可以同时实现高精度测量和高有效探测距离。
dToF的图像分辨率受到SPAD的限制，分辨率一般小于QVGA（320*240像素），新款iPad Pro的dToF分辨率有所提升，但是具体大小还未可知。
iToF技术发展相对成熟，图像的分辨率大多都达到了QVGA（320*240像素），上海数迹的TC-S系列相机的分辨率可以达到VGA（640*480像素）。微软最新的Kinect有多个图像分辨率，最高可以达到1024*1024像素。
从发射信号来看， dToF则采用 级的脉冲激光，iToF目前大多采用连续波调制。相比较而言，脉冲波能够达到超低占空比，所以功耗也较低。
从光照模式来看，由于dToF的测量精度不会随着测量距离的增大而降低，所以功耗也会相对较低。反之，iToF目前采用的大多是面光发射方式。并且，随着测量距离的增大，iToF需要提高光照功率或者延长曝光时间来获取更高的精度，所需的功耗也会大幅增加。
dToF采用的是数字电路架构，不需要模数转换。iToF采用的是模拟电路结构，需要模数转换芯片。
对于整体的硬件架构而言，dToF的核心组件SPAD的制作工艺复杂，现有的资源少。iToF没有这方面的顾虑。
在系统集成方面， dToF还需要额外的时间处理电路，系统集成难度较高。iToF的系统集成容易，不需要额外的测量电路。
环境干扰包括场景中环境光干扰、多路径反射光干扰以及不同表面灰度等影响。这一类环境干扰发生在外界，和ToF本身的关系不大，环境干扰的差异主要是由不同ToF的测距原理引起的。
dToF单帧深度图获取时，会经历多次重复测量，并且采用时间直方图统计的方式计算飞行时间，比较容易区分信号中的干扰成分。抗环境干扰能力更强。
iToF在曝光阶段，部分环境光混杂在调制光中被传感器接收，然后计算相位偏移。无法从单次测量的结果中区分出环境光引起的干扰。环境光越强，相应的，引起的深度误差也越大。
dToF功耗低，并且体积小巧，更加适合工业机器人等需快速进行测距避障检测的应用，以及其他在空间受限的紧凑型设计中。
dToF抗环境干扰表现比较好，目前在户外场景下的测距精度比iToF更加高，在户外应用场景中也比较占优。
dToF的时间分辨率高，测量距离增大时精度不会大幅衰减，能耗也不会大幅提升，在AR应用中的优势也比较显著。
iToF的图像分辨率较高，在物体识别，3D重建以及行为分析等应用场景中能够重现场景中更多的细节信息，在机器人、新零售等应用领域占优。
dToF和iToF两者的目标都是输出一幅高质量的深度图像，所以两者都需要深度数据层面的滤波和噪声修正，比如空域滤波、点云域的噪声滤波以及非一致性像素校准等。此外，两者都拥有透镜成像系统，所以无论是dToF还是iToF，都需要透镜失真补偿。硬件的温度变化带来的噪声也同时存在于两种ToF中，所以温度补偿也是两者所必需的。
dToF是发射脉冲波，而不是特定频率的调制波，所以dToF不需要做和调制光的频率相关的处理，包括频率校准、自动频率选择、高动态范围（HDR）。但是dToF的发射脉冲也有一定的频率，即相邻两个发射脉冲之间的时间间隔，dToF的频率校准和发射脉冲的频率相关。dToF仅仅输出深度图，而iToF同时输出深度图和幅值图，所以dToF不需要做幅值校准。
此外，由场景干扰引起的多径、相位模糊、运动模糊、内反射等都是两者所共有的问题，虽然dToF因为成像原理的特性具有更好的抗环境干扰能力，但是还是会受到这一类场景干扰的影响。不过不同的是，因为dToF和iToF的成像原理不同，两者所需要的深度修正方式也会有所差异。
dToF和iToF两者因为测距原理和硬件架构的不同，各方面的性能互有优劣，适用场景也不尽相同。两者均面临场景的适应性，如何在任意场景下获取可靠和准确的深度数据是非常大的技术挑战，是ToF技术普及的关键。ToF应用技术的普及有赖于3D ISP增强引擎来消除干扰，降低功耗，提高实时性能；需要面向3D行业的ISP IP及中间件，有力支撑上层应用。所以说3D ISP是3D成像市场爆发的必要条件。数迹智能团队正在研发3D ToF ISP Smart3D-ISP，以ISP技术为核心系统性地提升无论是dToF还是iToF的性能并降低功耗和成本是多年来的研发目标，将我们的3D ToF技术植入每部手机、每辆汽车、每个机器人、每台家电，从而改变机器对世界的“看法”，实现深度的智能。
[1] Foix S , Alenya G , Torras C . Lock-in Time-of-Flight (ToF) Cameras: A Survey[J]. IEEE Sensors Journal, 2011, 11(9):1917-1926.
[2] L. Li, Time-of-Flight Camera—An Introduction, Texas Instruments-Technical White Paper.
[3] John Kvam (2017), Time of Flight: Principles, Challenges, and Performance [pdf file].
本文仅做学术分享，如有侵权，请联系删文。
1.面向自动驾驶领域的多传感器数据融合技术
2.面向自动驾驶领域的3D点云目标检测全栈学习路线！(单模态+多模态/数据+代码)3.彻底搞透视觉三维重建：原理剖析、代码讲解、及优化改进4.国内首个面向工业级实战的点云处理课程5.激光-视觉-IMU-GPS融合SLAM算法梳理和代码讲解6.彻底搞懂视觉-惯性SLAM：基于VINS-Fusion正式开课啦7.彻底搞懂基于LOAM框架的3D激光SLAM: 源码剖析到算法优化8.彻底剖析室内、室外激光SLAM关键算法原理、代码和实战(cartographer+LOAM +LIO-SAM)
9.从零搭建一套结构光3D重建系统[理论+源码+实践]
10.单目深度估计方法：算法梳理与代码实现
扫码添加小助手微信，可
也可申请加入我们的细分方向交流群，目前主要有、、、、、等微信群。
一定要备注：，例如：”3D视觉 + 上海交大 + 静静“。请按照格式备注，可快速被通过且邀请进群。也请联系。
▲长按加微信群或投稿
▲长按关注公众号
：针对3D视觉领域的五个方面进行深耕，更有各类大厂的算法工程人员进行技术指导。与此同时，星球将联合知名企业发布3D视觉相关算法开发岗位以及项目对接信息，打造成集技术与就业为一体的铁杆粉丝聚集区，近4000星球成员为创造更好的AI世界共同进步，知识星球入口：
学习3D视觉核心技术，扫描查看介绍，3天内无条件退款
圈里有高质量教程资料、答疑解惑、助你高效解决问题