作为深度学习最基本的内容,这可能是每个算法工程师都必须理解的,但你明白吗?你知道哪种归一更强大吗?
无论是图像、数据还是其他方向的深度学习算法,他们学到了什么?学习数据分布。以目标检测为例:归根结底,检测器之所以能够检测到世间万物,是因为图像中各类目标的像素分布有一定的规律,这也是深度学习的本质。那么为什么要进行归一化呢?在网络训练过程中,每个目标都不会保持相同的像素分布,而是会产生一种协方差偏移。这个协方差偏移简单的理解是,每个类别的每个目标或多或少都是不同的,这给网络训练带来了困难。
以下图为例:由于噪声、色调、亮度和屏蔽的影响,五角星在不同的图像上是不同的。如果你想测试五角星,那么有无数种五角星,网络如何学习?
标签: gn丝印三极管