前言

在【模式识别】SVM实现人脸表情分类一文中，我曾使用Hog特征+SVM的方式实现表情分类，但对于Hog特征的原理并未做深入整理。此篇将结合scikit-image来简单分析Hog特征的原理和维度关系。因为没看过原论文，因此自己的理解可能会有偏差，如有错误，欢迎评论区指正。

图像梯度

在进入到Hog之前，需要先了解图像中梯度的概念。
以下图为例(图源：[1])，黑色像素点值为0，白色像素点值为1，分别求X方向梯度和Y方向梯度，从后两幅图可以看出，当箭头从0突变到1时，梯度为正值，图像中以白色边缘表示，反之为负值，以黑色的阴影表示。

更进一步，把X方向的梯度和Y方向的梯度进行融合，这样可以计算出每一个像素点的融合梯度大小和方向。

例如，上图中选择了一个像素点，其相邻位置的像素大小如宫格所示，X方向梯度大小为50，Y方向梯度大小为50，那么其融合梯度大小为70.1，方向为45°。

计算公式的数学表达如下[2]：

有了上面的概念之后，下面进入到Hog特征提取的流程。

标准化gamma空间和颜色空间（Gamma/Colour Normalization）

标准化gamma空间和颜色空间是Hog特征提取的第一步。
这一步主要做了3个操作：

• 1、因为颜色信息影响不大，因此先转化为灰度图；

• 2、进行gamma校正：
  gamma<1在高灰度值区域内，动态范围变小，图像对比度降低，图像整体灰度值变大，显得亮一些；gamma>1在低灰度值区域内，动态范围变小，图像对比度降低，图像整体灰度值变小，变得暗淡[3]
  
  校正公式如下：
  
  校正的好处在于：能够有效地降低图像局部的阴影和光照变化

• 3、对图像尺寸进行重新调整，并让各像素进行归一化；

计算图像梯度

图像预处理之后，就要计算图中每一个像素点的梯度。之前已经给出了图像梯度的计算公式，但在实际使用中，两个方向上的梯度分量可以用卷积的方式来快速计算。

• x方向的梯度分量gradscalx：用[-1,0,1]梯度算子对原图像做卷积运算
• y方向的梯度分量gradscaly：用[1,0,-1]梯度算子对原图像做卷积运算

为每个细胞单元构建梯度方向直方图

下面就需要引入一个细胞单元(Cell)的概念，这里Cell的尺寸可以自由设定，我这里以8 X 8 的尺寸为例，如下图所示：

这张猫选自VOC2012数据集，我对其进行了一定的裁剪。
这里的8 X 8指代一个Cell中包含8 X 8个像素点，例如图中的网格，每个网格代表一个像素点，对于每一个像素点可以计算出一个梯度值和方向。

下面就要统计每个Cell的梯度直方图，通常来说，直方图是用来统计频率的。这里也类似，因此，需要先把360°角度进行分类。按照原作者的说法，分成9份效果最好。于是就有了下面这张图[3]：

这里表示的是每一块为20°，这里初次看可能会有个疑问：360°/9 = 40°，每一块是40°才对，为什么是20°呢？
这是由于角度只看了数值，因此正角度和负角度的符号进行忽略，因此180°/9 = 20°
举个例子，第一个像素点梯度方向为45°，40°<45°<60°，这样它就被划分到第三组。
以此类推，统计一个Cell中每个像素点的角度，就可以得到梯度方向直方图。

把细胞单元组合成大的块（block），并归一化梯度直方图

下一步就要引入另一个新概念：块(block)，一些博文中也称作窗口(windows)，应该是同一个东西。
还是拿这张猫图举例，假设block的大小为2 X 2，那么就包含2 X 2个cell，所占据的尺寸为(16，16)个像素。
如图中的蓝框代表cell，黄框代表block，这里block的大小也是通过人为指定。
这样，一个block内所有cell的特征向量串联起来便得到该block的HOG特征，同时，需要在块内进行归一化。归一化的方法大致有四种：

根据原作者描述，使用L2-Hys方法效果最好[3]。

至于这里的大小设置，个人理解是和目标的尺寸有关。例如，行人检测的最佳参数设置是：3×3细胞/区间、6×6像素/细胞、9个直方图通道[3]。

移动block，计算维度

下面就到最后一步，一张图里有多个像素，那么通过计算之后，整张图的hog特征的维度是多少呢？
这里我们进入实践，来通过实践来理解block是如何移动的。

首先导库，使用opencv和skimage

import cv2
from skimage.feature import hog

定义数据预处理过程，调整图片尺寸为256x256，并将图片进行灰度化和归一化

def preprocessing(src):
    gray = cv2.cvtColor(src, cv2.COLOR_BGR2GRAY)  # 将图像转换成灰度图
    img = cv2.resize(gray, (256, 256))  # 尺寸调整g
    img = img/255.0    # 数据归一化
    return img

提取Hog特征

img = cv2.imread("test.jpg")
img_afterpro = preprocessing(img)
image_features = hog(img_afterpro, orientations=9, pixels_per_cell=(8, 8), cells_per_block=(16, 16), block_norm='L2-Hys')

这里有多个参数，主要的四个参数解释和默认取值如下：

• orientations：方向数
• pixels_per_cell：胞元大小
• cells_per_block：块大小
• block_norm：可选块归一化方法L2-Hys(L2范数)

这里图片的大小为(256,256)，cell的大小选择为(8,8)，block设置为(16,16)，那么hog特征总的维度是多少呢？起初我的理解是多个block平铺整个图像，那么每个block大小为(8x16,8x16)=(128,128)，即整幅图像有四个block，那么总维度应该是16x16x9x2x2=9216然而通过验证

image_features.shape

输出的实际维度应为665856，差得很远！

于是我想到了卷积神经网络中卷积核的滑动窗口的运动方式，假设这里block也是以滑动窗口的方式进行运动，每次运动的步长为一个cell的宽度，如下图所示：

这里的block应该是(16,16)，我这里为了作图方便，仍保留为(2,2)，旨在领会传达的意思。
如图所示，每个block计算完成之后，向水平/垂直方向移动一个cell的宽度，这样前一部分的cell会和下一个block再次计算。
这样block总的个数可以这样计算：
水平方向block个数=(256-128)/8 + 1 =17
垂直方向block个数=水平方向block个数=17
那么总维度=16x16x9x17x17=665856

结果证实，该思路是正确的。

Reference

[1]https://www.bilibili.com/video/BV1dz411B7Rd
[2]https://blog.csdn.net/zouxy09/article/details/7929348
[3]https://blog.csdn.net/qq_37791134/article/details/81413758