识别一张
可见,局部链接通过减少神经元之间的连接个数来减少参数数目,但程度不够。权值共享机制则能显著降低参数个数。
「卷积神经网络」(Convolutionary Neural Network, CNN)是人工神经网络的一种,已成为当前图像识别领域的研究热点。卷积网络是为识别二维形状而特殊设计的一个多层感知机,这种网络结构对平抑、比例缩放、旋转或其他形式的变形具有一定的不变性。
卷积网络的核心思想是将局部感知、权值共享以及下采样这三种结构结合起来,以达到图像降维的特征学习与分类
局部链接:
权值共享:在卷积神经网络中,卷积层的每一个卷积核通过滑动窗口作用于整个输入图像,对输入图像进行卷积,卷积的结构构成了包括输入图像的特征图,提取出图像的局部特征。每一个卷积滤波器共享相同的可学习参数,包括相同的卷积核权重矩阵和偏置项。
下采样:卷积核与输入图像进行卷积后生成特征图,之后紧接着一个进行二次筛选的下采样层(或称为池化层。这种特有的两次特征提取结构使得网络对输入样本有较高的畸变容忍能力。在通过卷积获得了特征以后,如果使用所有提取到的特征去训练分类器,计算量会太大。
为了降低特征维度,对不同位置的特征进行聚合统计,例如值计算图像一个区域上的某个特定特征的平均值或最大值,这些概要统计特征不仅具有低得多的维度,还会改善结果,不容易过拟合。这种聚合的操作就叫做「池化」。包括平均池化和最大池化等多种方法。
CNN 可用 BP 算法进行训练。但在训练中,无论是卷积层还是采样层,其每一组神经元都是使用相同的连接权,从而大大减少了需要训练的参数数目。