专利摘要

本发明涉及一种半监督小样本深度学习图像模式分类识别方法，属于图像识别领域。该方法包括步骤：S1：对图像样本进行预处理；S2：将预处理得到的数据输入训练好的网络中，网络通过3D卷积层进行特征提取，得到特征图层；S3：每个卷积层后接一个池化层，用于缩小特征图层的大小以减少网络中参数的数目；S4：将经过多层卷积层和池化层提取后的特征与一个全连接层相连，以提取和重新排列需要分类的特征；该层引入局部保邻的正则化操作；S5：输入待测样本，得到分类准确度。本发明利用了大量采集的无标签样本之间的位置相关性，提高了算法在小样本集合下的适用性与准确度。

权利要求

1.一种半监督小样本深度学习图像模式分类识别方法，其特征在于：该方法包括以下步骤：

S1：对图像样本进行预处理；

S2：将预处理得到的数据输入训练好的网络中，网络通过3D卷积层进行特征提取，得到特征图层；

S3：每个卷积层后接一个池化层，用于缩小特征图层的大小以减少网络中参数的数目；

S4：将经过多层卷积层和池化层提取后的特征与一个全连接层相连，以提取和重新排列需要分类的特征；该全连接层引入局部保邻的正则化操作，减小了相邻样本的特征差异，从而减小了由缺少标签样本而引起的分类准确度下降；

S5：输入待测样本，得到分类准确度；

所述S1具体为：选取数量A的目标像素点及对应的标签作为训练样本，将每个目标像素点周围数量A的像素点构成一个邻域矩阵，包括目标像素点在内；将所有目标像素点的标签、邻域矩阵作为3D卷积神经网络CNN的输入数据；

所述S2具体算法为：

其中表示第i层的第j个特征图层上位于(x,y,z)的神经元输出值，m表示i-1层与第j个特征图层所连接的特征图层的索引值，Pi、Qi、Ri分别表示第i层的卷积核的高、宽、深度，为第m个特征图层上与位于(p,q,r)点的值，bij为第j个特征图层的偏置，g()为激活函数。

2.如权利要求1所述的一种半监督小样本深度学习图像模式分类识别方法，其特征在于：所述S3具体算法为：

其中u(n×n×n)表示作用于卷积层输出特征的三维窗口，αi,j,m表示邻域内特征点的最大值。

3.如权利要求1所述的一种半监督小样本深度学习图像模式分类识别方法，其特征在于：所述S4具体算法为：

hf(i)＝sig(Wfvf(i)+bf)

其中sij表示第i个和第j个训练样本之间的距离，g(i)和g(j)分别表示第i个和第j个训练样本的坐标，hf(i)表示第i个训练样本提取的特征；R(Wf)表示正则化项；当训练样本i与j相邻时，sij就会越大，参数Wfvf(i)和Wfvf(j)的差距就会越小。

4.如权利要求3所述的一种半监督小样本深度学习图像模式分类识别方法，其特征在于：所述R(Wf)满足：

其中Vf＝[vf(1),...vf(L),...vf(N)]表示全连接层输入向量的矩阵形式，D是对角矩阵(dii＝∑jsij)，P＝D-S；

对正则化项求导得：

说明书

技术领域

本发明属于图像识别领域，涉及一种半监督小样本深度学习图像模式分类识别方法。

背景技术

在标签样本数量足够的情况下，通过建立层次化的模型，深度学习方法可以自适应提取图像的特征，进而显著提高模式分类识别的准确度。深度卷积神经网络(CNN)在部分遥感图像数据集上的准确度达到95％～99％。YushiChen2016年发表在TGRS上的文章提出了一种基于3D卷积神经网络(3DCNN)的特征提取模型，实现了98％以上的分类准确率。但是由于模型参数规模庞大，对用于训练是标签样本数量要求较高。

CNN等监督(需要标签训练样本)的深度学习模型参数规模庞大，需要大量标签样本进行训练以提高分类准确率。但在某些领域，由于样本采集困难、标签分析代价大等原因，基于深度学习的模式分类识别方法面临标签样本缺乏的困难。目前基于深度学习方法的高光谱图像处理普遍使用每类别103～104个标签进行训练才能达到最优性能，这远超过矿物识别等实际应用中能够提供的标签样本规模。

发明内容

有鉴于此，本发明的目的在于提供一种半监督小样本深度学习图像模式分类识别方法，结合无监督(无需标签训练样本)模式识别方法，在3DCNN基础上利用大量得到的无标签样本数据，降低深度学习方法对标签样本的依赖性，提高基于深度学习的模式分类识别准确度。

为达到上述目的，本发明提供如下技术方案：

一种半监督小样本深度学习图像模式分类识别方法，包括以下步骤：

S1：对图像样本进行预处理；

S2：将预处理得到的数据输入训练好的网络中，网络通过3D卷积层进行特征提取，得到特征图层；

S3：每个卷积层后接一个池化层，用于缩小特征图层的大小以减少网络中参数的数目；

S4：将经过多层卷积层和池化层提取后的特征与一个全连接层相连，以提取和重新排列需要分类的特征；该层引入局部保邻的正则化操作，减小了相邻样本的特征差异，从而减小了由缺少标签样本而引起的分类准确度下降；

S5：输入待测样本，得到分类准确度。

进一步，所述S1具体为：选取数量A的目标像素点及对应的标签作为训练样本，将每个目标像素点周围数量A的像素点构成一个邻域矩阵，包括目标像素点在内；将所有目标像素点的标签、邻域矩阵作为3D卷积神经网络(Convolutional Neural Networ,CNN)的输入数据。

进一步，所述S2具体算法为：

其中 表示第i层的第j个特征图层上位于(x,y,z)的神经元输出值，m表示i-1层与第j个特征图层所连接的特征图层的索引值，Pi、Qi、Ri分别表示第i层的卷积核的高、宽、深度， 为第m个特征图层上与位于(p,q,r)点的值，bij为第j个特征图层的偏置，g()为激活函数。

进一步，所述S3具体算法为：

其中u(n×n×n)表示作用于卷积层输出特征的三维窗口，αi,j,m表示邻域内特征点的最大值。

进一步，所述S4具体算法为：

hf(i)＝sig(Wfvf(i)+bf)

其中sij表示第i个和第j个训练样本之间的距离，g(i)和g(j)分别表示第i个和第j个训练样本的坐标，hf(i)和hf(j)分别表示第i个和第j个训练样本提取的特征；R(Wf)表示正则化项；当训练样本i与j相邻时，sij就会越大，参数Wfvf(i)和Wfvf(j)的差距就会越小，从而使特征hf(i)和hf(j)也相邻。

进一步，所述R(Wf)满足：

其中Vf＝[vf(1),...vf(L),...vf(N)]表示全连接层输入向量的矩阵形式，D是对角矩阵(dii＝∑jsij)，P＝D-S；

对正则化项求导得：

本发明的有益效果在于：本发明在现有的3DCNN算法的基础上提出了一种小标签样本的深度学习模型，利用了大量采集的无标签样本之间的位置相关性，提高了算法在小样本集合下的适用性与准确度。

附图说明

为了使本发明的目的、技术方案和有益效果更加清楚，本发明提供如下附图进行说明：

图1为本发明框图；

图2为本发明实施示意图。

具体实施方式

下面将结合附图，对本发明的优选实施例进行详细的描述。

大量的图像模式识别应用中，临近样本的相关性广泛存在。例如，在场景识别、遥感地物识别与医学图像识别的应用中，临近像素样本的标签往往具有相关性。据此我们提出基于局部保邻卷积神经网络(Locality Preserving Convolutional Neural Network)模式分类识别方法，利用了可大量采集的无标签样本之间的位置相关性，提高了算法在小样本集合下的适用性与准确度。如图1所示，具体步骤如下：

1、数据预处理

选取一定数量的目标像素点及对应的标签作为训练样本。将每个目标像素点周围相同数量的像素点构成一个邻域矩阵(包括目标像素点)。将所有目标像素点的标签、邻域矩阵作为3DCNN的输入数据。

2、特征提取

(1)卷积层(多个)

将得到数据输入训练好的网络中，网络通过3D卷积层进行特征提取，每个层包含不同数量的3D卷积核，对于输入的数据进行特征提取产生不同的特征图层。

具体算法如下：

其中 表示第i层的第j个特征图层上位于(x,y,z)的神经元输出值。m表示i-1层与第j个特征图层所连接的特征图层的索引值。Pi和Qi分别表示第i层的卷积核的高和宽Ri表示第i层卷积核的深度。 为第m个特征图层上与位于(p,q,r)点的值。bij为第j个特征图层的偏置。g()为激活函数。

(2)池化层(多个)

每个卷积层后接一个池化层，作用是缩小特征图层的大小以减少网络中参数的数目。最常见的池化操作(最大池化操作)的具体算法如下：

其中u(n×n×n)表示作用于卷积层输出特征的三维窗口，αi,j,m表示邻域内特征点的最大值。

(3)带有局部保邻正则化的全连接层

将经过多层卷积层和池化层提取后的特征与一个全连接层相连，以提取和重新排列需要分类的特征。该层引入局部保邻的正则化操作，减小了相邻样本的特征差异，从而减小了由缺少标签样本而引起的分类准确度下降。

具体算法如下：

hf(i)＝sig(Wfvf(i)+bf)

其中sij表示第i个和第j个训练样本之间的距离，g(i)和g(j)分别表示第i个和第j个训练样本的坐标。hf(i)和hf(j)分别表示第i个和第j个训练样本提取的特征。

当训练样本i与j相邻时，sij就会越大，参数Wfvf(i)和Wfvf(j)的差距就会越小，从而使特征hf(i)和hf(j)也相邻。

将上述方程中的正则化项表示成矩阵形式如下：

其中Vf＝[vf(1),...vf(L),...vf(N)]表示全连接层输入向量的矩阵形式，D是对角矩阵(dii＝∑jsij)，P＝D-S。

对正则化项求导得： 因此，利用标准梯度下降法可减小正则化项。

3、分类层

输入待测样本，输出宽度为样本标签的种类，得到分类准确度。

如图2所示，假设A1、A2和B1、B2分别与不同的标签相关联，考虑到临近样本的相关性，分类提取的输出特征也保留这样的相关性。

最后说明的是，以上优选实施例仅用以说明本发明的技术方案而非限制，尽管通过上述优选实施例已经对本发明进行了详细的描述，但本领域技术人员应当理解，可以在形式上和细节上对其作出各种各样的改变，而不偏离本发明权利要求书所限定的范围。

一种半监督小样本深度学习图像模式分类识别方法专利购买费用说明

Q：办理专利转让的流程及所需资料

A：专利权人变更需要办理著录项目变更手续，有代理机构的，变更手续应当由代理机构办理。

1：专利变更应当使用专利局统一制作的“著录项目变更申报书”提出。

2：按规定缴纳著录项目变更手续费。

3：同时提交相关证明文件原件。

4：专利权转移的，变更后的专利权人委托新专利代理机构的，应当提交变更后的全体专利申请人签字或者盖章的委托书。

Q:专利著录项目变更费用如何缴交

A：（1）直接到国家知识产权局受理大厅收费窗口缴纳,（2）通过代办处缴纳，（3）通过邮局或者银行汇款,更多缴纳方式

Q：专利转让变更，多久能出结果

A：著录项目变更请求书递交后，一般1-2个月左右就会收到通知，国家知识产权局会下达《转让手续合格通知书》。