admin 管理员组

文章数量: 1086019


2024年3月10日发(作者:4级电机和6级电机区别)

L1正则化反卷积网络的遥感论文:基于L1正则化反卷积网

络的遥感图像表述与复原方法

摘要:本文介绍了一种基于正则化约束的反卷积网络模

型,详细叙述和分析该模型实现过程中包含的网络结构构

建、模型训练、以及基于模型的重构方法。将反卷积网络模

型应用于遥感图像表述与复原,通过实验分析模型用于遥感

图像稀疏化表述以及去除高斯噪声情况,实验结果表明了反

卷积网络模型用于遥感图像的可行性和广泛的应用前景。

关键词:反卷积 正则化 稀疏表述 遥感图像 复原

中图分类号:TP391文献标识码:A 文章编号:1007-9416

(2011)05-0158-04

1、引言

遥感图像处理是数字图像处理的一个重要研究方向,而

遥感图像的表述是数字遥感图像处理的一个基础和核心问

题。数字图像表述方法大多可以归结为通过不同的数学变

换,将图像表述为一组基底和相应的系数来实现[1]。通过变

换方式表述图像的方法通常都是从数据层面入手,适合基于

像元的低层图像处理问题。但这些方法通常不考虑图像中包

含的具体内容,不能很好满足基于图像符号的高层图像分析

任务的要求。

为了解决这种数据层面图像表述方式存在的问题,一种

可行的方式是基于图像特征的表述方法。图像的特征就是用

较少的数据描述来捕获图像中包含内容的重要信息,因此,

图像特征本质上可以理解为图像的稀疏化表示[2]。目前已有

多种特征提取的方法,但大多特征提取的方法只是单纯地提

取图像表示的符号,如区域、轮廓等。这些符号通常只能表

述图像内容的某些重要特性,不具备利用这些符号重构图像

的功能。2010年,Zeiler[3]等人提出了反卷积网络

(Deconvolutional NetworksDN)的概念,这是一种基于正则化

图像稀疏表示方法,能够提取出图像特征并利用这些特征重

构图像。

本文研究了基于正则化的反卷积网络,并将该方法引入

到遥感图像表述及复原应用上。基于正则化的反卷积网络模

型采用一种卷积结构方法,具有多层的网络结构,通过在每

一层次上都采用正则化方法达到稀疏表达,提取出具有稀疏

性的图像特征。通过在反卷积网络模型的每层都使用同样的

训练参数来训练模型,反卷积网络能够自动提取丰富的中层

特征,例如边缘连接点、平行线、曲线和基本几何元素(如

矩形)。并且这些提取到的一些特征十分类似于Marr[4]在他

的初始构造理论中提出的中层表示符号。这种分层图像表述

能够用于低层视觉任务(如图像去噪)以及高层视觉任务(如

目标识别)中的特征表示。将基于正则化的反卷积网络用于

遥感图像表述与复原,是对遥感图像处理技术的新探索。

2、模型描述

反卷积网络模型是一种依靠先验学习,对图像进行稀疏

表述和重构的正则方法。该方法的实现主要包括网络结构构

建、模型训练和基于正则化反卷积网络的图像重构方法三个

阶段。

2.1网络结构构建

2.1.1单层L1正则化反卷积网络

首先介绍用于表述一幅图像的单层正则化反卷积网络

的数学模型。记输入的数字图像为,由个颜色通道构

成:,,…,将图像的每一颜色通道表示为个隐含特征图同滤

波器卷积的线性求和,即

如果是一个大小的图像,且滤波器的尺寸为,则其隐含

特征图的大小为。由于公式(1)是一个欠定系统的函数,

为了得到唯一解,引入一个关于的正则项,并且该正则项将

使趋于稀疏。由此定义代价函数为:

式中,第一项为定义的二次重构项,第二项定义为具有

稀疏范数形式的正则项。注意到稀疏范数。特别地,当,上

式第二项为拉普拉斯先验,具有使特征图稀疏化的功能。是

一个常量,作为权重系数用以调节重构项和正则项所起作用

的比重。

2.1.2多层L1正则化反卷积网络

上面介绍了单层反卷积网络模型的,它可以从一幅多通

道输入图像中提取出具有稀疏性的特征图。对于构造具有层

的反卷积网络,可以通过叠加的方式形成分层结构:即将第

层的特征图作为第层的输入。同时,考虑用于先验学习的输

入图像为一组共张,则第层基于L1正则化反卷积网络模型

的代价函数表示为:

式中,是前一层的图像特征,是一个固定的二值矩阵,

用于表示特征图在连续的网络层中的连通情况,即用于表征

与是否相联接。在第1层,假设的值总是为1,而在更高的

层里,将是一个稀疏矩阵。我们从底层往上构建多层网络结

构,因此来自于从构建模型的结果。

2.2 模型训练

模型的训练过程就是利用训练样本估计模型中未定的

参数。从公式(3) 看出,训练正则化反卷积模型主要包括推

断特征图和更新滤波器。主要思路是:首先固定滤波器,对

进行最小化推断输入图像的特征图;然后固定得到的特征

图,对进行最小化得到更新的滤波器。

2.2.1推断特征图

固定滤波器,直接对式(3)进行最小化推断特征图的

过程计算比较复杂,常见的梯度下降法、迭代重新加权最小

均方法(IRLS)、以及随机梯度下降法等方法在实际求解中

存在如得不到理想的解、当训练数据量较大时优化速度很

慢、以及需要上千次迭代才收敛等问题。由此引用一种适用

性更广的优化框架[3]。这种框架首先对每一特征图引入辅助

变量来简化求解的过程。由此得到新的辅助代价函数:

是一个连续变化参数。引入此辅助函数后,交替固定

和的值,分别求得其最优解。从而又分解为求解和两个子问

题。

首先固定,求。对公式(4)求导,有

其中,固定的值,在变化的同时最优化所有的。当固定

时,令,,则最优解满足:

利用共轭梯度下降法可以很好地实现对公式(6)最小

化。值得注意的是,的乘积在共轭梯度周期卷积运算中可以

直接计算出来,因而不需要专门去计算。

随后,固定,求。求解是个一唯优化问题,根据Wang

的交替优化算法[6],可以得到的解为:

2.2.2更新滤波器

固定,利用对固定计算得到的,计算辅助代价函数关于

滤波器的导数,采用梯度下降法求解,从而得到关于的更新

为:

其中为同相似的卷积矩阵。

训练多层的反卷积滤波器是一个比较复杂的交替迭代

计算过程,采用Geman[7]和Wang[6]相似的计算框架,文献

[3]对整个推断特征图和更新滤波器的过程进行了详细介绍。

2.3 表述与重构方法

基于反卷积网络模型对图像进行表述和重构,就是用训

练好的反卷积网络滤波器,首先对输入图像提取各层的隐含

特征图,而后按从顶层到底层的顺序,由特征图与滤波器卷

积重构得到复原的图像。以2层反卷积网络模型为例,将第

1层滤波器和输入图像带入,通过极小化推断出第1层特征

图;接着,把当作第2层的输入图像,求解第二层的特征图,

主要通过交替进行如下2步得到:第一步,最小化关于的重

构误差,从而根据训练好的和,将映射到图像上,其中关于

的重构误差定义为:

利用梯度下降法对以上2步交替迭代进行,直到收敛

确定。随后利用得到的特征图和训练得到的滤波器,通过自

顶向下的方式重构图像:

3、遥感图像处理实验

实验以城镇建筑物遥感图像为例,通过利用基于正则化

反卷积网络模型(以下简称为L1-DN)对遥感图像的表述与

噪声去除来验证该方法的性能,实验分为模型训练和去除噪

声两个部分。用于实验的遥感图像数据来自快鸟(Quick

Bird)卫星城镇遥感图像,分辨率在0.67m—1m之间。实验采

用的平台为:CPU Inter 2.8G;内存2G;集成显卡。

3.1 模型训练

训练样本图像来自多幅城镇遥感图像,图1是用于模型

训练的城镇建筑物遥感图像样本。其中,算法中相关参数设

置为:反卷积网络层数,正则项权重系数,,连续参数,,,

迭代次数,滤波器尺度。根据以上的参数设置,我们构造3

层的L1-DN,对图3的遥感图像样本训练得到滤波器。

图2是训练得到的3层L1-DN滤波器。从图中可以看出,训

练得到的低层滤波器能够对图像中的边缘等初级特性进行建模,

随着滤波其层次的增加,能够对更大尺度和更高层次的目标特性

进行建模。例如在第二、三层滤波器中,包含了大量表征遥感图

像建筑物的拐角以及平行线等特性的滤波器。结果都表明,训练

得到的多层反卷积网络能够同时对图像内容的中低层特性进行

很好地建模。

训练得到的3层滤波器

3.2 去除高斯噪声重构

我们在测试图中加入方差为0.25的高斯白噪声,而后用以

上训练好的L1-DN、K-SVD方法、中值滤波方法及BM3D方法

对噪声图像进行去噪复原。图3是该实验的处理结果。

对高斯噪声遥感图像复原结果

实验结果表明,含有高斯噪声的测试样本图经过正则化反卷

积网络2层复原重构后,图像质量明显得到改善。我们的方法在

第二层的复原中取得了很好的实验结果,优于中值滤波方法和

K-SVD方法,略低于BM3D方法的结果。但是我们可以看到,

尽管BM3D方法取得了更高的PSNR值,但是它产生了过平滑

的结果。而我们的方法在保持相似的PSNR值的同时,能够更

好地保护图像细节。

4、结语

本文将一种全新的图像表述与复原方法——基于L1正则化

反卷积网络方法,引入到遥感图像处理领域,在详细介绍了该模

型的实现原理与过程基础上,通过对遥感图像的训练与去噪实

验,验证了L1-DN用于遥感图像的可行性和理论优势,展示了

该方法在遥感图像去噪的良好效果,从而得出,L1-DN在遥感图

像处理上将有广阔的应用前景。


本文标签: 图像 卷积 方法 模型 网络