admin 管理员组文章数量: 1086019
2024年3月10日发(作者:4级电机和6级电机区别)
L1正则化反卷积网络的遥感论文:基于L1正则化反卷积网
络的遥感图像表述与复原方法
摘要:本文介绍了一种基于正则化约束的反卷积网络模
型,详细叙述和分析该模型实现过程中包含的网络结构构
建、模型训练、以及基于模型的重构方法。将反卷积网络模
型应用于遥感图像表述与复原,通过实验分析模型用于遥感
图像稀疏化表述以及去除高斯噪声情况,实验结果表明了反
卷积网络模型用于遥感图像的可行性和广泛的应用前景。
关键词:反卷积 正则化 稀疏表述 遥感图像 复原
中图分类号:TP391文献标识码:A 文章编号:1007-9416
(2011)05-0158-04
1、引言
遥感图像处理是数字图像处理的一个重要研究方向,而
遥感图像的表述是数字遥感图像处理的一个基础和核心问
题。数字图像表述方法大多可以归结为通过不同的数学变
换,将图像表述为一组基底和相应的系数来实现[1]。通过变
换方式表述图像的方法通常都是从数据层面入手,适合基于
像元的低层图像处理问题。但这些方法通常不考虑图像中包
含的具体内容,不能很好满足基于图像符号的高层图像分析
任务的要求。
为了解决这种数据层面图像表述方式存在的问题,一种
可行的方式是基于图像特征的表述方法。图像的特征就是用
较少的数据描述来捕获图像中包含内容的重要信息,因此,
图像特征本质上可以理解为图像的稀疏化表示[2]。目前已有
多种特征提取的方法,但大多特征提取的方法只是单纯地提
取图像表示的符号,如区域、轮廓等。这些符号通常只能表
述图像内容的某些重要特性,不具备利用这些符号重构图像
的功能。2010年,Zeiler[3]等人提出了反卷积网络
(Deconvolutional NetworksDN)的概念,这是一种基于正则化
图像稀疏表示方法,能够提取出图像特征并利用这些特征重
构图像。
本文研究了基于正则化的反卷积网络,并将该方法引入
到遥感图像表述及复原应用上。基于正则化的反卷积网络模
型采用一种卷积结构方法,具有多层的网络结构,通过在每
一层次上都采用正则化方法达到稀疏表达,提取出具有稀疏
性的图像特征。通过在反卷积网络模型的每层都使用同样的
训练参数来训练模型,反卷积网络能够自动提取丰富的中层
特征,例如边缘连接点、平行线、曲线和基本几何元素(如
矩形)。并且这些提取到的一些特征十分类似于Marr[4]在他
的初始构造理论中提出的中层表示符号。这种分层图像表述
能够用于低层视觉任务(如图像去噪)以及高层视觉任务(如
目标识别)中的特征表示。将基于正则化的反卷积网络用于
遥感图像表述与复原,是对遥感图像处理技术的新探索。
2、模型描述
反卷积网络模型是一种依靠先验学习,对图像进行稀疏
表述和重构的正则方法。该方法的实现主要包括网络结构构
建、模型训练和基于正则化反卷积网络的图像重构方法三个
阶段。
2.1网络结构构建
2.1.1单层L1正则化反卷积网络
首先介绍用于表述一幅图像的单层正则化反卷积网络
的数学模型。记输入的数字图像为,由个颜色通道构
成:,,…,将图像的每一颜色通道表示为个隐含特征图同滤
波器卷积的线性求和,即
如果是一个大小的图像,且滤波器的尺寸为,则其隐含
特征图的大小为。由于公式(1)是一个欠定系统的函数,
为了得到唯一解,引入一个关于的正则项,并且该正则项将
使趋于稀疏。由此定义代价函数为:
式中,第一项为定义的二次重构项,第二项定义为具有
稀疏范数形式的正则项。注意到稀疏范数。特别地,当,上
式第二项为拉普拉斯先验,具有使特征图稀疏化的功能。是
一个常量,作为权重系数用以调节重构项和正则项所起作用
的比重。
2.1.2多层L1正则化反卷积网络
上面介绍了单层反卷积网络模型的,它可以从一幅多通
道输入图像中提取出具有稀疏性的特征图。对于构造具有层
的反卷积网络,可以通过叠加的方式形成分层结构:即将第
层的特征图作为第层的输入。同时,考虑用于先验学习的输
入图像为一组共张,则第层基于L1正则化反卷积网络模型
的代价函数表示为:
式中,是前一层的图像特征,是一个固定的二值矩阵,
用于表示特征图在连续的网络层中的连通情况,即用于表征
与是否相联接。在第1层,假设的值总是为1,而在更高的
层里,将是一个稀疏矩阵。我们从底层往上构建多层网络结
构,因此来自于从构建模型的结果。
2.2 模型训练
模型的训练过程就是利用训练样本估计模型中未定的
参数。从公式(3) 看出,训练正则化反卷积模型主要包括推
断特征图和更新滤波器。主要思路是:首先固定滤波器,对
进行最小化推断输入图像的特征图;然后固定得到的特征
图,对进行最小化得到更新的滤波器。
2.2.1推断特征图
固定滤波器,直接对式(3)进行最小化推断特征图的
过程计算比较复杂,常见的梯度下降法、迭代重新加权最小
均方法(IRLS)、以及随机梯度下降法等方法在实际求解中
存在如得不到理想的解、当训练数据量较大时优化速度很
慢、以及需要上千次迭代才收敛等问题。由此引用一种适用
性更广的优化框架[3]。这种框架首先对每一特征图引入辅助
变量来简化求解的过程。由此得到新的辅助代价函数:
是一个连续变化参数。引入此辅助函数后,交替固定
和的值,分别求得其最优解。从而又分解为求解和两个子问
题。
首先固定,求。对公式(4)求导,有
其中,固定的值,在变化的同时最优化所有的。当固定
时,令,,则最优解满足:
利用共轭梯度下降法可以很好地实现对公式(6)最小
化。值得注意的是,的乘积在共轭梯度周期卷积运算中可以
直接计算出来,因而不需要专门去计算。
随后,固定,求。求解是个一唯优化问题,根据Wang
的交替优化算法[6],可以得到的解为:
2.2.2更新滤波器
固定,利用对固定计算得到的,计算辅助代价函数关于
滤波器的导数,采用梯度下降法求解,从而得到关于的更新
为:
其中为同相似的卷积矩阵。
训练多层的反卷积滤波器是一个比较复杂的交替迭代
计算过程,采用Geman[7]和Wang[6]相似的计算框架,文献
[3]对整个推断特征图和更新滤波器的过程进行了详细介绍。
2.3 表述与重构方法
基于反卷积网络模型对图像进行表述和重构,就是用训
练好的反卷积网络滤波器,首先对输入图像提取各层的隐含
特征图,而后按从顶层到底层的顺序,由特征图与滤波器卷
积重构得到复原的图像。以2层反卷积网络模型为例,将第
1层滤波器和输入图像带入,通过极小化推断出第1层特征
图;接着,把当作第2层的输入图像,求解第二层的特征图,
主要通过交替进行如下2步得到:第一步,最小化关于的重
构误差,从而根据训练好的和,将映射到图像上,其中关于
的重构误差定义为:
利用梯度下降法对以上2步交替迭代进行,直到收敛
确定。随后利用得到的特征图和训练得到的滤波器,通过自
顶向下的方式重构图像:
3、遥感图像处理实验
实验以城镇建筑物遥感图像为例,通过利用基于正则化
反卷积网络模型(以下简称为L1-DN)对遥感图像的表述与
噪声去除来验证该方法的性能,实验分为模型训练和去除噪
声两个部分。用于实验的遥感图像数据来自快鸟(Quick
Bird)卫星城镇遥感图像,分辨率在0.67m—1m之间。实验采
用的平台为:CPU Inter 2.8G;内存2G;集成显卡。
3.1 模型训练
训练样本图像来自多幅城镇遥感图像,图1是用于模型
训练的城镇建筑物遥感图像样本。其中,算法中相关参数设
置为:反卷积网络层数,正则项权重系数,,连续参数,,,
迭代次数,滤波器尺度。根据以上的参数设置,我们构造3
层的L1-DN,对图3的遥感图像样本训练得到滤波器。
图2是训练得到的3层L1-DN滤波器。从图中可以看出,训
练得到的低层滤波器能够对图像中的边缘等初级特性进行建模,
随着滤波其层次的增加,能够对更大尺度和更高层次的目标特性
进行建模。例如在第二、三层滤波器中,包含了大量表征遥感图
像建筑物的拐角以及平行线等特性的滤波器。结果都表明,训练
得到的多层反卷积网络能够同时对图像内容的中低层特性进行
很好地建模。
训练得到的3层滤波器
3.2 去除高斯噪声重构
我们在测试图中加入方差为0.25的高斯白噪声,而后用以
上训练好的L1-DN、K-SVD方法、中值滤波方法及BM3D方法
对噪声图像进行去噪复原。图3是该实验的处理结果。
对高斯噪声遥感图像复原结果
实验结果表明,含有高斯噪声的测试样本图经过正则化反卷
积网络2层复原重构后,图像质量明显得到改善。我们的方法在
第二层的复原中取得了很好的实验结果,优于中值滤波方法和
K-SVD方法,略低于BM3D方法的结果。但是我们可以看到,
尽管BM3D方法取得了更高的PSNR值,但是它产生了过平滑
的结果。而我们的方法在保持相似的PSNR值的同时,能够更
好地保护图像细节。
4、结语
本文将一种全新的图像表述与复原方法——基于L1正则化
反卷积网络方法,引入到遥感图像处理领域,在详细介绍了该模
型的实现原理与过程基础上,通过对遥感图像的训练与去噪实
验,验证了L1-DN用于遥感图像的可行性和理论优势,展示了
该方法在遥感图像去噪的良好效果,从而得出,L1-DN在遥感图
像处理上将有广阔的应用前景。
版权声明:本文标题:L1正则化反卷积网络的遥感论文:基于L1正则化反卷积网络的遥感图像表述 内容由网友自发贡献,该文观点仅代表作者本人, 转载请联系作者并注明出处:http://www.roclinux.cn/b/1710076132a556576.html, 本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。
发表评论