首页>平台建设成果(一)研究背景
图像去摩尔纹是图像复原领域的一项重要任务,旨在消除因相机传感器与显示屏子像素之间的不匹配或高频信息干扰而产生的彩色条纹、网格或波纹状伪影。随着移动设备拍摄图像分辨率的不断提升,超高清图像中的摩尔纹呈现出更复杂的频率分布和尺度耦合特性,给现有模型带来了严峻挑战。
本文聚焦于超高清图像去摩尔纹,针对现有方法在处理UHD图像时存在的多尺度耦合性强、频率分布广泛、拍摄条件多样等核心问题,提出了一种全新的金字塔可学习带通滤波网络,显著提升了去摩尔纹的性能与泛化能力。
(二)内、外在挑战
内在挑战
1. 多尺度耦合性强:UHD图像中的摩尔纹在不同尺度上高度耦合,单一尺度的滤波器难以有效建模。
2. 频率分布广泛:摩尔纹在频率域中分布广泛,与图像内容高度混合,难以通过传统频域方法分离。
3. 频域与空间域交织:摩尔纹既存在于高频区域,也渗透至低频区域,传统空间域方法难以全面捕捉。
外在挑战
1. 拍摄条件多样性:摩尔纹的形态强烈依赖于显示屏网格样式和相机拍摄位置,导致模型泛化能力差。
2. 现有方法局限性:
频域方法未能充分考虑多尺度频域响应之间的关系;
空间域方法缺乏对频域耦合特性的显式建模;
多数方法未针对UHD图像的高分辨率特性进行优化。
(三)技术方案
本文提出了一个名为 PBNet 的编码器-解码器架构网络,其核心是金字塔可学习带通滤波器,包含三个关键阶段:对齐、滤波、融合。
图1 PBNet 的编码器-解码器架构网络,其核心是金字塔可学习带通滤波器,包含三个关键阶段:对齐、滤波、融合。
图2 (a)是基于浅特征的融合方法,在现有方法中常用。(B)在(a)的结构基础上进一步融合深特征。(c)是基于深特征的融合方法。(d)在(c)的结构基础上进一步融合浅特征,即本文提出的CLF模块。
1.金字塔可学习带通滤波器:
基于可变形卷积构建金字塔结构,动态对齐邻域像素;
通过偏移估计模块在多尺度分支间传递偏移信息,实现像素级对齐;
有效消除因拍摄条件差异引起的空间偏差,提升频域滤波精度。
在多尺度分支上使用基本单元进行解耦滤波;
每个BU模块结合可变形卷积与隐式DCT,实现频域响应的精准估计;
引入可学习带通权重,自适应增强或抑制特定频率成分。
通过通道注意力、高度注意力与宽度注意力三个维度融合多尺度频域响应;
采用1×1卷积融合多维度特征,保留细节信息;
增强模型对复杂摩尔纹模式的建模能力。
2.跨层特征融合模块:
利用编码器特征生成缩放因子γ与平移因子β,引导解码器特征变换;
通过通道拼接与卷积融合,实现深浅层特征的有效交互;
防止因网络深度增加导致的细节丢失,提升重建质量。
3.损失函数设计:
结合像素级L1损失和感知损失,平衡图像结构恢复与感知质量,通过实验确定最优权重比例。
(四)实验验证
本文在四个公开数据集上进行了全面评估,包括UHDM、FHDMi、LCDMoiré和TIP2018。实验结果表明:
表1显示在UHDM数据集上,PBNet相比当前最佳方法ESDNet-L,PSNR提升0.74dB,参数量更少。在FHDMi、LCDMoiré和TIP2018数据集上也均取得显著提升,证明了模型在不同分辨率图像上的强适应性。
表2显示在跨数据集测试和真实场景图像上的泛化实验中,PBNet展现出优异的鲁棒性和实用性。
表3显示进一步扩展至RAW图像去摩尔纹任务中,PBNet同样优于专门设计的RAW域方法,验证了其广泛适用性。
表1 在四个公开数据集上的性能表现
表2 在交叉数据集上的性能表现
表3 扩展到RAW数据集TMM22上的性能表现
如图3所示,我们的模型在高频与低频摩尔纹区域均表现出优异的去除能力;在颜色还原与纹理保持方面优于所有对比方法;
如图4所示,我们的模型在真实场景图像中展现出良好的视觉一致性。
图3 UHDM数据集上不同图像去摩尔纹方法的定性比较。(a)清晰图像,(B)摩尔图像,(c)DMCNN ,(d)MBCNN,(e)ESDNet,(f)ESDNet-L ,(g)Ours,(h)Ground-truth。我们的方法比其他方法实现了更好的去摩尔纹性能和颜色恢复结果。
图4 PBNet在真实的莫尔图像上产生的可视化结果。从上到下是输入摩尔纹图像,以及MBCNN,ESDNet和PBNet(我们的模型)的结果。摩尔纹图像是用iPhone XS和HP P27 q捕获的。
(五)技术创新与贡献
本文的主要贡献体现在三个方面:
理论层面:首次系统分析了UHD图像中摩尔纹的多尺度耦合特性与拍摄条件依赖性,为频域去摩尔纹提供了新的理论视角。
方法层面:
提出金字塔可学习带通滤波器,实现多尺度频域响应的精准建模;
设计动态对齐模块,有效缓解拍摄条件差异带来的偏差;
引入跨层特征融合机制,提升深浅层特征交互效率。
实用价值:不仅在多个数据集上达到最优性能,还在真实场景和跨数据集测试中表现出优异的泛化能力,具备较高的实际应用价值。