科研成果

一、研究背景

近年来，随着超高清视频在广播电视和 OTT 流媒体中的爆发式增长，如何在有限的传输带宽下最大化终端用户的体验质量（Quality of Experience, QoE）成为核心挑战。现代视频编码器——从 H.264/AVC、HEVC 到最新的 VVC/H.266——的核心预测-变换-量化-熵编码流水线虽已标准化，但内部模块的实现方式仍完全可由编码器厂商自定义。在传统统计冗余去除的收益逐渐趋于饱和的背景下，基于人眼视觉系统（Human Visual System, HVS）的感知编码已成为提升带宽利用率的关键技术方向。

当前主流编码器（如 x265）中集成了多个感知编码模块：包括基于局部纹理复杂度的空域调制模块（VAQ）、基于时域依赖传播的参考帧质量调整模块（CUTree）、嵌入视觉能量保留项的感知模式决策模块（Psy-RDO）、保留视觉显著残差系数的感知量化模块（Psy-RDOQ），以及基于感知复杂度的帧级比特分配模块（qcomp）。这些模块分别工作在编码单元级、帧级乃至系数级，构成了一个层次化的感知调制系统。然而，简单堆砌多个模块并不能保证全局最优——模块之间的隐性参数冲突常常导致整体率失真性能下降，为实时广播场景下的编码器控制带来严峻挑战。

二、问题分析

本文从系统控制的角度，重点分析了感知视频编码中多模块联合优化所面临的两个核心瓶颈。

模块间非线性耦合导致孤立调参必然陷入局部最优：各感知模块并非独立运行，而是形成了一条紧密耦合的非线性依赖链。例如，时域调制模块（M_temp）改变参考帧的量化质量后，会从根本上重塑后续预测帧的残差能量分布——空域调制模块（M_spatial）因此在一个完全不同的残差环境中执行纹理掩蔽评估，其最优参数设置随 M_temp 的任何变动而发生显著偏移。这一点通过时域-空域两模块的联合失真等高线图得到了可视化验证：性能等高线呈现显著曲率而非正交直线，表明一个模块的质量梯度严格依赖于另一个模块的参数值，传统的孤立串行调参在数学上即不成立。

联合优化构成 NP-hard 组合问题，且缺乏可解释的透明框架：考虑到各模块同时包含离散工作模式和连续强度值，全部超参数的联合搜索空间高达约 4.64×10⁹ 种组合，暴力穷举在计算上完全不可行。现有方法要么依赖贝叶斯优化、遗传算法等非透明方法，要么采用基于深度学习的端到端方案，虽然可以找到近似最优参数，但本质上无法揭示模块之间交互强度的量化关系，且普遍伴随高昂的计算开销。因此，一个能够以透明框架量化跨模块耦合、并据此将 NP-hard 全局搜索确定性解耦为线性顺序调优的数学框架，在该领域长期缺失。

三、技术方案

针对上述问题，本文提出了一套相关性引导的自适应解耦优化框架。该框架由离线静态优化和在线动态补偿两个阶段构成，核心思路是：先量化模块间的耦合强度，再按影响力升序依次解耦优化，最后通过状态反馈补偿视频信号的非平稳性。

第一个核心模块是模块间相关性量化：本文将编码器系统建模为多参数非线性耦合静态系统，基于全因子实验设计定义了「成对模块间相关性」指标 Φ_ij = v − (v_i + v_j)。其中 v_i、v_j 分别表示仅开启模块 i 或 j 时的 BD-VMAF 增益，v 为两模块同时开启时的增益。若 Φ_ij = 0，说明两模块完全独立；若 Φ_ij < 0，意味着存在资源冲突（如对同一比特预算的竞争），联合增益受到抑制；若 Φ_ij > 0，则表明存在协同增强。在 x265 平台上进行的系统测量结果表明：绝大多数模块对的 Φ_ij 为负值，直接验证了跨模块非线性干扰的普遍性。在此基础上，本文进一步定义了每个模块的「全局影响力」Θ_i = Σ|Φ_ij|，以定量表征该模块对整个编码系统的全局扰动强度。

第二个核心模块是影响力升序优化策略：为了避免顺序优化过程中的累积误差传播，本文提出 IBAO 策略——严格按照 Θ_i 从小到大的顺序依次优化各模块。其核心直觉在于：低 Θ_i 模块与系统的耦合较弱，其最优工作点对外部状态变化的敏感度远低于高影响力模块；优先在相对稳定的环境下完成弱模块的优化，可建立一个鲁棒的编码基线，随后再逐步推进至强耦合主导模块时，已完成的配置不会被后续大幅扰动。IBAO 将计算复杂度从指数级的暴力搜索几何级降至线性级的顺序求和。在算法实现上，本文提出了相关性引导的分块坐标下降算法，将高维参数空间分解为模块级子集，在逐模块交替优化离散模式和连续强度时采用无导数的离散搜索策略以应对响应曲面的局部高频抖动。在五维参数空间中，该方法将理论搜索量从约 46 亿种组合降至仅 582 次试验，在 128 核服务器上约 1.5 小时内即可收敛至统计最优的静态参数集。

第三个核心模块是在线自适应参数模型：离线优化的输出本质上是一个开环静态配置，而视频信号是高度非平稳的随机过程。随着输入视频时空信息熵的波动，最优率失真工作点会持续漂移。为补偿这一非平稳性，本文设计了一个基于 Sigmoid 的严格有界非线性控制律，将实时提取的时空本征特征（空域掩蔽特征、时域传播特征、频谱能量保留特征等）通过相关性加权的交互项 Ψ_ij 映射为参数偏移量 Δp_i。该模型通过方向灵敏度因子 ϑ_i 和特征-码率相关因子 ℏ(ω_j) 确保参数调节始终朝 Pareto 最优前沿收敛，通过 Sigmoid 饱和特性保证绝对系统稳定——即使在场景切换等脉冲式信号异常下也不会发生参数发散。在线模型复用 x265 内部已有的本征特征计算，额外内存开销近乎为零，运行时开销仅约 0.08×。

四、实验验证

实验一：整体率失真性能。本文在 JCT-VC 全部 22 条标准测试序列（覆盖 Class A 至 Class F，分辨率从 416×240 到 2560×1600）上，以 x265 Slow 预设作为强基线，在恒定码率模式下进行系统评估。如表 1 所示，所提离线策略平均实现 1.38 BD-VMAF 增益，加载在线自适应模型后进一步提升至 1.94 BD-VMAF。在具有复杂时空动态的序列上增益尤为突出——例如 RaceHorses（Class C）达 7.63，ChinaSpeed（Class F）达 4.29——验证了在线模型对非平稳内容的有效适应能力。更为关键的是，BD-PSNR 和 BD-SSIM 在所有序列上的平均值分别仅为 +0.55 dB 和 +0.006，低于人眼视觉可感知阈值，证明所有主观质量提升均来源于 HVS 对齐的比特重分配，而非以牺牲像素级客观保真度为代价。

表1　在 JCT-VC 全部 22 条标准测试序列上的综合率失真性能（以 x265 Slow 预设为基线）。Off/On 分别代表离线静态策略和在线自适应模型的 BD-VMAF、BD-PSNR（dB）和 BD-SSIM 增益。所有实验均在恒定码率模式下完成。

实验二：时空机制微观分析。论文从帧级误差分布、编码单元级量化控制、系数级频谱能量保留三个粒度剖析了优化过程的内部机制。图 1 以 RaceHorses 序列第 40 帧为例，展示了帧级空间误差分布与视觉质量对比：本文方法在高纹理区域（HVS 掩蔽效应强）允许更大的量化误差，同时严格保护平坦区域，从而在保留锐利结构边缘（如红白条纹）的同时避免了背景块效应。进一步的 CU 级 QP 分布分析和系数级频谱能量保留率分析揭示了同一结论——本文并非盲目增强，而是在严格的 CBR 约束下进行精密的感知能量管理：将有限的比特从视觉冗余区域重分配至人眼敏感区域。

图1RaceHorses 序列第 40 帧的视觉质量对比与空间误差分布。

实验三：优化策略有效性验证。本文通过对比实验与消融实验验证了核心策略的必要性。图 2(a) 的收敛曲线表明，RG-BCD 在约 19 次评估内即逼近最优——因其确定性地利用了模块间先验耦合知识（Φ_ij），避免了遗传算法和贝叶斯优化中缓慢的概率探索。图 2(b) 的优化顺序消融实验为 IBAO 升序策略提供了严格验证：本文升序仅 8 次试验即达到整体优化效果的 99%，完全消除竞争方案的冷启动延迟阶段；降序虽最终成本略低（0.9575 vs. 0.9578），但收敛延迟接近三倍，验证了升序策略在计算效率与编码性能之间的最优折衷。此外，帧级参数演化分析表明，在线模型的参数偏移量与视频加权复杂度呈逆同步关系，静态参数集完全无法实现此类动态适应。

图2　离线优化策略效率分析。(a) RG-BCD 与遗传算法、贝叶斯优化、随机搜索的收敛速度对比；(b) IBAO 升序、降序与随机序的消融实验。

实验四：计算复杂度。如表 2 所示，本文离线策略耗时约 1.73× Slow 预设，在线完整框架为 1.81×；而 x265 自身的 slower 和 veryslow 预设分别带来 3.63× 和 7.17× 的复杂度，却产生了微负的 BD-VMAF 增益——因为它们盲目启用以 MSE 最小化为目标的穷举搜索工具，忽略了关键的纹理掩蔽效应。在线模型额外引入的 0.08× 开销来自实时特征提取和 Sigmoid 映射计算，且因直接复用 x265 内部已有的本征特征，额外内存开销近乎为零。

表2　计算复杂度与编码性能的综合对比（以 x265 Slow 预设为归一化基线）。

五、技术创新与贡献

本文围绕感知视频编码中多模块非线性耦合这一核心瓶颈，提出了相关性引导的自适应解耦优化框架，目标是在不牺牲客观像素级保真度的前提下，系统性地解决模块间参数冲突，提升终端 QoE。具体来看，本文首先提出了模块间相关性量化方法，基于全因子实验设计定义了 Φ_ij 指标，首次在感知视频编码领域实现了异构模块交互强度的精确数学建模，揭示了跨模块性能衰减的普遍性。在此基础上，本文进一步提出了影响力升序优化策略和对应的 RG-BCD 算法：通过按全局影响力升序依次优化各模块，将 NP-hard 的组合搜索几何级降为线性顺序调优，理论上将搜索空间从约 46 亿种组合降至 582 次试验。同时，针对视频信号的非平稳性，本文设计了基于 Sigmoid 的严格有界在线自适应参数模型，通过方向灵敏度与相关性加权的双重控制，确保系统在场景切换等脉冲式信号异常下始终运行在安全包络内。最终，该框架将原始编码器的率失真优化目标与上述三层约束统一在同一优化体系下，在 x265 工业平台上以 1.81× 的轻量开销实现了平均 1.94 BD-VMAF 增益，且客观保真度零损失，为感知视频编码领域提供了一种数学严谨、工程可行、对下一代编码标准具有直接推广价值的技术路径。