众力资讯网

其基本假设在于:潜变量各维度之间在统计意义上相互独立,即采用因子化先验模型。该模

其基本假设在于:潜变量各维度之间在统计意义上相互独立,即采用因子化先验模型。该模型通常可表示为:
p(ỹ)=∏i p(ỹi)
其中,ỹ表示经过量化近似处理后的潜变量,ỹi表示第i个潜变量分量。为保证端到端训练过程的可导性,连续潜变量在训练阶段通常不直接采用硬量化操作,而是通过加入均匀噪声的方式近似量化过程;在推理阶段,则将连续值四舍五入为离散整数,以便进行实际熵编码。该方法使神经网络能够在率失真优化目标下共同学习变换、量化近似与概率估计,相比传统固定统计模型具有更强的自适应能力,也显著提升了图像压缩性能。
然而,因子化先验模型的局限也十分明显。它将各个潜变量分量视为相互独立,忽略了潜变量之间普遍存在的空间相关性、通道相关性以及局部结构依赖关系。对于图像这类高度结构化的数据而言,经过分析变换得到的潜变量虽然已经比原始像素更加紧凑,但不同位置、不同通道之间仍然保留一定统计关联。完全独立的概率建模会导致熵估计不够精确,从而限制码率控制与压缩效率的进一步提升。