众力资讯网

在基于神经网络的端到端压缩框架中,编码器输出的潜在表示通常为连续变量,而熵编码只

在基于神经网络的端到端压缩框架中,编码器输出的潜在表示通常为连续变量,而熵编码只能处理离散符号,因此量化是连接特征变换与实际码流生成的关键环节。然而,取整函数几乎处处梯度为零,无法直接应用常规反向传播算法。为解决这一问题,研究者提出了多种可微量化近似方法,其中较具代表性的包括加性均匀噪声、通用量化、直通估计器和向量量化。
加性均匀噪声是学习式图像压缩中应用最广泛的量化近似方法之一。训练阶段不直接执行ŷ=round(y),而是将潜在变量表示为ỹ=y+u,其中u服从区间负二分之一至二分之一上的均匀分布。由于噪声项与y相互独立,因而有∂ỹ/∂y=1,梯度能够顺利传递至编码器,使整个压缩网络可以围绕率失真目标进行端到端优化。与此同时,连续潜在变量的概率可以由可微密度模型估计,并通过负对数似然近似计算码率,从而将重建失真与编码开销统一纳入损失函数。Ballé等人的研究系统建立了这一训练框架,后续大量学习式压缩模型均在此基础上发展。
加性均匀噪声方法虽然具有训练稳定、实现简洁以及便于建立概率模型等优点,但也会造成训练阶段与部署阶段的不一致。训练时,潜在表示受到连续随机噪声扰动;实际编码时,模型通常执行确定性的离散取整。由于真实量化误差由输入值与量化区间共同决定,并非完全独立的随机噪声,因此这种近似可能使训练目标与实际率失真性能之间产生偏差。