众力资讯网

除上述模型外,部分研究还采用广义高斯分布、逻辑斯蒂分布及其混合形式,以增强模型对

除上述模型外,部分研究还采用广义高斯分布、逻辑斯蒂分布及其混合形式,以增强模型对尖峰、重尾、偏斜和多峰数据的拟合能力。需要注意的是,神经网络编码器输出的潜变量在量化后属于离散随机变量,而高斯分布、拉普拉斯分布等通常以连续概率密度函数表示。为使概率估计与实际量化过程相匹配,常见方法是对连续密度函数与宽度为1的均匀分布进行卷积,或者计算相邻量化边界之间的累积分布函数差值,由此得到每个离散符号对应的概率质量。
确定基本分布形式后,熵模型性能的进一步提升主要依赖于对潜变量上下文相关性的建模。相关研究总体经历了从完全独立假设到层次先验、自回归先验以及联合上下文模型的演进过程。
一是因子化先验模型。早期端到端学习式图像压缩方法通常假设量化潜变量的各个元素彼此独立,其联合概率可写为:
p(ŷ)=∏ᵢpᵢ(ŷᵢ)
在这一框架中,编码器、解码器和概率模型能够围绕统一的率失真目标进行联合优化。Ballé等人提出的端到端优化图像压缩框架利用神经网络学习非线性分析变换和合成变换,并通过可学习的概率模型估计潜变量的码率,为后续学习式图像压缩研究奠定了基本框架。:contentReference[oaicite:1]{index=1}
因子化模型结构简单,具有较好的并行计算能力,编码和解码过程也较为高效。然而,自然图像中的边缘、纹理与语义结构会在潜在空间中形成显著的空间相关性和通道相关性。若完全忽略这些依赖关系,熵模型便难以准确描述潜变量的真实联合分布,进而造成不必要的码率开销。