一种用于视频图像编码过程中的量化方法.pdfVIP

(19)中华人民共和国国家知识产权局

(12)发明专利说明书

(10)申请公布号CN1741612A

(43)申请公布日2006.03.01

(21)申请号CN200510060793.7

(22)申请日2005.09.16

(71)申请人宁波大学

地址315211浙江省宁波市宁镇西路1211号

(72)发明人蒋刚毅张云郁梅

(74)专利代理机构宁波诚源专利事务所有限公司

代理人程晓明

(51)Int.CI

H04N7/26

权利要求说明书说明书幅图

(54)发明名称

一种用于视频图像编码过程中的量

化方法

(57)摘要

本发明公开了一种用于视频图像编

码过程中的量化方法，残差块信号D

法律状态

法律状态公告日法律状态信息法律状态

权利要求说明书

Claim1、一种用于视频图像编码过程中的量化方法，其处理步骤如下：

1)对于输入的4×4残差块信号DSubn/Sub，进行整数变换的核心变换，得到变

换输出信号W：

MathMathTextmathW/mi=/moC/miD/min/mi

msupC/miT/mi=/momtablemtd1/mnmtd1/mn

mtd1/mnmtd1/mn/mtrmtd2/mnmtd1/mn

mtd-/mo1/mnmtd-/mo2/mn/mtrmtd1/mn

mtd-/mo1/mnmtd-/mo1/mnmtd1/mn/mtr

mtd1/mnmtd-/mo2/mnmtd2/mnmtd-/mo1/mn

/mtr/mfencedD/min/mimtablemtd1/mn

mtd2/mnmtd1/mnmtd1/mn/mtrmtd1/mn

mtd1/mnmtd-/mo1/mnmtd-/mo2/mn/mtr

mtd1/mnmtd-/mo1/mnmtd-/mo1/mnmtd2/mn

/mtrmtd1/mnmtd-/mo2/mnmtd1/mnmtd-

/mo1/mn/mtr/mfenced/math/MathText/Math

2)对变换输出信号W进行整数变换的系数调整与量化处理，得到量化输出信号Z：

|ZSubiy/Sub|＝(|WSubij/Sub|·MFSubij/Sub[QSubm/Sub]+f)＞＞

qbits和sign(ZSubij/Sub)＝sign(WSubij/Sub)

其中，|ZSubij/Sub|为量化输出信号ZSubij/Sub的幅值，

sign(ZSubij/Sub)则代表其符号，WSubij/Sub是W＝

CDSubn/SubCSupT/Sup的变换系数，MFSubij/Sub[QSubm/Sub]

为量化器乘法因子，qbits＝15+floor(QP/6)，f＝2Supqbits/Sup/k，为改善恢复

图像视觉效果的补偿系数，其特征在于在对变换输出信号W进行整数变换的系数

调整与量化处理过程中，首先变换量化器乘法因子，使

MFSubij/Sub[QSubm/Sub]＝

MF′Subij/Sub[QSubm/Sub]·2Supn/Sup，n为1到13之间的整数，根

据四舍五入取整数的原则确定MF′Subij/Sub[QSubm/Sub]的值，然后用加

法器对变换输出信号W进行系数调整与量化处理，得到量化输出信号Z：

|ZSubij/Sub|＝(|WSubij/Sub|·MF′Subij/Sub[QSubm/Sub]+f′)

＞＞qbits′和sign(ZSubij/Sub)＝sign(WSubij/Sub)

其中，qbits′＝15-n+floor(QP/6)，f′＝2Supqbits′/Sup/k。

Claim2、如权利要求1所述的一种用于视频图像编码过程中的量化方法，其特

征在于所述的n＝9，对于每个量化单元，所述的加法器个数不多