H.264采用整数DCT变换,避免了反变换中的误匹配问题,与传统的DCT变换相比它加快了变换速度,且加易于硬件实现。本文分析了H.264的整数DCT变换的原理和蝶形快速算法,并使用MATLAB软件对蝶形快速算法进行了软件验证。针对DSP的硬件特点和专有指令,使用汇编语言实现了H.264整数变换的优化。

H.264的整数DCT变换及DSP实现

摘 要： H.264采用整数DCT变换，避免了反变换中的误匹配问题，与传统的DCT变换相比它加快了变换速度，且加易于硬件实现。本文分析了H.264的整数DCT变换的原理和蝶形快速算法，并使用MATLAB软件对蝶形快速算法进行了软件验证。针对DSP的硬件特点和专有指令，使用汇编语言实现了H.264整数变换的优化。

关键词： 整数DCT变换；H.264；蝶形快速算法

中图分类号：TN912.3 文献标识码：A 文章编号：

Research and Implentation of Integer DCT in H.264 Based on DSP

CHENG Bao-yuan， ZHANG Qing-xi

(College of measure-Control Technology & Communication Engineering, Harbin University

of Science and Technology,Harbin 150040,China)

Abstract: Using in H.264,the integer DCT avoids the mismatch problem, and increases the computation speed and make hardware implementation easy. This paper analyses the principle of the H.264 integer DCT and fast papilionaceous algorithm, and verifies validation of fast papilionaceous algorithm using MATLAB . The hardware characteristic and particular instructions of DSP are aimed at, assembly language is used to realize H.264 integer transform optimization。

Key Words: integer DCT ; H.264; fast papilionaceous algorithm

1 引言

H.264是国际电信联盟（ITU）和国际标准化组织（ISO）共同制定的新一代视频编码标准，与先前的标准一样，对图像或预测残差数据采用基于块的变换编码，以去除图像数据的空间冗余，使数据的能量集中到一小部分系数上。以前的标准（如H.263）采用基于8×8块的离散余弦变换（DCT），H.264则采用基于4×4块的整数DCT变换，可以消除浮点运算，减少运算量，同时整数DCT可以减小编码器和解码器的变

[1]

换和反变换间的误差。

2 传统的DCT变换

一维N点离散余弦变换及其逆变换定义如下：

X(k) CN 1k 0

x(n)cos

0

1

(2n 1)k 2N (1)

x(n) Ck

(k)cos

(2n 1)k 2N (2)

以上两式n,k=0,1,…,N-1;系数Ck: C0

当k≠0，Ck=1。 二维DCT及其逆变换定义为：

N 1N 1

2(2j 1)v (2i 1)u Yuv CuCv Xijcoscos

N2N2Ni 0j 0

(3)