信息论与编码基础_教学课件_1.ppt

信息论与编码基础 绪论 1、信源压缩编码的发展 1959 “保真度准则下的离散信源编码定理” 率失真信源编码理论是信源编码的核心问题， 是频带压缩、图像和多媒体等数据压缩的理 论基础。 数据压缩理论与技术 信息论与编码基础 绪论 Video codecs, Rate distortion theory Others Motion compensation, DCT, Quantization Video codec parts Video Bit rate, Test images, PSNR quality measure , Quantization Others RLE, DPCM, Wavelet, EZW, SPIHT, DCT, KLT Methods Image Sub-band coding, Speech compression Others LPC, CELP , ACELP, A-law, u-law, MDCT, Fourier transform Audio codes parts Audio RLE, LZ Family(LZ77/78, LZW, LZT…..) Dictionary Huffman, Arithmetic, Golomb, Universal (Elias. Fibonacci) Entropy encoding Lossless Data Compression methods 信息论与编码基础 绪论 2、信道纠错编码的发展 20世纪 50年代~60年代初 从无到有的迅速发展年代 主要研究各种有效的编、译码方法，奠定了线性分组码的理论基础。 Hamming describes Hamming codes 1954 Reed and Muller both present RM codes 1957 Prange introduces cyclic codes 代数编码理论 1955 Elias introduces convolutional codes 1959 A.Hocquenghem and … 1960 Bose and Ray-Chaudhuri describe BCH codes ReedSolomon produce eponymous codes Peterson provides a solution to BCH decoding Peterson produces his book, later extended and revised by Peterson and Weldom Reed 20世纪 60年代~70年代初 最为活跃的发展时期 不仅提出了许多有效的编译码方法，还注意到纠错码的实用化。 与此同时，以代数方法特别以有限域理论为基础的线性分组码理 论日趋成熟。 Gallager introduces LDPC codes 信息论与编码基础 绪论 1967 Berlekamp introduces a fast algorithm for BCH/Reed-Solomon decoding 1971 Viterbi introduces the algorithm for ML decoding of convolutional codes 维特比译码 1972 The BCJR algorithm is described in the open literature 1973 Forney elucidates the Viterbi algorithm 2、信道纠错编码的发展 20世纪 70年代初~80年代 极其重要的发展时期 在理论上以戈帕(Goppa)为首的一批学者，构造了一类Goppa码， 其中一类子码能达到香农限。大规模集成电路和微机的迅速发展， 为纠错编码的实用打下坚实的物质基础。 1977 Voyager deep space mission uses a concatenated RS/convolutional code 信息论与编码基础 绪论 1980 Sony and Phillips standardize the compact disc, Including a shortened Reed-Solomon code 1981 Goppa introduces algebraic-geomet