"Informationstheorie 001.ps.gz" - читать интересную книгу автора

%%[ ProductName: AFPL Ghostscript ]%%


INFORMATIONSTHEORIE

Skript zur Vorlesung

Institut fu"r Theoretische Nachrichtentechnik

und Informationsverarbeitung

Universita"t Hannover

Prof. Dr.-Ing. H.G. Musmann

2. Auflage Fru"hjahr 1998 %%[ Page: 1 ]%%


I Inhaltsverzeichnis 1. Einfu"hrung 5. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.1 Quellenmodelle und Quellencodierung 6. . . . . . . . . . . . . . . . . . . . . . . . 1.2 Kanalmodelle und Kanalcodierung 9. . . . . . . . . . . . . . . . . . . . . . . . . . .

2. Quellenmodelle 13. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.1 Diskrete geda"chtnislose Quelle 13. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.2 Diskrete geda"chtnisbehaftete Quelle 20. . . . . . . . . . . . . . . . . . . . . . . . . .

3. Redundanzreduzierende Codierung 25. . . . . . . . . . . . . . . . . . . . . . . . . . 3.1 Codierung diskreter geda"chtnisloser Quellen 25. . . . . . . . . . . . . . . . . . . 3.2 Theorem der Quellencodierung 29. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.3 Codierungsalgorithmus von Huffman 32. . . . . . . . . . . . . . . . . . . . . . . . . 3.4 Codierung diskreter geda"chtnisbehafteter Quellen 35. . . . . . . . . . . . . . . 3.5 Anwendungsbeispiel 37. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4. Kana"le 41. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.1 Fehlerstrukturen realer Kana"le 41. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.2 Diskreter, geda"chtnisloser Kanal 45. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4.3 Wechselseitiger Informationsgehalt undTransinformationsgehalt diskreter Ensembles 47. . . . . . . . . . . . . . . . . .

4.4 Wechselseitiger Informationsgehalt undTransinformationsgehalt kontinuierlicher Ensembles 49. . . . . . . . . . . . . 4.5 Kanalkapazita"t diskreter, geda"chtnisloser Kana"le 55. . . . . . . . . . . . . . . . 4.6 Kanalkapazita"t kontinuierlicher, geda"chtnisloser Kana"le 63. . . . . . . . . . 4.7 Anwendungsbeispiel 66. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

5. Kanalcodierung 73. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.1 Allgemeine Grundbegriffe 73. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.2 Prinzipien der Blockcodierung 75. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.3 Kanaldecodierung 78. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.4 Theorem der Kanalcodierung 82. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

6. Irrelevanzreduzierende Codierung 87. . . . . . . . . . . . . . . . . . . . . . . . . . . 6.1 Grundlagen der Rate-Distortion-Theorie 87. . . . . . . . . . . . . . . . . . . . . . 6.2 Rate-Distortion-Funktion diskreter Quellen 95. . . . . . . . . . . . . . . . . . . 6.3 Rate-Distortion-Funktion kontinuierlicher Quellen 99. . . . . . . . . . . . . %%[ Page: 2 ]%%


II 6.4 Anwendungsbeispiele 111. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.4.1 Amplitudenquantisierung mit minimaler Fehlervarianz 111. . . . . . . . . . . 6.4.2 Quantisierung mit minimaler Ausgangsentropie 120. . . . . . . . . . . . . . . . 6.4.3 Pulscodemodulation (PCM) 124. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.4.4 Differenz-Pulscodemodulation (DPCM) 128. . . . . . . . . . . . . . . . . . . . . .

Literaturverzeichnis 135. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . \Sigma ffl\Omega \Upsilon \Psi jfiflffli\Phi fl`\Phi \Omega \Upsilon \Psi ff\Omega ffi \Lambda \Xi \Pi \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta \Theta %%[ Page: 3 ]%%


1 1. Einfu"hrung