"Entropie und Information 001.ps.gz" - читать интересную книгу автора



Hrsg. Martin H"ulse Seminar der Prozessinformatik: Entropie und Information

Wintersemester 1996/97

Friedrich-Schiller-Universit"at Jena

Institut f"ur Informatik

Lehrstuhl f"ur Rechnerarchitektur und

-kommunikation

Christian G"unsel, Mario Walther, Martin H"ulse, Alexander Karosseit,

Wolfram Hesse, Sven Kiontke

Inhaltsverzeichnis 1 informatio 3 2 Entropie in der Ph"anomenologischen Thermodynamik 5

2.1 Eine n"utzliche Erfindung... . . . . . . . . . . . . . . . . . . . . . . 5 2.2 Grundbegriffe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 2.3 Der Carnotsche Kreisprozess . . . . . . . . . . . . . . . . . . . . . 7 2.4 Entropie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 2.5 Entropie anschaulich . . . . . . . . . . . . . . . . . . . . . . . . . 10

3 Entropie als Zustandsgr"osse 12

3.1 Formulierung des II. Hauptsatzes . . . . . . . . . . . . . . . . . . 12 3.2 Zusammenfassung der gewonnenen Erkenntnisse . . . . . . . . . 15 3.3 Reversible und irreversible Prozesse . . . . . . . . . . . . . . . . . 15

4 Entropie in der Statistischen Thermodynamik 17

4.1 Motivation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 4.2 Entropie und Wahrscheinlichkeit thermodynamischer Systeme . . 17 4.3 Dichteverteilung eines Gases und deren Wahrscheinlichkeiten . . 18 4.4 Information als eine statistische Deutung der Entropie . . . . . . 21 4.5 Doch was steht da geschrieben?! . . . . . . . . . . . . . . . . . . 21

5 Entropie und Information

- zur SHANNONschen Informationstheorie 25 5.1 Unbestimmtheit . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25 5.2 Ein Mass f"ur den Grad der Unbestimmtheit . . . . . . . . . . . . 26

5.2.1 Ansatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 5.2.2 Eigenschaften von H(ff) . . . . . . . . . . . . . . . . . . . 27 5.2.3 Beispiel . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 5.3 Die Entropie zusammengesetzter Versuche . . . . . . . . . . . . . 28

5.3.1 Die bedingte Entropie . . . . . . . . . . . . . . . . . . . . 28 5.3.2 Eigenschaften der Gr"osse Hff(fi) . . . . . . . . . . . . . . . 29 5.3.3 Beispiel . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 5.4 Der Begriff der Information . . . . . . . . . . . . . . . . . . . . . 30

6 Psychologischer Ansatz 31