"Neuroinformatik 001.ps.gz" - читать интересную книгу автора

Vorlesung Neuroinformatik

R. Der Universit"at Leipzig Institut f"ur Informatik

19. Juni 1998

2 R. Der - Universit"at Leipzig - Institut f"ur Informatik

Inhaltsverzeichnis 1 Grundlagen 7

1.1 Neurobiologische Grundlagen . . . . . . . . . . . . . . . . . . . . 7

1.1.1 Allgemeines . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.1.2 Das Gehirn als System . . . . . . . . . . . . . . . . . . . . 7 1.1.3 Unterschiede Hirn - Computer . . . . . . . . . . . . . . . 13 1.2 Grundlegende elektrophysiologische Mechanismen . . . . . . . . . 14

1.2.1 Das Ruhepotential . . . . . . . . . . . . . . . . . . . . . . 16 1.2.2 Aktionspotential und Reizleitung . . . . . . . . . . . . . . 17 1.2.3 Synaptische Kopplungen . . . . . . . . . . . . . . . . . . . 18 1.3 Das mathematische Modell des Neurons . . . . . . . . . . . . . . 20

1.3.1 Neuronale Informationskodierung . . . . . . . . . . . . . . 20 1.3.2 Funktionelles Schema des station"aren Neurons . . . . . . 22 1.3.3 Das mathematische Modell des station"aren Neurons . . . 22

2 Das Neuron als lernender Elementarprozessor 27

2.1 Das Neuron als lernender Funktionsapproximator . . . . . . . . . 27

2.1.1 On-line Lernen vs. batch Lernen . . . . . . . . . . . . . . 29 2.1.2 Beipiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 2.2 Das Neuron als lernender Klassifikator . . . . . . . . . . . . . . . 36 2.3 Das Perzeptron . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39 2.4 Grenzen des Neurons - das XOR Problem . . . . . . . . . . . . . 41

3 Feed-Forward Netze 43

3.1 Informationsverarbeitung mit Feed-Forward Netzen . . . . . . . 43 3.2 Der Backpropagation-Algorithmus . . . . . . . . . . . . . . . . . 45

3.2.1 Die Update-Regel . . . . . . . . . . . . . . . . . . . . . . 45 3.2.2 Anhang: Herleitung des Backprop-Algorithmus f"ur FeedForward Netzwerke . . . . . . . . . . . . . . . . . . . . . . 46

3

INHALTSVERZEICHNIS

3.3 Einige Anwendungen . . . . . . . . . . . . . . . . . . . . . . . . . 47

3.3.1 NETTALK . . . . . . . . . . . . . . . . . . . . . . . . . . 47 3.3.2 Zeichenerkennung . . . . . . . . . . . . . . . . . . . . . . 48 3.3.3 Bottleneck-Netze zur Dimensionsreduktion und adaptiven Datenkompression . . . . . . . . . . . . . . . . . . . . 49 3.3.4 Emergenz getrennter Verarbeitungskan"ale f"ur Objekt-