neural_nets

Neuronale Netze und Komputationale Prozesse

Deklaratives und Prozedurales Wissen

An dieser Stelle ist noch einmal die Frage nach der Natur der neuronalen Prozesse aufzugreifen. Sie werden jetzt weniger aus einer anatomisch-strukturellen denn aus einer informationstheoretisch-komputationalen Sicht betrachtet. Dargestellt wird, welche komputationalen Modelle die in neuronalen Netzen ablaufenden Prozesse angemessen repräsentieren bzw. simulieren können.

1. Ein sinnlich wahrgenommener Reiz erreicht das Gehirn in Form eines elektrischen Impulses. Das kann ein visueller, auditiver, haptischer, olfaktorischer oder gustatorischer Reiz sein. Objekte werden aber immer in einem Kontext, also als komplexe Assoziationsmuster von visuellen, auditiven und anderen Stimuli wahrgenommen, nicht als isolierte Einzelreize. Es erhalten deshalb immer mehrere Hirnareale parallel Impulse. Dem entspricht, dass die sensorisch unterscheidbaren aber zu ein- und derselben Erfahrung gehörenden Teile eines Wissens über viele Areale des Gehirns hinweg verteilt gepeichert vorliegen doch bei Bedarf durch ihr paralleles Aktivieren wieder als Einheit abgerufen werden können. Dazu gehört auch, dass die Speicherung nicht unabhängig von kontextuellen Erinnerungen daran erfolgt, was den ‚Reizen’ erfahrungsgemäß vorausgeht und was ihnen folgt. Das ist bemerkenswert, weil es verständlich macht, warum ein faktisches bzw. deklaratives Wissen immer verknüpft ist mit dem prozeduralen Wissen, das heißt einem Wissen darum, welche Ursachen und Folgen bestimmte ‚Dinge’ (Fakten) gewöhnlich haben. Es macht zugleich verständlich, wieso kognitiv-rationale Kriterien nicht immer sauber getrennt von emotional-affektiv besetzten Erinnerungen wirksam werden, denn die Wahrnehmung von Objekten ist selten völlig frei von affektiven Bewertungen.

2. Die in Form elektrischer Impulse an die zuständigen primären Verarbeitungszentren in den vier Lappen weiter geleiteten sensorischen Reize lassen dort für kurze Zeit über die Synapsen der aktivierten Neuronen ein Aktivierungsmuster entstehen. Sie bilden den Inhalt des sensorischen Ultrakurzzeitgedächtnis. Die Spuren der so aktivierten neuronalen Zellgruppen zerfallen bzw. verblassen aber in der Regel nach nur wenigen Millisekunden wieder, es sei denn, sie werden durch neue Impulszyklen aktiv gehalten. Das jedoch ist immer nur für einen kleinen Teil der Flut von Spuren möglich, die sensorische Wahrnehmungen auslösen, weil es sonst zu einer Reizüberflutung des Gehirns käme, die ihrerseits nicht mehr kontrollierbare motorische Reaktionen auslösen würde wie sie zum Beispiel für epileptische Anfälle typisch sind.

Die nächste Frage ist, was dafür verantwortlich ist, dass nur ein bestimmter Teil der in jedem Augenblick in großer Vielfalt auf das Gehirn einströmenden sensorischen Reize aktiviert bleibt bzw. bewußt wahrgenommen und verarbeitet wird.

3. Alle Nervenfaserverbindungen zwischen dem Gehirn und den Sinnesorganen laufen über den Thalamus und das Limbische System, wobei letzteres eine emotionale Bewertung der vielen gleichzeitig eintreffenden sensorischen Impulse vornimmt. Es entscheidet deshalb mit darüber, welche der vielen miteinander konkurrierenden perzeptiv wahrgenommenen Muster als bemerkenswert und merkenswert behandelt werden. Nur die aktivierten Zellgruppen, denen so Aufmerksamkeit zuteil wird, bilden Erregungsmuster die nicht gleich verblassen sondern sich gegenseitig stärken und so einer weiteren Verarbeitung zugänglich bleiben. In dem Sinne repräsentieren die in verschiedenen Bereichen des Gehirns gleichzeitig aktivierten Zellgruppen die Inhalte des Kurzzeit- bzw. Arbeitsgedächtnisses. Das repräsentiert die übergeordnete Instanz bzw. Verarbeitungszentrale, die entscheidet, wer die 'stärkeren Bataillione' auf seiner Seite hat.

4. Die Rolle der ‚Verarbeitungszentrale’ übernimmt der präfrontale Kortex in enger Kooperation mit dem Limbischen System. Dort werden die parallel von den verschiedenen Bereichen des Gehirns eingehenden Meldungen über den momentanen Zustand der externen Welt bewertet und in Relation gesetzt zu den internen Wünschen und Plänen des Gesamtorganismus. Dort ist auch die für den Menschen typische Fähigkeit angesiedelt, im Rückgriff auf das im Langzeitgedächtnis verteilt gespeicherte Wissen imaginativ nach Wegen zur Lösung von Problemen zu suchen.
Das im Langzeitgedächtnis gespeicherte Wissen resultiert aus der Gesamtmenge der molekularen Spuren, die frühere Aktivierungsprozesse in Form synaptischer Kontakte hinterlassen haben. Sie werden auch Engramme genannt. Sie können durch neue Erfahrungen um neue Verbindungen zu anderen Zellgruppen erweitert werden. Eine sich oft wiederholende gegenseitige Aktivierung der gleichen Zellgruppen führt dazu, dass aus den aktivierten Mustern künftig schneller aktivierbare Muster werden. Kognitive Wissenschaftler sprechen auch von einer größeren Verarbeitungstiefe, die durch wiederholtes Aktivieren erreicht wird.

Das folgende Schaubild veranschaulicht das arbeitsteilige Zusammenwirken von Ultrakurzzeitgedächtnis, Arbeitsgedächtnis und Langzeitgedächtnis.

Physiologisch gesehen sind dazu folgende weitere Anmerkungen zu machen: Die von sinnlichen Wahrnehmungen ausgelösten Impulse, die an den Axonenden der Neurone ankommen, sind elektrochemisch nicht uniform sondern unterscheiden sich substantiell nach der Art des Impulses in z.B. ihrer Dauer, Frequenz und Intensität. Das führt dazu, dass auf der ‚Geberseite’ der Synapsen spezifische und künftig wiedererkennbare Mengen von Nervenbotenstoffen entstehen, denen umgekehrt auf der ‚Nehmerseite’ sich bildende Rezeptorsubstanzen entsprechen, die auf ihre Pendants schnell und effektiv reagieren. Jede Erfahrung hinterlässt so ihren ‚Fingerabdruck’.

Lernprozesse ergeben sich daraus, dass sich Zug um Zug neue und bessere synaptische Kontaktmöglichkeiten zwischen Nervenzellen bzw. Zellgruppen bilden, die zuvor nicht miteinander verbunden waren. Das schließt ein, dass eine Synapse in mehr als nur ein Verarbeitungsmuster eingebunden sein kann. Das trägt dazu bei, dass ein Lerntransfer von einem zum anderen Muster stattfinden kann. Im übrigen nimmt die Schnelligkeit mit welcher bestimmte Rezeptorsubstanzen auf die sie aktivierenden Impulse reagieren mit der Zahl der Wiederholungen ihrer Aktivierung zu. Das erklärt Übungsphänomene.

Das nebenstehende Bild zeigt die Vermehrung der Konnektionen unter vorhandenen Neuronen durch Lernprozesse im kindlichen Gehirn,
(Mehr zum Thema Denken und Lernen)

5. Wenn Lernprozesse wie beschrieben verlaufen, stellt sich informationstheoretisch gesehen die Frage, wie es zu den nachweisbaren kreativen Verhaltensweisen von Menschen kommen kann, die sich nur schwer durch Übungsprozesse erklären lassen

Die Wissenschaft ist noch weit davon ernfernt, darauf eine klare Antwort geben zu können. Sicher ist jedoch, dass die in neuronalen Netzen ablaufenden Prozesse wahrscheinlichkeitstheoretischen Gesetzen folgen. (Mehr zum Thema 'Theorien des neuronalen Lernens') Die entsprechenden Verarbeitungsmodelle heißen connectionist models of information processing . Sie unterscheiden sich merklich von den Prozeduren, die für strikt formallogisch operierende Systeme wie z.B. herkömmliche Computer gelten. Letztere verlangen klar definierte Symbole und tolerieren keine Abweichung von den festgelegten Normen. Die Symbole (Werte), mit denen sie rechnen, werden nach ebenfalls fixen Regeln kombiniert, und sie können diese Regeln nicht selber ändern. Das ist bei neuronalen Netzen anders. Sie vergleichen erstens einen bestimmten Input mit dem Output, den er produziert, und sie kontrollieren zweitens, ob der Output als ‚erwünscht’ oder ‚unerwünscht’ anzusehen ist. In Computersimulationen solcher Prozesse wird das backpropagation genannt. Prozeduren, die ein erwünschtes Resultat erzeugen, werden verstärkt; Prozeduren, die unerwünschte Resultate zeitigen, werden gehemmt bzw. blockiert, was eine Suche nach alternativen Lösungswegen provoziert. Dem entspricht, dass neuronale Netze mit fuzzy concepts statt mit fest definierten Symbolen arbeitet. (Prinzipien neuronaler Komputationen) [Wie wir lernen]

Moderne Computer, die mentale Prozesse simulieren, werden connection machines genannt. Sie bestehen aus mehreren Ebenen von einfachen ‚Knoten’ (Neuronen), die über ein Netzwerk von Verbindungen Informationen über ihren jeweiligen Aktivierungszustand austauschen. Ein Neuron ‚sammelt’ alle einlaufenden Impulse und geht in Abhängigkeit von ihnen in einen bestimmten Zustand über: Es wird aktiv, inaktiv oder bleibt gleich. Welche der anfänglich noch ‚leeren’ Neuronen über diese Art von input und backpropagation auf welche Werte gesetzt werden, entscheidet das Netzwerk nach probabilistischen Kriterien selbst. Sicher ist, dass Neuronen, die besonders viele oder ‚schwergewichtige’ Verbindungen zu anderen Neuronengruppen haben, durch eine Veränderung ihrer eigenen Wertigkeit auch gewichtige Veränderungen in großen Teilen des gesamten Netzwerks bewirken können. Das ist bemerkenswert mit Blick darauf, wie wir uns Lernprozesse und die ‚technische Grundlage’ von ‚Lernsprüngen’ (Paradigmenwechsel oder ‚Aha-Erlebnisse’) vorstellen können.

Die folgende Abbildung zeigt die Struktur eines künstlichen neuronalen Netzes, das neben der Input-Ebene und der Output-Ebene über zwei sogenannte hidden layers verfügt.

Wie es über Aktivierungs- und Inhibitionsprozesse zu Gewichtungen kommen kann, also dazu, dass im Verlauf von Lernprozessen mit mehreren layers eine kleine Zahl von Neuronen komprimiert die Informationen auf sich vereinen, die von einer größeren Anzahl von Neuronen aus der Input-Ebene kommen, veranschaulicht die nachstehende Abbildung. Die damit verbundenen Prozesse sind u.a. für eine Erklärung der Schemabildung wichtig, wie sie aus der Wissenspsychologie bekannt ist.

Ein wichtiger Unterschied zwischen formallogisch operierenden herkömmlichen Computern einerseits und neuronalen Netzen andererseits liegt darin, dass erstere klar definierte Symbole und feststehende logische Verknüpfungsregeln brauchen und ERROR melden und die weitere Arbeit einstellen, wenn sie mit Aufgaben konfrontiert werden, die sie mit vorprogrammierten Verarbeitungsprozeduren nicht lösen können. Im Gegensatz dazu kapitulieren neuronale Netze in der Situation nicht sondern suchen durch den wiederholten Vergleich von Input und gewünschtem Output mittels der backpropagation hartnäckig nach Lösungen. In biologischen Systemen ist die motivierende Grundlage dafür der Überlebensdrang bzw. die Neugier. Aus der Lebenspraxis ist auch bekannt, dass die backpropagation besonders dann lernwirksame Folgen zeitigt, wenn sie nicht nur ‚falsch’ meldet, sondern z.B. über die Beobachtung eines erfolgversprechenden Verhaltens einer anderen Person Anreize zu seiner Imitation liefert. Das kann als ‚Hinweis’ darauf intepretiert werden kann, welche Neuronenpopulationen in den hidden layers in die Lösungssuche stärker einzubeziehen sind. Solche Zellgruppen können mit ‚schon verfügbaren’ Fähigkeiten und Fertigkeiten verglichen werden, die aber durch neue Konnektionen neue Wirkungsmöglichkeiten erhalten.

Merksätze

Nervenfasern sorgen dafür, dass zwischen den verschiedenen Teilen des Gehirns ständig ein Informationsaustausch stattfindet und dass einzelne Hirnareale sich arbeitsteilig speziellen Aufgaben widmen können. Dem entsprechen das verteilten Speichern und parallele Aktivieren von Wissen.

Das im Gehirn faktisch gespeicherte Wissen heißt deklaratives Wissen. Das zu seiner Aktivierung nötige Wissen heißt prozedurales Wissen. Komputational gesehen steckt letzteres in der Stärke der gegenseitigen Aktivierungspotentiale, die bestimmte Neuronengruppen schneller dazu bringen, sich gegenseitig aufzurufen. Übung führt zur Verstärkung neuronaler Verknüpfungspfade. Die Aktivierung wird durch Umweltbedingungen oder innere Bedürfnisse oder einer Kombination von beiden ausgelöst.

Drei Formen des Gedächtnisses tragen prozedural zum Entstehen und Gebrauchen des im Gehirn gespeicherten Wissens bei. Dies sind das Ultrakurzzeitgedächtnis, das Kurzzeitgedächtnis (Arbeitsgedächtnis) und das Langzeitgedächtnis. An der Entscheidung darüber, was gespeichert wird und was nicht, hat die sowohl von kognitiven als auch emotionalen Faktoren geprägte Aufmerksamkeit großen Anteil.

Computer, die neuronale Aktivierungs- und Speicherprozesse simulieren, heißen connection machines. Ihnen entspricht der Konnektionismus als Modell der Informationsverarbeitung.

Lernen besteht in der Herstellung von Verdichtung neuronaler Verknüpfungen unter Neuronen, die zuvor nicht miteinander verknüpft waren.

Computer, die eine neuronale Informationsverarbeitung simulieren, bestehen aus mehreren Ebenen von einfachen ‚Knoten’ (Neuronen), die in der Folgen von input und Rückmeldungen (backprogation) bestimmte Aktivierungszustände annehmen und aufgrund von sich selbstorganisierenden Prozessen letztlich in der Lage sind, den gewünschten output zu erzeugen. Die Veränderungen folgen probabilistischen Kriterien, nicht von vornherein festgelegten Regeln.

Weitere Informationen zum Thema ‚Neuronales Lernen’ sind unter den folgenden Adressen zu finden:

http://www.cis.TUGraz.at/igi/maass/gehirn/node2.html und

http://www.uni-bielefeld.de/idm/neuro/Lernformen.html

http://www.unifr.ch/spc/UF/93mai/macho.html)

Weiterführende Informationen zur Funktionsweise von Neuronen und Nervensystem finden sich u.a. in

http://www.biokurs.de/skripten/12/bs12-27.htm

www.merian.fr.bw.schule.de

http://faculty.washington.edu/chudler/neurok.html

http://www20.wissen.de/material/gesundheit/SEELISCHE_GESUNDHEIT/gehirn_landkarte_1.html

http://www.netschool.de/ler/ler_top.htm

http://www.hypies.com/neuro/brain/brain.html

http://www.drd.de/helmich/bio/neu/reihe1/start.html