3.2 Ein einfaches Netz mit zwei Schichten
Das neuronale Netz auf dieser Seite verwendet insgesamt vier Neuronen, die sich in zwei sogenannten Schichten befinden, die hintereinander angeordnet sind. Die Daten fließen dabei gleichzeitig von links nach rechts durch das neuronale Netz.
Da das neuronale Netz mit denselben Beispieldatensätzen trainiert werden soll wie das Netz mit einem Neuron, gibt es auch hier zwei Eingänge (x1 und x2) sowie eine Ausgabe o. In der ersten Schicht befinden sich parallel drei Neuronen, die wiederum mit dem einen Neuron in der zweiten Schicht, der Ausgabeschicht, verbunden sind.
Nach dem Training ist dieses neuronale Netz im Vergleich zum neuronalen Netz mit einem Neuron etwas besser in der Lage, für die Muster der beiden Klassen 0 und 1 die gewünschte Ausgabe zu erzeugen. Das muss jedoch nicht immer der Fall sein, da der Erfolg des Trainings auch von der zufälligen Verteilung der Startwerte für die Gewichte und die Schwellwerte abhängt.
Mit einem Klick auf eines der vier Muster links in der interaktiven Abbildung kann die Berechnung des neuronalen Netzes angezeigt werden. Das ausgewählte Muster wird dabei grün markiert. In der ersten Schicht ist die Aktivierung jedes der drei Neuronen wie gehabt x1⋅w1 + x2⋅w2. Für die Aktivierung des Ausgabeneurons werden die drei Gewichte der zweiten Schicht nun jedoch mit den Ausgaben der drei Neuronen in der ersten Schicht multipliziert. Die Ausgaben der Neuronen in der ersten Schicht werden dabei in gestrichelten Kästchen angezeigt. Auch hier kann der ganze Prozess von Hand nachgerechnet werden. Die Ausgabe eines jeden Neurons kann mit dem kleinen Rechner unten auf der Seite nachberechnet werden. Hier muss als x-Wert wieder die Subtraktion (Aktivierung minus Schwellwert) eingetragen werden.
Anleitung
- Wähle über die Checkboxen aus, welche Trainingsdaten geladen werden sollen.
- Klicke
Neu, um die voreingestellten Werte, eine neue zufällig gewählte Boolesche Funktion, neue Zufallszahlen oder Kreis-Werte als Datensatz zu wählen. - Klicke
Train, um das Training zu starten. - Klicke nach Ende des Trainings erneut
Train, um noch weiter zu trainieren. - Klicke auf die Zahlenwerte am linken Rand in der interaktiven Abbildung. Die ausgewählte Zeile aus der Eingabe x wird grün markiert und die Berechnung des neuronalen Netzes wird für dieses Muster angezeigt.
- Klicke in den freien Raum der Abbildung, um die Berechnung wieder auszublenden.
- Nutze die Berechnung der Aktivierungsfunktion unten auf dieser Seite zum Nachrechnen. Trage dort als x-Wert das Ergebnis der Subtraktion (Aktivierung minus Schwellwert) ein.
- Blau steht in der Abbildung links für negative Werte und rot für positive Werte.
Aufgaben
- Probiere viele verschiedene Beispiele aus und trainiere das neuronale Netz jeweils mit den gegebenen Mustern. Versuche zu verstehen, wie die Ausgabe berechnet wird und wie das neuronale Netz es schafft, für ein Muster auch die richtige Klasse (0 oder 1) zu berechnen.
- Rechne mindestens ein Beispiel vollständig nach. Achtung: In der Abbildung werden an allen Stellen gerundete Werte angezeigt!
- Überlege dir für einige wenige unterschiedliche Boolesche Funktionen vor dem Training mit Papier und Stift passende Werte für die Gewichte und für den Schwellwert, sodass das neuronale Netz möglichst gut funktionieren würde. Überprüfe deine Überlegungen im Anschluss.
Gerade das Beispiel aus dem letzten Datensatz (Kreis) zeigt, weshalb das neuronale Netz mit zwei Schichten und mehr Neuronen besser darin ist, die 0-Muster von den 1-Mustern zu trennen: Im Gegensatz zu einem einzigen Neuron, das nur eine einzige Trennlinie erzeugen kann, können durch die Zusammenschaltung der Neuronen auch komplexe Trennungen erzeugt werden. Das ist besonders hilfreich, wenn man echte Daten aus der realen Welt klassifizieren möchte, denn die sind meistens nicht so schön einfach strukturiert wie die Einstiegsbeispiele auf dieser Seite.
Aktivierungsfunktion berechnen:
Diese Seite teilen
