3.3 Ein alternatives Netz mit zwei Schichten
Das neuronale Netz auf dieser Seite wird mit denselben Daten trainiert und ist ähnlich aufgebaut wie das neuronale Netz zuvor: Es hat drei Neuronen in der ersten Schicht. In der Ausgabeschicht befinden sich diesmal aber zwei Neuronen statt einem.
Dies hat einen guten und geschickten Grund: Statt nur ein Ausgabeneuron zu haben, das Werte um 0 für die eine Klasse und Werte um 1 für die andere Klasse ausgeben muss, kann man bei zwei Klassen auch einfach zwei Ausgabeneuronen nehmen – pro Klasse ein Neuron. Das obere (erste) Ausgabeneuron soll 1 sein, wenn Muster der ersten Klasse vorliegen, und das untere (zweite) Ausgabeneuron soll 1 sein, wenn Muster der zweiten Klasse vorliegen. Das jeweils andere Neuron (bzw. bei mehr Klassen alle anderen Neuronen) soll währenddessen den gewünschten Wert 0 liefern.
Das wird auch als One Hot Encoding bezeichnet und ist nicht nur praktischer und übersichtlicher, sondern liefert im Bereich der Klassifikation im Allgemeinen auch bessere Ergebnisse. Gerade für viele Klassen ist das auch höchst sinnvoll. Bei neuronalen Netzen, die für Bilderkennung eingesetzt werden, gibt es zum Teil 1000 verschiedene Klassen. Solche Netze konstruiert man so, dass es dann auch 1000 Ausgabeneuronen gibt und jedes Ausgabeneuron entsprechend für eine Klasse steht. Da das neuronale Netz ja darauf trainiert wird, nur für dasjenige Neuron eine 1 auszugeben, das die zugehörige Klasse repräsentiert (und alle anderen Neuronen 0 bleiben sollen), ist die Klasse des Bildes später einfach an dem Neuron zu erkennen, das den höchsten Ausgabewert hat.
Das neuronale Netz in der interaktiven Grafik liefert also 1 0 für die Klasse, die im letzten Beispiel der 0 entsprach, und 0 1 für die Klasse, die im letzten Beispiel der 1 entsprach.
Anleitung
- Wähle über die Checkboxen aus, welche Trainingsdaten geladen werden sollen.
- Klicke
Neu, um die voreingestellten Werte, eine neue zufällig gewählte Boolesche Funktion, neue Zufallszahlen oder neue Kreis-Werte als Datensatz zu wählen. - Klicke
Train, um das Training zu starten. - Klicke nach Ende des Trainings erneut
Train, um noch weiter zu trainieren. - Klicke auf die Zahlenwerte am linken Rand in der interaktiven Abbildung. Die ausgewählte Zeile aus der Eingabe x wird grün markiert und die Berechnung des neuronalen Netzes wird für dieses Muster angezeigt.
- Klicke in den freien Raum der Abbildung, um die Berechnung wieder auszublenden.
- Nutze die Berechnung der Aktivierungsfunktion unten auf dieser Seite zum Nachrechnen. Trage dort als x-Wert das Ergebnis der Subtraktion (Aktivierung minus Schwellwert) ein.
- Blau steht in der Abbildung links für negative Werte und rot für positive Werte.
Aufgabe
Probiere mehrere verschiedene Beispiele aus und trainiere das neuronale Netz jeweils mit den gegebenen Mustern. Versuche zu verstehen, wie die Ausgabe berechnet wird und wie das neuronale Netz es schafft, für ein Muster auch die richtige Klasse (0 1 oder 1 0) zu berechnen.
Aktivierungsfunktion berechnen:
Diese Seite teilen
