4.1 Fehler minimieren (einfach)

Man kann das neuronale Netz auf dieser Seite von Hand trainieren, indem man die Gewichte und den Schwellwert des Neurons mit den Plus- und Minus-Zeichen ändert. Jede Änderung führt dazu, dass der aktuelle Fehler des neuronalen Netzes in der nebenstehenden Grafik angezeigt wird. So kann man sehen, ob die Änderungen bereits in die richtige Richtung geführt haben oder nicht. Zur Erinnerung: Grob gesagt ist der Fehler des Netzes der Unterschied zwischen der gewünschten und der tatsächlichen Ausgabe. 

Je komplizierter ein neuronales Netz wird, desto anspruchsvoller ist die Aufgabe selbstverständlich – auch für den eingesetzten Lernalgorithmus, wenn man das Netz mittels Klick auf Train einfach selbst trainieren lässt. Das liegt daran, dass bereits die minimale Änderung nur eines Gewichts eine unmittelbare Auswirkung auf alle folgenden Neuronen in der Schicht dahinter und schließlich auch auf die Ausgabe des Netzes hat. Für den Algorithmus gilt es also, alle Gewichte optimal aufeinander abgestimmt zu optimieren. Mit etwas komplizierterer Mathematik, die ein wenig über das Schulniveau hinausgeht, lässt sich das jedoch algorithmisch ganz gut lösen.

Auch wenn man die genaue Strategie des echten Lernalgorithmus nicht 1:1 von Hand nachklicken kann, bekommt man durch die Beschäftigung mit diesem und dem etwas komplizierteren Beispiel am Ende des Kapitels ein Gespür dafür, wie ein globaler Optimierungsalgorithmus prinzipiell funktionieren muss, um alle Gewichte und Schwellwerte gleichzeitig optimal einzustellen. Dabei kann man einen Trick des echten Lernalgorithmus nutzen und z. B. die Gewichte (bzw. den Schwellwert) in der Reihenfolge von hinten nach vorne verändern.