Ein neuronales Netz ist ein Rechenmodell aus vielen sehr einfachen Einheiten, die in Schichten angeordnet sind und untereinander gewichtete Verbindungen haben. Jede Einheit summiert, was bei ihr ankommt, und gibt ein Signal weiter. Das Wissen des Netzes steckt nicht in Programmzeilen, sondern in den Zahlen an diesen Verbindungen, den Gewichten, die während des Trainings so lange verstellt werden, bis die Ausgabe passt.
Die Anleihe beim Gehirn steckt im Namen und in der Grundidee, hört dort aber auch schon auf. Ein künstliches Neuron ist eine Rechenvorschrift, keine Nachbildung einer Nervenzelle. Wer das Netz als Biologie liest, erwartet Fähigkeiten, die es nicht hat.
Aufbau
Das einzelne Neuron
Ein Neuron bekommt mehrere Zahlen als Eingabe. Jede davon wird mit ihrem Gewicht multipliziert, alles wird aufsummiert, dazu kommt ein fester Zuschlag, der Bias. Ein Gewicht nahe null heißt: Diese Eingabe interessiert mich nicht. Ein großes negatives Gewicht heißt: Diese Eingabe spricht dagegen. Mehr passiert an dieser Stelle nicht.
Schichten
Neuronen stehen nebeneinander in Schichten, und die Schichten stehen hintereinander. Die Eingabeschicht nimmt die Daten auf, eine Ziffer pro Merkmal oder ein Wert pro Bildpunkt. Die Ausgabeschicht liefert das Ergebnis, etwa eine Zahl je möglicher Kategorie. Dazwischen liegen die verborgenen Schichten, in denen die eigentliche Arbeit stattfindet. Viele solcher Zwischenschichten sind das, was ein Netz zu einem Fall von Deep Learning macht.
Die Aktivierungsfunktion
Hinter der Summe sitzt eine kleine Funktion, die entscheidet, was das Neuron weitergibt. Sie ist der unscheinbarste und zugleich wichtigste Teil. Ohne sie wären alle Schichten zusammengenommen wieder nichts anderes als eine einzige gewichtete Summe, und das ganze Netz könnte nur gerade Zusammenhänge abbilden. Erst dieser Knick in der Funktion macht es möglich, gekrümmte und verschachtelte Zusammenhänge darzustellen.
Am verbreitetsten ist eine Funktion, die negative Werte auf null setzt und positive unverändert durchlässt. Sie ist billig zu rechnen und stört das Training weniger als die glatten Kurven, die früher üblich waren.
Wie das Training funktioniert
Am Anfang sind alle Gewichte zufällig. Das Netz rät also, und zwar schlecht. Der Rest ist ein systematisches Verkleinern des Fehlers.
Fehler messen
Das Netz bekommt ein Trainingsbeispiel, rechnet es durch und liefert eine Ausgabe. Diese wird mit der richtigen Antwort verglichen, und die Abweichung wird zu einer einzigen Zahl verdichtet. Diese Zahl ist der Maßstab, an dem sich alles ausrichtet. Wie sie gebildet wird, ist eine inhaltliche Entscheidung: Ein Netz, das seltene Fälle erkennen soll, braucht ein Fehlermaß, das ein Übersehen härter bestraft als einen falschen Alarm.
Rückwärts korrigieren
Jetzt läuft die Rechnung rückwärts durch das Netz. Für jedes Gewicht wird bestimmt, in welche Richtung und wie stark es den Fehler beeinflusst hat, und dann wird es ein kleines Stück in die richtige Richtung verschoben. Wie groß dieses Stück ist, regelt die Lernrate. Zu groß, und das Netz schießt bei jedem Schritt über das Ziel hinaus. Zu klein, und das Training dauert ewig.
Dieser Durchgang wiederholt sich für alle Trainingsdaten, viele Male hintereinander. Ein solcher kompletter Durchlauf heißt Epoche.
Wann Schluss ist
Nicht dann, wenn der Fehler auf den Trainingsdaten am kleinsten ist. Ab einem gewissen Punkt lernt das Netz die Beispiele auswendig, samt ihrer Zufälligkeiten, und wird bei neuen Fällen schlechter. Deshalb wird parallel auf zurückgehaltenen Daten gemessen, und das Training endet, wenn dort keine Verbesserung mehr kommt. Diese Überanpassung ist der häufigste Grund für Modelle, die in der Vorführung glänzen und im Betrieb enttäuschen.
Gängige Netztypen
Der Aufbau richtet sich nach der Struktur der Daten. Ein Netz, das Bilder verarbeitet, ist anders verdrahtet als eines für Text.
| Typ | Wofür gebaut | Prinzip |
|---|---|---|
| Feedforward | Tabellen, Kennzahlen | Signale laufen einmal von vorn nach hinten |
| Faltungsnetz (CNN) | Bilder, Video | Kleine Filter wandern über das Bild und erkennen lokale Muster unabhängig von deren Position |
| Rückgekoppelt (RNN, LSTM) | Zeitreihen, Sprache | Das Netz reicht einen Zustand an den nächsten Schritt weiter und hat so ein Kurzzeitgedächtnis |
| Transformer | Text, zunehmend alles | Alle Teile der Eingabe werden gleichzeitig betrachtet und gewichten sich gegenseitig |
| Autoencoder | Anomalien, Kompression | Das Netz lernt, seine Eingabe durch einen Engpass hindurch zu rekonstruieren |
Der Transformer hat den anderen Architekturen bei Text den Rang abgelaufen und ist die Grundlage der heutigen Large Language Models. Für Bilder sind Faltungsnetze weiterhin verbreitet, weil sie mit weniger Daten auskommen.
Warum die Nachvollziehbarkeit schwierig ist
Ein neuronales Netz hat keine Stelle, an der eine Regel steht. Was es gelernt hat, verteilt sich über sämtliche Gewichte, und jedes einzelne davon ist für sich bedeutungslos. Eine Entscheidung entsteht aus dem Zusammenspiel von sehr vielen sehr kleinen Beiträgen. Man kann jeden Schritt der Rechnung nachvollziehen und trotzdem nicht sagen, warum das Netz so entschieden hat.
Es gibt Werkzeuge, die das abmildern. Sie zeigen etwa, welcher Bildbereich oder welches Merkmal den Ausschlag gegeben hat, oder was passiert wäre, wenn eine Eingabe anders ausgesehen hätte. Das sind Hinweise, keine Begründungen, und sie können in die Irre führen: Ein Netz, das Schiffe zuverlässig erkennt, kann das an der Wasserfläche im Hintergrund festmachen und in einer Werfthalle versagen.
Praktisch heißt das dreierlei. Erstens gehört zu jedem Modell die Dokumentation, mit welchen Daten es trainiert wurde und wofür es nicht gedacht ist. Zweitens braucht es feste Testfälle, die auch die unangenehmen Situationen abdecken. Drittens bleibt bei Entscheidungen über Menschen jemand in der Verantwortung, der widersprechen kann. Der EU AI Act macht aus dieser guten Praxis für einen Teil der Anwendungen eine Pflicht.
Häufige Fragen zu neuronalen Netzen
Denkt so ein Netz? Nein. Es bildet einen statistischen Zusammenhang zwischen Eingabe und Ausgabe ab. Dass die Ergebnisse manchmal überlegt wirken, liegt an der Menge der gelernten Muster, nicht an einem Verständnis der Sache.
Wie viele Schichten und Neuronen braucht ein Netz? So wenige wie möglich. Ein zu großes Netz lernt auswendig, ein zu kleines bekommt den Zusammenhang nicht abgebildet. Üblich ist, eine für den Datentyp bewährte Architektur zu übernehmen und nur das zu ändern, was messbar hilft.
Kann ich ein Netz nachträglich um neues Wissen ergänzen? Nur mit Vorsicht. Trainierst du ein fertiges Netz auf neuen Daten weiter, kann es das Alte teilweise überschreiben. Der übliche Weg ist, die alten und die neuen Daten gemeinsam zu verwenden, oder das Wissen gar nicht ins Netz zu legen, sondern über Retrieval Augmented Generation zur Laufzeit dazuzugeben.
Was unterscheidet ein neuronales Netz von klassischem Machine Learning? Verfahren wie Entscheidungsbäume oder lineare Modelle liefern eine Struktur, die man lesen kann. Ein neuronales Netz liefert Gewichte. Dafür kann es Zusammenhänge abbilden, an denen die einfacheren Verfahren scheitern. Mehr zur Einordnung steht unter Machine Learning.
Fazit
Neuronale Netze sind erstaunlich einfach gebaut. Gewichtete Summen, eine Aktivierungsfunktion, ein Verfahren, das den Fehler rückwärts verteilt. Ihre Stärke kommt aus der Menge, und aus derselben Menge kommt ihre größte Schwäche: Niemand kann eine einzelne Entscheidung sauber begründen. Wer sie einsetzt, sollte das einplanen, statt es später zu entdecken. Wo solche Modelle in Projekten wirklich helfen und wo wir davon abraten, zeigt der Überblick über unsere Arbeit als KI-Agentur. Wie wir Software bauen und wo wir KI dabei einsetzen, steht auf unserer Seite zur Custom-Software-Entwicklung. Unsere Erfahrungen mit KI im Entwicklungsalltag haben wir im Artikel KI in der Softwareentwicklung aufgeschrieben, und für alles Weitere gibt es das unverbindliche Beratungsgespräch.