Deep Learning

Deep Learning

Glossar

Deep Learning ist der Teil des maschinellen Lernens, der mit neuronalen Netzen aus vielen hintereinandergeschalteten Schichten arbeitet. Das „deep“ meint genau diese Tiefe und sonst nichts: nicht klüger, nicht bewusster, nur mehr Schichten zwischen Eingabe und Ergebnis. Aus dieser einen baulichen Eigenschaft folgt fast alles, was das Verfahren stark und was es teuer macht.

Bis etwa 2012 galt Deep Learning als akademische Nische. Danach kamen genug Daten und genug Grafikkarten zusammen, und die Nische wurde zur Grundlage praktisch jeder KI-Anwendung, die heute Schlagzeilen macht.

Was die Tiefe bringt

Merkmale werden gelernt statt gebaut

Bei klassischem Machine Learning entscheidet ein Mensch, worauf das Modell schauen soll. Aus einem Bild werden Kanten, Farbverteilungen und Formmaße berechnet, aus einem Text Wortzählungen. Diese Handarbeit heißt Feature Engineering und kostet den Großteil der Fachkenntnis in einem Projekt.

Ein tiefes Netz übernimmt diesen Schritt selbst. Es bekommt die Rohdaten und findet unterwegs heraus, welche Merkmale nützlich sind. Das ist der eigentliche Bruch. Nicht die höhere Genauigkeit, sondern die Verlagerung der Arbeit vom Merkmalsbau zur Datensammlung.

Jede Schicht baut auf der vorherigen auf

Der Aufbau lässt sich am Bild gut erzählen. Frühe Schichten reagieren auf Helligkeitssprünge und Kanten. Die nächsten setzen daraus Ecken und Bögen zusammen, dann Augen und Räder, ganz am Ende Gesichter oder Fahrzeuge. Keine dieser Stufen wurde jemandem vorgeschrieben, sie entsteht während des Trainings. Genau darum funktioniert das Verfahren auch bei Sprache und Ton, wo niemand sagen könnte, welche Merkmale die richtigen wären.

Mehr Schichten heißen deshalb: Das Netz kann Zusammenhänge in mehr Zwischenschritten ausdrücken. Bei einfachen Aufgaben ist das verschenkter Aufwand. Bei verschachtelten Zusammenhängen ist es der Unterschied zwischen „geht“ und „geht nicht“.

Was es kostet

Datenhunger

Ein Netz, das seine Merkmale selbst finden soll, braucht dafür Material. Wo einem klassischen Verfahren mit gut gebauten Merkmalen ein überschaubarer Datensatz reicht, verlangt ein tiefes Netz deutlich mehr Beispiele. Der übliche Ausweg heißt Transfer Learning: Du nimmst ein Netz, das jemand anderes auf einer riesigen Sammlung vortrainiert hat, und passt nur die letzten Schichten an deine Aufgabe an. Damit rutscht der Bedarf in einen Bereich, der auch für einzelne Unternehmen erreichbar ist.

Rechenbedarf

Training heißt, sehr viele Rechenoperationen sehr oft zu wiederholen. Das läuft auf Grafikkarten oder spezialisierten Beschleunigern, dauert je nach Größe Stunden bis Wochen und wird selten beim ersten Versuch gut. Dazu kommen die Kosten im Betrieb: Ein großes Netz braucht bei jeder einzelnen Anfrage Rechenzeit, und diese Rechnung läuft weiter, solange die Anwendung läuft.

Klassisches Machine LearningDeep Learning
Merkmalevon Hand gebautselbst gelernt
Datenbedarfmoderathoch, außer bei Transfer Learning
Hardwaregewöhnliche ServerGrafikkarten oder Beschleuniger
Stärke beiTabellen, KennzahlenBild, Ton, Sprache, Text
Nachvollziehbarkeitoft gutschwierig

Wo Deep Learning überlegen ist und wo nicht

Vorn liegt es überall dort, wo die Rohdaten unstrukturiert sind und die relevanten Merkmale niemand vorab benennen kann.

  • Bilder und Video: Objekte erkennen, Fehler in der Fertigung finden, Aufnahmen sortieren.
  • Sprache und Ton: Diktate übertragen, Sprecher unterscheiden, Geräusche einordnen.
  • Text: Bedeutung erfassen statt Wörter zählen. Alles, was heute unter generativer KI läuft, gehört hierher.

Nicht überlegen ist es bei tabellarischen Geschäftsdaten. Für Umsätze, Stammdaten und Kennzahlen in Zeilen und Spalten liefern Entscheidungsbaum-Verfahren regelmäßig ebenso gute oder bessere Ergebnisse, trainieren in Minuten statt Stunden und lassen sich einem Fachbereich erklären. Ebenso wenig lohnt sich der Aufwand, wenn wenige Beispiele vorliegen, wenn jede Entscheidung begründet werden muss oder wenn die Anwendung auf einem kleinen Gerät ohne nennenswerte Rechenleistung laufen soll.

Die ehrlichste Reihenfolge in einem Projekt ist deshalb: erst ein einfaches Verfahren als Messlatte, dann die Frage, ob die Tiefe diesen Wert genug verbessert, um ihren Preis wert zu sein.

Der Weg zu den heutigen Sprachmodellen

Lange war die Reihenfolge das Problem bei Text: Ältere Netzarchitekturen lasen Wort für Wort und verloren dabei den Anfang eines langen Satzes. 2017 kam die Transformer-Architektur dazu, die einen ganzen Abschnitt auf einmal betrachtet und selbst gewichtet, welche Wörter füreinander wichtig sind. Damit ließ sich das Training parallelisieren, und Parallelisierbarkeit war die Bedingung für alles, was danach kam.

Der zweite Schritt war die Erkenntnis, dass dieselbe Architektur mit mehr Daten und mehr Rechenzeit einfach besser wird, statt an eine Decke zu stoßen. Daraus entstanden die Large Language Models, die heute Chatbots, Assistenten und Übersetzungen antreiben. Sie sind kein neues Verfahren, sondern Deep Learning in sehr groß, ergänzt um ein zweistufiges Training: erst allgemeines Vortraining auf riesigen Textmengen, dann Feinabstimmung auf hilfreiches Verhalten.

Die Schattenseiten der Tiefe wandern dabei mit. Ein Modell, das Muster fortsetzt, unterscheidet nicht zwischen belegter und plausibel klingender Aussage. Das ist der bauliche Grund für die KI-Halluzination, und es ist der Grund, warum ernsthafte Anwendungen dem Modell die Fakten über Retrieval Augmented Generation mitgeben, statt sich auf sein Gedächtnis zu verlassen.

Häufige Fragen zu Deep Learning

Ist Deep Learning dasselbe wie KI? Nein. Künstliche Intelligenz ist der Oberbegriff, maschinelles Lernen ein Teil davon, Deep Learning wiederum ein Teil des maschinellen Lernens. Dass die drei Wörter im Marketing durcheinandergehen, ändert nichts an der Verschachtelung.

Brauche ich eigene Grafikkarten? Für das Training großer Netze ja, für den Rest meistens nicht. Vortrainierte Modelle anzupassen und zu betreiben, geht über gemietete Rechenzeit oder fertige Dienste. Die Frage, ob die Daten dafür das Haus verlassen dürfen, gehört an den Anfang des Projekts.

Wie viele Schichten sind genug? Das entscheidet die Aufgabe, nicht der Ehrgeiz. Ein zu großes Netz lernt die Trainingsdaten auswendig und versagt bei neuen Fällen. In der Praxis übernimmt man eine bewährte Architektur für den jeweiligen Datentyp und ändert daran nur, was messbar hilft.

Kann ich nachvollziehen, warum das Netz so entschieden hat? Nur eingeschränkt. Es gibt Verfahren, die zeigen, welche Teile der Eingabe den Ausschlag gegeben haben, aber eine Begründung im menschlichen Sinn liefern sie nicht. Wo eine Entscheidung begründet werden muss, etwa im Rahmen des EU AI Act, ist das ein handfestes Auswahlkriterium.

Fazit

Deep Learning hat den Umgang mit Bildern, Sprache und Text von Grund auf verändert und ist die Grundlage der Modelle, über die gerade alle reden. Für tabellarische Daten im Mittelstand bleibt es trotzdem oft die zweitbeste Wahl, weil einfachere Verfahren dort schneller, billiger und erklärbarer sind. Die Entscheidung fällt am Datentyp, nicht am Zeitgeist. Welches Verfahren zu deinen Daten passt, ist genau die Frage, mit der eine KI-Beratung für Unternehmen anfängt. Wie wir Software bauen und wo wir KI dabei einsetzen, steht auf unserer Seite zur Custom-Software-Entwicklung. Was davon im Alltag trägt, haben wir im Artikel KI in der Softwareentwicklung beschrieben, und für alles Weitere gibt es das unverbindliche Beratungsgespräch.

← Zurück zum Glossar
STARTSEITEGLOSSARDEEP-LEARNING