Ein Large Language Model (LLM, auf Deutsch etwa „großes Sprachmodell") ist ein KI-Modell, das gelernt hat, den jeweils nächsten Textbaustein in einer Folge vorherzusagen. Aus dieser einen Fähigkeit ergibt sich der ganze Rest: Zusammenfassen, Übersetzen, Klassifizieren, Programmieren und Antworten lassen sich alle als „setze diesen Text sinnvoll fort" formulieren. Gelernt wird das an sehr großen Textmengen, ohne dass jemand dem Modell Grammatik, Regeln oder Fakten einzeln beibringt.
Der Begriff ist jünger als die Technik dahinter. Sprachmodelle gibt es seit Jahrzehnten, groß und praktisch brauchbar wurden sie erst mit der Transformer-Architektur und mit Trainingsläufen, die sich nur noch auf großen Rechenclustern durchführen lassen.
Wie ein LLM arbeitet
Aus Text werden Zahlen
Ein Modell sieht keine Buchstaben. Es sieht Token, also Bruchstücke von Wörtern, die vorher in Zahlen übersetzt wurden. Jedes dieser Token bekommt eine Position in einem hochdimensionalen Raum, in dem Ähnlichkeit von Bedeutung als räumliche Nähe abgebildet ist. Danach rechnet das Modell nur noch mit Zahlen.
Die Architektur
Der technische Kern ist der Transformer, 2017 in einer Google-Veröffentlichung vorgestellt. Sein Kunstgriff heißt Attention: Beim Verarbeiten eines Token darf das Modell auf alle anderen Token im Text schauen und gewichten, welche davon gerade wichtig sind. Deshalb kann ein LLM einen Bezug über mehrere Absätze hinweg halten, während ältere Ansätze ihn nach ein paar Sätzen verloren haben. Darunter liegt gewöhnliches Deep Learning, also ein sehr tiefes neuronales Netz, das über Machine Learning trainiert wird.
Zwei Trainingsstufen
Im Pretraining läuft nur eine Aufgabe: nächstes Token raten, milliardenfach. Danach kann das Modell Sprache, tut aber noch nicht, was man ihm sagt. Erst die zweite Stufe formt daraus einen Assistenten. Dort lernt es an Beispielen von Anweisung und guter Antwort, und Menschen bewerten Antworten, damit das Modell die bevorzugten Muster verstärkt. Diese zweite Stufe erklärt, warum sich zwei technisch ähnliche Modelle im Ton und in der Folgsamkeit deutlich unterscheiden können.
Die Kennzahlen aus dem Datenblatt
| Angabe | Was sie beschreibt | Warum sie zählt |
|---|---|---|
| Parameter | Zahl der trainierten Gewichte im Netz | Grober Hinweis auf Kapazität und auf den Hardwarebedarf beim Betrieb |
| Kontextfenster | Wie viele Token in einen Aufruf passen, Frage und Antwort zusammen | Bestimmt, wie viel Dokument, Verlauf oder Code das Modell gleichzeitig sehen kann |
| Wissensstand | Bis wann die Trainingsdaten reichen | Alles Spätere kennt das Modell nur, wenn du es mitlieferst |
| Modalitäten | Ob neben Text auch Bild, Audio oder Video verarbeitet wird | Entscheidet, ob ein Scan oder ein Screenshot direkt verwertbar ist |
Größer ist dabei nicht automatisch besser. Kleinere Modelle antworten schneller, kosten weniger und laufen auf bescheidener Hardware. Für Klassifizieren, Extrahieren und Umformulieren reichen sie oft aus.
Wofür sich der Einsatz eignet
- Umformen von Text: kürzen, umschreiben, in eine andere Tonlage bringen, in ein festes Format überführen.
- Extrahieren und Sortieren: Rechnungsdaten aus PDF-Anhängen ziehen, Supportanfragen nach Thema einsortieren, Freitext in strukturierte Felder überführen.
- Suche über eigene Unterlagen: Das Modell bekommt die passenden Ausschnitte aus deinen Dokumenten mitgeliefert und antwortet daraus. Das Verfahren heißt Retrieval Augmented Generation.
- Unterstützung beim Entwickeln: Codevorschläge, Testfälle, Migrationsskripte. Die zugespitzte Variante davon ist Vibe Coding.
- Gesprächsoberflächen: ein KI-Chatbot für wiederkehrende Fragen, sinnvoll dort, wo die Antwort aus gepflegten Quellen kommt.
Ein Muster zieht sich durch alle Beispiele. Sprachmodelle sind stark, wo eine Aufgabe Sprache verarbeitet, viele Varianten kennt und ein Fehler auffällt, bevor er teuer wird.
Wo die Grenzen liegen
Erfundene Details. Ein Modell erzeugt plausible Fortsetzungen, keine geprüften Aussagen. Falsche Angaben klingen deshalb genauso überzeugend wie richtige, siehe KI-Halluzination.
Kein Wissen über dein Unternehmen. Interne Prozesse, Preise, Verträge und Bestände stehen nicht in den Trainingsdaten. Wer sie braucht, muss sie mitgeben.
Wechselnde Antworten. Dieselbe Frage kann zweimal unterschiedlich beantwortet werden. Für Prozesse mit fester Erwartung braucht es Prüfschritte um das Modell herum.
Datenschutz. Was an ein fremdes Modell geht, verlässt das Haus. Bei personenbezogenen Daten gehört diese Frage an den Anfang des Projekts, nicht in die Abnahme.
Angreifbarkeit über die Eingabe. Anweisungen können in mitgeliefertem Material versteckt sein, siehe Prompt Injection. Ein Modell unterscheidet nicht zuverlässig zwischen deiner Anweisung und einem Satz aus einem hochgeladenen Dokument.
Fremdes Modell oder eigenes
| Kriterium | Modell über eine fremde Schnittstelle | Selbst betriebenes offenes Modell |
|---|---|---|
| Einstieg | Zugangsschlüssel, erste Antwort in Minuten | Hardware, Betrieb, Aktualisierungen |
| Datenfluss | Inhalte verlassen die eigene Umgebung | Bleibt vollständig im Haus |
| Kosten | Abrechnung je verarbeitetem Token | Fixe Infrastruktur, unabhängig von der Menge |
| Kontrolle | Anbieter kann Modelle ändern oder abschalten | Stand bleibt eingefroren, bis du ihn wechselst |
Für den zweiten Weg lohnt der Blick auf Open-Source-LLM. Rechtlich kommt beides unter denselben Rahmen: Der EU AI Act fragt nach dem Einsatzzweck, nicht nach dem Betriebsmodell.
Häufige Fragen zu Large Language Models
Versteht ein LLM, was es schreibt? Es hat kein Weltmodell im menschlichen Sinn und keine Absicht. Was es hat, ist eine sehr dichte statistische Abbildung davon, wie Sprache über Sachverhalte funktioniert. Für viele Aufgaben ist das ununterscheidbar von Verstehen, für andere bricht der Unterschied genau dann durch, wenn die Frage außerhalb des Gelernten liegt.
Wie bringe ich einem Modell mein Firmenwissen bei? In den meisten Fällen gar nicht durch Training, sondern durch Mitliefern. Die passenden Ausschnitte werden zur Frage dazugelegt, das Modell antwortet daraus. Das ist billiger, schneller aktualisierbar und nachvollziehbarer als ein eigener Trainingslauf.
Was unterscheidet ein LLM von generativer KI? Generative KI ist der Oberbegriff für Modelle, die neue Inhalte erzeugen, Bilder und Musik eingeschlossen. Ein Sprachmodell ist die Spielart davon, die mit Text arbeitet.
Wie viel Aufwand steckt in einem produktiven Einsatz? Der Aufruf des Modells ist der kleinste Teil. Der Aufwand liegt in den Daten, in der Prüfung der Ergebnisse, in Rechten und Protokollierung und in der Frage, was passiert, wenn die Antwort falsch ist.
Fazit
Ein Large Language Model ist ein Werkzeug mit einer sehr breiten und einer sehr scharfen Kante. Breit, weil sich erstaunlich viele Aufgaben als Textaufgabe formulieren lassen. Scharf, weil das Modell nie meldet, dass es gerade rät. Projekte gelingen deshalb selten am Modell und fast immer an dem, was drumherum gebaut wird: saubere Daten, klare Zuständigkeit für die Prüfung, ein definierter Umgang mit Fehlern. Wie wir Software bauen und wo KI dabei sinnvoll ist, steht auf unserer Seite zur Custom-Software-Entwicklung. Den Weg von einem Modell zu einer Anwendung, die im Betrieb hält, beschreibt unsere Seite zur KI-Integration in bestehende Software. Was in der Praxis trägt und was nicht, haben wir im Artikel KI in der Softwareentwicklung aufgeschrieben. Für eine konkrete Einschätzung zu deinem Fall gibt es das unverbindliche Beratungsgespräch.