Ein KI-Chatbot ist ein Dialogsystem, das Anfragen in natürlicher Sprache versteht und beantwortet, ohne dass jemand die möglichen Gesprächsverläufe vorher festgelegt hat. Grundlage ist heute fast immer ein Large Language Model, das den bisherigen Verlauf liest und die Antwort Stück für Stück erzeugt. Der Unterschied zum klassischen Bot liegt genau da: Der eine folgt einem Entscheidungsbaum, der andere formuliert.
Damit verschiebt sich auch die Arbeit. Bei einem regelbasierten Bot steckt der Aufwand im Schreiben der Dialoge. Bei einem KI-Chatbot steckt er darin, dem Modell das richtige Wissen und die richtigen Grenzen mitzugeben.
Wie eine Antwort zustande kommt
Der Weg durch das System
- Die Frage der Nutzerin geht an die Anwendung, nicht direkt an das Modell.
- Die Anwendung sucht passende Informationen zusammen: Ausschnitte aus der Wissensdatenbank, Daten aus dem Shop oder CRM, den bisherigen Gesprächsverlauf.
- Aus Systemanweisung, gefundenen Informationen und Frage entsteht ein Prompt.
- Das Modell erzeugt die Antwort.
- Die Anwendung prüft, protokolliert und zeigt sie an, gegebenenfalls mit Quellenangabe.
Der springende Punkt ist Schritt zwei. Ein Sprachmodell weiß nichts über deine Öffnungszeiten, deine Preise oder den Status einer Bestellung. Alles, was der Bot dazu sagt, muss vorher jemand hineingereicht haben.
Woher das Wissen kommt
Das übliche Verfahren dafür heißt Retrieval Augmented Generation: Die Dokumente werden in Abschnitte zerlegt, durchsuchbar abgelegt und bei jeder Frage passend abgerufen. Das Modell formuliert dann aus dem, was es gerade vorgelegt bekommt.
Der Vorteil ist praktischer Natur. Ändert sich eine Information, ändert man das Dokument und nicht das Modell. Die Antwort lässt sich auf eine Quelle zurückführen, und genau das braucht man, wenn jemand nachfragt, warum der Bot etwas behauptet hat.
Wie lang der Verlauf und die abgerufenen Ausschnitte zusammen sein dürfen, begrenzt das Kontextfenster. Es wird in Token gemessen und ist mitverantwortlich für die Betriebskosten: Jede Antwort bezahlt man nach Ein- und Ausgabemenge.
Drei Bauarten
| Bauart | Wie sie arbeitet | Stärke | Schwäche |
|---|---|---|---|
| Regelbasiert | Feste Dialogbäume, Schlüsselwörter, Buttons | Vorhersagbar, günstig, prüfbar | Scheitert an jeder unerwarteten Formulierung |
| LLM-basiert | Sprachmodell mit angebundenem Wissen | Versteht freie Sprache, deckt viele Fälle ab | Kann danebenliegen, laufende Kosten, mehr Aufsicht nötig |
| Hybrid | Regeln für eindeutige Abläufe, Modell für den Rest | Kombiniert Verlässlichkeit und Sprachverständnis | Aufwendiger im Entwurf |
In der Praxis ist die hybride Bauart meist die tragfähige. Eine Sendungsverfolgung ist ein eindeutiger Vorgang und gehört in eine Regel: Nummer entgegennehmen, Schnittstelle abfragen, Status ausgeben. Eine offen formulierte Frage nach der passenden Variante eines Produkts ist nicht eindeutig, und dort spielt das Modell seine Stärke aus.
Bekommt der Bot zusätzlich die Erlaubnis, selbst Werkzeuge zu bedienen und mehrere Schritte hintereinander zu planen, spricht man von einem KI-Agenten. Das ist eine andere Kategorie von Projekt, mit deutlich höheren Anforderungen an Rechte und Aufsicht.
Wo die Technik trägt
- Wiederkehrende Auskünfte: Fragen, die im Support ohnehin täglich gestellt werden und deren Antwort dokumentiert ist.
- Suche in großen Beständen: Handbücher, Tarifwerke, Produktkataloge. Wer nicht weiß, wonach er suchen soll, kommt mit einer Frage weiter als mit einem Suchfeld.
- Vorqualifizierung: Anliegen aufnehmen, einordnen und mit Zusammenfassung an die richtige Stelle übergeben.
- Entlastung außerhalb der Geschäftszeiten: Nicht als Ersatz für Menschen, sondern damit am Morgen sortierte Anfragen bereitliegen.
Schwierig wird es überall dort, wo eine falsche Antwort mehr kostet als eine ausbleibende: bei Rechtsauskünften, medizinischen Fragen, verbindlichen Zusagen, Preisverhandlungen. Dort gehört der Mensch in die Schleife, und zwar vor der Antwort und nicht danach.
Was ein solches Projekt schwer macht
Die Datenlage. Ein Chatbot ist so gut wie die Dokumente, aus denen er antwortet. Widersprüchliche oder veraltete Inhalte werden nicht ausgeglichen, sondern verstärkt. Häufig ist der erste ehrliche Projektschritt deshalb das Aufräumen der Wissensbasis.
Falsche Antworten. Ein Modell erzeugt auch dann eine flüssige Antwort, wenn es die Antwort nicht kennt. Diese KI-Halluzinationen lassen sich durch angebundenes Wissen, Quellenangaben und eine erlaubte Nichtantwort deutlich reduzieren, aber nicht abstellen. “Das weiß ich nicht, ich verbinde dich weiter” muss ein zulässiges Ergebnis sein.
Die Übergabe. Der Ausstieg zum Menschen ist die wichtigste Funktion im ganzen System. Er muss jederzeit erreichbar sein, den Verlauf mitnehmen und darf keine Sackgasse enthalten.
Sicherheit. Ein Bot, der fremde Inhalte liest, etwa hochgeladene Dokumente oder Ticketverläufe, ist angreifbar über Prompt Injection. Je mehr Rechte er auf angebundene Systeme hat, desto ernster ist das.
Messbarkeit. Ohne Kennzahlen bleibt der Nutzen Behauptung. Sinnvoll sind Lösungsquote ohne Übergabe, Abbruchquote, Anteil der Antworten mit belastbarer Quelle und die Entwicklung des Ticketaufkommens.
Pflichten beim Einsatz
Ein Chatbot auf einer Website berührt drei Themen gleichzeitig.
Kennzeichnung. Nach den Transparenzregeln des EU AI Act müssen Menschen erkennen können, dass sie mit einem System sprechen. Eine versteckte Übergabe an “Julia vom Kundenservice”, hinter der ein Modell steckt, ist nicht zulässig.
Datenschutz. Was Nutzerinnen eintippen, verlässt bei einem gehosteten Modell das Haus. Verarbeitungsort, Auftragsverarbeitung, Speicherdauer der Verläufe und der Umgang mit versehentlich eingegebenen personenbezogenen Daten gehören vor den Start geklärt, nicht danach.
Barrierefreiheit. Ein Chatfenster ist eine Bedienoberfläche wie jede andere: Tastaturbedienung, Fokusführung, sinnvolle Beschriftungen, Ansage neuer Nachrichten für Screenreader, ausreichende Kontraste, kein Zeitdruck. Viele eingekaufte Widgets scheitern genau hier. Was dabei zu prüfen ist, steht auf unserer Seite zur Barrierefreiheit.
Häufige Fragen zu KI-Chatbots
Was unterscheidet einen KI-Chatbot von einem normalen Chatbot? Der klassische Bot folgt vorgegebenen Pfaden und erkennt Schlüsselwörter. Der KI-Chatbot versteht freie Formulierungen und erzeugt seine Antwort neu. Der Preis dafür ist geringere Vorhersagbarkeit.
Kann ein Chatbot den Support ersetzen? Er nimmt Routine ab und verschiebt die Arbeit. Ersetzen kann er den Support dort nicht, wo Urteilsvermögen, Kulanz oder Verantwortung gefragt sind. Realistisch ist eine Entlastung bei wiederkehrenden Fragen, keine Abschaffung einer Rolle.
Muss das Modell auf unsere Daten trainiert werden? In den meisten Fällen nicht. Wissen über die eigene Firma bindet man über eine durchsuchbare Wissensbasis an, nicht über Training. Das ist günstiger, schneller aktualisierbar und nachvollziehbar. Feintuning lohnt eher für Stil und Format als für Fakten.
Wie viel Pflege braucht so ein System? Dauerhaft etwas. Inhalte veralten, Fragen verschieben sich, Modelle werden abgelöst. Ein Chatbot ist kein Projekt mit Abnahme, sondern ein Betrieb mit Verantwortlichen.
Fazit
Ein KI-Chatbot ist technisch schnell aufgesetzt und inhaltlich langsam gut. Über den Nutzen entscheidet selten das Modell, sondern die Qualität der angebundenen Daten, ein sauberer Weg zum Menschen und die Frage, ob jemand die Antworten regelmäßig anschaut. Dazu kommen Pflichten, die sich nicht nachrüsten lassen: Kennzeichnung, Datenschutz, Bedienbarkeit für alle. Wie wir Anwendungen entwerfen, bei denen Schnittstellen, Protokollierung und Aufsicht von Anfang an zusammenpassen, steht auf unserer Seite zur Custom-Software-Entwicklung. Eine Einordnung, was KI in Projekten heute wirklich leistet, gibt der Artikel KI in der Softwareentwicklung. Was das für ein konkretes Projekt bedeutet, von der Wissensbasis bis zur sauberen Übergabe an einen Menschen, steht auf unserer Seite zur KI-Chatbot-Entwicklung. Wenn du überlegst, ob sich das für deinen Fall rechnet, klär das im unverbindlichen Beratungsgespräch.