aceArt · KI-Agentur

KI-Chatbot entwickeln lassen

Ein Chatbot, der aus allgemeinem Weltwissen antwortet, ist für ein Unternehmen ungefähr so nützlich wie eine Suchmaschine im Eingangsbereich. Interessant wird es, wenn er eure Handbücher kennt, eure Produktdaten, eure Preisliste und die interne Anweisung von letztem Herbst. Genau das bauen wir, und zwar so, dass er sagt, woher eine Antwort stammt.

Jetzt beraten lassen

Zwei Anwendungsfälle, dieselbe Technik

Der Bot auf eurer Website

Er beantwortet, was Kundinnen und Kunden zum zwanzigsten Mal fragen, rund um die Uhr und ohne dass jemand im Service dafür abends aufsteht. Wichtig ist dabei weniger der Umfang als die Grenze. Ein Bot, der bei einer Frage jenseits seines Wissens ehrlich an einen Menschen übergibt, wird akzeptiert. Einer, der sich etwas ausdenkt, kostet Vertrauen, das später niemand zurückholt.

Der interne Assistent

Er sitzt hinter der Anmeldung und kennt das, was im Haus verstreut liegt: Wiki, Handbücher, Verfahrensanweisungen, alte Angebote, technische Datenblätter. Der Nutzen zeigt sich meist nicht in eingesparten Stunden, sondern daran, dass neue Kolleginnen und Kollegen deutlich schneller selbstständig arbeiten und erfahrene weniger unterbrochen werden.

RAG, oder warum der Bot nicht frei erfindet

Ein Sprachmodell weiß nichts über euer Unternehmen. Fragt man es trotzdem, formuliert es eine plausibel klingende Antwort, denn es ist darauf trainiert, plausibel zu klingen, nicht darauf, richtig zu liegen. Das ist der Kern des Halluzinationsproblems, und es lässt sich nicht wegprompten.

Retrieval-Augmented Generation dreht die Reihenfolge um. Bevor das Modell antwortet, wird in euren Dokumenten nach passenden Stellen gesucht. Diese Stellen bekommt es mitgeliefert, zusammen mit der Anweisung, nur daraus zu antworten. Damit verschiebt sich die Aufgabe vom Wissen zum Zusammenfassen, und das kann ein Sprachmodell gut. Ausführlich im Glossar.

Was das praktisch bedeutet

  • Jede Antwort kann die Quelle nennen. Wer nachschauen will, klickt auf das Dokument.
  • Neue Dokumente sind sofort verfügbar. Es muss nichts nachtrainiert werden.
  • Findet die Suche nichts Passendes, sagt der Bot das, statt zu raten. Diese Regel ist die wichtigste von allen.
  • Zugriffsrechte bleiben erhalten. Wer ein Dokument nicht sehen darf, bekommt es auch vom Bot nicht.

Die Qualität eines RAG-Systems entscheidet sich übrigens nicht am Modell, sondern an der Suche davor. Wenn die falschen Textstellen gefunden werden, hilft auch das beste Modell nicht mehr. Genau dort steckt der handwerkliche Teil der Arbeit: wie Dokumente zerlegt werden, wie gesucht wird und wie die Treffer sortiert werden.

Wo eure Daten liegen

Was an ein fremdes Modell geschickt wird, verlässt das Haus. Das ist keine juristische Feinheit, sondern die zentrale Entscheidung des Projekts, und sie gehört an den Anfang und nicht in die Abnahme. Je nach Anforderung arbeiten wir mit Anbietern, die innerhalb der EU verarbeiten, mit sauber geregelter Auftragsverarbeitung oder mit Modellen, die vollständig in eurer eigenen Umgebung laufen.

Der letzte Weg kostet mehr Betrieb und liefert oft etwas schwächere Antworten. Dafür verlässt kein Satz euer Netz. Welcher Weg der richtige ist, hängt davon ab, was in den Dokumenten steht. Für einen Bot auf öffentlichen Produktinformationen gelten andere Maßstäbe als für einen auf Personalakten.

Vom Chatbot zum Agenten

Ein Chatbot antwortet. Ein Agent handelt: Er ruft Systeme auf, legt einen Vorgang an, holt Daten aus dem CRM und arbeitet mehrere Schritte hintereinander ab. Der Übergang ist fließend, und viele Projekte beginnen als Chatbot und wachsen genau in diese Richtung, sobald die Frage aufkommt „kann er das nicht auch gleich eintragen?“.

Das ist auch am Suchverhalten ablesbar, wo der Begriff Agent dem Chatbot gerade den Rang abläuft. Technisch ist es dieselbe Grundlage, aber die Anforderungen an Grenzen und Freigaben steigen deutlich. Mehr dazu auf der Seite zu KI-Agenten.

Wie wir vorgehen

  • Wir klären zuerst, welche Fragen der Bot beantworten soll, und vor allem welche nicht.
  • Wir sichten die Dokumente. Häufig ist das der Moment, in dem auffällt, dass drei Fassungen derselben Anweisung im Umlauf sind.
  • Ein erster Stand geht früh an eine kleine Gruppe echter Nutzer. Die Fragen, die dort auflaufen, sind lehrreicher als jede Planung.
  • Wir messen, wie oft der Bot nichts findet, und arbeiten genau an diesen Lücken.
  • Nach dem Livegang bleibt der Bot in Beobachtung. Dokumente ändern sich, Modelle werden abgelöst, und die Kosten laufen mit der Nutzung.

Häufige Fragen zu KI-Chatbots

Was kostet ein KI-Chatbot?
Zwei Posten gehören getrennt betrachtet. Die Entwicklung hängt daran, wie viele und wie saubere Dokumente vorliegen und wie tief der Bot in eure Systeme greift. Dazu kommen laufende Kosten, denn jede Anfrage an ein Modell wird abgerechnet. Diesen zweiten Posten rechnen wir vorher durch, weil er bei klassischer Software so nicht existiert und deshalb regelmäßig vergessen wird.
Was ist RAG, und warum halluziniert der Bot damit nicht?
Bei Retrieval-Augmented Generation wird vor der Antwort in euren Dokumenten gesucht, und das Modell darf nur aus den gefundenen Stellen antworten. Damit muss es nichts wissen, sondern nur zusammenfassen. Ganz ausschließen lässt sich eine falsche Antwort nicht, aber sie wird selten und ist überprüfbar, weil die Quelle mit ausgeliefert wird.
Kann der Chatbot auf unsere Dokumente zugreifen?
Ja, das ist der eigentliche Zweck. Üblich sind PDF, Word, Wiki-Seiten, Intranet-Inhalte, Produktdatenbanken und Ticketsysteme. Entscheidend ist weniger das Format als die Frage, ob die Inhalte gepflegt sind. Ein Bot auf veralteten Dokumenten gibt zuverlässig veraltete Antworten.
Wo liegen unsere Daten?
Das entscheidet ihr, und wir richten uns danach. Möglich sind Anbieter mit Verarbeitung in der EU, Auftragsverarbeitung mit klaren Regeln oder ein Modell, das vollständig bei euch läuft. Die letzte Variante kostet mehr Betrieb und liefert oft etwas schwächere Antworten, dafür verlässt kein Satz euer Netz.
Wie lange dauert die Entwicklung?
Ein erster nutzbarer Stand auf einem überschaubaren Dokumentenbestand ist in wenigen Wochen realistisch. Länger dauert es, wenn Rechte fein abgestuft sind, viele Formate zusammenkommen oder die Dokumente vorher aufgeräumt werden müssen. Wir fangen deshalb lieber mit einem Bereich an als mit dem ganzen Haus.
Was passiert, wenn der Bot etwas Falsches sagt?
Dafür gibt es zwei Vorkehrungen. Erstens antwortet er nur aus gefundenen Quellen und gibt diese an, so ist ein Fehler nachvollziehbar. Zweitens grenzen wir ein, wozu er überhaupt antwortet. Bei rechtlich oder finanziell heiklen Themen übergibt er an einen Menschen, statt sein Glück zu versuchen.
Können wir den Bot selbst pflegen?
Ja. Die Pflege besteht im Normalfall darin, Dokumente zu aktualisieren, denn der Bot zieht sich seinen Stand daraus. Für Anpassungen an Verhalten und Tonfall richten wir einen Zugang ein, mit dem euer Team ohne uns auskommt.
Funktioniert das auch auf einer WordPress- oder TYPO3-Seite?
Ja, die Einbindung in eine bestehende Website ist der Normalfall. Wir bauen Websites in beiden Systemen selbst, deshalb ist die Anbindung für uns Routine und nicht die eigentliche Aufgabe. Mehr dazu bei der KI-Integration.

Ähnliche Themen

KI-Agenten

Wenn der Bot nicht nur antworten, sondern handeln soll. Zu den KI-Agenten.

KI-Integration

Die Anbindung an Website, CRM oder ERP. Zur KI-Integration.

KI-Beratung

Wenn noch offen ist, ob ein Chatbot überhaupt der richtige Einstieg ist. Zur KI-Beratung.

Bereit für dein KI-Projekt?

Erzähl uns von deinem Vorhaben. Wir melden uns zeitnah mit einer ehrlichen Einschätzung.

Jetzt kontaktieren
STARTSEITE › KI-CHATBOT-ENTWICKLUNG