aceArt · KI-Agentur

KI-Integration in bestehende Software

Die meisten Unternehmen brauchen kein neues KI-Produkt. Sie haben eine Anwendung, mit der ihre Leute jeden Tag arbeiten, und an genau drei Stellen darin wäre ein Sprachmodell nützlich. Das einzubauen ist Entwicklungsarbeit, keine Beratungsleistung, und es ist die Stelle, an der wir uns von den meisten KI-Anbietern unterscheiden.

Jetzt beraten lassen

Wie ein Modell in eure Anwendung kommt

Technisch ist der Zugriff auf ein Sprachmodell ein Aufruf über eine Schnittstelle, die sogenannte API. Man schickt einen Text hin und bekommt einen Text zurück. Das ist der einfache Teil, und Anleitungen dafür gibt es genug. Der Aufwand steckt woanders.

  • Was schickt man überhaupt hin? Der Prompt muss aus dem Zustand eurer Anwendung entstehen, nicht aus einem Textfeld.
  • Was macht man mit der Antwort? Freier Text ist selten das, was ein Formular oder eine Datenbank gebrauchen kann.
  • Was passiert, wenn der Dienst langsam ist oder ausfällt? Ein Modellaufruf dauert Sekunden, nicht Millisekunden, und das merkt die Oberfläche.
  • Wie verhindert man, dass Kosten unbemerkt wachsen? Jede Anfrage wird abgerechnet, und ein unbedachter Aufruf in einer Schleife fällt erst auf der Rechnung auf.
  • Wie prüft man, ob es besser geworden ist? Ohne Vergleichsfälle ist jede Änderung am Prompt Glaubenssache.

Diese fünf Punkte sind der Unterschied zwischen einer Demo und etwas, das im Betrieb bleibt. Sie sind auch der Grund, warum wir Integrationen selbst bauen und nicht nur empfehlen.

Wo wir einbauen

Web-Anwendungen und eigene Software

Der häufigste Fall: In einer Anwendung, die wir oder jemand anders gebaut hat, soll eine Funktion dazukommen. Texte vorschlagen, Eingaben zusammenfassen, Freitext in strukturierte Daten überführen, Inhalte einordnen. Individuelle Softwareentwicklung ist unser Tagesgeschäft, die KI-Funktion ist ein Baustein darin.

WordPress und TYPO3

Im Redaktionsalltag ist der Nutzen schnell sichtbar: Vorschläge für Meta-Beschreibungen, Übersetzungen, Zusammenfassungen, alternative Bildtexte, Vorschläge für interne Verlinkung. Wir bauen Websites in beiden Systemen selbst, deshalb setzen wir solche Funktionen als saubere Erweiterung um und nicht als eingehängtes Fremd-Plugin. Siehe auch WordPress-Agentur und TYPO3-Agentur.

CRM, ERP und Fachanwendungen

Hier sitzt der eigentliche Wert, und hier ist es am aufwendigsten. Meist geht es darum, unstrukturierte Eingaben nutzbar zu machen: aus Gesprächsnotizen Felder befüllen, aus Freitext-Bestellungen Positionen erkennen, aus Serviceberichten Auswertungen ziehen. Der Aufwand liegt fast immer an den Schnittstellen des Bestandssystems, nicht am Modell.

Welche Daten das Haus verlassen

Bei einer Integration ist das keine abstrakte Frage. Jeder Aufruf schickt genau die Daten mit, die im Prompt stehen, und ein Prompt entsteht aus eurer Anwendung heraus. Deshalb legen wir früh fest, welche Felder mitgehen dürfen und welche vorher entfernt oder ersetzt werden.

Für die Anbieterwahl gibt es drei gangbare Wege. Anbieter mit Verarbeitung in der EU und geregelter Auftragsverarbeitung decken die meisten Fälle ab, Azure OpenAI ist hier ein häufiger Kompromiss aus Leistungsfähigkeit und Vertragslage. Wo das nicht reicht, kommen offene Modelle in eurer eigenen Umgebung in Frage, die dafür mehr Betrieb kosten. Und in manchen Fällen ist die richtige Antwort, für dieses eine Feld kein Modell zu benutzen.

Laufende Kosten im Griff

Das ist der Punkt, an dem KI-Projekte sich anders verhalten als alles, was ihr vorher gekauft habt. Klassische Software kostet einmal in der Entwicklung und dann im Betrieb. Ein Sprachmodell wird pro Anfrage abgerechnet, genauer gesagt nach der Menge des verarbeiteten Textes. Die Rechnung wächst also mit der Nutzung, und wenn die Funktion gut angenommen wird, wächst sie schnell.

  • Wir rechnen die zu erwartenden Mengen vor dem Bau durch, anhand eurer echten Nutzungszahlen.
  • Für wiederkehrende Anfragen speichern wir Antworten zwischen, statt dieselbe Frage zehnmal zu bezahlen.
  • Für einfache Aufgaben nehmen wir kleinere Modelle. Nicht jede Zusammenfassung braucht das teuerste.
  • Verbrauchsgrenzen und eine Warnung, bevor eine Grenze erreicht ist, gehören zur Grundausstattung.

Wir bauen außerdem so, dass sich das Modell austauschen lässt. Der Markt bewegt sich schnell, und wer sich fest an einen Anbieter bindet, baut den Wechsel später ein zweites Mal.

Häufige Fragen zur KI-Integration

Wie kommt ChatGPT in unsere Website oder App?
Über die API des Anbieters. Eure Anwendung schickt einen Prompt und bekommt eine Antwort zurück. Die Arbeit steckt darin, den Prompt aus dem Zustand der Anwendung zu erzeugen, die Antwort in eine verwertbare Form zu bringen und Wartezeiten sowie Ausfälle so abzufangen, dass die Oberfläche brauchbar bleibt. Die reine Anbindung ist der kleinste Teil.
Ist die API-Nutzung DSGVO-konform, und welche Daten verlassen das Haus?
Es verlassen genau die Daten das Haus, die im Prompt stehen, und darüber entscheidet ihr gemeinsam mit uns. Für die Anbieterwahl gibt es drei Wege: Verarbeitung in der EU mit geregelter Auftragsverarbeitung, offene Modelle in eurer eigenen Umgebung, oder bewusst kein Modell für besonders heikle Felder. Was passt, hängt daran, was in den Daten steht.
Was kostet der laufende Betrieb?
Abgerechnet wird nach verarbeiteter Textmenge, die Rechnung wächst also mit der Nutzung. Wir schätzen die Kosten vor dem Bau anhand eurer echten Mengen, speichern wiederkehrende Antworten zwischen, wählen für einfache Aufgaben kleinere Modelle und richten Verbrauchsgrenzen mit Warnung ein.
Können wir ChatGPT in TYPO3 oder WordPress einbinden?
Ja, und wir bauen Websites in beiden Systemen selbst. Im Redaktionsalltag lohnen sich vor allem Vorschläge für Meta-Beschreibungen, Zusammenfassungen, Übersetzungen und alternative Bildtexte. Wir setzen das als saubere Erweiterung um, damit die Funktion ein Update des Systems übersteht.
Welches Modell sollten wir nehmen?
Das entscheidet die Aufgabe, nicht die Marke. Für Einordnung und Zusammenfassung reichen oft kleinere und günstigere Modelle, für kniffliges Textverständnis lohnt ein großes. Wir bauen die Anbindung so, dass sich das Modell später wechseln lässt, weil sich der Markt schneller bewegt als eure Anwendung.
Was passiert, wenn der Anbieter ausfällt?
Das kommt vor, deshalb gehört ein Verhalten für diesen Fall in die Planung. Je nach Funktion heißt das: eine verständliche Meldung statt einer hängenden Oberfläche, ein Wechsel auf einen zweiten Anbieter, oder ein Weg, die Aufgabe ohne KI zu erledigen. Was richtig ist, hängt daran, wie wichtig die Funktion ist.
Können wir das nicht mit einem fertigen Plugin lösen?
Für Standardaufgaben oft ja, und dann sagen wir das auch. Sobald eure eigene Fachlogik oder eure Daten im Spiel sind, endet die Reichweite der fertigen Lösungen schnell. Die Grenze verläuft dort, wo das Plugin eure Datenstruktur nicht kennt.
Wie lange dauert eine Integration?
Eine abgegrenzte Funktion in einer vorhandenen Anwendung ist häufig in wenigen Wochen fertig. Länger dauert es fast immer wegen des Bestandssystems, nicht wegen der KI. Wenn ein altes ERP keine brauchbare Schnittstelle hat, liegt dort der Hauptteil der Arbeit.

Ähnliche Themen

Individuelle Softwareentwicklung

Wenn die Anwendung selbst neu entstehen soll. Zur Softwareentwicklung.

MVP-Workshop

Um vorher auszuprobieren, ob die Funktion trägt. Zum MVP-Workshop.

KI-Chatbots & RAG

Wenn die Anwendung auf euer eigenes Firmenwissen antworten soll. Zur Chatbot-Entwicklung.

Bereit für dein KI-Projekt?

Erzähl uns von deinem Vorhaben. Wir melden uns zeitnah mit einer ehrlichen Einschätzung.

Jetzt kontaktieren
STARTSEITE › KI-INTEGRATION