Decision Model im Kundenservice: Wie Sie mit Jev die Kosten Ihres Chatbots senken

Ihr KI-Chatbot trifft in jedem Gespräch mehrere Entscheidungen, bevor er antwortet: an welches Team die Anfrage geht, ob der Kunde einen Menschen sprechen möchte, wie dringend das Anliegen ist. Häufig erledigt das ein großes Sprachmodell, und jede dieser Entscheidungen kostet Geld.

Seit Mitte September gibt es dafür eine günstigere Lösung, denn am 15. September 2026 hat TypeSafe AI mit Jev ein sogenanntes Decision Model veröffentlicht, das Fragen zu einem Text beantwortet und nur strukturierte Werte zurückgibt. In einer ersten unabhängigen Studie kosteten große Sprachmodelle für solche Bewertungen 16- bis 325-mal so viel wie Jev und brauchten 28- bis 350-mal so lange. Auch OpenAI hat am 6. Oktober mit der Decisions API ein eigenes Konkurrenzprodukt nachgeschoben.

Unter Entwickler:innen wird das Thema gegenwärtig intensiv diskutiert und besonders für KI-Agenten im Kundenservice sehen wir großes Potenzial, um Kosten zu senken. In diesem Beitrag erfahren Sie, welche Entscheidungen sich für ein Decision Model im Kundenservice eignen, wie viel Sie damit sparen können und wie Sie den Einstieg testen, bevor Sie umstellen.

Welche Entscheidungen trifft Ihr Chatbot im Hintergrund?

Mehr, als man denkt. Jede davon ist eine Frage mit fest umrissenen Antwortmöglichkeiten, und genau dafür sind Decision Models gebaut. Einige Beispiele aus dem Kundenservice:

In einem einzigen Gespräch können so schnell fünf oder mehr Entscheidungen zusammenkommen.

Wer trifft diese Entscheidungen heute?

In vielen KI-Chatbots übernimmt das ein großes Sprachmodell, also dieselbe Art KI, die auch die Antworten an Ihre Kunden formuliert. Es liest die Nachricht, wägt ab und schreibt sein Ergebnis auf. Das funktioniert, ist aber für diese Aufgabe überdimensioniert. Paolo Rosson, Head of Applied AI beim Buchhaltungssoftware-Anbieter Dext, beschreibt das Problem gegenüber Fortune so: Man bezahlt für eine komplett ausformulierte Antwort, obwohl man nur ein Etikett braucht.

Bei einem einzelnen Chat fällt das kaum ins Gewicht. Wenn das Sprachmodell aber Tausende solcher Anfragen am Tag bearbeitet, summieren sich Kosten und Wartezeit jedes einzelnen Aufrufs.

Wie senkt ein Decision Model im Kundenservice die Kosten?

Ein Decision Model schreibt keinen Text. Es liest die Kundennachricht, wählt aus Ihren vorgegebenen Antworten die passende aus und sagt dazu, wie sicher es sich ist. Weil der ganze Schreibaufwand wegfällt, ist es deutlich schneller und günstiger.

Wie groß der Unterschied ist, zeigen erste Zahlen. TypeSafe selbst gibt Antwortzeiten von 70 bis 500 Millisekunden an und nennt aus eigenen Tests bis zu 193,6-mal schnellere und 444,6-mal günstigere Ergebnisse als mit Sprachmodellen bei eng umrissenen Entscheidungen. Das sind Herstellerangaben. Spannender ist deshalb eine erste unabhängige Studie von Delip Rao und Chris Callison-Burch: Dort kosteten die verglichenen Sprachmodelle 16- bis 325-mal so viel wie Jev und brauchten 28- bis 350-mal so lange, während sich die Treffsicherheit in höchstens 8 von 27 Vergleichen deutlich unterschied.

Auch beim Preismodell sparen Sie: Jev kostet 0,042 US-Dollar pro Million eingelesener Tokens, OpenAI verlangt für seine Decisions-API 0,10 US-Dollar, und keiner der beiden Anbieter berechnet etwas für die Ausgabe.

Für Ihren Kundenservice lohnt sich eine einfache Rechnung: Chats pro Tag mal Entscheidungen pro Chat. Je größer diese Zahl, desto mehr sparen Sie mit jedem Aufruf. Und weil die Entscheidung in Sekundenbruchteilen fällt, bekommt Ihr Kunde schneller seine Antwort.

Wie sieht das konkret aus?

Sie stellen dem Modell eine Frage in normaler Sprache und geben die erlaubten Antworten vor. Drei Fälle, die wir uns in einer Demo angesehen haben:

Die Anfrage dem richtigen Team zuordnen.

Ein Kunde schreibt: „Ich wurde diesen Monat zweimal für mein Premium-Abo abgebucht. Bitte erstatten Sie mir den doppelten Betrag.“ Jev erhält dazu eine kurze Beschreibung Ihres Unternehmens und die Frage, welches Team die Anfrage bearbeiten soll. Zur Auswahl stehen Abrechnung, Technik, Konto, Versand und Vertrieb, jeweils mit einer kurzen Beschreibung, wofür das Team zuständig ist, etwa Zahlungen, Gutschriften und Abbuchungen bei der Abrechnung oder Lieferstatus und Retouren beim Versand. Jev wählt Abrechnung mit einer Sicherheit von 1,00. Das liegt über der Schwelle von 0,80, also geht das Ticket automatisch an das Abrechnungsteam, das sich direkt um die Erstattung kümmern kann.

Den passenden Hilfeartikel finden.

Ein Kunde fragt im Chat: „Wie bekomme ich den Bewegungsmelder in mein WLAN?“ Jev erhält dazu eine kurze Beschreibung Ihres Unternehmens und die Frage, welcher Hilfeartikel die Kundenfrage beantwortet. Zur Auswahl stehen acht Artikel, etwa zu WLAN, Passwort, Rücksendung oder Datenschutz, plus die Option „Keiner der Artikel beantwortet die Frage“. Das Modell wählt den WLAN-Artikel mit einer Sicherheit von 1,00. Weil das über der festgelegten Schwelle von 0,80 liegt, schickt der Chatbot den Artikel automatisch, und Ihr Team hat Zeit für die Anfragen, bei denen es wirklich gebraucht wird.

Das Hauptanliegen erkennen.

„Seit dem letzten Update zeigt mein Thermostat falsche Temperaturen an. Langsam reicht es mir.“ Hier fragt das System Jev, worum es dem Kunden im Kern geht: Informationsfrage, Störung, Beschwerde, Kündigung, Lob oder Wunsch nach einer neuen Funktion. Die Nachricht passt zu mehr als einer Kategorie, und das zeigt sich in Jevs Antwort. Angenommen, Jev schätzt die Nachricht zu 0,62 als Störung und zu 0,35 als Beschwerde ein: Dann liegt die Sicherheit unter der Schwelle von 0,80, und der Chat geht an Ihr Team, das sich das Problem ansieht und dem verärgerten Kunden persönlich antwortet. Für folgenreiche Fälle wie Kündigungen oder Beschwerden legen Sie die Schwelle ohnehin höher.

Was ändert sich für die Kunden?

Davon bekommt der Kunde nichts mit. „Abrechnung, 100 Prozent“ ist eine interne Information für Ihr System. Die Antwort an den Kunden schreibt weiterhin Ihr Chatbot mit seinem Sprachmodell, so wie heute. Das Decision Model arbeitet ihm im Hintergrund zu. So nutzen Sie für jede Aufgabe das Modell, das dafür am besten passt: das schnelle für die Entscheidung, das große für die Formulierung.

Wofür ist die Prozentzahl gut?

Mit der Sicherheitsangabe legen Sie fest, wann Ihr System selbst entscheidet und wann Ihr Team übernimmt. Liegt die Sicherheit über einem festgelegten Schwellenwert, geht die Nachricht automatisch an Abrechnung oder Technik, darunter wird sie für eine Prüfung durch einen Menschen markiert. Zum Beispiel: Ab 85 Prozent leitet das System selbst weiter, darunter schaut jemand aus Ihrem Team drauf.

Ab welcher Sicherheit ein Mensch prüfen soll, hängt davon ab, wie viel Risiko Sie eingehen möchten. Bei einer Kündigungsabsicht setzen Sie die Grenze am besten anders als bei der Frage, ob eine Anfrage zum Versand gehört.

Eine Erkenntnis aus der unabhängigen Studie hilft Ihnen bei dieser Entscheidung. Bei den Fällen, in denen Jev sich sehr sicher und trotzdem falsch war, wiederholten die großen Sprachmodelle in rund 96 Prozent der Fälle denselben Fehler. Für Sie heißt das: Unabhängig vom Modell laufen solche Fehler unbemerkt weiter, und Sie finden sie nur durch regelmäßige AI-Evals, um dann Formulierungen für verschiedene Gruppen nachzujustieren. Mit diesen regelmäßigen Qualitätskontrollen im laufenden Betrieb sehen Sie, wo Sie die Beschreibungen der Antwortmöglichkeiten nachschärfen sollten, und halten die Qualität Ihres Agenten dauerhaft hoch, ganz gleich, welches Modell im Hintergrund entscheidet.

Wo spielt ein Decision Model im Kundenservice seine Stärken aus?

Am stärksten sind sie bei klaren Ja-Nein-Fragen. Jev liegt vor allem bei solchen Checklisten-Kriterien vorn und nur bei abgestuften Skalen zurück. Die Übergabe an einen Menschen, die Kündigungsabsicht oder die Prüfung einer Antwort vor dem Versand sind deshalb gute erste Kandidaten.

Sie könnten Jev z.B. auch nutzen, um Kundenanfragen auszuwerten und zu bewerten, um den KI-Agenten langfristig zu verbessern. Solche Skalen, wie die Zufriedenheit von 1 bis 5, sollten besonders sorgfältig und regelmäßig überprüft werden, da die Auswahl nicht so eindeutig ist wie bei den anderen genannten Beispielen.

Muss ich meinen KI-Agenten für Jev neu bauen?

In den meisten Fällen nicht. Egal, ob Sie Ihren KI-Agenten selbst entwickelt haben oder die Lösung eines Anbieters nutzen: Jev lässt sich nachträglich einbauen. Es ist ein Baustein, den Ihr Agent im Hintergrund mitverwendet, und ersetzt nur die Stellen, an denen heute das große Sprachmodell eine Entscheidung trifft. Ihr Chatbot, Ihr Ticketsystem und Ihre Abläufe bleiben, wie sie sind.

Praktisch sieht das so aus: An der Stelle, an der Ihr Agent bisher das Sprachmodell fragt, welches Team zuständig ist, stellt er künftig dieselbe Frage an Jev. Die Antwortmöglichkeiten kennen Sie bereits, denn es sind Ihre bestehenden Teams, Hilfeartikel oder Anliegen-Kategorien. Das Ergebnis fließt in die Regeln, die Sie heute schon nutzen: Das Ticket geht an die Abrechnung, der Hilfeartikel wird verschickt, der Chat wird an eine Kollegin übergeben. Neu kommt nur die Schwelle hinzu, ab der das automatisch passiert. Fälle, in denen sich Jev unsicher ist, behandeln Sie wie eine zusätzliche Antwortmöglichkeit: Hier schaut ein Mensch noch einmal drauf und entscheidet, wohin die Anfrage geht.

Sie können Jev Stelle für Stelle einbauen und mit der Entscheidung beginnen, die in Ihrem Kundenservice am häufigsten fällt. Genau so gehen wir auch selbst vor: In einer unserer eigenen KI-Anwendungen tauschen wir als Nächstes zwei Stellen aus, an denen bisher ein Sprachmodell entscheidet. Der Rest der Anwendung bleibt unverändert. Danach prüfen wir, ob die Qualität mindestens gleich bleibt. Unser Team rechnet sogar mit besseren Ergebnissen.

Diesen Vergleich empfehlen wir auch Ihnen vor jeder Umstellung. Stellen Sie einen Testdatensatz zusammen, zum Beispiel 100 vergangene Chats, bei denen Sie das richtige Ergebnis kennen, und lassen Sie bisherige Lösung und Jev gegeneinander laufen. Dieselben Testbeispiele können Sie nach jeder Änderung erneut durchlaufen lassen. So sehen Sie vor der Umstellung, wie viel Sie sparen und wo Sie die Schwellen setzen, und behalten die Qualität auch danach im Blick.

Prüfen Sie, wo Jev Ihren KI-Agenten günstiger macht

In einem kostenlosen Gespräch schauen wir gemeinsam auf Ihren KI-Agenten im Kundenservice. Wir klären, an welchen Stellen sich ein Decision Model wie Jev lohnt und wie Sie mit AI-Evals vor der Umstellung prüfen, ob die Qualität mindestens gleich bleibt.

→ Kostenloses Gespräch vereinbaren