Fallstudie zu KI-Sprachassistenten

Gesang

Ein Mitarbeiter, der Anrufe auf der Geschäftsnummer entgegennimmt, die Antwort in den firmeneigenen Unterlagen findet und das Support-Ticket eröffnet, noch bevor der Anrufer aufgelegt hat – und zwar über die Nummern, die das Unternehmen bereits besitzt, und auf der eigenen Hardware, falls dies gewünscht wird.

  • BrancheInbound support and telephony
  • BenutzerSupport teams on a Yeastar or SIP PBX
  • UmfangEvery call, around the clock
  • DienstleistungenProduct Design, Development, AI
Vocale: KI-Sprachassistent-Plattform

Überblick

Vocale bindet einen KI-Agenten in eine Telefonleitung ein, über die ein Unternehmen bereits verfügt. Ein Kunde wählt die Nummer, die er schon immer gewählt hat; der Agent nimmt bereits beim ersten Klingeln ab, spricht seine Sprache, antwortet auf der Grundlage der firmeneigenen Handbücher und Richtlinien und – wenn die Antwort eigentlich lautet: „Das muss sich jemand ansehen“ – erstellt ein Support-Ticket mit den bereits erfassten Details.

An der Telefonanlage ändert sich nichts. Das Unternehmen behält seinen Anbieter, seine Rufnummern und seinen Tarif bei; eine Yeastar- oder kompatible SIP-Plattform wird einmalig über ein Formular angebunden, und die Amtsanschlüsse sowie die Anrufweiterleitung werden dahinter eingerichtet. Anschließend müssen nur noch die Dokumente hochgeladen werden, die der Mitarbeiter kennen sollte, die wenigen Sätze verfasst werden, die seinen Umgangston festlegen, und das Ganze in einem Browser getestet werden, bis es richtig klingt – und das alles, bevor auch nur ein einziger echter Anruf an ihn weitergeleitet wird.

Die Entscheidung, die über den wirtschaftlichen Erfolg entscheidet, hängt davon ab, wo die Modelle ausgeführt werden. Daher bietet die Plattform zwei Engines im Rahmen eines Produkts an. In der gehosteten Variante stammen Sprachverarbeitung, Schlussfolgerungen und Sprachausgabe aus einer API eines Drittanbieters, und jede Minute wird abgerechnet. Auf der selbst gehosteten Ebene laufen alle drei Komponenten auf einer GPU unter der Kontrolle des Unternehmens, es verlassen weder Audiodaten noch Dokumente das Gebäude, und ein Anruf kostet lediglich Strom. Der Wechsel zwischen den beiden Ebenen erfolgt über die Konfiguration; das Verhalten des Agenten bleibt in beiden Fällen gleich.

  • Next.js 15
  • TypeScript
  • Tailwind CSS
  • Supabase
  • PostgreSQL
  • LiveKit
  • WebRTC
  • SIP telephony
  • Python
  • vLLM + Qwen3-8B
  • Faster-Whisper
  • Coqui XTTS-v2
  • Pinecone

Projektvideo

gesangSchließen Sie die Telefonleitung an. Es geht ran.

Eine Schritt-für-Schritt-Anleitung zu Vocale – von der Anbindung einer Telefonanlage über das Hochladen eines Handbuchs bis hin zu einem Live-Anruf, bei dem die Frage beantwortet und die nicht beantwortete Frage weitergeleitet wird.

Kernfunktionen

  • Nimmt den Anruf entgegen

    Lässt sich mit dem bereits im Unternehmen eingesetzten Yeastar- oder SIP-System verbinden, sodass Anrufe unter den Nummern, die Kunden schon immer gewählt haben, beim Mitarbeiter ankommen.

  • Auf der Grundlage Ihrer Unterlagen

    Handbücher, Richtlinien und Preislisten werden zum Zeitpunkt der Anfrage hochgeladen, indexiert und durchsucht – die Antwort stammt also aus den unternehmenseigenen Unterlagen und nicht aus dem Gedächtnis des Modells.

  • Erstellt Tickets während des Gesprächs

    Wenn ein Anrufer eine bestimmte Person benötigt, erfasst der Mitarbeiter das Anliegen, die Kontaktdaten und die Dringlichkeit, solange der Anrufer noch in der Leitung ist, und legt das Ticket anschließend selbst an.

  • Weiß, wer anruft

    Eine bestehende Kundendatenbank ist schreibgeschützt eingebunden, sodass eine eingehende Rufnummer bereits einem Konto zugeordnet wird, bevor der Mitarbeiter überhaupt etwas sagt.

  • Zwei Motoren, ein Produkt

    Der gleiche Agent läuft entweder auf einer gehosteten API oder vollständig auf einer privaten GPU. Das Unternehmen entscheidet anhand der Kosten und danach, wohin seine Daten übertragen werden dürfen.

Die Herausforderung

Um sieben Uhr abends klingelt das Telefon. Die Antwort steht in einer PDF-Datei auf dem gemeinsamen Laufwerk. Es ist niemand da, der sie lesen könnte.

Eine Hotline ist nur so gut wie die Mitarbeiter, die dort Anrufe entgegennehmen, und die Fragen, die dort eingehen, sind fast ausnahmslos dieselben wenigen: Wie sind Ihre Öffnungszeiten, ist das abgedeckt, wie setze ich das zurück? Die Antworten stehen bereits schriftlich fest – in einem Handbuch, einer Richtlinie, einer Preisliste –, nur eben nicht dort, wo ein Anrufer sie finden und ein Mitarbeiter sie während der Wartezeit eines Anrufers abrufen kann. Der Einsatz einer KI an der Hotline löst die Hälfte dieses Problems. Die minutengenaue Anmietung ersetzt dieses Problem still und leise durch ein Kostenproblem, denn je besser sie funktioniert, desto häufiger wird sie genutzt – und desto höher sind die monatlichen Kosten.

  • Anrufe außerhalb der Bürozeiten

    Abends, am Wochenende und an Feiertagen wird der Anruf auf die Mailbox umgeleitet – und was dort landet, sind meist Routineanfragen, die man innerhalb einer Minute hätte klären können.

  • Antworten, die niemand finden kann

    Die Informationen sind zwar in Dokumenten enthalten, jedoch nicht in einer Form, die man einem Anrufer, der in der Warteschleife ist, vorlegen könnte.

  • Abrechnung pro Minute

    Bei verwalteten Sprach-KI-Plattformen erfolgt die Abrechnung pro Gesprächsminute, sodass die Kosten mit zunehmender Nutzung steigen – ein falscher Anreiz, eine Support-Hotline einzurichten.

Unsere Lösung

Ein Mitarbeiter ist bereits in der Leitung.

Vocale ist zwischen der Telefonanlage eines Unternehmens und dessen Wissensdatenbank angesiedelt. Die Telefonanlage wird über ein Formular angebunden, und die Weiterleitung wird dahinter eingerichtet. Dokumente werden hochgeladen und indexiert. Das Verhalten des Agenten wird in einfacher Sprache statt in Code festgelegt, und das Ganze kann in einem Browser durchgespielt werden, bevor ein echter Anruf eingeht. Sobald das System live ist, wird alles, was es getan hat, protokolliert – das Transkript, die durchgeführten Suchvorgänge, die erstellten Tickets –, sodass das Team beurteilen kann, ob es seine Aufgabe erfüllt, bevor man ihm weitere Aufgaben anvertraut.

Wird an die Telefonanlage angeschlossen, nicht an deren Rand

Yeastar und kompatible SIP-Systeme lassen sich über ein Formular registrieren, wobei das Unternehmen seinen Anbieter, seine Rufnummern und seinen Tarif beibehält.

Abruf, bevor es spricht

Eine Frage, für die eine Tatsache benötigt wird, löst eine Suche in den indizierten Dokumenten aus, und die Antwort wird aus den Suchergebnissen zusammengestellt – wobei „Es wurde nichts gefunden“ eine Antwort ist, die der Agent geben darf.

Ob gehostet oder selbst gehostet – das Verhalten ist dasselbe

Sprache, Sprachverarbeitung und Stimmausgabe laufen über eine API eines Drittanbieters oder auf einer privaten GPU. Der Wechsel zwischen diesen beiden Optionen erfolgt über die Konfiguration und erfordert keinen Neukompilierung.

So funktioniert es

Testen Sie es, bevor es ein Kunde tut

A sandbox that runs the whole pipeline in the browser. Pick a caller, start the call, and the transcript arrives live beside it as the agent hears and answers. Every session it has ever handled — browser or phone, inbound or outbound — is one click away in the rail on the left.

Die Vocale-Sprachagentenkonsole: ein großer Standby-Bereich mit einem Fenster für Live-Transkripte daneben, einer Anruferauswahl und einer Schaltfläche „Anruf starten“ darunter sowie einer Seitenleiste mit dem letzten Anrufverlauf, in der die Nummern unkenntlich gemacht sind.

Die Dokumente, auf die es Bezug nimmt

Files are dropped straight onto the page, then parsed, split and indexed. Each row reports how many pages went in and how many searchable pieces came out, so it is obvious at a glance when a document is ready to be quoted on a call and when it is still being worked on.

Die Seite der Wissensdatenbank: Ein Drag-and-Drop-Upload-Fenster oberhalb einer Tabelle mit indexierten Dokumenten, in der Name, Status, Seitenanzahl und Anzahl der Abschnitte angezeigt werden.

Was es nicht beantworten konnte, wird zu einem Ticket

The agent collects the subject, the customer and the urgency while the caller is still on the line and files the ticket itself, transcript attached. Support opens the queue to a list of real problems in the caller's own words instead of a column of missed calls.

Die Seite „Tickets“: eine Tabelle mit Support-Tickets, die Nummer, Betreff, Kunde, Status, Priorität und Erstellungsdatum enthält; die meisten davon werden automatisch während eines Anrufs eröffnet.

Es weiß, wer anruft

An existing customer database connects read-only, with a mapping step for whichever columns hold the name and the number. From then on an inbound call is matched against it before the agent speaks — and the records stay where they are. Vocale reads them; it does not become the place they live.

Die Kundenseite zeigt eine synchronisierte externe Datenbank mit 14.039 Datensätzen sowie die Steuerelemente „Zuordnungen bearbeiten“ und „Verbindung bearbeiten“. Die Spalten „Name“ und „Telefon“ sind unkenntlich gemacht.

Nummern, die über die Konsole vergeben werden

Telephony is the one part a business should not have to get right alone, so provisioning is an operator job rather than a self-service form. Each number is registered, pointed at an organisation and switched on from here — which doubles as the fastest way to see which tenants are actually taking calls.

Der Bildschirm „SIP-Nummern“ im Admin-Bereich: Zähler für die Gesamtzahl sowie für aktive und inaktive Nummern und eine Tabelle, in der jede Nummer einem Namen, einer Organisation und einem Mandanten zugeordnet ist, mit einem Schalter zum Aktivieren bzw. Deaktivieren.

Was jede Minute kostet

Spend is metered the way the models bill it — caller speech, agent speech and replayed history, broken out per model and per organisation. It is what turns the choice between a hosted API and a private GPU into a decision with a number attached rather than an argument.

Das Dashboard für Verwaltungskosten und Nutzung: Gesamtkosten, durchschnittliche Kosten pro Anruf, Anzahl der Anrufe und Minuten sowie Kosten pro Minute, ein Diagramm zu den täglichen Ausgaben, eine Aufschlüsselung nach Kostenart und Modell sowie die geltenden Tarife.

Wirkung & Ergebnisse

Wurde schon beim ersten Klingeln beantwortet und ist preislich mit Software vergleichbar.

Was bei einer Hotline zählt, ist nicht die abstrakte Genauigkeit – entscheidend ist, ob der Anruf entgegengenommen wurde und ob die Antwort richtig war. Vocale beantwortet alle Anrufe, zu jeder Uhrzeit, in der Sprache des Anrufers, und hinterlässt ein Protokoll, sodass auch die zweite Frage geklärt werden kann. Die unten aufgeführten Kosten entsprechen den von der Plattform im Rahmen der gehosteten Variante über einen Monat mit echten Anrufen ermittelten Werten; bei der selbst gehosteten Variante werden diese Kosten auf die Hardware verlagert, für die das Unternehmen ohnehin bereits bezahlt, und der Minutenpreis bleibt unverändert.

Bereitschaftsdienst – ohne Dienstplan und ohne Warteschlange
Kosten pro Gesprächsminute, Hosting-Stufe
Sprachen, in die der Agent umgeschaltet werden kann
Ausführungsmöglichkeiten: gehostete API oder private GPU

Systemarchitektur

Was ein Unternehmen über das Dashboard tun kann

Ablaufdiagramm. Ein Benutzer mit einer Yeastar-Telefonanlage oder einem ähnlichen System meldet sich an und gelangt zu einem Haupt-Dashboard, das in sieben Bereiche unterteilt ist: Telefonie und Telefonanlagenkonfiguration; Wissensdatenbank mit Funktionen zum Hochladen, Anzeigen und Löschen von Dokumenten; Konfiguration der Sprachagenten mit Einrichtung von Systemansagen sowie einer Test-Chat- und Sprachschnittstelle; Live-Betrieb und Überwachung mit Gesprächsverlauf und Agentenaktivitäten; Integration des Ticketingsystems mit den Funktionen „Verbinden“, „Erstellen“, „Anzeigen“, „Bearbeiten“ und „Löschen“; Kundeninformationsmanagement mit Anbindung an die Kundendatenbank und der Möglichkeit, neue Kunden anzulegen; sowie Kontoverwaltung mit den Funktionen „Profil bearbeiten“, „Daten herunterladen“ und „Konto löschen“.
Sieben Bereiche mit einer einzigen Anmeldung. Telefonie und Wissensdatenbank werden einmalig eingerichtet; Betrieb, Ticketverwaltung und Kundendaten sind Teil des täglichen Geschäftsbetriebs.

Aufbau eines einzelnen Sprechzuges

Sequenzdiagramm einer Gesprächsrunde. Der WebRTC-Ton des Nutzers gelangt an einen LiveKit-Server, der die Audio-Frames an den Agenten weiterleitet. Die Sprachaktivitätserkennung identifiziert Sprache, der Puffer wird an Faster-Whisper weitergeleitet und gibt eine Transkription zurück, der Benutzerzug wird in PostgreSQL gespeichert, der Chat-Kontext und der Verlauf werden an das von vLLM bereitgestellte Sprachmodell Qwen3-8B weitergeleitet, das Tokens zurückstreamt, der Text wird normalisiert und zu Sätzen zusammengefasst, bevor XTTS-v2 ihn als Audio-Frames wiedergibt, der Antwortzug des Assistenten wird gespeichert, und das Audio wird über WebRTC an den Nutzer zurückgesendet.
Eingabe und Ausgabe in einem Durchgang – wobei beide Teile in Echtzeit protokolliert werden. Auf der selbst gehosteten Ebene ist jede Instanz innerhalb des Agenten ein Modell, das auf der unternehmenseigenen GPU läuft.

Was zu lösen war

Mitten im Satz unterbrochen zu werden

Solution: Anrufer unterbrechen eine Antwort, sobald sie diese verstanden haben, und ein Mitarbeiter, der einfach weiterredet, wirkt unprofessionell. Die Sprachaktivitätserkennung unterbricht den ausgehenden Ton, sobald der Anrufer spricht, und kürzt anschließend das Transkript des Mitarbeiters auf das tatsächlich Gehörte – so knüpft das Gespräch an den Gesprächsverlauf an, den der Anrufer erlebt hat, und nicht an den, den das System geplant hatte.

Stille, während es nachdenkt

Solution: Das Durchsuchen der Dokumente dauert gerade so lange, dass es wie ein unterbrochener Anruf wirkt. Der Mitarbeiter wirft nach einer halben Sekunde einen kurzen, natürlichen Füllsatz ein und bricht diesen ab, sobald die Suche Ergebnisse liefert – so gewinnt er Zeit für die Abrufung, ohne dass es zu einer Sendepause kommt.

Text, der nicht vorgelesen wird

Solution: Was für den Bildschirm geschrieben wurde, ist nicht für die Sprache gedacht: Geldbeträge, Datumsangaben als Ziffern, Abkürzungen. Eine Normalisierungsschicht wandelt Beträge, Datumsangaben, Uhrzeiten und Abkürzungen sprachspezifisch in ihre gesprochene Form um, bevor sie das Sprachmodell erreichen.

Eine GPU, mehrere Gespräche

Solution: Bei einer Live-Sprach-Session werden die Modelle im Videospeicher gehalten, sodass die Kapazität eher durch den VRAM als durch die reine Rechenleistung begrenzt ist. Die Sessions werden pro Grafikkarte zugewiesen, und die Arbeitslast wird explizit auf die Grafikkarten verteilt – wenn man das Standard-Pooling verwendet, landen Sprach- und Sprachaufgaben auf derselben GPU und behindern sich gegenseitig.

Fragen

Nein. Vocale lässt sich mit der von Ihnen bereits genutzten Telefonanlage – Yeastar und kompatiblen SIP-Plattformen – verbinden, und Anrufe gehen weiterhin unter den Nummern ein, die Ihre Kunden bereits haben. Die Verbindung wird einmalig über das Dashboard hergestellt, und die Trunk-Verbindung sowie das Routing werden im Hintergrund eingerichtet.

Anrufe nach fünf Uhr verpassen?

Wir verbinden Sie gleich mit einem Mitarbeiter.