Answers the phone
Connects to the Yeastar or SIP system the business already runs, so calls reach the agent on the numbers customers have always dialled.
Fallstudie zu KI-Sprachassistenten
Gesang
Ein Mitarbeiter, der Anrufe auf der Geschäftsnummer entgegennimmt, die Antwort in den firmeneigenen Unterlagen findet und das Support-Ticket eröffnet, noch bevor der Anrufer aufgelegt hat – und zwar über die Nummern, die das Unternehmen bereits besitzt, und auf der eigenen Hardware, falls dies gewünscht wird.
- BrancheInbound support and telephony
- BenutzerSupport teams on a Yeastar or SIP PBX
- UmfangEvery call, around the clock
- DienstleistungenProduct Design, Development, AI
Überblick
Vocale bindet einen KI-Agenten in eine Telefonleitung ein, über die ein Unternehmen bereits verfügt. Ein Kunde wählt die Nummer, die er schon immer gewählt hat; der Agent nimmt bereits beim ersten Klingeln ab, spricht seine Sprache, antwortet auf der Grundlage der firmeneigenen Handbücher und Richtlinien und – wenn die Antwort eigentlich lautet: „Das muss sich jemand ansehen“ – erstellt ein Support-Ticket mit den bereits erfassten Details.
An der Telefonanlage ändert sich nichts. Das Unternehmen behält seinen Anbieter, seine Rufnummern und seinen Tarif bei; eine Yeastar- oder kompatible SIP-Plattform wird einmalig über ein Formular angebunden, und die Amtsanschlüsse sowie die Anrufweiterleitung werden dahinter eingerichtet. Anschließend müssen nur noch die Dokumente hochgeladen werden, die der Mitarbeiter kennen sollte, die wenigen Sätze verfasst werden, die seinen Umgangston festlegen, und das Ganze in einem Browser getestet werden, bis es richtig klingt – und das alles, bevor auch nur ein einziger echter Anruf an ihn weitergeleitet wird.
Video
- Next.js 16
- TypeScript
- Tailwind CSS
- Supabase
- PostgreSQL
- LiveKit
- WebRTC
- SIP telephony
- OpenAI gpt-realtime
- Python
- FastAPI
- Redis
- Pinecone
- Docker
- Next.js 16
- TypeScript
- Tailwind CSS
- Supabase
- PostgreSQL
- LiveKit
- WebRTC
- SIP telephony
- OpenAI gpt-realtime
- Python
- FastAPI
- Redis
- Pinecone
- Docker
Key capabilities
Grounded in your documents
Manuals, policies and price lists are uploaded, indexed and searched at the moment of the question so the answer comes from the business's own material rather than the model's memory.
Opens tickets mid-call
When a caller needs a person, the agent gathers the subject, the contact and the urgency while it still has them on the line, then files the ticket itself.
Knows who is calling
An existing customer database connects read-only, so an inbound number is matched to an account before the agent says a word.
Two engines, one product
The same agent runs on a hosted model API or entirely on a private GPU. The business picks on cost and on where its data is allowed to go.
Eine Hotline ist nur so gut wie die Mitarbeiter, die dort Anrufe entgegennehmen, und die Fragen, die dort eingehen, sind fast ausnahmslos dieselben wenigen: Wie sind Ihre Öffnungszeiten, ist das abgedeckt, wie setze ich das zurück? Die Antworten stehen bereits schriftlich fest – in einem Handbuch, einer Richtlinie, einer Preisliste –, nur eben nicht dort, wo ein Anrufer sie finden und ein Mitarbeiter sie während der Wartezeit eines Anrufers abrufen kann. Der Einsatz einer KI an der Hotline löst die Hälfte dieses Problems. Die minutengenaue Anmietung ersetzt dieses Problem still und leise durch ein Kostenproblem, denn je besser sie funktioniert, desto häufiger wird sie genutzt – und desto höher sind die monatlichen Kosten.
Anrufe außerhalb der Bürozeiten
Abends, am Wochenende und an Feiertagen wird der Anruf auf die Mailbox umgeleitet – und was dort landet, sind meist Routineanfragen, die man innerhalb einer Minute hätte klären können.
Antworten, die niemand finden kann
Die Informationen sind zwar in Dokumenten enthalten, jedoch nicht in einer Form, die man einem Anrufer, der in der Warteschleife ist, vorlegen könnte.
Abrechnung pro Minute
Bei verwalteten Sprach-KI-Plattformen erfolgt die Abrechnung pro Gesprächsminute, sodass die Kosten mit zunehmender Nutzung steigen – ein falscher Anreiz, eine Support-Hotline einzurichten.
Vocale ist zwischen der Telefonanlage eines Unternehmens und dessen Wissensdatenbank angesiedelt. Die Telefonanlage wird über ein Formular angebunden, und die Weiterleitung wird dahinter eingerichtet. Dokumente werden hochgeladen und indexiert. Das Verhalten des Agenten wird in einfacher Sprache statt in Code festgelegt, und das Ganze kann in einem Browser durchgespielt werden, bevor ein echter Anruf eingeht. Sobald das System live ist, wird alles, was es getan hat, protokolliert – das Transkript, die durchgeführten Suchvorgänge, die erstellten Tickets –, sodass das Team beurteilen kann, ob es seine Aufgabe erfüllt, bevor man ihm weitere Aufgaben anvertraut.
Wird an die Telefonanlage angeschlossen, nicht an deren Rand
Yeastar und kompatible SIP-Systeme lassen sich über ein Formular registrieren, wobei das Unternehmen seinen Anbieter, seine Rufnummern und seinen Tarif beibehält.
Abruf, bevor es spricht
Eine Frage, für die eine Tatsache benötigt wird, löst eine Suche in den indizierten Dokumenten aus, und die Antwort wird aus den Suchergebnissen zusammengestellt – wobei „Es wurde nichts gefunden“ eine Antwort ist, die der Agent geben darf.
Ob gehostet oder selbst gehostet – das Verhalten ist dasselbe
Sprache, Sprachverarbeitung und Stimmausgabe laufen über eine API eines Drittanbieters oder auf einer privaten GPU. Der Wechsel zwischen diesen beiden Optionen erfolgt über die Konfiguration und erfordert keinen Neukompilierung.
UX researchFeb–Mar
MVPApr–Jul
OperationAug–Sep
DiscoveryFeb
ArchitectureMar
UI designApr–May
Backend and local AIMay–Jul
TestingJul–Aug
OperationAug–Sep
Testen Sie es, bevor es ein Kunde tut
A sandbox that runs the whole pipeline in the browser. Pick a caller, start the call, and the transcript arrives live beside it as the agent hears and answers. Every session it has ever handled, browser or phone, inbound or outbound, is one click away in the rail on the left.
Die Dokumente, auf die es Bezug nimmt
Files are dropped straight onto the page, then parsed, split and indexed. Each row reports how many pages went in and how many searchable pieces came out, so it is obvious at a glance when a document is ready to be quoted on a call and when it is still being worked on.
Was es nicht beantworten konnte, wird zu einem Ticket
The agent collects the subject, the customer and the urgency while the caller is still on the line and files the ticket itself, transcript attached. Support opens the queue to a list of real problems in the caller's own words instead of a column of missed calls.
Es weiß, wer anruft
An existing customer database connects read-only, with a mapping step for whichever columns hold the name and the number. From then on an inbound call is matched against it before the agent speaks, and the records stay where they are. Vocale reads them; it does not become the place they live.
Nummern, die über die Konsole vergeben werden
Telephony is the one part a business should not have to get right alone, so provisioning is an operator job rather than a self-service form. Each number is registered, pointed at an organisation, and switched on from here, which doubles as the fastest way to see which tenants are actually taking calls.
Was jede Minute kostet
Spend is metered the way the models bill it: caller speech, agent speech, and replayed history, broken out per model and per organisation. It is what turns the choice between a hosted API and a private GPU into a decision with a number attached rather than an argument.
Was bei einer Hotline zählt, ist nicht die abstrakte Genauigkeit – entscheidend ist, ob der Anruf entgegengenommen wurde und ob die Antwort richtig war. Vocale beantwortet alle Anrufe, zu jeder Uhrzeit, in der Sprache des Anrufers, und hinterlässt ein Protokoll, sodass auch die zweite Frage geklärt werden kann. Die unten aufgeführten Kosten entsprechen den von der Plattform im Rahmen der gehosteten Variante über einen Monat mit echten Anrufen ermittelten Werten; bei der selbst gehosteten Variante werden diese Kosten auf die Hardware verlagert, für die das Unternehmen ohnehin bereits bezahlt, und der Minutenpreis bleibt unverändert.
- 24/7
- Bereitschaftsdienst – ohne Dienstplan und ohne Warteschlange
- $0.06
- Kosten pro Gesprächsminute, Hosting-Stufe
- 6
- Sprachen, in die der Agent umgeschaltet werden kann
- 2
- Ausführungsmöglichkeiten: gehostete API oder private GPU
User goal
- Caller dials in
- The agent answers
- Looks up the customer
- Searches the documents
- Opens a support ticket
- Emails it
Interface & channels
- Yeastar PBXPhone calls, bridged into LiveKit over SIP
- livekit-clientVoice testing in the browser
- NodemailerTicket emails, sent over SMTP
- User and admin portals
- Next.js 16
- React 19.2
- React Compiler
- TypeScript 5
- Tailwind CSS v4
- shadcn/ui
- Radix UI
- Framer Motion
- TanStack Query v5
- React Hook Form
- Zod v4
- EN / IT
- next-themes
- sonner
- cmdk
- lucide
- react-pdf
- md-editor
- lamejs
- pnpm
Planning & orchestration
- LiveKit Agents 1.6The agent worker behind every call
- Ticket flowA state machine of our own, from first question to sent ticket
- PydanticTyped orchestration models
- Silero VADTurn-taking, with LiveKit's turn detector
- Session gateCall caps per organisation and across the system
- StreamlitA scenario lab, for testing only
Memory & context
- RedisShort-term memory: a sliding window of the last 15 turns
- SupabaseLong-term memory: every turn of every conversation
- Tenant presetsConfiguration and presets for each organisation
- RAG plane
- Supabase StorageThe source documents
- pymupdf4llmPDF to Markdown
- ChunkerSplit on headers, then about 500 tokens with 50 overlapping
- multilingual-e5-largeEmbeddings, through Pinecone Inference
- PineconeA serverless vector index
- bge-reranker-v2-m3Reranks to the best 5, above a 0.20 threshold
- RedisIndexing jobs and their progress
- FastAPIThe retrieval API, served by Uvicorn
Models
- gpt-realtime-2.1Speech to speech: listening, reasoning and speaking in one model
- gpt-realtime-2.1-miniThe lighter realtime model
- gpt-4o-mini-transcribeTranscripts of what the caller said
- Legacy GPU pipeline, kept for rollback
- faster-whisperSpeech to text
- vLLMServing Qwen2.5-VL-7B-AWQ
- Piper and Kokoro-82MText to speech
Tools & actions
Functions the agent calls while the caller is still on the line.
- search_knowledge_baseAnswers from the documents, through RAG
- lookup_customer_detailsFinds the caller in the customer's own MySQL
- search_customer_identityConfirms who is calling
- Ticket toolsCreate, update and submit the ticket
- update_ticket_draftKeeps the draft and the contact details current
- end_callEnds the call cleanly
- Call recordingPCM to WAV, with FFmpeg
State & data
- PostgreSQL 17.6Supabase, self-hosted in Docker, across 47 migrations
- SupabaseAuth, and storage for documents and recordings
- KongThe API gateway, with Supabase Studio
- Redis 7Three instances: LiveKit, agent memory and RAG jobs
- PineconeThe vectors
- MySQLEach customer's own database, outside the system
- Customer Data PlaneFastAPI, with a pooled PyMySQL connection to each customer
Observability, safety & evals
- Cost meteringCost per call and per organisation, from usage and model pricing
- Resilience metricsSelf-repeats, talk-over, false barge-ins and latency
- Admin dashboardsMonitor, agent state, agent activity and database logs
- journaldFile logs, with systemd alerts on failure
- pytest26 test modules, a replay harness, and a transcript judge across 5 regression classes
- Call scenariosWritten in YAML, and replayed against the agent
- Agent safetyA leaked-reasoning detector, privacy and email read-back rules, an inactivity watchdog
Security
- NextAuth v5Credentials sign-in, bcrypt hashes, a 24-hour JWT in a secure cookie, email verification
- Access controlRoute guards, admin authorisation, and row-level security on Supabase
- AES-256-GCMCustomer database passwords encrypted at rest, readable from Node and Python
- Service keysAPI keys between services, and a secret for scheduled jobs
- Rate limitingOn every sign-in route
- Security headersCSP, HSTS with preload, no framing, and the microphone for this site only
- Private networkThe calling stack reachable only over VPN, and an allowlist on the SIP trunk
- WireGuardOne outbound IP for customers to allow into their MySQL
Deployment
- Ubuntu 24.04One self-hosted server, behind the VPN
- NGINXTLS, and one domain for both portals and Supabase
- systemdBoth portals, the agent worker, and a ticket email timer every 2 minutes
- Docker ComposeSupabase, LiveKit and SIP, RAG and customer data, on one shared network
- supervisordThe media plane container
- Vast.aiThe GPU box from the vLLM era
Was ein Unternehmen über das Dashboard tun kann
Sieben Bereiche mit einer einzigen Anmeldung. Telefonie und Wissensdatenbank werden einmalig eingerichtet; Betrieb, Ticketverwaltung und Kundendaten sind Teil des täglichen Geschäftsbetriebs. Aufbau eines einzelnen Sprechzuges
Eingabe und Ausgabe in einem Durchgang – wobei beide Teile in Echtzeit protokolliert werden. Auf der selbst gehosteten Ebene ist jede Instanz innerhalb des Agenten ein Modell, das auf der unternehmenseigenen GPU läuft.
Mitten im Satz unterbrochen zu werden
Solution: Anrufer unterbrechen eine Antwort, sobald sie diese verstanden haben, und ein Mitarbeiter, der einfach weiterredet, wirkt unprofessionell. Die Sprachaktivitätserkennung unterbricht den ausgehenden Ton, sobald der Anrufer spricht, und kürzt anschließend das Transkript des Mitarbeiters auf das tatsächlich Gehörte – so knüpft das Gespräch an den Gesprächsverlauf an, den der Anrufer erlebt hat, und nicht an den, den das System geplant hatte.
Stille, während es nachdenkt
Solution: Das Durchsuchen der Dokumente dauert gerade so lange, dass es wie ein unterbrochener Anruf wirkt. Der Mitarbeiter wirft nach einer halben Sekunde einen kurzen, natürlichen Füllsatz ein und bricht diesen ab, sobald die Suche Ergebnisse liefert – so gewinnt er Zeit für die Abrufung, ohne dass es zu einer Sendepause kommt.
Text, der nicht vorgelesen wird
Solution: Was für den Bildschirm geschrieben wurde, ist nicht für die Sprache gedacht: Geldbeträge, Datumsangaben als Ziffern, Abkürzungen. Eine Normalisierungsschicht wandelt Beträge, Datumsangaben, Uhrzeiten und Abkürzungen sprachspezifisch in ihre gesprochene Form um, bevor sie das Sprachmodell erreichen.
Eine GPU, mehrere Gespräche
Solution: Bei einer Live-Sprach-Session werden die Modelle im Videospeicher gehalten, sodass die Kapazität eher durch den VRAM als durch die reine Rechenleistung begrenzt ist. Die Sessions werden pro Grafikkarte zugewiesen, und die Arbeitslast wird explizit auf die Grafikkarten verteilt – wenn man das Standard-Pooling verwendet, landen Sprach- und Sprachaufgaben auf derselben GPU und behindern sich gegenseitig.
Fragen
Nein. Vocale lässt sich mit der von Ihnen bereits genutzten Telefonanlage – Yeastar und kompatiblen SIP-Plattformen – verbinden, und Anrufe gehen weiterhin unter den Nummern ein, die Ihre Kunden bereits haben. Die Verbindung wird einmalig über das Dashboard hergestellt, und die Trunk-Verbindung sowie das Routing werden im Hintergrund eingerichtet.
Wie auch immer es Ihnen am besten passt. Der Agent läuft entweder auf einer gehosteten API – was der schnellste Weg zum Einstieg ist – oder vollständig auf einer GPU unter Ihrer Kontrolle, wobei keine Audio-Dateien, Transkripte oder Dokumente Ihre Infrastruktur verlassen. Es handelt sich um eine Konfigurationsentscheidung, die keinen Einfluss auf die Funktionsfähigkeit des Agenten hat.
Es antwortet anhand Ihrer Dokumente und nicht aus dem Gedächtnis. Eine Frage, die eine konkrete Angabe erfordert, löst eine Suche in allen von Ihnen hochgeladenen Dokumenten aus, und die Antwort wird aus den gefundenen Textstellen zusammengestellt. Wenn nichts Relevantes gefunden wird, ist es die richtige Antwort, dies mitzuteilen und anzubieten, ein Ticket zu eröffnen – und genau diese Antwort gibt es auch.
Die Verbindung wird weitergeleitet. Der Mitarbeiter erfasst das Thema, den Ansprechpartner und die Priorität, während der Anrufer noch in der Leitung ist, legt ein Ticket in Ihrer Warteschlange an und fügt das Gesprächsprotokoll bei – so kann derjenige, der den Fall übernimmt, direkt bei dem anknüpfen, was tatsächlich gesagt wurde, anstatt bei einer Rückrufbitte.
Anrufe nach fünf Uhr verpassen?
Wir verbinden Sie gleich mit einem Mitarbeiter.