Blog

Diagrama de secuencia de un turno conversacional en Vocale: El audio de WebRTC llega a un servidor LiveKit y a un agente; la detección de actividad vocal de Silero identifica el habla; Faster-Whisper devuelve una transcripción; el turno se guarda en PostgreSQL; el contexto del chat se envía a Qwen3-8B, gestionado por vLLM; los tokens transmitidos se normalizan y se agrupan en frases; XTTS-v2 las reproduce como audio, y el audio se devuelve a la persona que llama.

IA

Lo que aprendimos al conectar un LLM local a una línea telefónica

La IA de voz gestionada se factura por minutos, por lo que la recompensa para un agente que funciona es una factura más elevada. Desarrollar Vocale para que funcione tanto en una API alojada como en una GPU privada nos ha enseñado cuatro cosas sobre lo que realmente resulta complicado cuando los modelos se trasladan a nuestras propias instalaciones.