Supervoice / AI-Souffleur: Realtime TTS/STT für DE-Calls
Telefongespräche auf Deutsch sind für Nicht-Muttersprachler schwer in Echtzeit zu führen; gleichzeitig braucht das Unternehmen einen eigenen, datenschutzfreundlichen Sprach-Stack (TTS/STT), ohne pro Aufruf an externe Anbieter zu zahlen. Zwei verzahnte Bausteine. (1) Der AI-Suffler (lokaler Single-User-Dienst, Nuxt 4 + Vue 3) hört zwei Audio-Kanäle — eigenes Mikrofon und Systemton der Telefon-App (über BlackHole-2ch-Loopback auf macOS) —, transkribiert beide Seiten auf Deutsch über Deepgram-Streaming (nova-3, partial+final, Endpointing 200 ms) und schlägt bei jeder Gegen-Äußerung 3–5 fertige Antwort-Karten vor: großer deutscher Satz plus kleiner russischer Untertitel plus Ton-Markierung; der Nutzer liest nur ab. Eine spekulative Ausführung feuert bei ≥4 neuen Wörtern oder ≥600 ms eine neue LLM-Generierung und bricht veraltete ab; der Systemprompt wird einmal pro Sitzung geschrieben und über Cache wiederverwendet (cache_read ≈ 68k Tokens), RAG-Fakten aus lokaler SQLite+sqlite-vec werden in die User-Nachricht gemischt.
Was wir erreicht haben
Trainingsmodus produktiv mit ~1 s bis zur ersten Karte (OpenAI-Pfad); fünf vordefinierte Szenarien (Finanzamt, Krankenkasse, Vermieter, Arzttermin, Vodafone).
Realmodus funktioniert, ist aber durch unvermeidbares Claude-CLI-Thinking auf ~13–14 s Kaltstart limitiert (Cache-Tuning senkte cache_creation von ~75k auf ~19k Tokens).
Sprach-Stack: ~5 GB Disk, ~3,5 GB RAM, TTS ~2× Echtzeit warm, STT ~10× Echtzeit; Reboot-überlebend, online in ~30 s.
Verbraucher des Sprach-Dienstes: AI-Suffler-Training und der Control-Center-Chat („ Vorlesen").
Audio wird zu keinem Zeitpunkt auf Platte gespeichert.
Supervoice / AI-Souffleur
Content / Medien / KI
KI, Produkte
Sie haben ein ähnliches Projekt?
Erzählen Sie uns von Ihrem Vorhaben — wir zeigen Ihnen, wie wir ähnliche Ergebnisse für Ihr Unternehmen erzielen können.