Técnico24 de marzo de 20265 min de lectura

Ampliación de WebRTC para miles de agentes de voz simultáneos

WebRTC proporciona la latencia más baja para los agentes de voz, pero escalarlo requiere una arquitectura cuidadosa. Aquí se explica cómo administrar los servidores de medios, la señalización y el estado.

WebRTC es el estándar de oro para los agentes de voz basados ​​en navegador y ofrece una latencia de transporte inferior a 50 ms. Pero si bien una única conexión WebRTC es fácil, escalar a miles de sesiones simultáneas requiere una infraestructura dedicada. No puedes simplemente ejecutarlo en un único servidor Node.js.

Arquitectura SFU frente a MCU

Para los agentes de IA, las unidades de reenvío selectivo (SFU) suelen preferirse a las unidades de control multipunto (MCU). La SFU enruta el audio del usuario directamente al servicio ASR y enruta el audio TTS de regreso al usuario, minimizando la sobrecarga de procesamiento en el propio servidor de medios.

¿Listo para construir?

Vea cómo los agentes de IA multimodales de Mazed funcionan para su caso de uso.

Ampliación de WebRTC para miles de agentes de voz simultáneos | Mazed Blog | Mazed