Pourquoi Prompt Engineering ne sauvera pas votre agent vocal
L'industrie considère les invites comme le principal mécanisme de contrôle des agents vocaux. Mais les invites sont des suggestions : les garde-fous, les flux de travail et l’orchestration sont ce qui garantit réellement la fiabilité des agents.
Écrivez une meilleure invite. Ajoutez plus d'instructions. Dites à l'agent de « ne jamais » faire quelque chose. Il s’agit de l’approche par défaut pour corriger le comportement des agents vocaux, et elle est fondamentalement fragile. Les invites sont probabilistes : le LLM les suivra la plupart du temps, mais « la plupart du temps » n'est pas suffisant lorsque l'agent gère de vrais clients, de l'argent réel ou de vraies informations médicales.
Les invites sont des suggestions, pas des contrats
Dites à un LLM de « ne jamais discuter des prix des concurrents » et il se conformera à 95 % du temps. Les 5 % restants (lorsque l'appelant formule la question de manière inattendue, lorsque le contexte de la conversation change, lorsque le modèle « oublie » les instructions au cours d'une longue conversation) sont ceux où se produisent les violations de conformité, les dommages à la marque et la frustration des clients. À grande échelle, un échec de 5 % sur une règle critique signifie des centaines d’interactions problématiques par mois.
Les contrôles structurels battent les instructions rapides
L’alternative consiste à déplacer les contrôles critiques des invites vers la couche d’orchestration. Dans un flux de travail visuel comme Agent Canvas, les garde-fous sont structurels : un nœud qui bloque certains sujets, une divulgation obligatoire injectée à des points de conversation spécifiques, un déclencheur d'escalade qui se déclenche indépendamment de ce que le LLM souhaite faire ensuite. Ce ne sont pas des suggestions pour le modèle : ce sont des contraintes strictes imposées par la plateforme. La conversation ne peut pas les dépasser, même si le LLM essaie.
Invites pour la personnalité, structure pour la fiabilité
Les invites ont toujours leur place. Ils sont excellents pour donner le ton, la personnalité et le style de conversation – des domaines dans lesquels une certaine variation est acceptable et même souhaitable. Mais pour tout ce qui doit toujours se produire (divulgations, règles d'escalade, traitement des données) ou ne doit jamais se produire (conseils non autorisés, discussion avec des concurrents, dérogations de prix), le contrôle appartient au flux de travail et non à l'invite.
Prêt à construire ?
Découvrez comment les agents IA multimodaux de Mazed fonctionnent pour votre cas d'utilisation.