Neden İstemi Mühendisliği Ses Aracınızı Kaydetmiyor?
Endüstri, istemleri sesli aracılar için birincil kontrol mekanizması olarak ele alıyor. Ancak istemler öneridir; korumalar, iş akışları ve orkestrasyon, aracıları güvenilir tutan şeylerdir.
Daha iyi bir istem yazın. Daha fazla talimat ekleyin. Temsilciye bir şeyi 'asla' yapmamasını söyleyin. Bu, sesli aracı davranışını düzeltmeye yönelik varsayılan yaklaşımdır ve temelde kırılgandır. İstemler olasılıksaldır - Yüksek Lisans çoğu zaman bunları takip eder, ancak temsilci gerçek müşterilerle, gerçek parayla veya gerçek tıbbi bilgilerle ilgilenirken 'çoğu zaman' yeterince iyi değildir.
Bilgi istemleri sözleşme değil öneridir
Bir LLM'ye 'rakip fiyatlarını asla tartışmayın' deyin ve o da %95 oranında buna uyacaktır. Diğer %5'lik kısım ise (arayanın soruyu beklenmedik bir şekilde ifade etmesi, görüşme bağlamının değişmesi, modelin uzun bir görüşmede talimatları 'unutması') uyumluluk ihlallerinin, markanın zarar görmesinin ve müşteri hayal kırıklığının meydana geldiği yerdir. Büyük ölçekte, kritik bir kuralda %5'lik başarısızlık, ayda yüzlerce sorunlu etkileşim anlamına gelir.
Yapısal kontroller hızlı talimatların önüne geçiyor
Bunun alternatifi, kritik kontrolleri istemlerden düzenleme katmanına taşımaktır. Agent Canvas gibi görsel bir iş akışında korkuluklar yapısaldır: belirli konuları engelleyen bir düğüm, belirli konuşma noktalarına eklenen zorunlu bir açıklama, LLM'nin bundan sonra ne yapmak istediğine bakmaksızın devreye giren bir yükseltme tetikleyicisi. Bunlar modele yönelik öneriler değil; platform tarafından uygulanan katı kısıtlamalardır. Yüksek Lisans denese bile konuşma onların ötesine geçemez.
Kişilik için ipuçları, güvenilirlik için yapı
İstemlerin hala yeri var. Bazı farklılıkların kabul edilebilir ve hatta arzu edilir olduğu alanlar olan tonu, kişiliği ve konuşma tarzını belirlemek için mükemmeldirler. Ancak her zaman olması gereken (açıklamalar, üst kademeye iletme kuralları, veri işleme) veya asla gerçekleşmemesi gereken (yetkisiz tavsiye, rakip tartışması, fiyatlandırma geçersiz kılma) her şey için kontrol, istemin değil iş akışının elindedir.
Başlamaya hazır mısın?
Mazed'in multimodal yapay zekasının sizin için nasıl çalıştığını görün.