Ajan Kanvasındaki Korkuluklar: Yapay Zeka Ajanları için Yapısal Kontroller
Agent Canvas'taki korkuluklar hızlı talimatlar değildir; konuşma grafiğinde LLM'nin atlayamayacağı katı kısıtlamalardır. İşte nasıl çalışıyorlar.
Yüksek Lisans'a 'asla tıbbi tavsiye vermeyin' dediğinizde olasılıksal uyumluluğa güveniyorsunuz. Agent Canvas'a tıbbi konuları algılayan ve bir üst kademeye iletme akışına yönlendiren bir korkuluk düğümü eklediğinizde, yapısal bir kısıtlama uyguluyorsunuz demektir. Aradaki fark: Biri bazen başarısız olur. Diğeri model tarafından bypass edilemez.
Korkuluk türleri
- Konu blokları — temsilcinin belirli konularla (rakip fiyatlandırması, tıbbi teşhis, hukuki tavsiye) ilgilenmesini engeller. Algılama, istemde değil orkestrasyon katmanında gerçekleşir.
- Zorunlu açıklamalar — belirli noktalara gerekli dili ekleyin: çağrı başlangıcında yapay zeka kimliğinin açıklanması, finansal işlemlerden önce uyumluluk dili, izin bildirimlerinin kaydedilmesi.
- İlerletme tetikleyicileri — koşullar karşılandığında otomatik insan aktarımı: müşteri insan isteğinde bulunur, duyarlılık eşiğin altına düşer, konuşma karmaşıklık sınırını aşar.
- Veri işleme kuralları — hassas bilgileri günlüklerden çıkarın, ödeme verilerinin depolanmasını önleyin, PII için alan düzeyinde şifrelemeyi zorunlu kılın.
- Eylem sınırları — temsilcinin hangi araçları ve hangi koşullar altında kullanabileceğini kısıtlayın (örneğin, 50 ABD dolarının altındaki geri ödemeleri bağımsız olarak işleyebilir, 50 ABD dolarının üzerine yükseltilmelidir).
Korkuluklar tuvalde görünüyor
Her korkuluk, konuşma grafiğinde görünür bir düğüm veya kenardır. Uyumluluk ekipleri, tuvali inceleyerek akışı denetleyebilir; açıklamaların nereye eklendiğini, üst kademeye iletmenin nerede gerçekleştiğini ve hangi konu filtrelerinin etkin olduğunu görebilirler. Bu denetlenebilirlik, korkulukların takip edilebilecek veya takip edilemeyecek doğal dil talimatlarının paragraflarına gömüldüğü, yalnızca hızlı sistemlerde imkansızdır.
Başlamaya hazır mısın?
Mazed'in multimodal yapay zekasının sizin için nasıl çalıştığını görün.