Огородження в Agent Canvas: структурні елементи керування для агентів ШІ
Огородження в Agent Canvas — це не швидкі інструкції, а жорсткі обмеження в діаграмі розмов, які LLM не може обійти. Ось як вони працюють.
Коли ви говорите LLM «ніколи не надавайте медичних порад», ви покладаєтеся на вірогідну відповідність. Коли ви додаєте вузол огорожі в Agent Canvas, який виявляє медичні теми та маршрути до потоку ескалації, ви накладаєте структурне обмеження. Різниця: один іноді виходить з ладу. Інше модель не обійде.
Види огороджень
- Тематичні блоки — запобігають взаємодії агента з конкретними предметами (ціноутворення конкурентів, медична діагностика, юридичні консультації). Виявлення відбувається на рівні оркестровки, а не підказки.
- Обов’язкове розкриття інформації — додайте необхідну мову в певні моменти: розкриття ідентифікаційної інформації штучного інтелекту на початку дзвінка, мова відповідності перед фінансовими операціями, запис сповіщень про згоду.
- Тригери ескалації — автоматична передача від людини, коли виконуються умови: клієнт запитує людину, настрій падає нижче порогу, розмова перевищує межу складності.
- Правила обробки даних — видалення конфіденційної інформації з журналів, запобігання зберіганню платіжних даних, застосування шифрування на рівні поля для ідентифікаційної інформації.
- Обмеження дій — обмежте, які інструменти агент може використовувати та за яких умов (наприклад, може обробляти відшкодування до 50 доларів США автономно, має перевищувати 50 доларів США).
У полотні видно огорожі
Кожна огорожа є видимим вузлом або ребром у діаграмі розмов. Групи відповідності можуть перевіряти потік, перевіряючи полотно — вони можуть бачити, де вводяться відомості, де відбувається ескалація та які темні фільтри активні. Ця можливість аудиту неможлива з системами, що працюють лише з підказками, де огорожі поховані в абзацах інструкцій природною мовою, які можуть або не можуть виконуватися.
Готові створювати?
Подивіться, як мультимодальні ШІ-агенти Mazed працюють для вашого випадку використання.