एस्केलेशन की समस्या
एक एजेंट जो कभी मदद नहीं माँगता, अंततः कुछ ग़लत और महंगा करेगा। एक एजेंट जो लगातार मदद माँगता है, अतिरिक्त क़दमों वाला चैटबॉट मात्र है। मीठा बिंदु एक ऐसा एजेंट है जो नियमित काम स्वायत्त रूप से संभालता है और तब एस्केलेट करता है जब वास्तव में मनुष्य की ज़रूरत हो—जिसे लागू करना सुनने से कठिन है।
कठिनाई यह है कि एजेंट को अपने आत्मविश्वास का आकलन करना है, आगे बढ़ने के जोखिम बनाम मनुष्य को बाधित करने की लागत का अनुमान लगाना है, और विविध स्थितियों में रीयल टाइम में यह निर्णय लेना है। हर कार्य के लिए काम करने वाली कोई सार्वभौमिक सीमा नहीं है।
आत्मविश्वास-आधारित एस्केलेशन
सबसे सामान्य पैटर्न एस्केलेशन को एजेंट की अपनी योजना या आउटपुट में आत्मविश्वास से जोड़ता है। यदि एजेंट को विश्वास है कि वह आगे बढ़ना जानता है और परिणाम सही होगा, तो वह स्वायत्त रूप से बढ़ता है। यदि आत्मविश्वास सीमा से नीचे गिरता है, तो वह एस्केलेट करता है।
व्यावहारिक चुनौती आत्मविश्वास का अंशांकन है। मॉडल आत्म-मूल्यांकन में बहुत बुरे हैं, कभी-कभी ग़लत होने पर आश्वस्त और सही होने पर अनिश्चित। बाहरी संकेतों के साथ मॉडल आत्मविश्वास को पूरक बनाना मदद करता है: क्या योजना ज्ञात पैटर्न से मेल खाती है? क्या टूल अपेक्षित परिणाम लौटा रहे हैं? क्या आउटपुट सत्यापन जाँच पास करता है? ये वस्तुनिष्ठ संकेत मॉडल के व्यक्तिपरक आत्मविश्वास से अधिक विश्वसनीय हैं।
जोखिम-आधारित एस्केलेशन
जब एजेंट आश्वस्त भी हो, तब भी कुछ कार्य स्वायत्त निष्पादन के लिए बहुत जोखिम भरे हैं। डेटा हटाना, बाहरी संचार भेजना, वित्तीय लेनदेन करना, प्रोडक्शन में कोड तैनात करना: इन्हें एजेंट के आत्मविश्वास की परवाह किए बिना मानवीय अनुमोदन माँगना चाहिए क्योंकि ग़लत होने की लागत उच्च है।
यह गार्डरेल अवधारणा से मेल खाता है: कुछ कार्य श्रेणियाँ हमेशा एस्केलेट होती हैं। एजेंट का आत्मविश्वास तय करता है कि वह ग्रे क्षेत्रों में एस्केलेट करता है या नहीं; जोखिम स्तर तय करता है कि वह स्पष्ट मामलों में एस्केलेट करता है या नहीं।
एस्केलेशन अनुभव डिज़ाइन करना
जब एजेंट एस्केलेट करे, तो एस्केलेशन की गुणवत्ता मायने रखती है। "मुझे मदद चाहिए" बेकार है। "मैं उपयोगकर्ता का बिलिंग प्लान अपडेट करने की कोशिश कर रहा हूँ, पर API ने ऐसा एरर लौटाया जिसे मैं नहीं पहचानता। यह रहा एरर, यह है जो मैंने आज़माया, और ये हैं विकल्प जो मुझे दिख रहे हैं" उपयोगी है। अच्छी एस्केलेशन संदर्भ देती है, अब तक का काम दिखाती है, और मनुष्य के चुनने के लिए ठोस विकल्प प्रस्तुत करती है।
मनुष्य को जल्दी जवाब देने में सक्षम होना चाहिए। यदि एस्केलेशन के लिए पन्नों के संदर्भ पढ़ने की ज़रूरत हो, तो वह बहुत महंगा है। एजेंट को स्थिति को संक्षेप में सारांशित करना चाहिए और स्पष्ट निर्णय बिंदु प्रस्तुत करने चाहिए। एस्केलेशन को अच्छी तरह संभालने वाले एजेंट फ़्रेमवर्क इसे लागू करना आसान बनाते हैं।
अनावश्यक एस्केलेशन को कम करना
ऑटोमेशन के अवसरों के लिए एस्केलेशन पैटर्न ट्रैक करें। यदि एजेंट बार-बार एक ही प्रकार का प्रश्न एस्केलेट करता है, तो आप शायद इसे संभालने के लिए नियम या क्षमता जोड़ सकते हैं। यदि 30% एस्केलेशन "मेरे पास X करने की अनुमति नहीं है" हैं, तो शायद एजेंट को व्यापक अनुमतियाँ चाहिए (उपयुक्त गार्डरेल्स के साथ)। ऐसे पैटर्न उजागर करने वाले एजेंट एनालिटिक्स टूल खोजें।