SaaS AI एजेंट के लिए मानव-अनुमोदन वर्कफ़्लो कैसे बनाएँ
जोखिम स्तर, स्पष्ट कार्रवाई-पूर्वावलोकन, स्वतंत्र अनुमति जाँच, समय-सीमा, सुरक्षित रीट्राई और ऑडिट रिकॉर्ड के साथ AI एजेंट अनुमोदन बनाएँ।
इस मार्गदर्शिका में
AI एजेंट को मानव अनुमोदन के लिए कब रुकना चाहिए?
जब AI एजेंट कोई ऐसा असरदार या कठिनाई से पलटने वाला काम करने वाला हो—जैसे रिफ़ंड देना, पहुँच बदलना, संदेश भेजना, निजी डेटा निर्यात करना या रिकॉर्ड मिटाना—तो उसे पहले अनुमोदन के लिए रोकें। मॉडल कार्रवाई सुझा सकता है, लेकिन भरोसेमंद एप्लिकेशन कोड को यह सीमा लागू करनी चाहिए। केवल प्रॉम्प्ट में “पहले पूछो” लिखना अनुमति नियंत्रण नहीं है।
असर और कार्रवाई पलट पाने के आधार पर जोखिम तय करें
हर टूल कार्रवाई, प्रभावित टेनेंट और रिकॉर्ड, वित्तीय या सुरक्षा असर, उसे वापस लेने की संभावना और संभावित दर्शकों की सूची बनाएँ। तय करें कि कौन-सी सीमित कार्रवाई अपने आप हो सकती है, किसके लिए अनुरोध करने वाले उपयोगकर्ता की पुष्टि चाहिए और किसके लिए प्रशिक्षित समीक्षक या दूसरा अनुमोदक चाहिए। स्तर कार्रवाई के वास्तविक परिणाम के अनुसार रखें, मॉडल के आत्मविश्वास के अनुसार नहीं।
अनुमोदन को मॉडल के नियंत्रण से बाहर रखें
सर्वर ही अनुरोधकर्ता, टेनेंट, ऑब्जेक्ट अनुमति, नीति और कार्रवाई के तर्क जाँचकर लंबित कार्रवाई बनाए। समीक्षक के लिए प्रमाणित एप्लिकेशन इंटरफ़ेस दें। मॉडल का लिखा वाक्य, छिपा हुआ निर्देश, अविश्वसनीय क्लाइंट कॉलबैक या दोबारा इस्तेमाल किया गया टोकन इस बात का प्रमाण नहीं है कि किसी व्यक्ति ने कार्रवाई मंज़ूर की।
समीक्षक को सटीक कार्रवाई और ज़रूरी संदर्भ दिखाएँ
लक्ष्य रिकॉर्ड, प्रस्तावित बदलाव, राशि या प्राप्तकर्ता, अनुरोध का स्रोत, संबंधित प्रमाण, परिणाम और उसे पलटने की सीमा स्पष्ट दिखाएँ। असंबंधित निजी जानकारी छिपाएँ। “आगे बढ़ें” जैसा अस्पष्ट बटन सूचित निर्णय में मदद नहीं करता; समीक्षक को प्रस्ताव की तुलना उपयोगकर्ता के अनुरोध और लागू नीति से करनी चाहिए।
| टूल कार्रवाई | जोखिम और पलटने की क्षमता | अनुमोदक | दिखाई जाने वाली जानकारी | समाप्ति और वैकल्पिक रास्ता |
|---|---|---|---|---|
अनुमोदन को दरकिनार करने और पुराने निर्णय के दुरुपयोग को कैसे रोकें?
अनुमोदन को एक सटीक, संस्करणित कार्रवाई से बाँधें
सर्वर द्वारा बनाया गया कार्रवाई ID, टेनेंट, अनुरोधकर्ता, लक्ष्य ऑब्जेक्ट, सामान्यीकृत तर्क, रिकॉर्ड संस्करण, नीति संस्करण, अनुमोदक और समाप्ति समय रखें। लक्ष्य, राशि, प्राप्तकर्ता, दायरा या तर्क में महत्वपूर्ण बदलाव होने पर पुरानी मंज़ूरी अमान्य होनी चाहिए। एक अनुमोदन से पूरी बैच या अगली टूल कार्रवाई को अधिकार न मिले।
चलाने से ठीक पहले अनुमति और मौजूदा स्थिति फिर जाँचें
अनुमोदन को अनुमति-जाँच का विकल्प न मानें। कार्रवाई से तुरंत पहले पुष्टि करें कि उपयोगकर्ता और अनुमोदक के पास अभी भी आवश्यक अधिकार हैं, रिकॉर्ड वही संस्करण है जिसकी समीक्षा हुई थी, कार्रवाई नीति के भीतर है और मंज़ूरी समाप्त या रद्द नहीं हुई है। कतार में प्रतीक्षा के दौरान अनुमति या तथ्य बदलने की स्थिति में यह जाँच ज़रूरी है।
रीट्राई को सुरक्षित बनाएँ ताकि असर दोहराया न जाए
लंबित कार्रवाई से जुड़ी idempotency key रखें और स्थिति को pending, approved, executing, completed, rejected या expired जैसे स्पष्ट चरणों में दर्ज करें। डाउनस्ट्रीम सिस्टम को कॉल करने से पहले लेन-देन में कार्रवाई का दावा करें। टाइमआउट अस्पष्ट हो तो दोबारा भुगतान, ईमेल या मिटाने का काम भेजने के बजाय डाउनस्ट्रीम परिणाम जाँचें।
समीक्षा, समय-सीमा और ऑडिट कैसे काम करें?
ज़रूरी समीक्षक उपलब्ध न हों तो कार्रवाई रोकें
समीक्षा सेवा टाइमआउट हो, स्थिति खो जाए या समीक्षक की पहचान सत्यापित न हो तो कार्रवाई लंबित रखें या अस्वीकार करें। उपयोगकर्ता को बताएँ कि क्या रुका है और सुरक्षित विकल्प दें, जैसे मानव सहायता। टाइमआउट, खाली उत्तर, SDK त्रुटि या एजेंट का फिर शुरू होना अपने आप मंज़ूरी नहीं है।
अनुमोदकों के लिए सीमित और सुलभ कतार रखें
उच्च-जोखिम कार्रवाई में अनुरोधकर्ता और अनुमोदक की भूमिका अलग रखें। सुलभ नियंत्रण, स्पष्ट भाषा, कीबोर्ड उपयोग और अस्वीकार या बदलाव माँगने का सुरक्षित तरीका दें। लक्ष्य सेवा-स्तर रखें, पर किसी को बिना पर्याप्त जानकारी या समय के कतार मंज़ूर करने को न कहें।
गोपनीयता का ध्यान रखते हुए निर्णय दर्ज करें
कार्रवाई ID, नीति और रिकॉर्ड संस्करण, निर्णय, अनुमोदक की पहचान, समय, निष्पादन परिणाम और अनुरोध संदर्भ दर्ज करें। निर्णय समझने के लिए जितना प्रमाण आवश्यक हो उतना ही रखें; पहुँच सीमित करें, अवधि तय करें और ऑडिट रिकॉर्ड को छेड़छाड़ से बचाएँ। पूरा प्रॉम्प्ट या असंबंधित ग्राहक रिकॉर्ड न रखें।
AI एजेंट मानव-अनुमोदन: सामान्य प्रश्न
क्या मॉडल अपनी सुझाई कार्रवाई को खुद मंज़ूर कर सकता है?
नहीं। मॉडल अनुरोध तैयार कर सकता है और प्रमाण समझा सकता है, लेकिन मंज़ूरी प्रमाणित व्यक्ति या अलग से लागू नीति-तंत्र से आनी चाहिए। निष्पादन सेवा को निर्णय सत्यापित करके अनुमति फिर जाँचनी चाहिए।
क्या हर AI टूल कार्रवाई के लिए मानव अनुमोदन ज़रूरी है?
हर बार नहीं। जोखिम के अनुसार स्तर बनाएँ। सीमित और वापस ली जा सकने वाली जानकारी-खोज अनुमति के बाद अपने आप हो सकती है, जबकि निर्यात, भुगतान, मिटाना, अधिकार बदलना या बाहरी संदेश भेजना स्पष्ट समीक्षा माँग सकते हैं।
अनुमोदन की समय-सीमा खत्म हो जाए तो क्या करें?
इसे समाप्त मानें और नई कार्रवाई तथा नई समीक्षा माँगें। रीट्राई पर पुरानी मंज़ूरी चुपचाप लागू न करें और बदले हुए तर्कों पर पुराना निर्णय न चलाएँ। उपयोगकर्ता को सुरक्षित ढंग से फिर भेजने का तरीका बताएँ।
क्या एजेंट SDK का अनुमोदन फ़ीचर पूरे उत्पाद को सुरक्षित करता है?
नहीं। यह वर्कफ़्लो नियंत्रण है। प्रमाणीकरण, अनुमति, टेनेंट सीमा, समीक्षक की पहचान, स्थायी स्थिति, समाप्ति, idempotency, ऑडिट और डाउनस्ट्रीम निष्पादन की ज़िम्मेदारी एप्लिकेशन की है।
संबंधित व्यावहारिक मार्गदर्शिकाएँ
संबंधित मुद्दों की मार्गदर्शिकाएँ
स्रोत और प्रकाशन रिकॉर्ड
मसौदा 27 सितंबर 2026 को तैयार; इंजीनियरिंग, सुरक्षा और संपादकीय समीक्षा लंबित · स्रोत जाँचे गए .