सुबह 2:17 बजे ऋण स्वीकृत हो जाता है, शिफ्ट में कोई इंसान नहीं, आंखों की दूसरी जोड़ी नहीं। एक एआई मॉडल बैंक विवरण पढ़ता है, आय का अनुमान लगाता है, जोखिम की कीमत बताता है और पैसे स्थानांतरित करता है। वह गति शक्तिशाली है, लेकिन खतरनाक है। जब मॉडल भटक जाते हैं या गलत सबक सीखते हैं, तो नुकसान तुरंत होता है: अनुचित इनकार, खराब संपत्ति और नाराज नियामक। एआई ऑडिटिंग वह नियंत्रण है जो साबित करता है कि ये सिस्टम निर्णय लेने के लिए उपयुक्त हैं – वे कैसे बनाए गए हैं, वे किस डेटा से सीखते हैं, वे कौन से परीक्षण पास करते हैं, और उत्पादन में उन्हें कैसे देखा जाता है। प्रश्न सरल है: यदि यह मॉडल एक व्यापारी होता, तो क्या हम इसे नियम पुस्तिका और पर्यवेक्षक के बिना व्यापार करने देते?
2:17 पूर्वाह्न के उस निर्णय के लिए एक नियम पुस्तिका और एक पर्यवेक्षक की आवश्यकता होती है, और एआई ऑडिटिंग यही प्रदान करती है। इसे सीखने की प्रणालियों के लिए उन्नत मॉडल-जोखिम प्रबंधन के रूप में सोचें। इसकी शुरुआत सरल स्कोरकार्ड (डेटा का दस्तावेजीकरण, मॉडल का परीक्षण, लॉग ओवरराइड) से हुई। आज के सिस्टम दस्तावेज़ पढ़ते हैं, फीडबैक से सीखते हैं, विक्रेता प्लेटफ़ॉर्म पर चलते हैं, और विभिन्न भाषाओं और खंडों में अलग-अलग तरीके से विफल हो सकते हैं। तो, एआई ऑडिटिंग एआई प्रणाली की उसके जीवन, डिजाइन, परीक्षण, तैनाती और निगरानी के माध्यम से एक स्वतंत्र, साक्ष्य-आधारित समीक्षा है। इसमें पाँच स्पष्ट प्रश्न पूछे गए हैं: (1) यह प्रणाली किसके लिए है और इसका उपयोग कौन करता है? (2) किस डेटा का उपयोग किस स्रोत और सहमति से किया गया? (3) कौन से परीक्षण साबित करते हैं कि यह अनिश्चितता के साथ सटीकता, डेटा बदलाव और हमलों के तहत मजबूती, खंड के अनुसार गोपनीयता और निष्पक्षता पर काम करता है? (4) जोखिम टीमों, फ्रंटलाइन कर्मचारियों और ग्राहकों को निर्णय कैसे समझाए जाते हैं? (5) उत्पादन में इसे कैसे देखा जाता है, सुरक्षित रूप से रोका जाता है और सुधार किया जाता है?
आवश्यक ब्लूप्रिंट: मुफ़्त-एआई और वैश्विक प्लेबुक
उन पाँच प्रश्नों के सामने, परिचित भारतीय नियम पुस्तिकाएँ स्पष्ट अंतराल दिखाती हैं। उदाहरण के लिए, डीपीडीपी अधिनियम डेटा अधिकारों की रक्षा करता है, लेकिन क्योंकि एआई मॉडल सीखने और भविष्यवाणी करने के लिए डेटा का उपयोग करते हैं, यह खंड द्वारा निष्पक्षता, समय के साथ मॉडल बहाव, या स्वचालित निर्णयों में मानव ओवरराइड की आवश्यकता जैसे जटिल मॉडल व्यवहार के बारे में बहुत कम कहता है। यहीं पर आरबीआई का फ्री-एआई ढांचा बैंकिंग क्षेत्र के लिए सामग्री जोड़ता है। फ्री-एआई व्यावहारिक आवश्यकताओं में एआई शासन को आधार बनाता है जो इन कमियों को संबोधित करता है, जैसे स्पष्ट मॉडल स्वामित्व स्थापित करना, डेटा उत्पत्ति सुनिश्चित करना, कठोर जीवनचक्र परीक्षण करना और मजबूत तृतीय-पक्ष जवाबदेही लागू करना। संक्षेप में, फ्री-एआई बैंकों को उन पांच मूलभूत प्रश्नों को एआई ऑडिटेबल नियंत्रण में बदलने के लिए एक व्यावहारिक संदर्भ देता है।
तो, बैंकों को प्लेबुक की तलाश कहाँ करनी चाहिए, क्या हमें वास्तव में पहिये को फिर से आविष्कार करने की ज़रूरत है? उत्तर है नहीं; आरबीआई के फ्री-एआई फ्रेमवर्क, एनआईएसटी के एआई आरएमएफ और सीएसए के एआईसीएम की तिकड़ी में एक पूरक प्लेबुक पहले से मौजूद है। फ्री-एआई ‘क्यों’ (नैतिक सिद्धांत) और यह दृष्टिकोण स्थापित करता है कि बैंकों को क्या हासिल करना चाहिए: एक निष्पक्ष, नैतिक और जिम्मेदार संरचना। एनआईएसटी एआई आरएमएफ एक सतत जोखिम प्रबंधन चक्र (शासन, मानचित्र, माप, प्रबंधन) का प्रस्ताव देकर ‘कैसे’ का सुझाव देता है, जो मॉडल विकास संस्कृति में सुरक्षा को एम्बेड करता है। अंत में, सीएसए का एआईसीएम डेटा, सुरक्षा और शासन जैसे प्रमुख डोमेन में सटीक, विक्रेता-अज्ञेयवादी तकनीकी नियंत्रणों को सूचीबद्ध करके विशिष्ट ‘क्या’ प्रदान करता है। सामूहिक रूप से, ये ढाँचे बैंकों को एआई ट्रस्ट को ऑडिटेबल चेक में बदलने के लिए आवश्यक सिद्धांत, प्रक्रिया और चेकलिस्ट प्रदान करते हैं। हमारे विचार में, ये तीन ढाँचे एक साथ मिलकर काम करते हैं।
एक मशीन का ऑडिट करने के लिए एक गाँव की आवश्यकता होती है; कौन नेतृत्व करता है, और कौन अनुसरण करता है?
हमारा मानना है कि भारतीय बैंकिंग क्षेत्र में एआई ऑडिटिंग नियंत्रण स्थापित करना एक महत्वपूर्ण, बहु-हितधारक प्रयास होगा। फ्री-एआई ने पहले से ही दिशानिर्देश निर्धारित किए हैं, जो अनिवार्य रूप से ‘क्या’ को परिभाषित करते हैं, और यह मांग करता है कि सभी एआई सिस्टम आश्वासन, निष्पक्षता और स्पष्ट व्याख्या प्रदर्शित करें। हमारा मानना है कि असली जिम्मेदारी, ‘कैसे’, विनियमित बैंकों, एनबीएफसी और उनके लेखा परीक्षकों पर आती है। उनकी चुनौती, और उनका महत्वपूर्ण योगदान, इन अधिदेशों को व्यावहारिक, दैनिक कार्यों में परिवर्तित करना है। इसमें नैतिक निष्पक्षता के लिए एआई-संचालित निर्णयों की लगातार जांच करना और, स्पष्ट रूप से, जटिल मॉडल द्वारा लाए जाने वाले अंतर्निहित जोखिमों पर मजबूत पकड़ बनाना शामिल है। गंभीर रूप से, बैंक की आंतरिक तकनीकी इकाइयाँ तकनीकी रीढ़ के रूप में काम करेंगी। उन्हें वास्तविक नियंत्रण प्रणाली लागू करने का काम सौंपा गया है। इसमें यह सुनिश्चित करना शामिल है कि एआई डेटा को सावधानीपूर्वक ट्रैक और सुरक्षित किया जाए, जिससे संपूर्ण ऑडिट ट्रेल संरक्षित रहे। हमारे विचार में, यह सामूहिक प्रयास यह सुनिश्चित करेगा कि एआई को अपनाना पूरी तरह से ऑडिट योग्य है।
अपूर्णता को स्वीकार करना: व्यावहारिक एआई रेलिंग
तो, तात्कालिक मुद्दा व्यावहारिक है और स्पष्ट कहें तो, कुछ नियंत्रण जो हम चाहते हैं उन्हें आज हासिल करना कठिन नहीं है। उदाहरण के लिए, गहरे मॉडल पूरी तरह से समझाने योग्य नहीं होंगे; GenAI मतिभ्रम-मुक्त नहीं होगा; पूर्वाग्रह शून्य नहीं हो सकता; उद्गम और विक्रेता पारदर्शिता ख़राब हैं।
इसलिए, व्यावहारिक मार्ग पूर्णता का पीछा करने के बारे में नहीं है; यह व्यावहारिक रेलिंग स्थापित करने के बारे में है। इसकी मांग है कि बैंक उच्च जोखिम वाले उपयोग के लिए व्याख्या करने योग्य मॉडल को प्राथमिकता दें, सेगमेंट द्वारा मॉडल व्यवहार की सीमा तय करें और लगातार निगरानी करें, और किसी भी डेटा अंतराल का सावधानीपूर्वक दस्तावेजीकरण करें। इसके अलावा, बैंकों को स्थिरता और सुरक्षा के लिए आक्रामक परीक्षण और चरणबद्ध मॉडल अपडेट करके व्यावहारिक रेलिंग स्थापित करनी चाहिए। रक्षात्मक रूप से, उन्हें लक्षित डेटा गोपनीयता विधियों का उपयोग करना चाहिए और विक्रेता जवाबदेही की मांग करनी चाहिए। हम यह निष्कर्ष निकालते हैं कि आज की तैनाती के लिए न्यूनतम मानक निरंतर निगरानी है, जो हमेशा परीक्षण की गई ‘किल-स्विच’ क्षमता द्वारा समर्थित है।
(प्रमोद सी माने नेशनल इंस्टीट्यूट ऑफ बैंक मैनेजमेंट पुणे में हैं और सिद्धार्थ महापात्रा डेटा एंड एनालिटिक्स सेंटर (डीएनए), केनरा बैंक, बेंगलुरु में हैं)
प्रकाशित – 28 अक्टूबर, 2025 06:30 पूर्वाह्न IST