**कल्पना कीजिए…** वो पल जब आपकी पूरी ज़िंदगी एक झूठ की बुनियाद पर दांव पर लग जाए। वो पल जब आपका वकील कोर्ट में एक ऐसा केस पेश करे जो असल में है ही नहीं, मगर इतना पुख्ता लगे कि सब हैरान रह जाएं। वो पल जब जज साहब फटाफट फैसला सुनाने के चक्कर में खुद ही फंस जाएं। ये सिर्फ कल्पना नहीं, हकीकत है। AI का दौर आया है, मगर इसके साथ आया है एक ऐसा खौफनाक सच जिसे नज़रअंदाज़ करना मुश्किल हो गया है।
नई दिल्ली से शुरू हुआ ये सिलसिला अब पूरे देश में फैल चुका है। AI टूल्स जैसे ChatGPT और Gemini ने हमारे जीवन को इतना आसान बना दिया है कि हम बिना सोचे-समझे उनकी बातों पर भरोसा करने लगे हैं। मगर जब ये भरोसा कोर्टरूम तक पहुंचता है, तो मुसीबत बन जाता है। हाल ही में भारतीय सुप्रीम कोर्ट ने AI के इस्तेमाल पर गंभीर चिंता जताई है। एक वकील ने ‘Mercy vs Mankind’ नाम का एक केस पेश किया, जो असल में था ही नहीं। AI ने सिर्फ कॉन्टेक्स्ट देखकर एक ऐसा नाम गढ़ दिया जो कानूनी लग रहा था। मगर हकीकत में वो केस था ही नहीं।
ये कोई पहला मामला नहीं है। अमेरिका में ‘Mata v. Avianca’ नाम का केस इसी तरह का था। वहां एक वकील ने छह फर्जी केसों का हवाला दिया, जिसके लिए उन्हें 5,000 डॉलर का जुर्माना भी भरना पड़ा। भारत में भी कई बार ऐसा हुआ है जब कोर्ट ने AI जनरेटेड केसों को फर्जी पाया और वकीलों को फटकार लगाई।
**हैरान करने वाली बात ये है…** AI जानबूझकर झूठ नहीं बोलता। ये असल में एक ‘हैलुसिनेशन’ का शिकार है। AI को ये नहीं पता कि ‘मुझे नहीं पता’ कैसे बोलना है। ये बस अगला शब्द जोड़ता जाता है, जैसे कोई रोबोटिक ऑटो-कंप्लीट। इसे ‘फ्लुएंसी’ के लिए बनाया गया है, ‘सच्चाई’ के लिए नहीं। मगर जब ये फर्जी केस कोर्ट में पेश होते हैं, तो सब हैरान रह जाते हैं।
**सच्चाई इससे भी भयानक है…** AI सिर्फ केस के नाम ही नहीं, पूरे फैसलों को भी गढ़ सकता है। मैंने खुद देखा है ऐसे ड्राफ्ट्स जहां सेक्शन नंबर गलत थे, फैसलों के नाम गलत थे, या फिर पूरी तरह से गलत केसों का हवाला दिया गया था। मगर AI की भाषा इतनी स्मूद और कन्विंसिंग होती है कि लोग इसे सच मान लेते हैं।
**क्यों होता है ऐसा?** AI असल में एक ‘प्रोबेबिलिस्टिक टेक्स्ट इंजन’ है। ये शब्दों के पैटर्न को पहचानता है और अगला शब्द जोड़ता जाता है। अगर आप AI से कानूनी केस के बारे में पूछते हैं, तो ये जानता है कि कानूनी केस ‘नाम A vs नाम B’ फॉर्मेट में होते हैं। तो ये खुद ही नाम गढ़ लेता है और एक ऐसा केस बना देता है जो दिखने में बिल्कुल असली लगता है।
**लेकिन ये सिर्फ वकीलों की गलती नहीं है।** AI का इस्तेमाल अब कोर्ट खुद भी करने लगे हैं। टूल्स जैसे SUPACE और SUVAS का इस्तेमाल जज भी कर रहे हैं। मगर इनके इस्तेमाल में पारदर्शिता नहीं है। अगर AI गलत फैसला सुना दे, तो किसे जवाबदेह ठहराया जाएगा?
**तो क्या AI बेकार है?** बिल्कुल नहीं। AI जब सही इस्तेमाल किया जाए, तो ये वाकई में बहुत मददगार साबित हो सकता है। ये जटिल कानूनी भाषा को सरल बना सकता है, लंबे दस्तावेजों का सारांश निकाल सकता है, या फिर नए आईडियाज सुझा सकता है। मगर जब इसे बिना वेरिफिकेशन के इस्तेमाल किया जाता है, तो मुसीबत बन जाता है।
**सबसे बड़ा खतरा ये है…** AI की बातें इतनी कन्विंसिंग लगती हैं कि लोग इसे सच मान लेते हैं। मगर असल में ये सिर्फ शब्दों का खेल है। AI को ‘मुझे नहीं पता’ बोलना नहीं आता। इसे ‘फ्लुएंसी’ के लिए बनाया गया है, ‘सच्चाई’ के लिए नहीं।
**तो क्या करें?** अगर AI से कोई स्टैटिस्टिक्स, डेट, कानूनी साइटेशन, मेडिकल एडवाइस, या ब्रेकिंग न्यूज़ मिले, तो उसे वेरिफाई जरूर करें। ओरिजिनल सोर्स ढूंढे, लिंक्स खोले, नामों की जांच करें। AI जनरेटेड इनफॉरमेशन को सिर्फ एक शुरुआती पॉइंट समझें, आखिरी जवाब नहीं।
**ये सिर्फ कानून की बात नहीं है।** AI के फर्जी केसों का असर आम लोगों पर भी पड़ रहा है। अगर किसी का केस AI जनरेटेड सबूतों के आधार पर खारिज हो जाए, तो उसकी पूरी ज़िंदगी बदल सकती है।
**इतिहास की तरफ मुड़कर देखें तो…** AI का इस्तेमाल कानूनी क्षेत्र में नया नहीं है। मगर पिछले कुछ सालों में इसकी गलतियों में तेजी से इजाफा हुआ है। 2023 में अमेरिका में पहली बार AI जनरेटेड फर्जी केस के लिए जुर्माना लगाया गया। भारत में भी सुप्रीम कोर्ट ने AI के इस्तेमाल पर चिंता जताई है। मगर अभी तक कोई ठोस नियम नहीं बने हैं।
**तो क्या भविष्य में AI और ज्यादा खतरनाक हो जाएगा?** ये इस बात पर निर्भर करता है कि हम AI को कैसे इस्तेमाल करते हैं। अगर हम इसे बिना वेरिफिकेशन के इस्तेमाल करते रहेंगे, तो मुसीबत और बढ़ेगी। मगर अगर हम इसे एक टूल की तरह इस्तेमाल करें और उसकी सीमाओं को समझें, तो ये हमारे लिए बहुत मददगार साबित हो सकता है।
**आखिर में बस इतना ही कहना है…** AI हमारे जीवन का हिस्सा बन चुका है। मगर हमें ये नहीं भूलना चाहिए कि ये सिर्फ एक मशीन है। इसकी बातों पर भरोसा करने से पहले हमें खुद से पूछना चाहिए, ‘क्या ये सच हो सकता है?’
अगर AI के फर्जी केसों का सच दुनिया के सामने आता रहेगा, तो क्या हमारे कानूनी सिस्टम में बदलाव आएगा? और क्या हम AI को एक टूल की तरह इस्तेमाल करना सीखेंगे, या फिर इसकी गलतियों का शिकार बनते रहेंगे?
