कल्पना कीजिए… वो मंजर जब दुनिया की सबसे बड़ी लॉ फर्म Sullivan & Cromwell के वकीलों ने अपने ही AI टूल्स को इतना भरोसा कर लिया कि वो कोर्ट में झूठे सबूत पेश कर बैठे! हैरान करने वाली बात ये है कि AI ने न सिर्फ मिथ्या कानूनी मामलों के नाम गढ़े, बल्कि उसने ऐसे-ऐसे कोट्स बना दिए जो कभी बोले ही नहीं गए… और तो और, उसने अमेरिकी दिवालियापन कोड की धाराओं को भी गलत तरीके से पेश कर दिया! 18 अप्रैल को जब Sullivan & Cromwell के फाउंडर और रिस्ट्रक्चरिंग ग्रुप के को-हेड एंड्रयू डाइट्डरिच ने एक फेडरल जज को माफी पत्र लिखा, तब उन्हें एहसास हुआ था कि AI की ‘हल्लूसीनेशन’ (मतलब AI के झूठे जवाब) ने उनकी पूरी टीम को धोखा दे दिया था।
सच्चाई इससे भी भयानक है क्योंकि Sullivan & Cromwell जैसे दिग्गज फर्म के वकील प्रति घंटे $2,000 से ज्यादा चार्ज करते हैं… और वो भी AI के भरोसे! Financial Times की रिपोर्ट के मुताबिक, फर्म ने Prince Global Holdings के दिवालियापन मामले में एक आपातकालीन याचिका दायर की थी, जिसमें AI जनरेटेड गलतियां थीं। वो याचिका अमेरिकी दिवालियापन न्यायालय, साउदर्न डिस्ट्रिक्ट ऑफ न्यूयॉर्क में फाइल की गई थी।
AI ने क्या-क्या गड़बड़ियां कीं?
– **काल्पनिक केस नाम**: AI ने ऐसे कानूनी मामलों के नाम गढ़ लिए जो कभी हुए ही नहीं थे।
– **नकली कोट्स**: AI ने ऐसे डायरेक्ट कोट्स बना दिए जो कभी बोले ही नहीं गए थे।
– **गलत सारांश**: AI ने दूसरे मामलों के निष्कर्षों को गलत तरीके से सारांशित कर दिया।
– **अस्तित्वहीन कानून**: AI ने अमेरिकी दिवालियापन कोड की धाराओं को गलत तरीके से विश्लेषित कर दिया या फिर पूरी तरह से नकली धाराएं बना दीं।
Sullivan & Cromwell के पास ChatGPT का एंटरप्राइज लाइसेंस है, लेकिन यह स्पष्ट नहीं है कि किस AI टूल का इस्तेमाल किया गया था। फर्म ने कोर्ट को बताया कि वे AI टूल्स का इस्तेमाल करते समय ‘रिगरस’ स्टैंडर्ड्स अपनाते हैं और वकीलों को निर्देश देते हैं कि ‘कुछ भी मानो मत, सब कुछ वेरिफाई करो’। अगर ऐसा नहीं किया जाता है, तो यह फर्म की पॉलिसी का उल्लंघन माना जाता है।
लेकिन सवाल उठता है कि Sullivan & Cromwell जैसी फर्म, जो प्रति घंटे $2,000 चार्ज करती है, AI के भरोसे कैसे चल पाई? क्या यह सिर्फ एक तकनीकी गड़बड़ी थी या फिर AI के प्रति बढ़ती निर्भरता का एक बड़ा संकेत है?
Prince Group का मामला भी बेहद दिलचस्प है। Sullivan & Cromwell ब्रिटिश वर्जिन आइलैंड्स के कानूनी अधिकारियों द्वारा नियुक्त लिक्विडेटर्स का प्रतिनिधित्व कर रही है, जो Prince Group और उसके मालिक चेन जी के खिलाफ कार्रवाई कर रहे हैं। 2025 में अमेरिकी संघीय अभियोजकों ने चेन जी पर तार धोखाधड़ी और धन शोधन का आरोप लगाया था। उन्हें आरोपित किया गया है कि उन्होंने कंबोडिया में Prince Group के संचालन का निर्देशन किया, जिसमें जबरन श्रम शिविर चलाए गए और लाखों डॉलर्स की ठगी अमेरिका और दुनिया भर के पीड़ितों से की गई।
AI के इस ‘हल्लूसीनेशन’ ने न सिर्फ Sullivan & Cromwell की प्रतिष्ठा को धक्का पहुंचाया है, बल्कि यह सवाल भी खड़ा कर दिया है कि क्या AI टूल्स का इस्तेमाल कानूनी क्षेत्र में सुरक्षित है? क्या यह सिर्फ एक गलती थी या फिर AI के प्रति बढ़ती निर्भरता का एक बड़ा संकेत है?
विशेषज्ञों का कहना है कि AI टूल्स का इस्तेमाल करते समय सावधानी बरतना बेहद जरूरी है। AI के ‘हल्लूसीनेशन’ के मामले पहले भी सामने आ चुके हैं, लेकिन Sullivan & Cromwell जैसी फर्म के लिए यह एक बड़ा सबक है। AI टूल्स का इस्तेमाल करते समय ‘ट्रस्ट नथिंग, वेरिफाई एवरीथिंग’ का नियम अपनाना बेहद जरूरी है।
लेकिन क्या Sullivan & Cromwell इस गलती से सीखेगी? क्या AI के प्रति बढ़ती निर्भरता कानूनी क्षेत्र में एक नई चुनौती बन जाएगी?
AI के इस ‘हल्लूसीनेशन’ ने न सिर्फ Sullivan & Cromwell की प्रतिष्ठा को धक्का पहुंचाया है, बल्कि यह सवाल भी खड़ा कर दिया है कि क्या AI टूल्स का इस्तेमाल कानूनी क्षेत्र में सुरक्षित है? क्या यह सिर्फ एक गलती थी या फिर AI के प्रति बढ़ती निर्भरता का एक बड़ा संकेत है?
विशेषज्ञों का कहना है कि AI टूल्स का इस्तेमाल करते समय सावधानी बरतना बेहद जरूरी है। AI के ‘हल्लूसीनेशन’ के मामले पहले भी सामने आ चुके हैं, लेकिन Sullivan & Cromwell जैसी फर्म के लिए यह एक बड़ा सबक है। AI टूल्स का इस्तेमाल करते समय ‘ट्रस्ट नथिंग, वेरिफाई एवरीथिंग’ का नियम अपनाना बेहद जरूरी है।
लेकिन क्या Sullivan & Cromwell इस गलती से सीखेगी? क्या AI के प्रति बढ़ती निर्भरता कानूनी क्षेत्र में एक नई चुनौती बन जाएगी?
