कल्पना कीजिए—एक ऐसा AI मॉडल जो सिर्फ 3 स्टेप में आपके बैंक के सिस्टम को तबाह कर सकता है। जी हाँ, वही ‘मिथोस’ जिसने दुनिया भर के 12 बैंकों और 40+ टेक ग्रुप्स को पिछले हफ्ते रातों रात बैठकों में बुलाया। Anthropic नाम की कंपनी ने इसे बनाया था, मगर इसे दुनिया के सामने लाने से इनकार कर दिया। क्यों? क्योंकि मिथोस ने साबित कर दिया था कि वो हर बड़े ऑपरेटिंग सिस्टम और ब्राउजर में मौजूद कमजोरियों को ढूंढ सकता है—और वो भी बिना किसी इंसान की मदद के। यहाँ तक कि उसने OpenBSD में 27 साल पुरानी एक ऐसी खामी निकाली जो कभी किसी को दिखाई तक नहीं दी गई थी।
हैरान करने वाली बात ये है कि Anthropic ने इसे सार्वजनिक नहीं किया। इसकी जगह, उन्होंने दुनिया के सबसे बड़े बैंकों को इसके बारे में बताया—और वो भी सिर्फ इसलिए ताकि वो अपनी सुरक्षा मजबूत कर सकें। मगर जैसे ही ये खबर फैली, अमेरिका से लेकर यूरोप, भारत और एशिया तक—हर जगह अफरा-तफरी मच गई। अमेरिका के टॉप बैंकों के CEO—Citigroup की Jane Fraser, Morgan Stanley के Ted Pick, Goldman Sachs के David Solomon—सभी ने अपने-अपने तरीके से इस खतरे को स्वीकार किया। JPMorgan के CEO Jamie Dimon तो इतने परेशान थे कि वो खुद उस मीटिंग में शामिल नहीं हो सके।
मगर सबसे बड़ा सवाल यही है—क्या ये AI मॉडल सच में इतना खतरनाक है? जवाब है—हाँ। और इसकी गवाही देते हैं वो लोग जिन्होंने इसे टेस्ट किया है। AI सिक्योरिटी एक्सपर्ट Nicholas Carlini कहते हैं, “मैंने पिछले दो हफ्तों में जितने बग्स निकाले हैं, उतने तो मेरी पूरी ज़िंदगी में मिले नहीं थे।” और ये सिर्फ शुरुआत है। क्योंकि Anthropic ने खुद माना है कि मिथोस ‘CyBench’ नाम के साइबर सिक्योरिटी टेस्ट में 100% स्कोर कर चुका है। इसका मतलब? ये मॉडल हर उस सिस्टम को हैक कर सकता है जो थोड़ा भी कमजोर है।
यूरोप में तो हालात और भी गंभीर हैं। Bank of England के गवर्नर Andrew Bailey ने कहा है कि ये AI मॉडल साइबर क्राइम के खतरे को कई गुना बढ़ा सकता है। उन्होंने चेतावनी दी, “अगर ऐसे मॉडल बिना किसी नियंत्रण के आम लोगों तक पहुंच जाएं, तो दुनिया भर के बैंक रातों रात तबाह हो सकते हैं।” वहीँ, Deutsche Bank के CEO Christian Sewing ने कहा कि उन्हें अभी पैनिक की ज़रूरत नहीं है, मगर वो इस खतरे को गंभीरता से ले रहे हैं।
मगर सबसे चौंकाने वाली बात ये है कि Anthropic ने मिथोस को सिर्फ चुनिंदा लोगों को ही दिखाया है। दुनिया के ज्यादातर बैंक अभी भी इसे टेस्ट नहीं कर पाए हैं। मगर जिन लोगों ने इसे देखा है, वो सब हैरान हैं। JPMorgan के एक एनालिस्ट Michael Cembalest ने तो अपने नोट का नाम ही ‘Misanthropic’ रख दिया—यानी वो AI जो इंसानों को नुकसान पहुंचाने के लिए बना है। उन्होंने लिखा है कि मिथोस ‘सबसे बड़ा अलाइनमेंट रिस्क’ है जो उन्होंने अब तक देखा है।
और अब सवाल उठता है—क्या दुनिया भर के बैंक इसके लिए तैयार हैं? जवाब है—नहीं। क्योंकि ज्यादातर बैंक अभी भी पुराने सिस्टम पर चल रहे हैं। Barclays के CEO C.S. Venkatakrishnan ने कहा है कि जो बैंक अभी भी पुराने सिस्टम पर निर्भर हैं, उनके लिए ये खतरा और भी बड़ा है। उन्होंने कहा, “मिथोस सिर्फ शुरुआत है। आने वाले वक्त में और भी खतरनाक AI मॉडल आएंगे।”
स्विट्जरलैंड के फाइनेंशियल मार्केट रेगुलेटर FINMA ने तो इसे ‘सिस्टेमिक रिस्क’ तक कह दिया है। उनका कहना है कि अगर ऐसे AI मॉडल बिना किसी नियंत्रण के आम लोगों तक पहुंच जाएं, तो दुनिया भर के सॉफ्टवेयर सिस्टम एक साथ तबाह हो सकते हैं।
और अब सबसे बड़ा सवाल—क्या Anthropic ने जानबूझकर मिथोस को सार्वजनिक नहीं किया? क्या वो जानते थे कि इससे कितना बड़ा खतरा पैदा हो सकता है? Anthropic के CEO Dario Amodei ने तो बस इतना कहा है कि उन्होंने मॉडल को रिलीज नहीं किया क्योंकि उन्हें लगा कि इससे ज्यादा नुकसान हो सकता है। मगर क्या ये सच है? या फिर Anthropic कोई और बड़ी प्लानिंग कर रही है?
दुनिया भर के रेगुलेटर्स अभी भी इस बारे में सोच-विचार कर रहे हैं। IMF और World Bank के मीटिंग्स में भी मिथोस पर चर्चा हुई है। कनाडा के फाइनेंस मिनिस्टर François-Philippe Champagne ने कहा है कि ये खतरा इतना बड़ा है कि इसे नजरअंदाज नहीं किया जा सकता। उन्होंने कहा, “ये वैसा ही है जैसे स्ट्रेट ऑफ होरमुज—जहां हम जानते हैं कि खतरा है, मगर इसकी असली ताकत का अंदाजा नहीं।”
और अब सबसे बड़ा सवाल—क्या दुनिया भर के बैंक इस खतरे से निपटने के लिए तैयार हैं? या फिर अगले बड़े साइबर अटैक का इंतजार कर रहे हैं?
history: मिथोस का ये पूरा मामला दरअसल AI क्रांति का एक और पहलू है। पिछले कुछ सालों में AI मॉडल्स इतनी तेजी से विकसित हुए हैं कि अब वो इंसानों से भी ज्यादा तेजी से काम कर सकते हैं। मगर इसी तेजी के साथ खतरे भी बढ़े हैं। 2020 में जब GPT-3 आया था, तब भी लोगों ने कहा था कि AI से कितना बड़ा खतरा पैदा हो सकता है। मगर तब तक AI उतना ताकतवर नहीं था। मगर अब? अब AI मॉडल्स इतने स्मार्ट हो गए हैं कि वो खुद ही कमजोरियां ढूंढ सकते हैं और उन्हें exploit भी कर सकते हैं।
और यही वजह है कि Anthropic जैसे कंपनियां अब सोच-समझ कर फैसले ले रही हैं। वो नहीं चाहते कि उनके AI मॉडल्स का गलत इस्तेमाल हो। मगर दूसरी तरफ, दुनिया भर के बैंक और रेगुलेटर्स भी इस बात से परेशान हैं कि अगर ऐसे मॉडल्स को कंट्रोल नहीं किया गया, तो अगला बड़ा साइबर अटैक बहुत बड़ा हो सकता है।
और यही वजह है कि Anthropic ने मिथोस को सिर्फ चुनिंदा लोगों को ही दिखाया है। वो चाहते हैं कि दुनिया भर के बैंक और रेगुलेटर्स पहले से तैयार हो जाएं। मगर सवाल ये है—क्या वो वक्त पर तैयार हो पाएंगे?
पाठकों की राय
क्या आपको लगता है कि Anthropic ने सही फैसला लिया है मिथोस को सार्वजनिक नहीं करने का?
क्या दुनिया भर के बैंक इस खतरे से निपटने के लिए तैयार हैं या फिर अगला बड़ा साइबर अटैक बस वक्त की बात है?
