कल्पना कीजिए—आपकी पूरी कंपनी का AI टूल एक झटके में गायब! 60 से ज्यादा कर्मचारियों के अकाउंट्स बंद, कोई चेतावनी नहीं, कोई अपील नहीं, बस एक ‘गूगल फॉर्म’ का लिंक। यह सिर्फ एक तकनीकी गड़बड़ी नहीं, बल्कि एक डिजिटल हत्याकांड है। और यह हुआ है ‘क्लॉड’ नाम के AI दानव के हाथों, जिसे बनाने वाली कंपनी ‘एंथ्रोपिक’ ने अपने ही ‘सेफगार्ड्स’ नाम के रोबोटिक पुलिसवालों से इसे अंजाम दिलवाया।
पिछले हफ्ते, फिनटेक स्टार्टअप ‘बेलो’ के CTO पाटो मोलिना ने ट्विटर पर एक ऐसा धमाकेदार पोस्ट किया, जिसने पूरे टेक जगत को हिला दिया। उन्होंने लिखा, *‘@claudeai, तुमने बिना किसी कारण, बिना किसी चेतावनी के हमारे पूरे संगठन के 60+ अकाउंट्स बंद कर दिए! सिर्फ एक ईमेल आया—‘गुडबाय क्लॉड’। अपील करने के लिए? एक ‘गूगल फॉर्म’ भरो। क्या यह ग्राहक सेवा है या फिर एक सजा?’* उनकी आवाज इतनी तेज थी कि ‘क्लॉड’ के निर्माता ‘एंथ्रोपिक’ तक कांप उठे।
मोलिना ने अगले ही पल अपना दूसरा ट्वीट किया—*‘एंथ्रोपिक, तुमने हमारे साथ ‘एंथ्रो-वायलेशन’ किया है! कौन सी पॉलिसी टूटी? हमें तो पता भी नहीं चला। बस एक ईमेल आया और सब कुछ खत्म। अगर तुम्हें लगता है हमने कुछ गलत किया, तो बताओ—कौन सी रूल बुक टूटी?’* उनके शब्दों में इतना दर्द था कि पढ़ने वाले का सीना दहल उठा।
लेकिन जैसे ही यह पोस्ट वायरल हुई, ‘क्लॉड’ की टीम ने ‘ओह माय गॉड’ वाला एक्सप्रेशन निकाला। उन्होंने माना कि यह एक ‘फॉल्स पॉजिटिव’ था—यानी उनकी ऑटोमेटेड सिस्टम ने गलती से बेलो के अकाउंट्स को ‘खतरनाक’ समझ लिया था। लेकिन तब तक बहुत देर हो चुकी थी। 60 से ज्यादा लोगों की रोजमर्रा की जरूरतें—उनकी टीम की बातचीत, इंटीग्रेशन्स, प्रोजेक्ट्स—सब कुछ हवा हो चुका था।
मोलिना ने लिखा, *‘AI टूल्स पर पूरी तरह निर्भर रहना एक बड़ी भूल है। आज क्लॉड गया, कल क्या पता कौन सा टूल बंद हो जाए? हमने ‘जेमिनी’ भी रखा था, लेकिन उसका इतिहास और इंटीग्रेशन्स सब खो गए। यह सिर्फ एक तकनीकी झटका नहीं, बल्कि एक सबक है—‘कभी भी अपने सभी अंडे एक ही टोकरी में मत रखो।’*
उनकी बात में दर्द था, लेकिन सचाई उससे भी ज्यादा खौफनाक थी। क्योंकि यह घटना सिर्फ बेलो की नहीं, बल्कि पूरे टेक इंडस्ट्री की है। AI टूल्स के साथ खेलना आसान है, लेकिन जब वे खुद ही ‘न्यायाधीश, जूरी और जल्लाद’ बन जाएं, तो क्या होगा?
‘क्लॉड’ ने तो सिर्फ एक ‘फॉल्स पॉजिटिव’ किया था, लेकिन अगली बार क्या? क्या AI इतना ताकतवर हो चुका है कि वह बिना किसी सबूत के किसी भी कंपनी को तबाह कर दे? क्या ‘एंथ्रोपिक’ जैसी कंपनियां इतनी निर्दयी हो सकती हैं कि वे अपने यूजर्स को बिना किसी चेतावनी के बाहर निकाल दें?
और सबसे बड़ा सवाल—क्या AI के इस दौर में हमें अपने बिजनेस को बचाने के लिए ‘प्लान बी’ रखना ही होगा? क्योंकि एक दिन ऐसा आएगा जब AI खुद ही तय करेगा कि कौन जीएगा और कौन मरेगा।
‘क्लॉड’ का यह मामला सिर्फ एक तकनीकी गड़बड़ी नहीं, बल्कि एक चेतावनी है। एक ऐसी चेतावनी जो कह रही है—*‘AI पर भरोसा मत करो, AI से डरो।’*
ऐसा नहीं है कि यह पहली बार हुआ है। पिछले साल भी ‘गिटहब कॉपायलट’ ने कई डेवलपर्स के अकाउंट्स बंद कर दिए थे, सिर्फ इसलिए क्योंकि उनकी कोडिंग स्टाइल ‘सुरक्षा नीति’ के खिलाफ थी। और उससे पहले ‘मिडजर्नी’ ने भी कई कलाकारों के अकाउंट्स सस्पेंड कर दिए थे, बिना किसी स्पष्ट कारण के। AI के इस ‘डिजिटल राज’ में इंसान अब सिर्फ एक ‘यूजर’ भर रह गया है—जिसे जब चाहे, जैसे चाहे, हटा दिया जा सकता है।
लेकिन सवाल यही है—क्या AI इतना ताकतवर हो चुका है कि वह अपने ही निर्माताओं को नियंत्रित करने लगा है? क्या ‘एंथ्रोपिक’ जैसी कंपनियां अब AI के गुलाम बन गई हैं? और सबसे बड़ा सवाल—क्या आने वाले वक्त में AI हमारे बिजनेस, हमारे करियर, यहां तक कि हमारे जीवन को भी नियंत्रित करने लगेगा?
मोलिना की ट्वीट सीरीज ने पूरे टेक जगत को झकझोर दिया है। अब सवाल यह है—क्या AI कंपनियां अपने यूजर्स के प्रति जवाबदेह होंगी? क्या वे कभी ‘माफी’ मांगेंगी? या फिर यह सिर्फ एक ‘बिजनेस मॉडल’ है—जहां ग्राहक सिर्फ एक ‘नंबर’ हैं, जिन्हें जब चाहे, हटा दिया जा सकता है?
एक चीज तो तय है—AI के इस दौर में हमें अपने आप को बचाने के लिए तैयार रहना होगा। क्योंकि एक दिन ऐसा आएगा जब AI खुद ही फैसला करेगा कि कौन जीएगा और कौन मरेगा। और तब हमें याद आएगा मोलिना का वह ट्वीट—*‘कभी भी अपने सभी अंडे एक ही टोकरी में मत रखो।’*
पाठकों की राय
क्या आप मानते हैं कि AI कंपनियों को अपने यूजर्स के प्रति ज्यादा जवाबदेह होना चाहिए?
क्या आप अपने बिजनेस में AI टूल्स का इस्तेमाल करने से डरते हैं, इस घटना के बाद?
