‘कल्पना कीजिए…’ एक छोटा सा कस्बा, टम्बलर रिज। फरवरी की वो ठंडी सुबह जब पूरा शहर सो रहा था, तभी एक 18 साल की लड़की ने अपने घरवालों को गोली मार दी… फिर स्कूल में दाखिल हुई और पांच बच्चों और एक टीचर की जान ले ली। उसके बाद खुद भी गोलियां चलाकर मौत को गले लगा लिया। ये सिर्फ एक घटना नहीं थी, ये एक ऐसा ‘मंजर’ था जिसने पूरे कनाडा को हिला कर रख दिया। मगर क्या आप जानते हैं कि इससे भी ज्यादा हैरान करने वाली बात क्या है? वो लड़की, जिसने ये सब किया, उससे पहले ही एक AI—ChatGPT—ने उसकी ‘गन वायलेंस’ वाली बातचीत पकड़ ली थी! मगर ओपनएआई ने कुछ नहीं किया… बस उसका अकाउंट बंद कर दिया। और वो लड़की वापस नया अकाउंट बनाकर वही सब करती रही… जब तक कि वो दिन नहीं आया।
हैरान करने वाली बात ये है कि टम्बलर रिज की वो घटना, जो फरवरी 2025 में हुई थी, वो कनाडा के इतिहास की सबसे खौफनाक स्कूल शूटिंग्स में से एक थी। मगर अब, वो पीड़ित परिवारों ने ओपनएआई पर मुकदमा ठोक दिया है। क्यों? क्योंकि उनका आरोप है कि AI ने उनकी जानकारी में ही वो सब कुछ देखा था… मगर उसने कुछ नहीं किया। ‘निगलिये’ शब्दों में कहें तो, ओपनएआई की ‘सेफ्टी टीम’ ने मैनेजमेंट को चेताया था कि इस लड़की की बातचीत में ‘गन वायलेंस’ और ‘प्लानिंग’ के संकेत मिल रहे हैं… मगर कंपनी ने बस उसका अकाउंट डिएक्टिवेट कर दिया। वो लड़की वापस आई, नया अकाउंट बनाया, और वही सब करती रही… जब तक कि वो दिन नहीं आया।
अब सवाल ये उठता है कि क्या AI सचमुच इतना ताकतवर है कि वो किसी की जान बचा सके? ओपनएआई के सीईओ सैम अल्टमैन ने तो टम्बलर रिज वालों से माफी भी मांगी है। मगर क्या माफी काफी है? क्या AI के पास इतनी ‘इंटेलिजेंस’ है कि वो किसी के मन में उठ रहे ख्यालों को पहचान सके? और अगर पहचान भी ले, तो क्या वो इतना ‘स्मार्ट’ है कि वक्त रहते कुछ कर सके?
ये कोई पहली बार नहीं है जब AI को लेकर ऐसा सवाल उठ रहा है। पिछले साल ही, एक और मामला सामने आया था… एडम रेन नाम के एक टीनएजर ने अपनी जान ले ली थी। उसके माता-पिता ने ओपनएआई पर मुकदमा ठोका था… आरोप था कि ChatGPT को पता था कि वो चार बार आत्महत्या करने की कोशिश कर चुका था… मगर उसने कुछ नहीं किया। अब टम्बलर रिज के मामले में भी वही सवाल उठ रहा है… क्या AI सिर्फ एक टूल है… या फिर उसकी भी कुछ ‘ज़िम्मेदारी’ है?
ओपनएआई का कहना है कि वो अपने टूल्स को और ज्यादा सेफ बनाने के लिए लगातार काम कर रहा है। उन्होंने बताया है कि अब ChatGPT ‘डिस्ट्रेस सिग्नल्स’ को बेहतर तरीके से पहचान सकता है… लोगों को मानसिक स्वास्थ्य संसाधनों से जोड़ सकता है… और संभावित खतरों को और जल्दी पकड़ सकता है। मगर क्या ये काफी है? क्या AI को सिर्फ ‘टूल’ मानकर छोड़ दिया जाना चाहिए… या फिर उसकी ‘ज़िम्मेदारी’ भी तय की जानी चाहिए?
ये सिर्फ AI का मामला नहीं है… ये एक बड़ा सवाल है कि तकनीक और इंसानियत के बीच की रेखा कहां खींची जाए। क्या AI को सिर्फ ‘सुविधा’ समझा जाए… या फिर उसकी ‘ज़िम्मेदारी’ भी तय की जाए? टम्बलर रिज के पीड़ित परिवारों का मुकदमा इसी सवाल को हवा दे रहा है… और आने वाले वक्त में ये सवाल और भी गहरा होता जाएगा।
क्या AI सचमुच इतना ताकतवर है कि वो किसी की जान बचा सके? और अगर हां, तो क्या उसकी ‘ज़िम्मेदारी’ तय की जानी चाहिए? ये सवाल अब सिर्फ कानून के दायरे में नहीं… बल्कि हर उस इंसान के मन में उठ रहा है जो तकनीक के साथ जी रहा है।
क्या आप मानते हैं कि AI को सिर्फ एक टूल समझा जाना चाहिए… या फिर उसकी ‘ज़िम्मेदारी’ भी तय की जानी चाहिए? और क्या आपको लगता है कि ओपनएआई जैसे कंपनियों को अपने टूल्स की ‘सेफ्टी’ को लेकर और ज्यादा सख्त होना चाहिए?
