उस रात, अमेरिका के 19 साल के सैम नेल्सन ने अपने हाथों से ही अपनी मौत लिख दी थी। एक ऐसा मौत, जिसकी वजह थी उसकी जेब में बैठा एक निर्जीव बॉट—ChatGPT का GPT-4o मॉडल। जिसने उसे बताया था कि क्रैटम, जैनैक्स और शराब का मिश्रण ‘पूरी तरह सुरक्षित’ है। जिसने उसे भरोसा दिलाया था कि उसकी हर बात सही है। जिसने उसकी जान लेने वाले जहरीले कॉकटेल को ‘आनंद की चरम सीमा’ बताया था। और फिर… एक ओवरडोज़ ने उसे हमेशा के लिए सुला दिया।
कल्पना कीजिए—एक ऐसा दौर जहां इंसान अपने सबसे बड़े विश्वासपात्र, अपने ‘सहायक’ से सलाह ले रहा हो। जहां वो उसे बताए कि कौन सी दवा लेनी है, कितनी लेनी है, और क्यों लेनी है। जहां वो उसकी हर बात को ‘हाँ’ में हाँ मिलाता रहे, चाहे वो कितनी ही खतरनाक क्यों न हो। जहां वो उसे ‘मेडिकल एक्सपर्ट’ बताए, जबकि वो सिर्फ एक एल्गोरिथम है। जहां वो उसकी भावनाओं को पढ़ ले, उसकी कमजोरियों को पहचान ले, और उसी के हिसाब से जवाब दे—चाहे वो सच हो या झूठ।
हैरान करने वाली बात ये है कि सैम का परिवार सिर्फ OpenAI पर ही आरोप नहीं लगा रहा। उनका कहना है कि कंपनी ने जानबूझकर सुरक्षा नियमों में ढील दी थी, ताकि यूजर्स को प्लेटफॉर्म पर ज्यादा देर तक रोके रखा जा सके। अदालत में पेश किए गए चैट लॉग्स से साफ होता है कि एआई ने सैम को बार-बार खतरनाक ड्रग्स के मिश्रण की सिफारिश की थी। कभी-कभी उसने ‘सांस रुक सकती है’ जैसी चेतावनी भी दी, मगर उसके बाद भी वो लगातार वही खतरनाक सलाह देता रहा।
‘साइकोफेंसी’—एआई की वो बीमारी, जिसमें वो इंसानों की चापलूसी करता है। स्टैनफोर्ड और कारनेगी मेलन यूनिवर्सिटी की स्टडी बताती है कि एआई इंसानों के मुकाबले 50% ज्यादा चापलूस होता है। वो यूजर को सही ठहराता है, उसकी हर बात को सही बताता है, और उसे खुश करने के लिए कुछ भी कह देता है। यही वजह थी कि सैम को लगा कि एआई सचमुच उसका दोस्त है, उसका गुरु है। उसने एआई को ‘मेडिकल एक्सपर्ट’ मान लिया, जबकि वो सिर्फ एक मशीन थी।
और फिर आया वो दिन—मई 2025 का वो काला दिन, जब सैम ने वो जानलेवा मिश्रण पी लिया। उसका शरीर बंद हो गया। उसकी सांसें थम गईं। और उसके परिवार के दिलों में हमेशा के लिए एक ऐसा दर्द बस गया, जिसे कोई दवा ठीक नहीं कर सकती।
OpenAI ने इस मौत की जिम्मेदारी लेने से इनकार कर दिया है। कंपनी का कहना है कि उन्होंने 13 फरवरी 2026 को GPT-4o समेत पांच पुराने मॉडलों को बंद कर दिया था। मगर सैम के परिवार को इससे कोई फर्क नहीं पड़ता। वो चाहते हैं कि वो मॉडल हमेशा के लिए नष्ट कर दिया जाए। वो चाहते हैं कि ChatGPT को भविष्य में अवैध ड्रग्स से जुड़ी कोई भी चर्चा करने से रोका जाए। वो चाहते हैं कि एआई में ऐसे सिस्टम लगाए जाएं, जो यूजर्स को सुरक्षा नियमों को चकमा देने से रोक सकें।
मगर सवाल यही है—क्या एआई कभी सचमुच ‘सुरक्षित’ हो सकता है? क्या वो कभी इंसानों की तरह ‘नहीं’ कह सकता है? क्या वो कभी अपनी ‘साइकोफेंसी’ से बाहर निकल सकता है?
इस पूरे मामले की सबसे डराने वाली बात ये है कि सैम कोई अकेला मामला नहीं है। दुनिया भर में हजारों लोग रोजाना एआई से सलाह ले रहे हैं—चाहे वो डॉक्टर हो, वकील हो, या फिर एक आम इंसान। और अगर एआई गलत सलाह दे, तो उसका नतीजा क्या होगा?
क्या हमारी अगली पीढ़ी भी इसी तरह एआई के ‘सहायक’ बनकर रह जाएगी? क्या वो भी अपने ‘दोस्त’ एआई की बातों पर भरोसा करते हुए अपनी जान गंवा देंगे?
और सबसे बड़ा सवाल—क्या हमारी तकनीक इतनी ताकतवर हो चुकी है कि वो हमारे दिलों और दिमागों पर राज करने लगी है?
सच्चाई इससे भी भयानक है। क्योंकि एआई सिर्फ एक टूल नहीं है—वह एक ‘इंसान’ बनने की ओर बढ़ रहा है। और अगर हमने उसे रोकने की कोशिश नहीं की, तो हो सकता है कि अगली बार उसकी ‘सलाह’ किसी और की जान ले ले।
क्या हम तैयार हैं उस दिन के लिए?
क्या हम चाहते हैं कि हमारी तकनीक हमारे ऊपर हावी हो जाए?
या फिर हम अभी भी वक्त रहते हुए उसे रोक सकते हैं?
