कल्पना कीजिए, आप एक किताब पढ़ रहे हैं, जिसमें लेखक ने बड़े ही दमदार तरीके से किसी महान व्यक्ति के शब्दों को उद्धृत किया है। वो शब्द इतने असरदार हैं कि आपकी रूह तक कांप जाती है। मगर जब आप खुद उस व्यक्ति की जीवनी खंगालते हैं, तो पाते हैं… वो शब्द कहीं मिलते ही नहीं! जी हाँ, आपने सही सुना—ये वो ‘सिंथेटिक क्वोट्स’ हैं, जिन्हें AI ने गढ़ा है, मगर लेखक ने उन्हें सच मान लिया।
ये सिर्फ एक मामला नहीं, बल्कि एक ‘खौफनाक सच्चाई’ की शुरुआत है। स्टीवन रोसेनबाम नाम के लेखक ने अपनी नई किताब ‘द फ्यूचर ऑफ ट्रुथ’ में AI टूल्स का जमकर इस्तेमाल किया। उनका कहना था कि उन्होंने AI का इस्तेमाल सिर्फ ‘आइडियाज निकालने, रिसर्च करने और थीम्स को समझने’ के लिए किया। मगर जब ‘द न्यूयॉर्क टाइम्स’ ने उनकी किताब की जांच की, तो पाया गया कि इसमें 6 ‘झूठे उद्धरण’ हैं—जिनका कोई असली स्रोत ही नहीं मिला! रोसेनबाम खुद मानते हैं कि उनकी टीम ने ‘बेहतरीन तरीके से काम किया’, मगर फिर भी गलती हो गई।
हैरान करने वाली बात ये है कि AI ने जो उद्धरण गढ़े थे, उन्हें ‘AI से आया’ का लेबल भी लगा दिया गया था। मगर जब फैक्टर-चेकर्स ने उन्हें वेरिफाई किया, तो पाया गया कि वो शब्द कहीं से लिए ही नहीं गए थे! रोसेनबाम कहते हैं, ‘हमने जितना हो सके, कोशिश की, मगर फिर भी गलती हो गई।’ मगर सवाल ये है—अगर AI इतना खतरनाक है कि वो सच को झूठ बना सकता है, तो क्या हमारी ‘फैक्टर-चेकिंग’ की प्रक्रिया अब पुरानी हो चुकी है?
ये कोई पहला मामला नहीं है। पिछले साल भी एक लेखक ने अपनी किताब में AI से जनरेटेड कंटेंट शामिल किया था, मगर उसे बाद में हटाना पड़ा। मगर रोसेनबाम का मामला इसलिए अलग है, क्योंकि उन्होंने AI को ‘रिसर्च टूल’ के तौर पर इस्तेमाल किया था, न कि सीधे तौर पर लेखन के लिए। मगर फिर भी AI ने उन्हें धोखा दे दिया।
वैसे, रोसेनबाम का कहना है कि उनकी किताब का ‘मुख्य हिस्सा’ पूरी तरह से उनका अपना लिखा हुआ है। मगर फिर भी वो AI से जनरेटेड कंटेंट को रखना चाहते हैं। उनका तर्क है कि AI ने उन्हें ‘नए आईडियाज’ दिए हैं, और वो उन्हें ‘त्यागना नहीं चाहते’। मगर क्या ये सही है? क्या AI के जरिए आए ‘झूठे उद्धरण’ को किताब में रखना ‘ईमानदारी’ है?
ये मामला सिर्फ रोसेनबाम का नहीं है, बल्कि पूरे लेखन जगत का है। AI अब हमारे काम का हिस्सा बन चुका है, मगर क्या हम उसकी ‘झूठी सच्चाइयों’ का शिकार बन रहे हैं? क्या हमारी ‘फैक्टर-चेकिंग’ की प्रक्रिया अब इतनी मजबूत नहीं रही कि वो AI के झूठ को पकड़ सके?
ये सवाल सिर्फ लेखकों के लिए नहीं हैं, बल्कि हर उस शख्स के लिए है, जो किसी किताब, आर्टिकल या सोशल मीडिया पोस्ट को पढ़ता है। क्योंकि अगर AI सच को झूठ बना सकता है, तो क्या हमारी ‘सच्चाई’ अब सिर्फ एक ‘टेक्नोलॉजी’ का खेल बनकर रह गई है?
रोसेनबाम कहते हैं, ‘हमने जितना हो सके, कोशिश की, मगर फिर भी गलती हो गई।’ मगर सवाल ये है—क्या हमारी ‘सच्चाई’ अब AI के हाथों में है? और क्या हम इसे रोक पाएंगे?
ये कोई मामूली गलती नहीं है। ये एक ‘खौफनाक सच’ है, जो धीरे-धीरे हमारे समाज में पैर पसार रहा है। और अगर हमने अभी से सच को बचाने की कोशिश नहीं की, तो एक दिन हमारी ‘सच्चाई’ सिर्फ एक ‘AI जनरेटेड झूठ’ बनकर रह जाएगी।
तो सवाल ये है—क्या आप अब किताबों पर भरोसा करेंगे? क्या आप AI जनरेटेड कंटेंट को सच मानेंगे? और क्या आप अपनी ‘सच्चाई’ की रक्षा कर पाएंगे?
