न्यूयॉर्क के अटॉर्नी जनरल लेटिटिया जेम्स 16 फरवरी, 2024 को न्यूयॉर्क में अटॉर्नी जनरल के कार्यालय में एक प्रेस कॉन्फ्रेंस के दौरान बोलते हैं।
टिमोथी ए. क्लैरी | एएफपी | गेटी इमेजेज
राष्ट्रपति चुनाव से चार दिन पहले, अमेरिकी सरकार के अधिकारी निर्भरता के प्रति आगाह कर रहे हैं कृत्रिम होशियारी मतदान संबंधी जानकारी के लिए चैटबॉट।
में एक उपभोक्ता चेतावनी शुक्रवार को, न्यूयॉर्क अटॉर्नी जनरल लेटिटिया जेम्स के कार्यालय ने कहा कि उसने “मतदान के बारे में नमूना प्रश्न प्रस्तुत करके कई एआई-संचालित चैटबॉट का परीक्षण किया और पाया कि वे अक्सर प्रतिक्रिया में गलत जानकारी प्रदान करते हैं।”
चुनाव के दिन अमेरिका में मंगलवार है, और रिपब्लिकन उम्मीदवार हैं डोनाल्ड ट्रंप और डेमोक्रेटिक उपराष्ट्रपति कमला हैरिस एक आभासी मृत ताप में बंद हैं।
जेम्स के कार्यालय ने कहा, “न्यूयॉर्कवासी जो मतदान के बारे में अपने सवालों के जवाब देने के लिए आधिकारिक सरकारी स्रोतों के बजाय चैटबॉट्स पर भरोसा करते हैं, गलत सूचना का जोखिम उठाते हैं और गलत जानकारी के कारण वोट देने का अवसर भी खो सकते हैं।”
यह दुनिया भर में राजनीतिक अभियानों के लिए एक प्रमुख वर्ष है, जिसमें चुनाव हो रहे हैं जो 40 से अधिक देशों में 4 अरब से अधिक लोगों को प्रभावित करते हैं। एआई-जनित सामग्री के बढ़ने से चुनाव संबंधी गंभीर गलत सूचना संबंधी चिंताएं पैदा हो गई हैं।
मशीन लर्निंग फर्म क्लैरिटी के आंकड़ों के अनुसार, साल दर साल डीपफेक की संख्या में 900% की वृद्धि हुई है। कुछ में ऐसे वीडियो शामिल थे जो अमेरिकी चुनावों को बाधित करने के लिए रूसियों द्वारा बनाए गए या भुगतान किए गए थे, अमेरिकी ख़ुफ़िया अधिकारियों का कहना है.
कानून निर्माता विशेष रूप से जेनरेटिव एआई के युग में गलत सूचना के बारे में चिंतित हैं, जो 2022 के अंत में ओपनएआई के चैटजीपीटी के लॉन्च के साथ शुरू हुआ। बड़े भाषा मॉडल अभी भी नए हैं और नियमित रूप से गलत और अविश्वसनीय जानकारी देते हैं।
सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी के सीईओ एलेक्जेंड्रा रीव गिवेंस ने सीएनबीसी को बताया, “मतदाताओं को स्पष्ट रूप से मतदान या चुनाव के बारे में जानकारी के लिए एआई चैटबॉट्स की ओर नहीं देखना चाहिए – सटीकता और पूर्णता के बारे में बहुत अधिक चिंताएं हैं।” “अध्ययन के बाद अध्ययन में एआई चैटबॉट्स के उदाहरण दिखाए गए हैं जो मतदान स्थानों, मतदान की पहुंच और अपना वोट डालने के अनुमेय तरीकों के बारे में भ्रामक जानकारी देते हैं।”
जुलाई के एक अध्ययन में, सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी ने पाया कि 77 अलग-अलग चुनाव-संबंधित प्रश्नों के जवाब में, एआई चैटबॉट्स द्वारा उत्पन्न एक तिहाई से अधिक उत्तरों में गलत जानकारी शामिल थी। अध्ययन ने मिस्ट्रल के चैटबॉट्स का परीक्षण किया, गूगलओपनएआई, एंथ्रोपिक और मेटा.
एंथ्रोपिक प्रवक्ता ने सीएनबीसी को बताया, “हम एनवाई अटॉर्नी जनरल से सहमत हैं कि मतदाताओं को यह समझने के लिए आधिकारिक चैनलों से परामर्श लेना चाहिए कि कहां, कब और कैसे मतदान करना है।” “विशिष्ट चुनाव और मतदान की जानकारी के लिए, हम उपयोगकर्ताओं को आधिकारिक स्रोतों की ओर निर्देशित करते हैं क्योंकि क्लाउड को विशिष्ट चुनावों के बारे में वास्तविक समय की जानकारी प्रदान करने के लिए पर्याप्त रूप से प्रशिक्षित नहीं किया जाता है।”
ओपनएआई ने एक में कहा हालिया ब्लॉग पोस्ट कि, “5 नवंबर से, जो लोग चैटजीपीटी से चुनाव परिणामों के बारे में पूछेंगे, उन्हें एसोसिएटेड प्रेस जैसे समाचार स्रोतों की जांच करने के लिए प्रोत्साहित करने वाला एक संदेश दिखाई देगा। और रॉयटर्सया उनके राज्य या स्थानीय चुनाव बोर्ड को सबसे संपूर्ण और नवीनतम जानकारी के लिए।”
54 पन्नों की रिपोर्ट में प्रकाशित पिछला महीनाओपनएआई ने कहा कि इसने “दुनिया भर के 20 से अधिक संचालन और भ्रामक नेटवर्क को बाधित किया है जिन्होंने हमारे मॉडल का उपयोग करने का प्रयास किया था।” कंपनी ने लिखा, खतरे एआई-जनरेटेड वेबसाइट लेखों से लेकर फर्जी खातों द्वारा सोशल मीडिया पोस्ट तक थे, हालांकि चुनाव से संबंधित कोई भी ऑपरेशन “वायरल जुड़ाव” को आकर्षित करने में सक्षम नहीं था।
1 नवंबर तक, वोटिंग राइट्स लैब ने 43 राज्य विधानसभाओं में 129 बिलों को ट्रैक किया है, जिनमें एआई द्वारा चुनावी दुष्प्रचार उत्पन्न करने की क्षमता को विनियमित करने के प्रावधान शामिल हैं।
