मेटा एक नया टूल जारी कर रहा है जो कृत्रिम बुद्धिमत्ता (एआई) का उपयोग करके बनाए गए वीडियो में एक अदृश्य वॉटरमार्क जोड़ सकता है। डब किया गया वीडियो सील, नया टूल कंपनी के मौजूदा वॉटरमार्किंग टूल, ऑडियो सील और वॉटरमार्क एनीथिंग से जुड़ता है। कंपनी ने सुझाव दिया कि टूल ओपन-सोर्स किया जाएगा, हालाँकि, उसने अभी तक कोड प्रकाशित नहीं किया है। दिलचस्प बात यह है कि कंपनी का दावा है कि वॉटरमार्किंग तकनीक वीडियो की गुणवत्ता को प्रभावित नहीं करेगी, फिर भी वीडियो से उन्हें हटाने के सामान्य तरीकों के खिलाफ लचीली होगी।
जेनरेटिव एआई के उदय के बाद से डीपफेक ने इंटरनेट पर बाढ़ ला दी है। डीपफेक सिंथेटिक सामग्री है, जो आमतौर पर एआई का उपयोग करके उत्पन्न होती है, जो झूठी और भ्रामक वस्तुओं, लोगों या परिदृश्यों को दिखाती है। ऐसी सामग्री का उपयोग अक्सर किसी सार्वजनिक व्यक्ति के बारे में गलत सूचना फैलाने, नकली यौन सामग्री बनाने या धोखाधड़ी और घोटाले करने के लिए किया जाता है।
इसके अतिरिक्त, जैसे-जैसे एआई सिस्टम बेहतर होते जाएंगे, डीपफेक सामग्री को पहचानना कठिन हो जाएगा, जिससे वास्तविक सामग्री से अंतर करना और भी मुश्किल हो जाएगा। मैक्एफ़ी के अनुसार सर्वे70 प्रतिशत लोगों को पहले से ही लगता है कि वे वास्तविक आवाज और एआई-जनरेटेड आवाज के बीच अंतर बताने में आश्वस्त नहीं हैं।
के अनुसार आंतरिक डेटा समसब के अनुसार, 2022 में उत्तरी अमेरिका में डीपफेक धोखाधड़ी में 1,740 प्रतिशत और एशिया-प्रशांत क्षेत्र में 1,530 प्रतिशत की वृद्धि हुई। यह संख्या 2022 और 2023 के बीच दस गुना बढ़ गई।
जैसे-जैसे डीपफेक के बारे में चिंताएं बढ़ती हैं, एआई मॉडल विकसित करने वाली कई कंपनियों ने वॉटरमार्किंग टूल जारी करना शुरू कर दिया है जो वास्तविक सामग्री से सिंथेटिक सामग्री की पहचान कर सकते हैं। इस साल की शुरुआत में, Google जारी किया एआई-जनरेटेड टेक्स्ट और वीडियो को वॉटरमार्क करने के लिए सिंथआईडी। माइक्रोसॉफ्ट ने भी इसी तरह के टूल जारी किए हैं। इसके अलावा, गठबंधन फॉर कंटेंट प्रोवेनेंस एंड ऑथेंटिसिटी (C2PA) भी AI-जनित सामग्री की पहचान करने के लिए नए मानकों पर काम कर रहा है।
अब, मेटा के पास है जारी किया AI वीडियो को वॉटरमार्क करने के लिए इसका अपना वीडियो सील टूल है। शोधकर्ता इस बात पर प्रकाश डालते हैं कि यह टूल वीडियो के हर फ्रेम को एक अगोचर टैग के साथ वॉटरमार्क कर सकता है जिसके साथ छेड़छाड़ नहीं की जा सकती है। ऐसा कहा जाता है कि यह धुंधलापन, क्रॉपिंग और संपीड़न सॉफ़्टवेयर जैसी तकनीकों के विरुद्ध लचीला है। हालांकि, वॉटरमार्क जोड़ने के बावजूद शोधकर्ताओं का दावा है कि वीडियो की गुणवत्ता से समझौता नहीं किया जाएगा।
मेटा ने घोषणा की है कि वीडियो सील को एक अनुमेय लाइसेंस के तहत ओपन-सोर्स किया जाएगा, हालांकि, इसने अभी तक टूल और इसके कोडबेस को सार्वजनिक डोमेन में जारी नहीं किया है।
