फेसबुक-पैरेंट मेटा ने एक रिपोर्ट पर प्रतिक्रिया दी है जिसमें आरोप लगाया गया है कि उसके ठेकेदारों ने प्रतिद्वंद्वी एआई चैटबॉट्स के साथ ‘संवेदनशील’ विषयों पर चर्चा करने के लिए किशोरों के रूप में खुद को पेश किया। एक हालिया रिपोर्ट में दावा किया गया है कि मेटा की एक परियोजना पर काम करने वाले ठेकेदारों ने किशोरों के रूप में यह परीक्षण करने के लिए खुद को पेश किया कि प्रतिद्वंद्वी एआई चैटबॉट आत्महत्या, ड्रग्स, खाने के विकार, सेक्स और अन्य उच्च जोखिम वाले विषयों से संबंधित संकेतों को कैसे संभालते हैं। वायर्ड की एक रिपोर्ट के अनुसार, परियोजना, जिसे आंतरिक रूप से कान्स के नाम से जाना जाता है और मेटा ठेकेदार कोवलन द्वारा प्रबंधित किया जाता है, में ओपनएआई के चैटजीपीटी, गूगल के जेमिनी और कैरेक्टर.एआई सहित चैटबॉट्स के साथ बातचीत करने के लिए 18 साल से कम उम्र के उपयोगकर्ताओं के लिए खाते बनाना शामिल है।रिपोर्ट के जवाब में, मेटा प्रवक्ता ने वायर्ड को बताया, “परीक्षण औरबेंचमार्किंग चैटबॉट प्रतिक्रियाएँ सुरक्षित और आयु-उपयुक्त अनुभव सुनिश्चित करने में मदद करना एक जिम्मेदार, उद्योग-मानक अभ्यास है, और अन्यथा कोई भी सुझाव पूरी तरह से गलत समझता है कि प्रौद्योगिकी कंपनियां अपने सिस्टम को परिष्कृत और बेहतर बनाने के लिए कैसे काम करती हैं।प्रवक्ता ने यह भी कहा कि कंपनी अपने एआई मॉडल को प्रशिक्षित करने के लिए प्रतिस्पर्धी बेंचमार्किंग का उपयोग नहीं करती है।
मेटा ने प्रतिद्वंद्वी एआई चैटबॉट्स की प्रतिक्रियाओं का परीक्षण करने के लिए डमी किशोर खातों का उपयोग कैसे किया होगा
वायर्ड के अनुसार, यह परियोजना हाल ही में अप्रैल में सक्रिय थी और सैकड़ों ठेकेदारों को नाबालिगों के रूप में डमी खाते बनाने का निर्देश दिया गया था। कथित तौर पर ठेकेदारों ने विश्लेषण के लिए स्प्रेडशीट में प्रतिक्रियाओं को रिकॉर्ड करने से पहले प्रतिस्पर्धी एआई चैटबॉट्स को टेक्स्ट प्रॉम्प्ट और छवियां जमा कीं।रिपोर्ट में कहा गया है कि परीक्षण के दौरान इस्तेमाल की गई कुछ छवियों में गोलियां, चाकू, फंदे और मेडिकल चित्र शामिल हैं। संकेतों को यह आकलन करने के लिए डिज़ाइन किया गया था कि चैटबॉट्स ने आत्म-नुकसान, खाने के विकार, अवैध ड्रग्स, सेक्स और अन्य संवेदनशील विषयों पर कैसे प्रतिक्रिया दी, जिन पर एआई सुरक्षा प्रणालियों से आम तौर पर प्रतिबंध लगाने की उम्मीद की जाती है।रिपोर्ट के अनुसार, अगस्त 2025 में आयोजित एकल परीक्षण दौर के दौरान प्रतिद्वंद्वी चैटबॉट्स को 45,000 से अधिक संकेत प्रस्तुत किए गए थे। प्रकाशन ने 3,748 संकेतों वाली एक स्प्रेडशीट की भी समीक्षा की, जिनमें से कई संकट स्थितियों का सामना करने वाले बच्चों या किशोरों के परिप्रेक्ष्य से लिखे गए थे।रिपोर्ट में आगे कहा गया है कि दस्तावेज़ों में यह नहीं बताया गया है कि मेटा ने एकत्रित चैटबॉट प्रतिक्रियाओं का उपयोग कैसे किया या किया। एक आंतरिक कोवलेन दस्तावेज़ में कथित तौर पर इस पहल का वर्णन किया गया है “व्यापक एआई सुरक्षा बेंचमार्किंग” जो वितरित किया गया “मॉडल तुलना और अनुपालन के लिए महत्वपूर्ण डेटासेट।” रिपोर्ट के बाद ओपनएआई ने कहा कि वह इस मामले की जांच कर रहा है। ओपनएआई के प्रवक्ता ड्रू पुसाटेरी ने वायर्ड को बताया कि कंपनी थी “इस मुद्दे पर गौर कर रहे हैं,”लेकिन आगे की टिप्पणी से इनकार कर दिया।Google ने कहा कि उसने रिपोर्ट में वर्णित तृतीय-पक्ष परीक्षण को अधिकृत नहीं किया है और वह इसके उद्देश्य से अनभिज्ञ है। कंपनी ने कहा कि नमूना संकेतों की उसकी आंतरिक समीक्षा से पता चला कि जेमिनी ने उसकी नीतियों के अनुरूप प्रतिक्रिया दी है, हालांकि उसने कहा कि उसके पास यह निर्धारित करने के लिए पर्याप्त जानकारी नहीं है कि रिपोर्ट की गई गतिविधि ने उसकी सेवा की शर्तों का उल्लंघन किया है या नहीं।कैरेक्टर.एआई ने यह भी कहा कि उसने परीक्षण को अधिकृत नहीं किया है। एक कैरेक्टर.एआई प्रवक्ता ने वायर्ड को बताया, “यह कथित कार्रवाई न केवल हमारी सेवा की शर्तों का उल्लंघन है, बल्कि हमारे समुदाय द्वारा बनाए गए पात्रों और दुनिया का भी उल्लंघन है।”रिपोर्ट में कहा गया है कि ओपनएआई, गूगल और कैरेक्टर.एआई सभी की सेवा की शर्तें हैं जो एआई सुरक्षा प्रणालियों को बायपास करने या अनुमोदित कार्यक्रमों के बाहर अनधिकृत परीक्षण करने के प्रयासों को प्रतिबंधित करती हैं।
