क्रेप्स ने कहा, मानकों को परिभाषित किए बिना, “प्रक्रिया का राजनीतिकरण किया जा सकता है।” यह एक ऐसी प्रणाली बनाने का जोखिम है जहां “जिसके पास सत्ता होती है उसे यह तय करना होता है कि जांच कैसे काम करती है।”
क्रेप्स ने कहा, अब तक, न तो बिडेन और न ही ट्रम्प प्रशासन ने यह पता लगाया है कि इससे कैसे बचा जाए।
सरकार द्वारा एआई आउटपुट को नियंत्रित करने का डर
माइक्रोसॉफ्ट के ब्लॉग में कहा गया है कि “सीएआईएसआई, माइक्रोसॉफ्ट और एनआईएसटी प्रतिकूल मूल्यांकन के लिए कार्यप्रणाली में सुधार पर सहयोग करेंगे,” जो बताता है कि योजना इन मानकों को तुरंत विकसित करने की है। माइक्रोसॉफ्ट के अनुसार, “एआई सिस्टम का परीक्षण उन तरीकों से करना जो अप्रत्याशित व्यवहार, गलत रास्ते और विफलता मोड की जांच करते हैं” “काफी हद तक तनाव-परीक्षण की तरह है कि एयरबैग, सीटबेल्ट और ब्रेकिंग सिस्टम सुरक्षा-महत्वपूर्ण ड्राइविंग परिदृश्यों में प्रभावी ढंग से और विश्वसनीय रूप से काम करते हैं या नहीं।”
लेकिन ग्रेगरी फाल्को, कॉर्नेल विश्वविद्यालय में मैकेनिकल और एयरोस्पेस इंजीनियरिंग के सहायक प्रोफेसर और विशेषज्ञ हैं एआई के प्रशासन पर नज़र रखनाजोर देकर कहते हैं कि एक बेहतर तरीका है।
फाल्को ने कहा, “एआई की सरकारी निगरानी का मतलब केवल मॉडल आउटपुट की राजनीतिक समीक्षा नहीं हो सकता है, न ही इसे यह तय करने के लिए एक तंत्र बनना चाहिए कि कोई मॉडल राष्ट्रपति या प्रशासन के बारे में अनुकूल या प्रतिकूल बातें कहता है या नहीं।”
फाल्को ने कहा, जनता द्वारा उपयोग की जाने वाली एआई प्रणालियों को नियंत्रित करने के लिए मूल्यांकन का लाभ उठाने वाली राजनीतिक सरकार पर भरोसा करने के बजाय, अमेरिका “कुछ प्रकार के स्वतंत्र ऑडिट” का निर्माण कर सकता है।
कल्पना कीजिए, फाल्को का सुझाव है, अगर एआई कंपनियां समझती हैं कि उनके मॉडल का किसी भी बिंदु पर ऑडिट किया जा सकता है, तो ऐसी प्रणाली कितनी अधिक जवाबदेही और अनुशासन पैदा कर सकती है? फाल्को ने कहा, आंतरिक राजस्व सेवा (आईआरएस) के समान काम करते हुए, एक कठोर एआई ऑडिट प्रणाली “लापरवाह तैनाती के लिए वास्तविक परिणाम” पैदा कर सकती है। फाल्को ने सुझाव दिया कि ऐसे परिणामों का सामना करने वाली एआई फर्मों के लिए, आंतरिक एआई सुरक्षा परीक्षण को बढ़ाने का दबाव होगा।
फाल्को ने कहा, यह “एकमात्र व्यवहार्य रास्ता” प्रतीत होता है, क्योंकि “संघीय सरकार के पास वर्तमान में इन प्रणालियों का सीधे मूल्यांकन करने के लिए आवश्यक आंतरिक तकनीकी विशेषज्ञता, बुनियादी ढांचा या दिन-प्रतिदिन की अंतर्दृष्टि नहीं है।”
