ओपनएआई ने 2025 के पहले छमाही में राष्ट्रीय लापता शोषित बच्चों के केंद्र को 2024 के एक समान समय अवधि की तुलना में 80 गुना अधिक बाल शोषण घटना रिपोर्ट भेजी हैं, कंपनी के एक हालिया अपडेट के अनुसार। एनसीएमईसी का साइबरटिपलाइन बाल यौन शोषण सामग्री (सीएसएएम) और अन्य रूपों के बाल शोषण की रिपोर्टिंग के लिए कांग्रेस द्वारा अधिकृत एक क्लियरिंगहाउस है। कंपनियों को कानून द्वारा साइबरटिपलाइन को स्पष्ट बाल शोषण की रिपोर्ट करने की आवश्यकता है। जब एक कंपनी एक रिपोर्ट भेजती है, तो एनसीएमईसी इसे समीक्षा करता है और फिर इसकी जांच के लिए इसे उपयुक्त कानून प्रवर्तन एजेंसी को आगे बढ़ाता है।

रिपोर्ट में वृद्धि ने एआई-संचालित मॉडरेशन प्रणालियों द्वारा निर्दोष सामग्री को बाल शोषण के रूप में चिह्नित करने की संभावना के बारे में चिंताओं को बढ़ा दिया है। "यह समझना आवश्यक है कि ये रिपोर्ट सूक्ष्म हो सकती हैं और हमेशा दुर्भाग्यपूर्ण गतिविधि में वास्तविक वृद्धि का संकेत नहीं देती हैं," एनसीएमईसी के एक प्रवक्ता ने कहा। "एक प्लेटफ़ॉर्म के स्वचालित मॉडरेशन या रिपोर्टिंग मानदंडों में परिवर्तन भी रिपोर्ट में वृद्धि में योगदान कर सकते हैं।" प्रवक्ता ने प्रत्येक रिपोर्ट की वैधता निर्धारित करने के लिए व्यक्तिगत रूप से इसकी समीक्षा करने के महत्व पर जोर दिया।

इस मुद्दे पर पृष्ठभूमि से पता चलता है कि एआई-संचालित मॉडरेशन प्रणालियों ने हाल के वर्षों में तेजी से जटिल हो गई हैं। ये प्रणालियां संभावित बाल शोषण सामग्री की पहचान करने और इसे चिह्नित करने के लिए जटिल एल्गोरिदम का उपयोग करती हैं। हालांकि, ये एल्गोरिदम कभी-कभी निर्दोष सामग्री को गलत तरीके से व्याख्या कर सकते हैं, जिससे गलत संकेत मिलते हैं। "बाल शोषण क्या है और क्या नहीं है, इसकी रेखा अक्सर धुंधली होती है, और एआई प्रणालियां सटीक अंतर करने के लिए संघर्ष कर सकती हैं," एआई नैतिकता में एक प्रमुख विशेषज्ञ डॉ रेचल किम ने कहा। "यह एआई-संचालित मॉडरेशन प्रणालियों में निरंतर अनुसंधान और विकास की आवश्यकता को रेखांकित करता है।"

इस मुद्दे के परिणाम तकनीकी उद्योग से परे हैं, जिसमें समाज के लिए संभावित परिणाम हैं। "बाल शोषण रिपोर्ट में वृद्धि ऑनलाइन सुरक्षा और डिजिटल नागरिकता के बारे में अधिक जागरूकता और शिक्षा की आवश्यकता को रेखांकित करती है," गैर-लाभकारी संगठन स्टॉप इट नाउ! के एक प्रतिनिधि ने कहा। "हमें मिलकर ऑनलाइन बाल शोषण को रोकने और सुनिश्चित करने के लिए काम करना होगा कि एआई प्रणालियों को सुरक्षा और जिम्मेदारी के साथ डिज़ाइन किया गया है।"

जैसे ही स्थिति आगे बढ़ती है, ओपनएआई ने कहा है कि यह कानून प्रवर्तन एजेंसियों और अन्य हितधारकों के साथ मिलकर मुद्दे को संबोधित करना जारी रखेगा। कंपनी ने अपनी रिपोर्टिंग प्रथाओं में पारदर्शिता और जवाबदेही के प्रति अपनी प्रतिबद्धता पर भी जोर दिया है। "हम बाल शोषण के मुद्दे को बहुत गंभीरता से लेते हैं और इसे रोकने के लिए अपनी शक्ति में सब कुछ करने के लिए प्रतिबद्ध हैं," ओपनएआई के एक प्रवक्ता ने कहा। "हम विशेषज्ञों और हितधारकों के साथ मिलकर अपनी मॉडरेशन प्रणालियों में सुधार करने और सुनिश्चित करने के लिए काम करना जारी रखेंगे कि वे प्रभावी और जिम्मेदार हैं।"