ওপেনএআই ২০২৫ সালের প্রথমার্ধে ন্যাশনাল সেন্টার ফর মিসিং এক্সপ্লয়টেড চিলড্রেনে ৮০ গুণ বেশি শিশু শোষণের ঘটনা রিপোর্ট পাঠিয়েছে যা ২০২৪ সালের একই সময়ের তুলনায়, কোম্পানির একটি সাম্প্রতিক আপডেট অনুসারে। এনসিএমইসির সাইবারটিপলাইন হল শিশু যৌন নির্যাতন সামগ্রী (সিএসএএম) এবং অন্যান্য ফর্মের শিশু শোষণ রিপোর্ট করার জন্য একটি কংগ্রেসভাবে অনুমোদিত ক্লিয়ারিংহাউস। কোম্পানিগুলিকে আইনগতভাবে সাইবারটিপলাইনে স্পষ্ট শিশু শোষণ রিপোর্ট করতে হয়। যখন একটি কোম্পানি একটি রিপোর্ট পাঠায়, এনসিএমইসি এটি পর্যালোচনা করে এবং তারপরে তদন্তের জন্য উপযুক্ত আইন প্রয়োগকারী সংস্থায় এটি পাঠায়।

রিপোর্টের বৃদ্ধি এআই-চালিত মডারেশন সিস্টেমগুলি নির্দোষ বিষয়বস্তুকে শিশু শোষণ হিসাবে চিহ্নিত করার সম্ভাবনা সম্পর্কে উদ্বেগ সৃষ্টি করেছে। "এটা অপরিহার্য যে এই রিপোর্টগুলি সূক্ষ্ম হতে পারে এবং সর্বদা একটি প্রকৃত বৃদ্ধি অপকর্মের নির্দেশ নাও করতে পারে," এনসিএমইসির একজন মুখপাত্র বলেছেন। "একটি প্ল্যাটফর্মের স্বয়ংক্রিয় মডারেশন বা রিপোর্টিং মানদণ্ডে পরিবর্তনও রিপোর্টের বৃদ্ধিতে অবদান রাখতে পারে।" মুখপাত্র প্রতিটি রিপোর্টের বৈধতা নির্ধারণ করতে পৃথকভাবে পর্যালোচনা করার গুরুত্বের উপর জোর দিয়েছেন।

এই বিষয়ের পটভূমি প্রকাশ করে যে এআই-চালিত মডারেশন সিস্টেমগুলি সাম্প্রতিক বছরগুলিতে আরও জটিল হয়েছে। এই সিস্টেমগুলি সম্ভাব্য শিশু শোষণ সামগ্রী চিহ্নিত করতে এবং চিহ্নিত করতে জটিল অ্যালগরিদম ব্যবহার করে। যাইহোক, এই অ্যালগরিদমগুলি কখনও কখনও নির্দোষ বিষয়বস্তুকে ভুলভাবে ব্যাখ্যা করতে পারে, যার ফলে মিথ্যা ইতিবাচক ফলাফল হয়। "শিশু শোষণ কী এবং কী নয় তার মধ্যে রেখাটি প্রায়শই ঝাপসা, এবং এআই সিস্টেমগুলি সঠিক পার্থক্য করতে সংগ্রাম করতে পারে," এআই নীতিশাস্ত্রের একজন অগ্রণী বিশেষজ্ঞ ডঃ রেচেল কিম বলেছেন। "এটি এআই-চালিত মডারেশন সিস্টেমগুলিতে অব্যাহত গবেষণা এবং বিকাশের প্রয়োজনীয়তা তুলে ধরে।"

এই সমস্যার প্রভাব প্রযুক্তি শিল্পের বাইরে বিস্তৃত, সামগ্রিকভাবে সমাজের জন্য সম্ভাব্য পরিণতি রয়েছে। "শিশু শোষণের রিপোর্টের বৃদ্ধি অনলাইন নিরাপত্তা এবং ডিজিটাল নাগরিকত্ব সম্পর্কে বৃহত্তর সচেতনতা এবং শিক্ষার প্রয়োজনীয়তা তুলে ধরে," অলাভজনক সংস্থা স্টপ ইট নাও! এর একজন প্রতিনিধি বলেছেন। "আমাদের অবশ্যই একসাথে কাজ করতে হবে অনলাইনে শিশুদের শোষণ প্রতিরোধ করতে এবং নিশ্চিত করতে যে এআই সিস্টেমগুলি নিরাপত্তা এবং দায়িত্বের সাথে ডিজাইন করা হয়েছে।"

পরিস্থিতি চলতে থাকাকালীন, ওপেনএআই বলেছে যে এটি আইন প্রয়োগকারী সংস্থা এবং অন্যান্য স্টেকহোল্ডারদের সাথে ঘনিষ্ঠভাবে কাজ করবে সমস্যাটির সমাধান করতে। কোম্পানিটি তার রিপোর্টিং অনুশীলনে স্বচ্ছতা এবং জবাবদিহিতার প্রতি তার প্রতিশ্রুতি জোরদিয়েছে। "আমরা শিশু শোষণের বিষয়টিকে খুব গুরুত্ব সহকারে নিই এবং এটি প্রতিরোধ করার জন্য আমাদের সমস্ত ক্ষমতা ব্যবহার করার প্রতিশ্রুতি রয়েছে," ওপেনএআই-এর একজন মুখপাত্র বলেছেন। "আমরা বিশেষজ্ঞ এবং স্টেকহোল্ডারদের সাথে কাজ চালিয়ে যাব আমাদের মডারেশন সিস্টেমগুলি উন্নত করার জন্য এবং নিশ্চিত করার জন্য যে সেগুলি কার্যকর এবং দায়ী।"