ওপেনএআই ২০২৫ সালের প্রথমার্ধে ন্যাশনাল সেন্টার ফর মিসিং এক্সপ্লয়টেড চিলড্রেনে ৮০ গুণ বেশি শিশু নির্যাতনের ঘটনা রিপোর্ট পাঠিয়েছে, যা ২০২৪ সালের একই সময়ের তুলনায়, কোম্পানির একটি সাম্প্রতিক আপডেট অনুসারে। এনসিএমইসির সাইবারটিপলাইন হল শিশু যৌন নির্যাতন সামগ্রী (সিএসএএম) এবং অন্যান্য ধরনের শিশু নির্যাতনের রিপোর্ট করার জন্য একটি কংগ্রেসভাবে অনুমোদিত ক্লিয়ারিংহাউস। কোম্পানিগুলিকে আইন দ্বারা স্পষ্ট শিশু নির্যাতন সাইবারটিপলাইনে রিপোর্ট করার জন্য প্রয়োজন। যখন একটি কোম্পানি একটি রিপোর্ট পাঠায়, তখন এনসিএমইসি এটি পর্যালোচনা করে এবং তারপরে তদন্তের জন্য উপযুক্ত আইন প্রয়োগকারী সংস্থায় এটি পাঠায়।

রিপোর্টের তীব্র বৃদ্ধি অপরাধমূলক উদ্দেশ্যে এআই-উত্পন্ন বিষয়বস্তু অপব্যবহারের সম্ভাবনা সম্পর্কে উদ্বেগ বাড়িয়েছে। "যদিও আমরা বৃদ্ধির সঠিক কারণ নিশ্চিত করতে পারি না, এটি স্বীকার করা অপরিহার্য যে এআই সিস্টেমগুলি ক্ষতিকারক বিষয়বস্তু তৈরি এবং বিতরণ করতে ব্যবহার করা যেতে পারে," ওপেনএআই-এর একজন মুখপাত্র বলেছেন। কোম্পানিটি এই ধরনের বিষয়বস্তু সনাক্ত করতে এবং তার প্ল্যাটফর্ম থেকে অপসারণ করার প্রতিশ্রুতি জোরদিয়েছে, তার স্বয়ংক্রিয় মডারেশন টুলগুলিতে উন্নতির উল্লেখ করে। যাইহোক, কিছু বিশেষজ্ঞ এই ব্যবস্থাগুলির কার্যকারিতা প্রশ্নবিদ্ধ করেছেন, উল্লেখ করেছেন যে এআই সিস্টেমগুলি সনাক্তকরণ এড়াতে প্রশিক্ষণ নিতে পারে।

ন্যাশনাল সেন্টার ফর মিসিং এক্সপ্লয়টেড চিলড্রেন ওপেনএআই-এর মতো কোম্পানিগুলির সাথে ঘনিষ্ঠভাবে কাজ করছে শিশু নির্যাতন সনাক্ত করতে এবং রিপোর্ট করার জন্য আরও কার্যকর কৌশল বিকাশের জন্য। "আমরা শিশুদের নিরাপত্তা এবং মঙ্গলকে অগ্রাধিকার দেওয়ার জন্য ওপেনএআই-এর মতো কোম্পানিগুলির প্রচেষ্টাকে উপলব্ধি করি," এনসিএমইসি-এর একজন প্রতিনিধি বলেছেন। "যাইহোক, আমরা এটাও স্বীকার করি যে সিএসএএম সনাক্ত করতে এবং প্রতিরোধ করার জন্য আমাদের সিস্টেমগুলি যথেষ্ট শক্তিশালী তা নিশ্চিত করার জন্য এখনও অনেক কাজ করা বাকি আছে।"

এআই-উত্পন্ন বিষয়বস্তুর উত্থান সমাজের জন্য উল্লেখযোগ্য প্রভাব রয়েছে, বিশেষ করে শিশু নির্যাতনের প্রেক্ষাপটে। যেহেতু এআই সিস্টেমগুলি ক্রমশ জটিল হয়ে উঠছে, তাদের অত্যন্ত বাস্তবসম্মত এবং আকর্ষণীয় বিষয়বস্তু তৈরি করা যেতে পারে যা আসল চিত্র বা ভিডিও থেকে আলাদা করা কঠিন। এটি শিশুদের গ্রুমিং বা নিয়োগের মতো অপরাধমূলক উদ্দেশ্যে এআই-উত্পন্ন বিষয়বস্তু ব্যবহার করার সম্ভাবনা সম্পর্কে উদ্বেগ বাড়িয়েছে।

ক্রমবর্ধমান উদ্বেগের প্রতিক্রিয়ায়, এনসিএমইসি শিশু নির্যাতন সনাক্ত করতে এবং প্রতিরোধ করার জন্য আরও কার্যকর এআই-চালিত টুলগুলি বিকাশের জন্য একটি নতুন উদ্যোগ চালু করেছে। উদ্যোগটির লক্ষ্য শিল্প, একাডেমিয়া এবং আইন প্রয়োগকারী সংস্থার বিশেষজ্ঞদের একত্রিত করা যাতে আরও জটিল এআই সিস্টেম বিকাশ করা যায় যা সম্ভাব্য সমস্যাযুক্ত বিষয়বস্তু চিহ্নিত করতে এবং পতাকা উত্থাপন করতে পারে। যদিও উদ্যোগের সঠিক সময়সীমা অস্পষ্ট, বিশেষজ্ঞরা বিশ্বাস করেন যে এটি শিশু নির্যাতনের বিরুদ্ধে লড়াইয়ে একটি উল্লেখযোগ্য প্রভাব ফেলতে পারে।

এআই-উত্পন্ন বিষয়বস্তু নিয়ে বিতর্ক চলতে থাকলেও, একটি বিষয় স্পষ্ট: শিশু নির্যাতন সনাক্ত করতে এবং প্রতিরোধ করার জন্য আরও কার্যকর কৌশলগুলির প্রয়োজন কখনই এত জরুরি ছিল না। এআই-উত্পন্ন বিষয়বস্তুর উত্থানের সাথে, ওপেনএআই-এর মতো কোম্পানিগুলিকে অবশ্যই শিশুদের নিরাপত্তা এবং মঙ্গলকে অগ্রাধিকার দিতে হবে এবং সিএসএএম সনাক্ত করতে এবং রিপোর্ট করার জন্য আরও শক্তিশালী সিস্টেম বিকাশের জন্য এনসিএমইসি-এর মতো সংস্থাগুলির সাথে ঘনিষ্ঠভাবে কাজ করতে হবে।