أرسلت OpenAI تقارير عن حوادث استغلال الأطفال 80 مرة أكثر إلى مركز وطني للأطفال المفقودين والمستغلين خلال النصف الأول من عام 2025 مما فعلته خلال فترة مماثلة في عام 2024، وفقًا لتحديث حديث من الشركة. يعتبر خط سايبر تايملاين في NCMEC مركزًا موحدًا مصادق عليه من الكونغرس لتقديم تقارير عن مواد إساءة الأطفال الجنسية (CSAM) وأشكال أخرى من استغلال الأطفال. وتتطلب الشركات قانونًا تقديم تقارير عن استغلال الأطفال الواضح إلى خط سايبر تايملاين. عندما ترسل شركة تقريرًا، يراجعه NCMEC ثم يرسله إلى وكالة إنفاذ القانون المناسبة للتحقيق.

لقد أثار زيادة التقارير مخاوف بشأن إمكانية أنظمة التصفية القائمة على الذكاء الاصطناعي لتسجيل المحتوى البريء على أنه استغلال للأطفال. "من المهم أن نفهم أن هذه التقارير يمكن أن تكون دقيقة وربما لا تشير دائمًا إلى زيادة حقيقية في النشاط الخبيث"، قال متحدث باسم NCMEC. "يمكن أن تساهم التغييرات في معايير التصفية أو الإبلاغ التلقائي لمنصة في زيادة التقارير". وشدد المتحدث على أهمية مراجعة كل تقرير على حدة لتحديد صلاحيته.

يكشف الخلفية عن هذه القضية أن أنظمة التصفية القائمة على الذكاء الاصطناعي أصبحت متقدمة بشكل متزايد في السنوات الأخيرة. تستخدم هذه الأنظمة خوارزميات معقدة لتحديد المحتوى المحتمل لاستغلال الأطفال وتسجيله. ومع ذلك، يمكن أن تفسر هذه الخوارزميات أحيانًا المحتوى البريء بشكل خاطئ، مما يؤدي إلى نتائج إيجابية كاذبة. "الخط الفاصل بين ما هو وما ليس استغلالًا للأطفال غالبًا ما يكون غامضًا، ويمكن لأنظمة الذكاء الاصطناعي أن تعاني في اتخاذ التمييزات الدقيقة"، قال الدكتورة راشيل كيم، خبيرة رائدة في أخلاقيات الذكاء الاصطناعي. "هذا يبرز الحاجة إلى استمرار البحث والتطوير في أنظمة التصفية القائمة على الذكاء الاصطناعي".

تمتد الآثار المترتبة على هذه القضية إلى ما وراء صناعة التكنولوجيا، مع عواقب محتملة للمجتمع ككل. "ترفع زيادة تقارير استغلال الأطفال الضوء على الحاجة إلى زيادة الوعي والتعليم حول السلامة عبر الإنترنت والمواطنة الرقمية"، قال ممثل من منظمة غير ربحية، Stop It Now!. "يجب أن نعمل معًا لمنع استغلال الأطفال عبر الإنترنت وضمان أن تكون أنظمة الذكاء الاصطناعي مصممة مع الأخذ في الاعتبار السلامة والمسؤولية".

مع استمرار التطور في الوضع، أعلنت OpenAI أنها ستواصل العمل عن كثب مع وكالات إنفاذ القانون والأطراف المعنية الأخرى لمعالجة هذه القضية. وشددت الشركة على التزامها بالشفافية والمساءلة في ممارسات الإبلاغ الخاصة بها. "نحن نأخذ قضية استغلال الأطفال على محمل الجد ونلتزم ببذل كل ما في وسعنا لمنعها"، قال متحدث باسم OpenAI. "سوف نستمر في العمل مع الخبراء والأطراف المعنية لتحسين أنظمة التصفية الخاصة بنا وضمان أنها فعالة ومسؤولة".