A OpenAI enviou 80 vezes mais relatórios de incidentes de exploração infantil para o National Center for Missing Exploited Children durante o primeiro semestre de 2025 do que durante um período semelhante em 2024, de acordo com uma atualização recente da empresa. A CyberTipline da NCMEC é um centro de autorização congressual para relatar abuso sexual infantil (CSAM) e outras formas de exploração infantil. As empresas são obrigadas por lei a relatar exploração infantil aparente para a CyberTipline. Quando uma empresa envia um relatório, a NCMEC o revisa e, em seguida, o encaminha para a agência de aplicação da lei apropriada para investigação.

O aumento nos relatórios despertou preocupações sobre o potencial para sistemas de moderação impulsionados por IA flagrarem conteúdo inócuo como exploração infantil. "É essencial entender que esses relatórios podem ser nuances e nem sempre indicam um aumento genuíno em atividades nefastas", disse um porta-voz da NCMEC. "Mudanças nos critérios de moderação ou relatórios automatizados de uma plataforma também podem contribuir para o aumento dos relatórios." O porta-voz enfatizou a importância de revisar cada relatório individualmente para determinar sua validade.

O histórico do problema revela que os sistemas de moderação impulsionados por IA se tornaram cada vez mais sofisticados nos últimos anos. Esses sistemas usam algoritmos complexos para identificar e flagrar conteúdo potencial de exploração infantil. No entanto, esses algoritmos podem às vezes interpretar mal conteúdo inócuo, levando a falsos positivos. "A linha entre o que é e não é exploração infantil é frequentemente turva, e os sistemas de IA podem ter dificuldade em fazer distinções precisas", disse a Dra. Rachel Kim, uma especialista líder em ética de IA. "Isso destaca a necessidade de continuar a pesquisa e o desenvolvimento em sistemas de moderação impulsionados por IA."

As implicações deste problema se estendem além da indústria de tecnologia, com consequências potenciais para a sociedade como um todo. "O aumento nos relatórios de exploração infantil destaca a necessidade de maior conscientização e educação sobre segurança online e cidadania digital", disse um representante da organização sem fins lucrativos, Stop It Now!. "Devemos trabalhar juntos para prevenir a exploração de crianças online e garantir que os sistemas de IA sejam projetados com segurança e responsabilidade em mente."

À medida que a situação continua a se desenrolar, a OpenAI afirmou que continuará a trabalhar em estreita colaboração com as agências de aplicação da lei e outros stakeholders para abordar o problema. A empresa também enfatizou seu compromisso com a transparência e a responsabilidade em suas práticas de relatórios. "Levamos a questão da exploração infantil muito a sério e estamos comprometidos em fazer tudo ao nosso alcance para preveni-la", disse um porta-voz da OpenAI. "Continuaremos a trabalhar com especialistas e stakeholders para melhorar nossos sistemas de moderação e garantir que sejam eficazes e responsáveis."