OpenAI 在 2025 年上半年向国家失踪和剥削儿童中心（National Center for Missing Exploited Children）提交的儿童剥削事件报告数量是 2024 年同期的 80 倍，根据该公司最近的更新。NCMEC 的 CyberTipline 是国会授权的报告儿童性虐待材料（CSAM）和其他形式的儿童剥削的清算中心。公司有法律义务向 CyberTipline 报告明显的儿童剥削。当一家公司提交报告时，NCMEC 会审查并将其转发给适当的执法机构进行调查。

报告数量的急剧增加引发了人们对人工智能生成内容可能被滥用为恶意目的的担忧。"虽然我们无法确认增加的确切原因，但必须承认人工智能系统可以用来创建和传播有害内容，”OpenAI 的一位发言人说。该公司强调了其致力于检测和从其平台中删除此类内容的承诺，引用了其自动化内容审查工具的改进。然而，一些专家对这些措施的有效性提出质疑，指出人工智能系统可以被训练以避免检测。

国家失踪和剥削儿童中心一直与 OpenAI 等公司密切合作，开发更有效的策略来识别和报告儿童剥削。“我们感谢像 OpenAI 这样的公司优先考虑儿童的安全和福祉，”NCMEC 的一位代表说。“但是，我们也认识到仍然有很多工作要做，以确保我们的系统足够强大，以检测和防止 CSAM 的传播。”

人工智能生成内容的兴起对社会有着重大影响，特别是在儿童剥削的背景下。随着人工智能系统变得越来越复杂，它们可以用来创建非常逼真和令人信服的内容，这些内容很难与真实的图像或视频区分开来。这引发了人们对人工智能生成内容可能被用于恶意目的的担忧，例如对儿童的诱骗或招募。

为了应对日益增长的担忧，NCMEC 启动了一项新的计划，旨在开发更有效的基于人工智能的工具来检测和防止儿童剥削。该计划旨在汇集来自行业、学术界和执法机构的专家，共同开发更先进的人工智能系统，以识别和标记可能存在问题的内容。虽然该计划的确切时间表尚不清楚，但专家们认为它有可能在打击儿童剥削的斗争中产生重大影响。

随着人工智能生成内容的辩论继续，一个事情是明确的：检测和防止儿童剥削的有效策略的需求从未如此迫切。随着人工智能生成内容的兴起，像 OpenAI 这样的公司必须继续优先考虑儿童的安全和福祉，并与 NCMEC 等组织密切合作，开发更强大的系统来识别和报告 CSAM。