在新出台的法律框架下，英国的科技公司和儿童保护机构将获得测试人工智能（AI）工具是否能够生成儿童性虐待图像的权力。根据安全监管机构的报告，2025年，AI 生成的儿童性虐待材料(CSAM)报告数量较2024年翻了一番，从199件增至426件。此次法律变更的目的是为了让 AI 开发者在生产这些图像之前就能够检查和预防相关风险。
图源备注：图片由AI生成，图片授权服务商Midjourney
英国政府的 AI 和在线安全部长卡尼什卡・纳拉扬表示，这项举措是 “为了在问题发生之前就遏制虐待”。在新法律的授权下，特定的 AI 公司和儿童安全组织将被允许检查聊天机器人和图像生成器等 AI 模型，确保这些技术具有必要的安全防护措施，防止它们生成儿童性虐待图像。
此次法律变化作为《犯罪与警务法案》的修正案推出，其中还包括禁止拥有、创建或传播旨在生成儿童性虐待材料的 AI 模型。纳拉扬部长在访问儿童热线时，倾听了一个关于 AI 相关虐待的模拟电话，电话中描述了一名青少年因 AI 伪造的性别黑 mail 而寻求帮助的情景。
网络监察机构 “互联网观察基金会” 指出，AI 生成的虐待材料报告在今年已经增长了一倍，特别是类别 A 的最严重的虐待材料，从2024年的2621张图像或视频上升到3086张。同时，针对女孩的图像占比高达94%，而对新生儿至两岁儿童的描绘从2024年的五件增加到2025年的92件。
儿童热线也公布了有关 AI 的咨询案例，显示出 AI 在青少年生活中的影响，例如利用 AI 评估体重和外貌、聊天机器人阻止儿童向安全成年人谈论虐待等。此外，今年4月至9月期间，儿童热线共处理了367次与 AI 相关的咨询，是去年同期的四倍，其中一半的咨询与心理健康和福祉有关。
划重点:
🛡️ 新法律允许检测 AI 工具生成儿童性虐待图像的能力，以防止相关犯罪。
📈2025年，AI 生成的儿童性虐待材料报告数量增长至426件，较2024年翻了一番。
👧 女孩成为受害者的主要群体，占比高达94%，而针对新生儿的案例也显著增加。