MetaのAI生成の報告は子どもの虐待調査を遅延させると報告されています。Metaは引き続き、全国行方不明・搾取児童センター（NCMEC）のCyberTiplineへの報告の主な供給源であり、2024年に受け取った2050万件のうち約3分の2を占めています。これは2023年の3620万件からの減少を示しています。報告数と質の両面に影響が見られ、多数の報告が低品質または使用不能と識別され、調査プロセスを複雑にしています。
2024年、Metaは全国行方不明・搾取児童センター（NCMEC）のCyberTiplineへの最大の寄稿者であり、受け取った2050万件の報告の約3分の2を提供しました。これは2023年の3620万件の報告から大幅な減少を示しています。報告数の減少は、Metaの報告方針の調整に一部起因しています。それでも、Facebook、Instagram、Threadsを含むMetaのプラットフォームは引き続き大量の報告を生成しました。
Metaの2025年8月のインテグリティレポートによると、2025年第2四半期だけで200万件以上のCyberTip報告がNCMECに送信されました。そのうち、52万8000件以上が子どもとの不適切な交流に関連し、150万件以上が児童性的虐待資料（CSAM）の共有または再共有に関わっています。これらの数値は、Metaが扱う子ども関連コンテンツの量と複雑さを示しています。
さらに、2024年にメタは米国当局から9,000件を超える緊急要請を受け取りました。同社はこれらの要請に平均67分で対応を完了したと報告しており、迅速に緊急事態に対処する能力を示しています。これは、報告の質や量に関する課題があるにもかかわらず、メタが法執行機関を支援する上で重要な役割を果たしていることを示しています。
ニューメキシコ州のICAC（インターネット子ども犯罪対策）担当官によると、メタの自動システムは毎月数千件の利用価値のない通報を生成しており、それが法執行機関に送られています。担当官は多くの通報を「ジャンク（不要なもの）」と表現し、その膨大な量が捜査官にとって圧倒的であると述べています。報告の質も詳細や信憑性を欠くことが多く、真剣な対応を妨げています。中には個別の報告が犯罪性を持たなかったり、信頼できる証拠に欠けているものもあります。これらの評価はニューメキシコ州のインターネット子ども犯罪対策タスクフォースのメンバーによるものです。
担当官が述べるところによると、毎月の大量の利用価値のない報告は、CyberTiplineからの紹介を処理する上で実際的な課題を生じさせています。担当官は低品質の通報が大量にあるため、仕分けや評価が捜査を複雑にし、調査に割く注意力を消費していると述べています。これらの批判は、メタのプラットフォームから送られる自動報告の量と活用可能性の両方に対する懸念を反映しています。
Metaは、司法省や全国失踪・搾取児童センター（NCMEC）などの法執行機関と協力しており、これらの機関が報告プロセスを評価していることを指摘しています。2024年5月に成立した報告法（Report Act）は、計画的または差し迫った虐待、児童性的搾取および関連する搾取を含む法的報告義務を拡大し、企業に対して証拠の保存義務を長期間課しています。Metaは、適用法令を遵守し、調査のために証拠を保存するなど新たな法的枠組みに基づく対応を行っていると述べています。これらの説明は、Metaの児童安全報告に関する公開声明に記載されています。
Metaは、事件管理ツールの構築を支援し、緊急性の高い事案を識別するためにサイバーティップにラベルを付けることで、NCMECの報告優先順位付けを支援していると述べています。2024年には、米国当局から9,000件以上の緊急要請を受け、平均67分以内にそれらの要請に対応したと報告しています。また、児童の安全や自殺に関わるケースはさらに迅速に処理されたと述べています。これらの運用詳細は、Metaが法執行機関やNCMECへの協力および技術支援の一環として提示しています。
これらのポイントは、Metaが表明している協力措置と2024年5月の報告法によって生じた法的背景を要約しています。
Metaは依然として全国失踪・搾取児童センターのサイバーティップラインへの児童虐待報告の主要な情報源ですが、法執行官はAI生成の通報の量や質が捜査の妨げになっていると批判しています。Metaは法執行機関と協力していることを強調し、司法省やNCMECを含む機関がその報告プロセスを評価していると述べ、法的遵守と報告の取り扱い・優先順位付けに関する運用措置を示しています。
