메타에서 AI로 생성된 신고가 어린이 학대 수사를 지연시키는 것으로 보고되고 있습니다. 메타는 2024년에 접수된 2,050만 건의 신고 중 약 3분의 2를 차지하며, 실종 및 착취 아동 국립 센터(NCMEC) 사이버팁라인에 대한 주요 신고 출처로 남아 있습니다. 이는 2023년 3,620만 건의 신고에서 감소한 수치입니다. 수량과 품질 모두에서 영향을 미치며, 많은 신고가 저품질 또는 사용 불가능한 것으로 분류되어 수사 과정을 복잡하게 만들고 있습니다.
2024년에 메타는 실종 및 착취 아동 국립 센터(NCMEC) 사이버팁라인에 접수된 2,050만 건의 신고 중 가장 큰 기여자로, 약 3분의 2를 제공했습니다. 이는 2023년에 보고된 3,620만 건의 신고에서 상당한 감소를 보인 것입니다. 신고량 감소는 메타의 신고 관행 조정에 부분적으로 기인합니다. 감소에도 불구하고 페이스북, 인스타그램, 스레드 등 메타의 플랫폼들은 여전히 상당한 수의 신고를 생성했습니다.
메타의 2025년 8월 무결성 보고서에 따르면, 2025년 2분기에만 200만 건 이상의 사이버팁 신고가 NCMEC에 전송되었습니다. 이 중 528,000건 이상은 아동과의 부적절한 상호작용과 관련이 있었으며, 150만 건 이상은 아동 성 학대 자료(CSAM)의 공유 또는 재공유에 관한 것이었습니다. 이 수치는 메타가 처리하는 아동 관련 콘텐츠의 양과 복잡성을 강조합니다.
추가로, 2024년 메타는 미국 당국으로부터 9,000건이 넘는 긴급 요청을 받았습니다. 회사는 이러한 요청들을 평균 67분 내에 해결했다고 보고했으며, 이는 긴급 사안을 신속하게 처리할 수 있는 역량을 입증합니다. 이는 메타가 생성되는 보고서의 품질과 양과 관련된 어려움에도 불구하고 법 집행 기관을 지원하는 데 중요한 역할을 한다는 점을 강조합니다.
뉴멕시코의 ICAC 수사관들은 메타의 자동화 시스템이 매달 수천 건의 쓸모없는 제보를 생성하여 법 집행 기관에 전달된다고 말합니다. 수사관들은 많은 제보를 ‘쓰레기’라고 묘사하며, 방대한 양이 수사관들에게 부담이 된다고 전합니다. 그들은 보고서의 품질이 상세하거나 신뢰할 만한 내용을 갖추지 못해 심각한 조치를 취하는 데 어려움을 준다고 보고했습니다. 일부 수사관은 개별 보고서가 범죄적 성격이 없거나 신뢰할 만한 증거가 부족하다고 말했습니다. 이러한 평가는 뉴멕시코 인터넷 아동 범죄 대응 태스크포스의 구성원들에 의해 이루어졌습니다.
수사관들이 묘사한 바와 같이 월별로 쓸모없는 보고서가 많이 발생하는 것은 CyberTipline에 접수되는 의뢰를 처리하는 데 실질적인 어려움을 만듭니다. 수사관들은 많은 수의 저품질 제보를 분류하고 평가하는 과정이 수사 절차를 복잡하게 만들고 수사 집중도를 소비한다고 말했습니다. 이러한 비판은 메타 플랫폼에서 전달되는 자동 보고서의 양과 활용 가능성 모두에 대한 우려를 반영합니다.
메타는 법무부와 실종 및 학대 아동 보호를 위한 국가센터(NCMEC)를 포함한 법 집행 기관과 협력한다고 밝히며, 이들 기관이 메타의 신고 절차를 높이 평가했다고 언급했습니다. 2024년 5월에 법으로 제정된 보고법(Report Act)은 계획되거나 임박한 학대, 아동 성매매 및 관련 착취를 포함하도록 법적 신고 의무를 확장하고, 기업에 더 긴 증거 보존 의무를 부과했습니다. 메타는 관련 법규를 준수하며, 새로운 법적 체계에 따라 조사에 필요한 증거 보존도 포함하는 자체 절차를 시행하고 있다고 밝혔습니다. 이러한 설명은 메타의 아동 안전 신고에 대한 공개 성명에서 나타납니다.
메타는 NCMEC가 긴급한 신고 사항을 식별할 수 있도록 사례 관리 도구를 구축하는 데 도움을 주고 사이버팁에 라벨을 부착하여 우선순위를 지원한다고 밝혔습니다. 2024년에는 메타가 미국 당국으로부터 9,000건이 넘는 긴급 요청을 접수했고, 이 요청들을 평균 67분 내에 해결했으며, 아동 안전 및 자살 관련 사건은 더욱 신속하게 처리했다고 말했습니다. 이 운영 세부 사항들은 메타가 법 집행 기관과 NCMEC에 제공하는 협력과 기술 지원의 일부로 제시됩니다.
이 요점들은 메타가 밝힌 협력 조치와 2024년 5월 보고법이 만든 법적 맥락을 요약합니다.
메타는 여전히 실종 및 학대 아동 보호를 위한 국가센터의 사이버팁라인에 아동 학대 신고를 제공하는 주요 출처지만, 법 집행관들은 AI가 생성한 신고의 양과 질이 수사에 방해가 된다고 비판했습니다. 메타는 자신들이 법 집행 기관과 협력하며, 법무부와 NCMEC 같은 기관이 신고 절차를 칭찬하고 있다고 강조하며, 법적 준수와 신고 처리 및 우선순위 지정에 관한 운영 조치들을 지적합니다.
