'디지털 성범죄' 이제 인공지능(AI)으로 24시간 자동 탐지-분석-신고한다.
성평등가족부, 삭제요청 자동화·AI 성착취 탐지·딥페이크 식별 시스템 도입
□ 성평등가족부(장관 원민경)는 디지털성범죄 피해자 보호를 위해 ➊삭제요청 자동화, ➋AI 기반 아동·청소년 온라인 성착취 선제 대응, ➌AI 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 도입한다. 기존 수동·사후 대응의 한계를 보완하고, 피해자 중심의 신속·선제 대응 체계를 구축했다고 밝혔다.
- 이번 시스템 도입으로 기존의 수동적이고 사후적인 피해자 보호의 한계를 보완하고, 디지털 성범죄 대응체계를 자동화·지능화하여 대응 속도와 정확도를 대폭 높였다.
□ 우선, 피해영상물 삭제요청 자동화를 통해 약 2만 개의 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정을 자동화하고, 건당 처리 시간을 1분 이내로 단축하였다.
- 특히 중앙디지털성범죄피해자지원센터(이하 중앙 디성센터)의 삭제지원시스템을 美 국립실종학대아동방지센터(NCMEC) 및 글로벌 CDN 사업자 클라우드플레어(Cloudflare)와 API로 연계하여, 우회 접속 URL도 대량 자동 삭제요청이 가능해졌다.
- 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송하도록 개선했으며, 종사자의 정신적 소진 예방을 위해 美 NCMEC의 선진 사례를 참고한 촬영물 필터(회색조 처리) 기능도 도입했다.
□ '아동·청소년 온라인 성착취 선제적 대응 시스템'은 인공지능(AI) 기술을 활용하여 SNS, 랜덤채팅앱 등에서 아동·청소년 성착취물 및 유인정보를 24시간 자동 수집·분석하고 자동 신고 및 삭제요청을 한다.
- 특히 국내 최초로 '랜덤채팅앱'에 대한 데이터 자동 수집 기술을 탑재하였으며, 기존 중앙 디성센터의 삭제지원시스템과 연계하여 성인사이트에 대한 유포 현황 탐지와 자동 삭제요청이 가능해진다.
- 시스템에 적용된 AI 모델은 ➊키워드 탐지, ➋이미지 내 텍스트 추출, ➌신체 노출도 판단, ❹아동·청소년 여부 추정, ❺유사 이미지 대조 등 다단계 분석을 거쳐 아동·청소년 성착취물 여부를 판단한다.
□ 시스템 구축 이후 25일 동안의 시범운영 결과, 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 대폭 증가하였다.
- 향후 시스템 본격 운영을 통해 아동·청소년 성착취물은 신속하게 선제적 삭제지원하고, 성착취 유인정보는 신고 및 전문 상담원이 개입하는 '온라인 아웃리치'를 병행하여 맞춤형 통합지원을 강화할 예정이다.
※ 시범운영 기간 : 2026.2.23.~2026.3.19.
□ 마지막으로, AI 기반 딥페이크 탐지 솔루션 도입을 통해 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 되어, 피해자의 불안을 해소하고 추가 삭제지원도 가능해졌다.
- 특히 선제적 삭제지원을 위한 온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견된 경우, 딥페이크 탐지 솔루션을 적용하여 피해자가 인지하지 못한 합성물도 찾아내며 추가 유포를 사전에 차단할 수 있게 됐다.
□ 원민경 성평등가족부 장관은 "기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점"이라며
- "AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 밝혔다.