”국민의 삶이 걸린 국정에 관해 가짜뉴스를 만들어 유포하는 것은 장난이 아니라 형사처벌을 받는 범죄입니다. 가짜뉴스로 사회 혼란을 야기하는 것은 표현의 자유로 보호받지도 못합니다. 사실에 기반한 정확한 정보의 유통, 합리적인 비판과 토론이 민주공화국을 떠받치는 대의민주주의의 핵심입니다.“
이재명 대통령은 5월 12일 누리소통망(SNS)에 ‘중동 전쟁 관련 허위정보를 유포한 계정 38개 수사 중, 11명 검거’라는 경찰 발표 내용을 전하며 이같이 밝혔다. 이는 4월 1일 제3차 비상경제점검회의에서 ”필요할 경우 긴급재정명령을 활용할 수 있다고 얘기한 국무회의 발언을 ‘달러를 강제 매각한다’ 등의 가짜뉴스로 만들어 배포한 행위는 비상한 위기 시국에 매우 유해하다“며 관계부처에 철저한 조치를 주문한 데 따른 결과다.
이 대통령은 가짜뉴스에 대한 강경 대응 기조를 지속적으로 강조해왔다. 4월 30일에는 ‘세월호·이태원 참사 피해자와 유가족을 대상으로 허위 사실을 유포한 남성이 구속됐다’는 소식을 공유하며 ”향후에도 가짜뉴스나 2차 가해 댓글 등에는 경찰 전담팀이 엄정하게 대응할 것“이라고 밝힌 바 있다.
이처럼 정부는 가짜뉴스를 사회 혼란의 주요 요인으로 규정하고 단속 수위를 높이고 있다. 특히 6월 3일 열리는 제9회 전국동시지방선거(6·3지방선거)를 앞두고 선거의 공정성을 해치는 허위정보 차단에 범정부 역량을 집중한다는 방침이다. 김민석 국무총리는 4월 14일 공명선거를 위한 정부 의지를 담은 ‘대국민 담화문’을 통해 ”인공지능(AI)을 악용한 가짜뉴스에 대해서는 일벌백계 차원에서 법이 허용하는 최대한으로 엄중히 처벌하겠다“고 밝혔다.
”선거 흔드는 가짜뉴스 일벌백계“
이에 따라 정부는 6·3지방선거를 앞두고 허위정보 확산 차단을 위해 범정부 공조체계를 본격 가동하고 있다. 행정안전부는 5월 8일 윤호중 장관 주재로 ‘범정부 허위·가짜뉴스 대응 협의체’(이하 협의체) 회의를 열고 선거일까지 매주 협의체를 운영하기로 했다. 반복적이고 악의적인 가짜뉴스가 온라인 플랫폼과 SNS를 통해 빠르게 확산하면서 국민의 합리적 판단에 따른 선거권 행사가 방해받을 수 있다는 우려가 커진 데 따른 조치다.
행안부는 선거 30일 전인 5월 4일부터 불법 광고물 집중 정비에 돌입했다. 4월 15일 시행된 ‘선거광고물 관리지침’과 공직선거법, 옥외광고물법 등을 위반한 현수막을 지방정부와 함께 즉시 정비하고 있으며 지난 3월까지 3만 건 이상의 불법 현수막을 철거했다. 또 시·도 합동감찰반을 특별 운영해 공무원의 가짜뉴스 게시·유포와 선거 개입 행위를 점검하고 있다. 적발될 경우 고의성 여부와 관계없이 엄중 처벌할 계획이다.
방송미디어통신위원회는 온라인 플랫폼상의 가짜뉴스를 신속히 삭제하고 접근을 차단하기 위해 ‘민·관 합동 자율규제 협의체’를 운영 중이다. 수시로 운영 상황을 점검하며 플랫폼 사업자의 적극적인 차단 활동도 독려하고 있다.
검찰과 경찰은 가짜뉴스를 비롯해 흑색선전, 금품수수, 공무원 선거 개입 등을 공명선거를 위협하는 중점 단속 대상 선거범죄로 규정하고 수사를 진행 중이다. 특히 조직적·반복적으로 가짜뉴스를 퍼뜨린 사안에는 무관용 원칙을 적용한다는 방침이다.
아울러 경찰청 국가수사본부는 후보자 등록 개시일인 5월 14일부터 선거사범 대응체계를 최고 수준으로 격상했다. 각급 경찰관서 수사팀이 경비·지구대 등 관계기관과 협력해 신속한 현장 대응체계를 구축한다. ‘AI 조작 콘텐츠 분석 대응체제’도 가동해 진위 판별은 물론 콘텐츠 제작부터 유포까지 전 과정을 기술적으로 재구성해 범죄 혐의 입증에 총력을 기울인다.
교육부는 예방과 홍보 활동에 힘을 쏟고 있다. SNS를 통한 허위조작정보 확산에 대비해 디지털 미디어 문해교육을 강화하고 중앙선거관리위원회와 협력해 고3 학생 40만 명을 대상으로 ‘새내기 유권자 교육’을 실시하고 있다. 선거 절차와 정치관계법 등을 안내하는 교육이다. 문화체육관광부는 KTV와 정부 SNS 등을 활용해 정확한 정책 정보를 제공하고 가짜뉴스 근절 메시지를 확산하고 있다.
허위사실공표 등 특별 대응팀 설치
중앙선관위는 ‘딥페이크·허위사실공표·비방 등 특별 대응팀’을 설치해 관련 정보를 정부와 실시간 공유하고 있다. 중대한 위법 게시물에 대해서는 수사기관 고발 등 공조도 병행한다. 윤호중 행안부 장관은 ”가짜뉴스는 국민의 자유로운 참정권 행사를 방해할 뿐만 아니라 선거에 대한 신뢰를 무너뜨리고 사회 갈등과 혼란을 부추겨 민주주의의 근간을 훼손하는 심각한 범죄“라며 ”이번 지방선거가 어느 때보다 공정하고 깨끗하게 실시될 수 있도록 선거일까지 범정부 차원의 협력을 이어가겠다“고 말했다.
선거를 겨냥한 딥페이크 영상·음성 조작 범죄에 맞서는 AI 탐지 기술도 본격 도입됐다. 행안부는 국립과학수사연구원과 공동 개발한 ‘AI 딥페이크 탐지 모델’을 적용한다. 특정인의 얼굴이나 음성을 정교하게 합성한 딥페이크 범죄가 급증하면서 후보자의 모습이나 발언을 조작한 정보가 유권자의 판단을 왜곡하는 것을 막기 위해서다.
이번 모델은 2025년 12월 ‘딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회’ 성과를 바탕으로 만들어졌다. 영상의 전체 흐름을 분석하는 ‘전역 분석’과 얼굴 등 특정 부위의 조작 흔적을 정밀하게 판별하는 ‘국소 분석’을 병행해 탐지 정확도를 높였다. 최신 생성형 AI 기반 콘텐츠에도 대응할 수 있도록 설계됐으며 실제 검증 결과 약 92% 수준의 정확도를 기록했다.
정부는 부처별 업무 특성에 맞춘 딥페이크 대응 기술 개발에도 속도를 내고 있다. 과학기술정보통신부는 ‘딥페이크 대응 연구개발 실무협의체’를 구성하고 4월 30일 첫 회의를 열었다. 기관별로 사업을 연계하고 연구 성과를 효율적으로 관리하기 위한 민·관 협의체다. 이들은 반기별 정기회의를 통해 각 부처와 기관의 의견을 수렴하고 현장 수요를 파악해 다음 연도 연구과제와 신규 사업에 반영할 계획이다.
AI 악용 성범죄 영상물 삭제 요청 자동화
한편 AI 기술을 활용한 디지털성범죄 피해자 보호체계도 고도화되고 있다. 성평등가족부는 ▲피해 영상물 삭제 요청 자동화 ▲AI 기반 아동·청소년 온라인 성착취 선제 대응 ▲AI 기반 딥페이크 탐지 등 3대 핵심기술 시스템을 도입했다. 기존의 수동적·사후적 대응 한계를 보완하고 피해자 중심의 대응 속도와 정확도를 높인 것이 특징이다.
약 2만 개 사이트에 대한 삭제 요청부터 처리 이력 관리까지 전 과정을 자동화해 건당 처리 시간을 1분 이내로 단축했다. 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송할 수 있도록 개선했다. 또한 종사자의 정신적 소진을 예방하기 위해 미국 국립실종학대아동방지센터(NCMEC)의 선진 사례를 참고한 촬영물 필터(회색조 처리) 기능을 적용했다.
딥페이크 탐지 솔루션도 활용되고 있다. 육안으로 판별하기 어려웠던 합성물을 정확히 식별하게 되면서 피해자의 불안을 줄이고 추가 삭제 지원까지 가능해졌다. 선제적 삭제 지원을 위한 온라인 모니터링 과정에서 합성·편집물 의심 영상이 발견될 경우 탐지 솔루션을 적용해 피해자가 인지하지 못한 합성물까지 찾아내고 추가 유포도 사전에 차단할 수 있다.
이근하 기자 ‘디지털성범죄 피해 통합지원단’ 출범
단속부터 수사까지 원스톱 대응
허위정보와 딥페이크 등 AI 합성물 악용 피해를 막기 위한 ‘디지털성범죄 피해 통합지원단’이 출범했다. 통합지원단은 성평등가족부 안전인권정책관이 겸임하는 단장을 중심으로 부단장 1명과 단원 7명 등 총 8명으로 구성됐다. 정부는 그동안 진화하는 디지털성범죄에 대응하기 위해 총 5차례 범부처 종합대책을 마련하고 약 153만 건의 삭제 지원을 통해 약 5만 3000명의 피해자를 지원해왔다.
그러나 피해자가 명백한 불법촬영물조차 방송미디어통신심의위원회 심의 절차를 거쳐야만 접속 차단이 가능해 신속 대응에 어려움이 있었다. 해외 서버 기반 불법유해사이트 역시 행정 제재가 쉽지 않아 삭제 불응이나 반복 게시에 따른 피해가 지속된다는 지적도 제기돼왔다.
이에 통합지원단은 불법촬영물 유통 경로와 반복 게시 사이트의 운영방식, 수익구조 등을 심층 분석하고 이를 토대로 수사 의뢰, 과징금 부과, 신속 차단, 국제 공조 등 관계기관과 협력해 원스톱 대응체계를 구축할 계획이다. 피해자가 명확한 불법촬영물에 대해서는 통신사업자를 통해 신속히 접속을 막고 집단 피해 발생 등 일선 지원기관 차원에서 대응하기 어려운 위급·중대 사건은 직접 지원에 나선다.