생성형 AI가 콘텐츠 제작의 핵심 도구로 자리 잡으면서 AI 기반 허위정보와 스팸 콘텐츠에 대한 플랫폼의 대응도 한층 강화되고 있다. 틱톡이 AI 리터러시 교육부터 콘텐츠 투명성, AI 스팸 차단까지 아우르는 신뢰성 강화 전략을 본격 확대한다.
틱톡은 AI 생성 콘텐츠(AIGC)를 보다 안전하고 책임감 있게 소비·창작할 수 있도록 AI 리터러시 교육 확대와 AI 콘텐츠 투명성 기술 강화, AI 생성 스팸 대응 고도화 정책을 추진한다.
틱톡이 AI 스팸 대응을 강화하고 AI 리터러시를 증진하여 보다 안전하고 책임감있게 AI 생성 콘텐츠를 창작·소비할 수 있도록 지원하는 방안을 확대한다. (자료 제공: 틱톡)
AI 교육부터 콘텐츠 투명성까지 확대
틱톡은 이용자들의 AI 이해도를 높이기 위해 미국 미디어교육전국연합회(NAMLE), 생성형 AI 전문가 헨리 에이더(Henry Ajder)와 협력해 AI 활용 가이드를 제작했다. 또한 AI 관련 용어를 검색하면 AI 생성 콘텐츠를 식별하는 방법 등을 학습할 수 있는 인앱 교육 허브도 새롭게 선보일 예정이다.
AI 리터러시 프로그램 투자도 확대한다. 틱톡은 디지털 안전 연합체 ‘노필터(No Filtr)’와 교육 자선단체 ‘라즈베리 파이 재단(Raspberry Pi Foundation)’ 등과 협력해 AI 교육 콘텐츠 제작을 지원하고 있다. 해당 프로그램은 2025년 11월 출범 이후 누적 조회수 2억 회를 기록했으며, 회사는 지금까지 400만 달러 이상을 투자했다. AI 콘텐츠의 신뢰성을 높이기 위한 기술 투자도 이어진다.
틱톡은 2024년 업계 최초로 AI 콘텐츠 출처를 확인할 수 있는 글로벌 표준 기술인 C2PA(Content Credentials)를 도입한 데 이어 최근 C2PA 운영위원회에 합류했다. 현재까지 C2PA 인증 기술과 크리에이터 라벨링, 보이지 않는 워터마킹(Invisible Watermarking) 등을 활용해 30억 건 이상의 영상에 AI 생성 콘텐츠 라벨을 적용했다.
또한 생성형 AI를 악용한 저품질 스팸 콘텐츠에 대한 대응도 강화한다. 정치·시사, 금융, 의료 등 사회적 영향력이 큰 분야에서 AI를 활용해 대량으로 허위 콘텐츠를 생성·배포하는 계정을 보다 정교하게 탐지할 수 있도록 시스템을 고도화할 계획이다.
회사는 이번 조치가 AI를 창작 도구로 활용하는 일반 크리에이터를 대상으로 하는 것이 아니라, 사람의 개입 없이 저품질 AI 콘텐츠를 반복 생산하는 계정을 겨냥한 것이라고 설명했다. 실제로 틱톡은 올해 1분기에만 허위 계정 8,600만 개 이상을 삭제하는 등 플랫폼 신뢰성 확보에 나서고 있다.
이와 함께 크리에이터를 위한 AI 기반 창작 기능도 지속 확대한다. 긴 영상을 숏폼으로 변환하는 ‘스마트 클립’, AI가 콘텐츠 기획을 지원하는 ‘AI 아웃라인’ 등을 제공하고 있으며, 이용자가 AI 생성 콘텐츠 노출 수준을 직접 조절하는 ‘주제 관리’ 기능도 시험 운영 중이다.
톰 C. 바르게세 틱톡 공공정책 AI 리드는 “이용자들이 AI 생성 콘텐츠를 충분한 맥락 속에서 이해하고 스스로 경험을 관리할 수 있어야 한다”며 “앞으로도 기술과 교육, 파트너십 투자를 지속 확대해 AI를 창의적이고 책임감 있게 활용할 수 있는 환경을 만들어 나가겠다”고 말했다.
The post AI 스팸과 허위정보…틱톡, AI 신뢰성 강화 나선다 appeared first on 벤처스퀘어.