AI로 만든 인물이 제품을 먹고 체중을 감량한 것처럼 보이는 표현이 펀딩 플랫폼의 신뢰 관리 대상에 포함됐다. 와디즈는 생성형 AI 콘텐츠가 실제 사용자의 경험이나 후기처럼 받아들여질 수 있는 사례까지 모니터링 범위를 확대했다.
와디즈, AI 생성 콘텐츠 오인 표현 선제 조치…도전 기회 넓히고 신뢰 기준 높인다.
최근 한 식품 펀딩 프로젝트에서는 AI 생성 인물 이미지에 ‘○○kg 감량’이라는 구체적인 수치가 함께 사용됐다. 와디즈는 AI 모니터링과 운영자 검토를 거쳐 해당 표현이 실제 체험 후기로 오인될 가능성이 있다고 판단하고 메이커에게 이미지와 문구 수정을 요청했다. 생성형 AI가 콘텐츠 제작의 진입장벽을 낮추는 가운데, AI 사용 여부보다 소비자의 판단에 영향을 미치는 표현 방식을 어떻게 관리할지가 플랫폼 운영의 새로운 과제로 떠오른 셈이다.
문제가 된 프로젝트에는 AI로 생성한 인물이 리워드를 직접 섭취한 것처럼 연출된 이미지가 사용됐다. 이미지와 함께 구체적인 체중 감량 수치가 제시돼 서포터가 실제 이용자의 경험이나 효능 사례로 받아들일 여지가 있었다.
해당 콘텐츠는 와디즈의 AI 모니터링 과정에서 추가 확인 대상으로 분류됐다. 이후 운영자가 이미지와 문구의 맥락을 검토했고, 공정거래위원회의 ‘추천·보증 등에 관한 표시·광고 심사지침’ 등을 기준으로 수정이 필요하다고 판단했다. 메이커는 요청에 따라 관련 문구와 이미지를 변경했다.
AI가 선별하고 운영자가 판단…소명·수정·비노출로 대응
와디즈는 생성형 AI의 확산에 맞춰 기존 모니터링 기준에 새로운 콘텐츠 유형을 추가하고 있다. AI로 만든 이미지와 인물이 실제 소비자의 사용 장면이나 후기, 효능 사례처럼 제시되는지를 중점적으로 점검한다.
AI 시스템은 추가 확인이 필요한 표현을 우선 선별하고, 최종 조치 여부는 운영자가 콘텐츠의 전체 맥락과 관련 기준을 검토해 판단한다. 확인 결과에 따라 메이커에게 소명을 요청하거나 콘텐츠 수정을 요구하며, 필요한 경우 프로젝트 또는 콘텐츠를 비노출 처리한다.
운영 현황과 주요 조치 사례는 투명성 리포트를 통해 공개한다. 리포트는 와디즈 메이커센터에서 매주 업데이트되며, 새롭게 등장하는 콘텐츠와 표현 방식에 맞춰 모니터링 기준도 보완한다.
허지은 와디즈 COO는 “새로운 기술과 표현 방식이 등장할수록 플랫폼의 운영 기준도 함께 발전해야 한다”며 “메이커의 새로운 시도는 폭넓게 열어두면서 서포터가 안심하고 참여할 수 있는 신뢰 기준을 높여 더 많은 아이디어가 도전으로 이어지도록 하겠다”고 말했다.
제품 출시 전 제한된 정보를 바탕으로 참여 여부를 결정하는 펀딩의 특성상, 플랫폼 신뢰는 AI 콘텐츠가 소비자의 판단을 왜곡할 가능성을 얼마나 빠르게 찾아내고 바로잡는지에 달려 있다.
The post AI 인물 ‘체중 감량 후기’처럼 연출…와디즈, AI 콘텐츠 표시 기준 강화 appeared first on 벤처스퀘어.