中, 불법 AI 콘텐츠와의 전쟁…당국 제재·단속 전방위 확대

1인 미디어 9만8000개 무더기 제재
광고 시장 겨냥 6개월 대대적 단속
바이트댄스 앱 3종에도 시정 명령

중국 당국이 급증하는 불법 생성형 인공지능(AI) 콘텐츠를 겨냥해 전방위 규제에 나섰다.

시진핑 중국 국가주석. EPA연합뉴스

연합뉴스는 5일 중국 관영 영자지 차이나데일리 등을 인용해 "중국 인터넷 규제 당국인 인터넷정보판공실(CAC)은 출처를 밝히지 않고 각종 뉴스와 정보를 제공한 1인 미디어 '쯔메이티'(自媒體) 9만 8000개에 제재를 가했다"고 보도했다. 쯔메이티는 위챗(중국판 카카오톡)·웨이보(중국판 엑스) 같은 사회관계망서비스(SNS)에서 운영되는 개인 또는 소규모 독립 운영자의 비공식 콘텐츠 채널이다. 이들 상당수는 조회 수를 늘리기 위해 AI가 생성한 콘텐츠라는 사실을 숨긴 채 영상을 올린 것으로 드러났다.

중국 시장 규제·감독 기관인 국가시장감독관리총국(SAMR)은 지난달 말 AI 관련 온라인 광고 생태계에 처음으로 제재 칼날을 겨눴다. AI 오남용을 포함한 불법 행위를 겨냥해 인터넷 광고 분야 전반에 걸친 6개월 일제 단속을 개시한 것이다.

컨설팅업체 퀘스트모바일에 따르면 중국의 지난해 온라인 광고 시장은 7930억위안(약 170조원)에 달한 것으로 추산되며, 지난해 상반기 기준 바이트댄스·텐센트·알리바바 등 빅테크 3사가 시장 절반 이상을 점유한 것으로 알려졌다.

중국 당국은 AI 오남용과 자동화 봇(bot)을 이용한 트래픽 어뷰징(조회수 조작)이 새로운 위험 요소로 부상했다고 보고 "시스템적이고 대대적인 단속 캠페인이 시급히 필요한 상황"이라고 밝혔다. 이번 캠페인에서는 규제·플랫폼 책임 강화, 신규 광고 형태 감독, 모니터링 기술 업그레이드, 콘텐츠 기준 강화 등 5개 사항을 중점 추진한다. 앞서 인터넷정보판공실은 춘제(중국의 설) 연휴 기간에도 온라인 환경 정화 캠페인을 통해 AI 생성 허위 콘텐츠 등 70만 8000건 이상을 삭제한 바 있다.

틱톡과 캡컷 등의 서비스를 운영하는 중국 빅테크 기업 바이트댄스. 로이터연합뉴스

개별 기업에 대한 직접 제재도 이어지고 있다. 인터넷정보판공실은 지난달 28일 AI 생성 영상에 출처가 표기되지 않았다는 이유로 바이트댄스 운영자를 불러 시정을 명령하고 제재를 부과했다. 문제가 된 서비스는 AI 기반 영상 편집 앱 캡컷, 파일 공유 플랫폼 캣박스, 이미지 생성 AI 드리미나 등 3종이다. 당국은 이들 서비스가 "사이버보안법과 AI 생성 서비스 관련 규정, AI 생성·합성 콘텐츠 표시 규정을 위반했다"고 전했다. 이에 관련 기업들도 선제 대응에 나섰다. 틱톡의 중국판인 더우인은 올해 들어 저작권을 침해한 AI 영상 53만 8000개를 삭제하고 계정 4000여 개에 제재를 가했다.

한편 '제2의 딥시크'로 불리며 세계 테크 업계의 주목을 받았던 바이트댄스의 영상 제작 AI '시댄스 2.0′이 저작권 논란으로 인해 글로벌 출시를 연기한 바 있다. 시댄스 2.0은 사진 몇 장과 짧은 명령어만으로 유명 배우나 인기 드라마를 연상시키는 15초짜리 영상을 만들 수 있어 크게 화제가 됐으나, 콘텐츠 업계에서 저작권 문제로 반발을 샀다.

김성욱 기자 abc123@asiae.co.kr