AI 기본법 1년 넘게 국회 계류
워터마크 의무화 등 지지부진
딥페이크 피해를 줄이려면 인공지능(AI) 생성물에 표식을 의무화하는 등 규제 도입이 필요하다는 목소리가 높다. 유럽과 미국에선 이미 규제를 적용했지만 국내에선 관련 논의가 답보 상태다.
7일 관련 업계와 정치권에 따르면 현재 딥페이크를 이용한 음란물로 성적 수치심을 유발하는 경우 성폭력처벌법에 따라 처벌할 수 있다. 그러나 딥페이크로 음란물을 제작하는 것 자체는 처벌 대상이 아니다. 음란물 외에 명예훼손이나 금융사기 등에 악용되는 딥페이크도 막기 어렵다.
정부와 정치권에선 AI 생성물에 워터마크 등을 넣는 표식 의무화로 규제 장치를 마련해야 한다고 본다. AI 산업 진흥과 이용자 보호를 모두 고려해 표식 의무화로 책임성을 강화하자는 것이다.
그러나 워터마크 의무화를 포함한 AI 기본법 처리는 지지부진한 상황이다. 지난해 2월 국회 과학기술정보방송통신위원회 법안소위를 통과한 후 1년 가까이 상임위 전체회의에 계류 중이다. 시민단체를 중심으로 AI 기본법의 핵심인 ‘우선 허용·사후 규제’를 반대하고 있기 때문이다. 허용·사후 규제는 생명·안전·권익에 위해되는 경우가 아니면 AI 기술 개발을 제한하면 안 된다는 내용이다.
그 사이 개정안도 발의됐다. 이상헌 더불어민주당 의원은 지난해 5월 AI 산출물에 대한 표시를 의무화하는 콘텐츠산업진흥법 개정안을 발의했다. 지난해 12월에는 김승수 국민의힘 의원이 비슷한 내용의 정보통신망법 개정안을 발의했다. 개정안 역시 표시 범위나 방법, 제재 수단 등을 놓고 쟁점이 남아있다. 일각에선 악의적인 목적이 없거나 창작 과정에서 단순 도구로만 활용하는 경우까지 위축시킬 수 있다는 지적이 나온다.
해외에선 보다 발 빠르게 움직였다. 유럽연합(EU)은 지난해 8월 디지털 서비스법(DSA)을 통해 AI 생성 콘텐츠에 별도 표시를 넣도록 했다. 미국 행정부도 작년 10월 행정명령을 통해 AI 콘텐츠 식별 장치를 강화하도록 했다.
김명주 서울여대 정보보호학과 교수는 "텍스트 생성물을 제외하면 기술적으로 워터마크를 넣는 것은 어렵지 않다"며 "사회적 논의가 필요한 AI 기본법 제정보다는 개정안으로 워터마크를 의무화해 딥페이크 피해를 줄여야 한다"고 말했다.
최유리 기자 yrchoi@asiae.co.kr
꼭 봐야할 주요뉴스

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>