인권위, AI 법안에 인권 보호 넣어야…"'딥페이크 포르노' 등 심각한 위협"

[아시아경제 박철응 기자] 국가인권위원회가 인공지능(AI) 발전의 이면에 차별, 감시, 인권 침해 가능성이 있다며 국회가 관련 육성법을 만들 때 인권 보호 규정을 반영해야 한다는 의견을 공식 표명했다.

1일 국회에 따르면 인권위는 지난해 11월 당시 김경진 무소속 의원이 발의한 '인공지능산업 진흥에 관한 법률안'에 대해 최근 이 같은 인권위 상임위원회 결정 의견을 밝혔다.

정부가 체계적으로 AI 산업을 육성토록 기본계획을 세우고 지원하는 내용의 이 법안은 20대 국회에서 통과되지 못하고 임기 만료로 폐기됐다. 하지만 21대 국회에서 다시 관련 법안이 발의될 가능성이 크다.

인권위는 "AI 산업 법안에 인권 보호와 관련된 기본적ㆍ개괄적 원칙 규정을 반영할 필요가 있다"면서 "인권 및 인간 존엄성 존중 원칙, AI로 인한 차별 방지 원칙이 반영돼야 한다"고 했다. 인간의 주관과 무의식적 원인으로 비롯되는 인지편향(cognitive bias)처럼 기계편향(machine bias) 우려가 제기된다는 점을 짚었다. 인권위는 "개발자의 편향된 이념이나 사상 등이 반영되고, AI가 학습하는 데이터에 이미 사회적 편견이나 차별적 요인이 내재돼 이를 학습하는 점 등이 지적된다"고 강조했다.

인권위는 미국의 사례들을 꼽았다. 미국 전자상거래 업체 아마존에서 개발한 AI 지원 이력자 검토 시스템이 여성에게 타당한 이유 없이 감점을 주고, 미국 양형 정보 판단 시스템에서 흑인 피의자의 경우 향후 폭력 범죄를 저지를 가능성이 다른 인종보다 최대 77% 높게 판단했다는 등의 사례들이다.

감시와 인격 침해 가능성도 주된 우려다. 인권위는 "AI에 기반해 특정 인물의 영상을 완전히 새롭게 합성하거나 창조할 수 있는 딥페이크 기술의 위험성이 지적되고 있다"면서 "언론 보도에 따르면 전세계 딥페이크 영상의 96%가 포르노 목적으로 제작되고 있으며, 피해자 중 한국 여성 연예인이 25%에 달하는 것으로 알려지는 등 인간의 존엄성에 심각한 위협이 될 수 있다"고 짚었다.

AI의 판단 과정을 알기 어렵다는 점도 문제다. 인권위는 "바둑 같은 게임에서 이긴다는 단순한 목적을 지난 알파고 같은 AI라면 불투명성이 큰 문제가 되지 않을 수 있으나, 인간 실생활이나 인권과 밀접한 영역에서 판단을 내릴 경우에는 왜 그러한 가치판단을 내렸는지가 중요한 쟁점이 된다"고 설명했다.

박철응 기자 hero@asiae.co.kr