[시시비비] AI 알고리즘 규제 논리의 정당성

이성엽 고려대 기술경영전문대학원 교수·기술법정책센터장.

언제부터인가 인터넷 플랫폼은 우리가 좋아할 만한 뉴스·영화는 물론, 쇼핑할 물건까지 추천하고 있는데 이를 가능하게 하는 것이 인공지능(AI) 알고리즘(algorithm)이다. 이는 요구받은 계산값을 내놓도록 구조화한 계산 절차로 어떤 문제를 해결하기 위한 절차·방법·명령어들의 집합이다. 쉽게 말해 사용자가 원하는 결과값을 찾아주는 과정의 순서도다. 결국 알고리즘의 본질은 조직의 의사결정을 위한 판단 메커니즘인 것이다.

기업이 자사 상품·서비스에 대해 어떤 의사결정을 할지는 원칙적으로 해당 기업의 자율에 따른다. 그런데 최근 정치권과 정부에서는 알고리즘의 공개 및 검증을 의무화하는 법안을 발의하고 있다. 포털의 뉴스 추천 알고리즘에 대한 정치권의 의심에서 시작해 이제는 거래중개 서비스의 검색·노출 기준 공개, 정보통신서비스 제공자의 알고리즘 정부 제출, 인터넷 뉴스 서비스 사업자의 기사 배열 기본방침 및 구체적 기준 등의 공개로 확대되고 있다.

이런 입법이 필요한 이유는 알고리즘의 공정성·투명성 확보다. 공정성이란 알고리즘이 특정 집단 등을 차별하거나 편향된 결정을 하고 있다는 의심을 근거로 한다. 편향성은 알고리즘의 설계자·운영자의 편향이 알고리즘에 반영돼 편향된 추천 결과를 보여줄 가능성, 외압 등에 의해 운영자가 임의로 추천 결과를 조작할 가능성 등 의도적인 편향과 학습 데이터에 포함된 편향된 패턴을 그대로 반영하는 비의도적인 편향으로 구분할 수 있다.

기업에 알고리즘은 이용자에게 만족스러운 서비스를 제공하기 위한 최적화 도구이므로 알고리즘을 편향되게 설계해 이용자의 만족도를 떨어뜨릴 유인이 없다. 만약 비의도적인 편향을 시정하기 위해 어떤 특수 목적을 반영하는 경우, 이는 또 다른 불공정 시비를 낳을 수도 있다. 게다가 사회구성원 모두가 합의할 수 있는 공정성 기준을 제시하는 것은 매우 어렵고, 또한 알고리즘 설계에는 인간의 주관이 개입할 수밖에 없어 애초 공정성·객관성과 조화되기도 쉽지 않다. 그나마 용이하게 실행가능한 것은 기업이 이용자 또는 파트너들에게 알고리즘의 작동원리에 대해 충분히 설명하도록 하는 것이다.

다음은 투명성의 요청이다, 본래 투명성은 정부·공공기관 등 공적 임무를 수행하는 주체에게 강하게 요구된다. 공공부문은 민간의 위임에 따라 권력을 행사하기 때문에 정보의 공개, 시민의 행정 참여를 통해 국민주권을 실현하고 행정의 부패를 방지할 필요가 있기 때문이다. 플랫폼은 민간기업이지만 영향력이 증가하면서 공공부문과 유사하게 이용자에 의한 통제 필요성이 높아진 것이 투명성 법제화 요구로 이어지고 있다.

다만 기업 알고리즘은 대부분 영업비밀에 해당한다. 따라서 이를 공개하는 것은 영업비밀을 법적으로 보호함으로써 기업의 연구 개발 활동을 촉진하는 것을 목적으로 하는 영업비밀보호제도와 충돌한다. 또한 알고리즘은 수시로 변경되기 때문에 특정한 시점의 알고리즘을 공개하거나 검증하는 것의 실효성도 의문이다.

결론적으로 막대한 영향력을 가진 플랫폼의 AI 알고리즘에 대해 외부 통제가 필요하다는 점은 인정된다고 할 수 있다. 다만 방법론으로서 정부의 사전적 법적 규제가 필요한 것인지, 설명 가능성 확보 및 이의 제기 등 사후적 법적 규제로도 충분한 것인지, 자율규제로도 가능한 것인지는 규제의 실행 가능성, 국내 테크기업의 경쟁력 등을 고려해 신중하게 결정돼야 할 것이다.

이성엽 고려대 기술경영전문대학원 교수·기술법정책센터장