[뉴스속 용어]안면인식 제한했다, 세계 첫 규제법 'AI Act'

유럽연합(EU) 27개 회원국이 승인한 ‘인공지능(AI)법(The AI Act)’은 생체정보 수집 제한, 투명성 의무 강화 등을 골자로 한 AI 규제법안이다.

3년 전 EU 집행위원회가 발의한 이후 작년 6월 초안을 마련해 그해 12월 초 EU 입법 절차상 가장 중요한 관문인 이사회·집행위·유럽의회 간 3자 협상을 통과했다. 이후 지난 2일(현지시간) EU 27개국 대사급 상주대표회에서 최종 타협안을 승인하면서 유럽의회 가결 절차만 남겨 둔 상태다. 오는 13일 유럽의회의 담당 위원회 표결을 거쳐 3월 혹은 4월께 의회 본회의를 최종 통과하면 세계 최초 AI 규제법이 탄생하게 된다.

EU 27개국이 최종 타협한 AI법은 기술을 위험도에 따라 분류한 후 규정을 준수하지 않는 기업에 벌금을 부과하는 게 핵심이다.

우선 AI기술은 위험도에 따라 4등급으로 분류된다. 이 등급에 따르면 안면인식 기술은 최상위 등급으로 분류돼 사실상 금지된다. 개인 정보에서도 가장 민감한 안면인식 데이터의 무분별한 수집과 활용이 개인의 사생활을 침해하고 데이터 보안에 심각한 위협을 가할 수 있다는 우려에 따른 것으로 보인다. 다만 국가 안보, 범죄 수사, 보안 목적 등에는 예외적으로 사용할 수 있다. 선거 등 민주주의에 영향을 미치는 경우도 고위험 AI 기술로 분류된다.

소셜미디어 등에서 개인과 기업 등의 사회적 영향력을 점수화한 이른바 ‘소셜 스코어링’에 AI를 활용하는 것도 금지했다. 인터넷에서 사회적 인지도를 높이는 데 AI를 악용하지 못하도록 한 것이다.

이와함께 AI법에는 규제 대상인 ‘고위험 AI’와 ‘범용 AI’를 명확히 정의해 반드시 보고하는 내용도 담겼다. 특히 자율주행 자동차나 의료 장비와 같은 고위험 기술을 사용하는 기업은 AI 관련 데이터를 공개하고 엄격한 테스트를 거쳐야 하며 오픈AI의 GPT와 구글의 제미나이 등 대규모언어모델(LLM)에도 EU 저작권법 준수, 학습에 사용한 콘텐츠의 요약본 배포 등 투명성 의무를 부과했다.

이같은 AI법 규정을 어긴 기업에 최대 3500만유로(약 500억원) 또는 세계 매출 7%에 해당하는 과징금을 부과한다.

이은정 기자 mybang21@asiae.co.kr