"인공지능 신뢰성 확보해야" 공개세미나 개최

[아시아경제 조슬기나 기자] 과학기술정보통신부는 정보통신정책연구원, 한국정보통신기술협회와 함께 23일 서울 더케이호텔에서 ‘인공지능 신뢰성 제고를 위한 공개 세미나’를 개최했다고 밝혔다.

인공지능(AI) 신뢰성은 AI가 내포한 위험과 기술적 한계를 해결하고, 활용·확산 과정에서의 위험·부작용을 방지하기 위한 가치 기준으로서, 안전, 설명가능, 투명, 견고, 공정 등을 핵심요소로 포함한다.

이번 세미나는 올해 5월 발표한 '신뢰할 수 있는 인공지능 실현전략'의 후속조치로 준비 중인 인공지능 윤리 자율점검표, 인공지능 개발 안내서(가이드북) 및 인공지능 윤리 교육 총론 초안에 대해 각 계의 의견을 폭넓게 수렴하고자 마련됐다.

‘인공지능 윤리 자율점검표’는 2020년 말 발표한 인공지능 윤리기준의 3대 원칙 및 10대 핵심 요건을 구체화한 것으로, 기획자, 관리자 등 인공지능 제품·서비스의 기획 과정에 참여하는 주체가 인공지능 윤리 항목들을 자율적으로 확인할 수 있도록 점검 항목을 제공한다.

'인공지능 개발 안내서(가이드북)'는 개발자, 연구자 등이 인공지능 개발 단계에서 참고할 수 있는 기술적 요구사항, 검증 항목·방법 등으로 구성돼 있다. ’인공지능 윤리 교육 총론‘은 사회 전반에 인공지능 윤리 의식을 확산하기 위해 교육 목표, 성취 기준, 교수·학습·평가 방향 등 인공지능 윤리 교육 기본 방향을 제시한다. 향후에는 이를 기반으로 초중고 대상별 교육 콘텐츠를 개발할 계획이다.

이번 세미나는 알고리즘 편향성, 사생활 침해와 같은 사회적 우려가 대두되는 상황에서 인공지능 신뢰성 확보와 인공지능 산업 발전 간 균형 잡힌 방향을 모색하는 데 그 의의가 있다고 과기정통부 측은 설명했다.

이날 첫 번째 시간에는 정보통신정책연구원 문아람 박사가 인공지능 윤리 자율점검표에 대해 발표했다. 이어 김명주 교수(서울여대), 김종욱 교수(동아대), 노태영 변호사(김·장), 임선경 사무국장(지능정보산업협회), 차순일 단장(한국정보통신기술협회), 최성진 대표(코리아스타트업포럼), 윤명 사무총장(소비자시민모임), 이재형 과장(과기정통부)이 토론자로 참여해 의견을 나눴다.

두 번째 시간에는 한국정보통신기술협회 차순일 단장이 인공지능 개발 단계에서 신뢰성 확보를 위해 기술적으로 확인해야 할 요구사항 등을 담은 개발 안내서(가이드북)에 대해 발표했다. 토론 시간에는 김지희 교수(동국대), 박규동 교수(광운대), 서경원 교수(서울과기대), 김동환 대표(포티투마루), 김세엽 대표(셀렉트스타), 문정욱 센터장(정보통신정책연구원)이 참여했다.

세 번째 시간에는 서울교육대학교 변순용 교수와 정보통신정책연구원 조성은 박사가 인공지능 윤리 교육 총론을 발표하여 인공지능 윤리 교육 방향을 제시했다. 이어 김창환 박사(한국교육개발원), 이현숙 팀장(한국과학창의재단), 전성균 박사(한국교육과정평가원), 양천수 교수(영남대), 한선관 교수(경인교대), 김효은 교수(한밭대), 김종혜 교사(경기 서원고), 전재남 교사(경기 매양중)이 토론자로 참여하여 교육 현장 전반의 생생한 목소리를 전했다.

박윤규 과기정통부 정보통신정책실장은 “사생활 침해, 딥페이크 범죄 등 인공지능이 야기할 수 있는 사회적 문제에 대한 우려가 커지는 상황에서 인공지능 산업 발전을 위해서는 인공지능에 대한 신뢰를 확보하는 것이 반드시 선행되어야 한다”며 “인공지능 생태계에 참여하는 모든 구성원들이 안전하고 신뢰할 수 있는 인공지능을 개발하고 활용할 수 있도록 적극 지원해나가겠다”고 밝혔다.

조슬기나 기자 seul@asiae.co.kr