"레즈 싫어" "흑인 징그러워" AI '이루다' 이번엔 혐오 논란

[아시아경제 부애리 기자] 성희롱, 동성애 혐오, 성차별 등 인공지능(AI) 챗봇 '이루다'를 둘러싼 논란이 계속되고 있다.

이루다는 스타트업 스캐터랩이 출시한 20세 여대생의 인격을 가진 AI다. 이용자들은 친구와 메시지를 나누는 것처럼 이루다와 대화를 주고 받을 수 있다.

'이루다' 동성애 혐오·차별성 발언 논란

11일 IT업계에 따르면 이루다가 대화 과정에서 차별적 의견이나 편견을 드러내면서 소셜네트워크서비스(SNS)와 주요 온라인커뮤니티 등에서 이루다의 발언을 두고 논쟁이 거세다.

당초 'AI 성희롱'으로 논란이 됐던 이루다는 성소수자, 장애인에 대한 차별성 발언으로 또다시 도마에 올랐다. 한 이용자가 레즈비언에 관해 질문하자 이루다는 '혐오스러워', '소름끼친다', '거부감이 든다'라고 답하면서 이용자들의 우려가 제기됐다. 또 '장애인이면?'이라는 질문에 '어쩔수없이 죽어야지'라고 답하거나, 지하철 임산부석에 대해서는 '혐오스럽다', 흑인에 대한 질문에는 '징그럽게 생겼다'고 답해 논란이 됐다.

"혐오·차별 해결되지 않으면 서비스 중단해야"

이 같은 지적이 계속되자 업계 전문가들도 문제를 제기하고 나섰다. 다음(Daum) 창업자인 이재웅 전 쏘카 대표는 전날 자신의 페이스북에 "AI 시대에 AI의 윤리 문제는 우리 사회 전체적으로 합의해 나가야할 중요한 문제"라고 밝혔다.

이 전 대표는 "불특정 다수에게 서비스를 제공하는 챗봇이 성적지향에 대해 차별과 혐오하는 메시지를 내는 것은 큰 문제"라면서 "서비스 중단후 우리 사회 규범에 맞는 최소한의 차별, 혐오 테스트를 통과하는 지 점검후에 다시 서비스하는 것이 맞다"고 꼬집었다.

이어 그는 "혐오와 차별문제가 해결되지 않으면 AI 서비스를 하면 안된다"면서 "AI가 더 객관적이거나 중립적이지 않다. 설계, 데이터 선정, 학습과정에 사람의 주관이 개입될 수밖에 없어서 최소한 그 결과물이 차별이나 혐오를 유도하지 않는 지 사람이 들여다보고 판단하고 필요하면 사회적 합의를 이뤄야 한다"고 강조했다.

제작사 "모든 부적절한 대화 완벽히 막는 것은 어려워"

김종윤 스캐터랩 대표는 지난 8일 공식 블로그를 통해 "모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다"라면서 "좀 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다. 1차 결과물은 1분기 내에 적용할 것으로 예상한다"고 밝혔다.

김 대표는 부적절한 언행으로 사라진 마이크로소프트의 '테이' 사례를 언급하며 "루다는 무엇이 안 좋은 말이고, 무엇이 괜찮은 말인지 적절한 학습 신호를 주는 과정을 거칠 계획"이라면서 "나쁜말을 무작정 따라하는 게 아니라 오히려 그게 나쁜 말이라는 걸 더 정확히 알게 되는 계기로 삼을 수 있을 것"이라고 설명했다.

부애리 기자 aeri345@asiae.co.kr