가상인간과 공존 위한 방법은…"개발자도 가상인간도 윤리가 최우선"

<기획 시리즈 - 늙지 않는 인간이 온다③>

김종욱 동아대 교수
다양한 사회문제 비화 우려
교육·윤리체계 정립 필요
개발자 알고리즘 통해
AI에 윤리의식 심어야

[아시아경제 이승진 기자] 사람보다 더 사람 같은 가상인간이 늘어나며 각종 문제도 발생하고 있다. 가상인간의 사회관계망서비스(SNS)에는 성희롱적인 내용이나 특정 인종을 혐오하는 내용의 댓글이 달리고 있다. 현재는 제한된 수준의 인공지능(AI)으로 개발자나 관리자의 통제 아래 가상인간이 놓여 있어, 개발자가 이를 악용해 성산업 등에 활용할 수 있다는 우려도 나온다.

정반대의 경우에는 더 큰 윤리적 문제가 제기된다. 가상인간의 AI를 완전 개방 및 확장해 스스로 사고하고 실제 인간과 소통이 가능한 단계에 놓였을 때, 가상인간으로부터 발생하는 각종 문제에 대한 책임을 누구에게 지울 것인지 의견이 분분하다.

2018년 ‘로봇윤리헌장 개선안’을 내 놓았던 AI 전문가 김종욱 동아대 전자공학과 교수는 가상인간을 ‘준 인격체’로 정의해야 한다고 말했다. 김 교수는 "가상인간에 AI가 더해질 경우 다양한 사회 문제로 비화될 수 있어 AI를 설계자와 가상인간 모두 꾸준한 교육과 윤리체계 정립이 필요하다"고 강조했다. 김 교수는 현재 정부 주도의 ‘제1기 인공지능 윤리 정책 포럼’의 위원으로 참석해 AI 윤리체계 정립을 진행 중이다.

Q. 가상인간이 실제 인간의 인기를 넘어서는 일이 발생했다.

- 누구나 가상인간이 사람이 아니라는 점을 알지만 매력적인 제3의 존재로 받아들이고 있다. 시간과 장소에 구애받지 않고 나를 언제나 위로해줄 수 있다는 점에서 인간과는 또 다른 매력을 느낀다. 기성세대들은 가상인간을 하나의 소프트웨어로 치부하지만, MZ세대(밀레니얼+Z세대)는 가상인간을 현실에서 더 쉽게 접하게 되며 제3의 존재로 다가가고 있다.

Q. 가상인간에 대한 성희롱 등 윤리적 문제도 제기되고 있다.

- 사람도 보호자가 있듯이 가상인간도 관리자가 있다. 과거 스캐터랩의 AI ‘이루다’처럼 대화에서 문제를 일으켰을 때 스캐터랩이 책임을 지고 과징금을 지급한 것처럼 가상인간이 사회적 물의를 일으키거나 사용자에 대한 피해를 입혔다면 개발회사 또는 소속사가 책임을 져야 한다. 결국 현행법을 위반하지 않는 선에서 가상인간에게 다양한 사회활동을 허용한다면, 자연스럽게 경쟁하며 적합한 영역을 구축할 것이다.

Q. 가상인간에 AI가 결합된다면 인격체로 봐야 하나.

- 예단하기는 어렵지만 AI가 결합될 경우 개발자의 AI 윤리의식이 더 중요해진다. 2016년 마이크로소프트의 ‘Tay’에 극우주의자들이 작정하고 혐오성 발언을 지속적으로 학습시킨 사례를 보자면 AI가 이를 걸러낼 수 있는 능력은 없다. 가상인간이 스스로 학습하게 된다면 아이를 교육하듯 개발자가 알고리즘을 통해 AI에게 윤리 의식을 심어줄 필요가 있다.

Q. 미래 가상인간을 어떻게 받아들여야 하나

- 구글의 예약, 상담 서비스인 ‘듀플렉스’는 "으흠" 같은 표현까지 하는 등 사람과 너무 유사해 자신이 인공지능임을 밝힘으로써 만약에 발생할 수 있는 피해에 대처하고 있다. 청소년들은 감수성이 예민하고 불안정하며 의존적인 특성이 있기에 매력적인 외모에 성격까지 좋으며 자신을 잘 배려해주는(강화학습) 가상인간에 쉽게 빠져들게 될 가능성이 높다. 일종의 가상인간 중독과 과의존성이 발생할 수 있다는 점이다.

결국 가상인간 스스로 가상의 인물이라는 점을 환기시키고 사용자 역시 인공지능이라는 점을 이해할 수 있도록 관련 교육이 필요하다. 과기부 ‘제1기 인공지능 윤리 정책 포럼’에서 인공지능이 문제를 일으켰을 때 신속히 대응하고 그에 대한 대책을 연구하고 있다.

이승진 기자 promotion2@asiae.co.kr