말귀 잘못 알아들은 아마존 '알렉사'…부부 대화 타인에 전송

아마존 AI스피커 '에코' 부부 대화 내용을 메시지로 동료에게 전달해
아마존 "대화 내용을 메시지 발송으로 잘못 해석…사고 발생 가능성 줄이는 옵션 고려중"

[아시아경제 한진주 기자] 아마존의 AI 스피커 에코가 미국에서 가족의 대화를 임의로 녹음해 외부에 전송하는 사고가 발생했다.

25일(현지시간) IT전문매체 더 버지 등에 따르면 미국 오리건주 포틀랜드에 거주하는 한 부부는 자신들이 나눈 대화를 에코가 녹음해 연락처에 있던 동료에게 전송되는 일을 겪었다. 부부는 메시지가 전송된 사실을 해당 메시지를 받은 동료로부터 연락을 받고서야 인지했다.

이 부부는 시애틀의 한 지역방송인 KIRO7에 출연해 "이것은 완벽한 사생활 침해"라며 "다시는 아마존 에코를 연결하지 않겠다"고 말했다.

아마존도 이같은 사고가 일어났다는 사실을 인지하고 부부의 대화 중에 나온 단어를 알렉사가 명령으로 착각해서 발생한 일이라고 설명했다.

아마존 관계자는 "'알렉사'처럼 들리는 대화의 한마디로 AI스피커가 깨어났고 이후 대화에서 '메시지 보내기' 요청으로 알아들은 것"이라며 "알렉사가 특정 시점에 '누구에게 (보낼까요)?'라고 큰 소리로 말했고 그 시점에서 대화 내용이 이용자의 연락처 목록 중 이름의 하나로 해석됐다"고 설명했다.

아마존 관계자는 "알렉사가 다시 '(연락처 이름) 맞습니까?'라고 물었고 알렉사가 그 대화를 '맞다'고 해석한 것"이라며 "일련의 사건들이 일어날 가능성은 매우 희박하지만 아마존은 이같은 사건이 일어나지 않게 하는 옵션들을 고려하고 있다"고 설명했다.

AI스피커가 명령 없이 작동되는 경우가 드물다는 점에서 연속적인 명령 없이 실수로 녹음을 전송하는 일은 드물 것이라는 지적도 나온다. 한편 지난 3월 아마존의 AI 스피커에서 다른 단어를 '알렉사. 웃어'라는 명령으로 착각해 명령 없이 웃는 소리가 흘러나오는 해프닝이 발생하기도 했다.

더 버지는 "알렉사 이용자가 대화 중에 알렉사를 깨우는 말을 했을 것"이라며 "아마존이 비정상적인 문제가 발생하는 것을 피하려면 음성인식 기능을 보다 광범위하게 구현해야 한다는 압력이 더욱 늘어날 것"이라고 설명했다.

한진주 기자 truepearl@asiae.co.kr