"지웠는데 다시 살아나는 AI 기억 막는다"…UNIST, 'AI 기억 지우개' 기술 개발[과학을읽다]
삭제 정보 재학습 공격에도 인식 정확도 0.24%…개인정보 보호 활용 기대
인공지능(AI)이 학습한 개인정보나 저작권 침해 데이터를 삭제한 뒤에도 사진 몇 장만 다시 입력하면 기억을 되살리는 문제를 막는 'AI 기억 지우개' 기술이 국내 연구진에 의해 개발됐다.
울산과학기술원(UNIST)은 윤성환 인공지능대학원 교수팀과 박새롬 산업공학과 교수팀이 삭제한 정보를 다시 학습시키는 공격까지 차단하는 머신 언러닝(Machine Unlearning) 기술 '스포터(Spotter)'를 개발했다고 21일 밝혔다.
머신 언러닝은 학습을 마친 AI에서 특정 데이터가 미친 영향만 선택적으로 제거하는 기술이다. 얼굴 인식 AI에서 삭제를 요청한 사람의 얼굴 정보나 개인정보, 유해 콘텐츠 등을 지우는 데 활용된다.
삭제 정보 되살리는 '재학습 공격' 차단
기존 언러닝 기술은 삭제 대상과 비슷한 정상 정보까지 함께 인식하지 못하는 '과잉 삭제'가 발생하거나, 삭제 대상 사진 몇 장만 다시 입력해도 AI가 지운 정보를 다시 학습하는 한계가 있었다.
연구팀이 개발한 스포터는 삭제 대상과 유사한 정상 정보의 인식 성능은 유지하면서도 AI가 삭제 대상을 인식하는 핵심 기준만 선택적으로 제거하는 방식이다. 이를 통해 삭제한 정보를 다시 학습시키는 재학습 공격을 효과적으로 차단할 수 있다.
실제 자동차·고양이·비행기 등 10개 범주의 이미지를 담은 대표적인 AI 학습용 데이터셋인 'CIFAR-10'으로 실험한 결과, 스포터는 삭제 대상의 인식 정확도를 0%로 낮췄고, 삭제 대상 사진 5장을 이용한 재학습 공격 이후에도 인식 정확도를 0.24% 수준으로 억제했다. 반면 기존 언러닝 기술은 같은 조건에서 삭제 대상 인식 정확도가 최대 99.98%까지 회복됐다. 삭제하지 않은 다른 범주의 인식 정확도는 99.96%를 유지했다.
연구팀은 대규모 이미지 데이터셋인 '타이니이미지넷(Tiny ImageNet)'과 얼굴 인식 데이터셋인 '카시아 웹페이스(CASIA-WebFace)'에서도 유사한 성능을 확인했다.
연구팀은 이 기술이 얼굴 인식 시스템의 개인정보 삭제와 유해 콘텐츠 제거 등 개인정보 보호가 중요한 AI 서비스에 폭넓게 활용될 것으로 기대했다.
제1저자인 하승범 연구원은 "기존에는 삭제 대상과 닮은 정상 정보의 성능 저하나 삭제한 정보가 다시 살아나는 문제를 제대로 평가하지 못했다"며 "스포터는 언러닝 기술의 사각지대를 보완할 수 있는 기술"이라고 말했다.
꼭 봐야 할 주요 뉴스
"화장실 두 번 다녀오더니 답을 술술"…스마트 안경 숨긴 수험생 결국
이번 연구는 AI 분야 최고 권위 국제학술대회인 국제머신러닝학회(ICML 2026) 에 채택됐다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>