본문 바로가기
Dim영역

네이버, AI 안전성 실천 체계 공개…안전한 AI로 글로벌 공략

뉴스듣기 스크랩 글자크기

글자크기 설정

닫기
인쇄 RSS

국내 첫 AI 안전성 체계 설계
위험 완화 대응 체계도 구축

네이버는 17일 자체 기술 채널인 '채널 테크'를 통해 '네이버 인공지능 안전성 프레임워크(ASF·AI Safety Framework)'를 발표했다. 네이버가 AI 시스템을 개발하고 배포하는 과정의 모든 단계에서 AI의 잠재적 위험을 인식·평가·관리하기 위한 대응 체계다. AI 안전성 체계를 설계하고 실천하는 것은 국내 첫 시도다.


경기 성남 네이버 본사. 사진=강진형 기자aymsdream@

경기 성남 네이버 본사. 사진=강진형 기자aymsdream@

AD
원본보기 아이콘

네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 각각 '통제력 상실 위험'과 '악용 위험'으로 정의하고 이에 대응하기 위한 방법을 설계한 것이 특징이다. 먼저 인간이 AI 시스템에 영향을 미치지 못하게 되는 '통제력 상실 위험'을 완화하기 위해 'AI 위험 평가 스케일'로 AI 시스템의 위험을 주기적으로 평가하고 관리한다. 현존 최고 성능의 AI 시스템을 '프런티어(frontier) AI'로 정의하고, 이 기술 수준에 해당하는 AI 시스템에 대해서는 3개월마다 위험 평가를 수행한다. 시스템의 능력이 기존보다 6배 이상 급격히 증가한 경우에는 그 시점에 추가 평가가 이뤄진다.

네이버 ASF가 정의하는 AI 시스템의 또 다른 잠재적 위험인 '악용'의 가능성에는 'AI 위험 평가 매트릭스'로 대응한다. AI 위험 평가 매트릭스는 AI 시스템의 사용 목적과 안전 조치의 필요성 정도에 따라 각각 다른 방법으로 위험을 관리한다. 예를 들어 생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI 시스템은 특별한 자격이 있는 사용자에게만 제공해 위험을 완화한다. 사용 목적과 관계없이 안전 조치의 필요성이 높은 AI 시스템이라면 추가적인 기술적·정책적 안전 조치를 통해 위험이 완화될 때까지는 배포하지 않는다.


네이버는 문화적 다양성을 반영한 AI 안전성 체계로 네이버 ASF를 발전시킬 계획이다. 한국 외 다른 지역의 정부 및 기업과 '소버린(Sovereign) AI'를 공동 개발한다. 소버린 AI는 국가나 기업이 자체 인프라와 데이터를 활용해 독립적인 AI 역량을 구축하는 것이다. 특정 문화권에서 성립될 수 있는 AI 시스템의 위험을 식별하고, 위험의 정도를 측정하는 벤치마크도 문화권의 특성을 반영해 고도화할 예정이다.


최수연 네이버 대표 "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속해서 개선해나갈 계획"이라며 "이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되며 공존하는 지속 가능한 AI 생태계에 네이버가 적극적으로 기여할 것"이라고 말했다.




최유리 기자 yrchoi@asiae.co.kr
AD

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>

함께 본 뉴스

새로보기

이슈 PICK

  • ‘SM엔터 시세조종’ 카카오 김범수, 구속…法 "증거인멸·도망 염려" "끊임없이 정치적 공격 가해져"…정우성, 9년 만에 유엔 난민대사 사임 [청춘보고서] '절간같다'는 옛말…힙해진 이곳 댕댕이랑 가요

    #국내이슈

  • 해리스 "민주당 단결시켜 승리"…대권 도전 첫 행보 바이든, 美 대선 후보 사퇴…새 후보로 '해리스 추대론' 무게(종합) 폭포서 인생샷 찍으려다 '미끌'…인도 유명 인플루언서 추락사

    #해외이슈

  • 집중호우에 ‘잠수교·올림픽대로 여의상류IC’ 교통 통제(종합) [이미지 다이어리] 장인의 秀세미 "1000만원 써도 또 사러 와요"…제니·샤이니도 반한 이 반지 [럭셔리월드]

    #포토PICK

  • 렉서스 고가 의전용 미니밴, 국내 출시 현대차 전기버스, 일본 야쿠시마에서 달린다 르노 QM6, 가격 낮춘 스페셜모델 출시

    #CAR라이프

  • [뉴스속 용어]“군대 갈 바엔 죽음을” 이스라엘 초정통파 유대교 ‘하레디’ [뉴스속 용어]유럽 첫 데뷔, 체코 맞춤형 한국형 원자로 'APR1000' [뉴스속 인물]"총격 듣자마자 알아" 美대선 흔들 역사적 사진 찍은 퓰리처상 수상자

    #뉴스속OO

간격처리를 위한 class

많이 본 뉴스 !가장 많이 읽힌 뉴스를 제공합니다. 집계 기준에 따라 최대 3일 전 기사까지 제공될 수 있습니다.

top버튼

한 눈에 보는 오늘의 이슈