"학부생이 100큐비트 양자 시뮬레이션"…연세대 첫 국제논문[과학을읽다]

IBM 양자컴퓨터 활용…오류 완화로 '노이즈 한계' 넘었다

연세대학교 학부생이 양자컴퓨터를 활용해 국제 학술논문을 발표하며, 현세대 양자컴퓨터의 실질적 활용 가능성을 제시했다. 노이즈가 많은 환경에서도 대규모 양자계 시뮬레이션이 가능하다는 점을 실험으로 입증한 것이 핵심이다.

연세대는 물리학과 4학년 최석원 학생이 교내 IBM 양자컴퓨터를 활용한 연구 결과를 국제 학술지 피지카 스크립타(Physica Scripta)에 발표했다고 23일 밝혔다. 해당 연구는 2025년 6월 사전공개논문(아카이브, arXiv)으로 공개된 뒤 학술지 심사를 거쳐 올해 1월 최종 출판됐다. 이번 연구는 미국 브룩헤이븐 국립연구소 유광민 박사, 캔자스대학교 탈랄 아메드 초두리 박사와의 국제 공동연구로 진행됐다.

양자 퀀치 동역학 모식도. 초기 상태(t=0)에서 양자계에 변화(퀀치)를 가하면 시간이 지나면서 상태가 변화하며, 이 과정에서 입자 간 얽힘(entanglement)이 증가한다. 아래 그래프는 시간에 따라 얽힘 엔트로피가 증가하다가 일정 수준에 도달하는 과정을 나타낸다. 연구진 제공

특히 연세대에 구축된 127큐비트 IBM 양자컴퓨팅 시스템을 활용해 수행된 연구로, 학부생이 해외 연구진과 협력해 국제 논문을 발표한 사례라는 점에서 주목된다.

"노이즈 극복"…100큐비트급 시뮬레이션 가능성 제시

연구팀은 양자컴퓨터의 가장 큰 한계로 꼽히는 '노이즈 문제'를 해결하기 위해 다양한 오류 완화(Quantum Error Mitigation) 기법을 결합했다. 이를 통해 복잡한 양자 다체계 모델인 '하이젠베르크 XXZ 스핀 사슬'을 실제 양자컴퓨터에서 구현하고, 시간에 따른 상태 변화를 시뮬레이션했다.

그 결과 기존 방식보다 안정적인 정확도를 유지하는 '자가 완화(Self-Mitigation)' 기법의 효과를 확인했다. 3000개 이상의 양자 게이트가 포함된 대규모 회로에서도 계산 정확도를 확보했으며, 최대 84~104큐비트 수준까지 확장 가능한 시뮬레이션 결과를 제시했다.

이는 동일한 규모를 고전 컴퓨터로 구현할 경우 사실상 불가능한 수준의 계산량으로, 양자컴퓨터가 실제 과학 연구에 활용될 수 있는 가능성을 보여준 사례로 평가된다.

연구진 사진. 왼쪽부터 연세대 물리학과 최석원 학부생, 유휘동 교수, 캔자스대학교 탈랄 아메드 초두리 박사, 브룩헤이븐 국립연구소 유광민 박사. 연세대 제공

또 연구팀은 양자 시스템의 복잡도를 나타내는 '엔탱글먼트 엔트로피'를 실제 양자컴퓨터에서 측정하는 방법도 구현해, 실험 결과가 이론값과 일치함을 확인했다.

이번 연구는 완전한 오류 정정 기술이 없는 현세대 NISQ(Noisy Intermediate-Scale Quantum) 환경에서도 적절한 오류 완화 기법을 적용하면 실제 물리 문제를 다룰 수 있음을 입증했다는 점에서 의미가 있다.

최석원 학생은 "노이즈가 존재하는 현재의 양자컴퓨터에서도 적절한 기법을 적용하면 대규모 양자계 연구가 가능하다"며 "향후 양자컴퓨터가 복잡한 물리 문제 해결에 중요한 역할을 할 것"이라고 말했다.

김종화 기자 justin@asiae.co.kr