GIST, 고차원 물리 문제도 착착 푸는 'AI 학습기술' 개발

(왼쪽부터) 전기전자컴퓨터공학과 황의석 교수, 서기업 박사과정 학생, 정민석 석사 졸업생.

광주과학기술원(GIST)은 전기전자컴퓨터공학과 황의석 교수 연구팀이 편미분방정식(PDE)을 푸는 물리정보 신경망(PINN) 학습에서 발생하는 불안정성을 해결할 새로운 적응형 샘플링 기법을 개발했다고 20일 밝혔다.

이번 연구 성과는 기존 방식보다 정확도와 안정성은 높이고 계산 비용은 줄인 것이 특징으로, 다양한 과학·공학 문제에 폭넓게 활용될 것으로 기대된다.

물리정보 신경망은 물리 법칙을 신경망 학습 과정에 직접 반영해 기존의 수치해석법(유한차분법, 유한요소법 등)에 비해 데이터 수집 비용을 줄이고 계산 효율성을 높이는 차세대 해석 방법으로 주목받고 있다.

그러나 기존 잔차(오차) 기반 샘플링 기법은 학습 과정에서 편미분방정식의 일부 구간에서 오차가 커지면 그 부분에만 집중해 학습이 편향되는 문제가 있었다. 이로 인해 학습이 불안정해지고, 학습 속도(학습률)를 조금만 바꿔도 결과가 크게 달라지는 한계가 있다.

LAS 프레임워크 구조.

연구팀은 이러한 문제를 해결하기 위해 '랑주뱅 동역학(Langevin dynamics, LD)'을 기반으로 한 새로운 '적응형 샘플링 프레임워크(Langevin Adaptive Sampling, LAS)'를 제안했다.

'랑주뱅 동역학'은 원래 물리학·통계역학에서 입자의 무작위적 움직임(브라운 운동)을 설명하는 수학적 모델로, 입자가 단순히 무작위로 움직이는 것이 아니라 에너지 지형과 확률적 요인이 결합된 방식으로 움직이는 특징이 있다.

연구팀은 이 원리를 학습 과정에 적용해 인공지능(AI)이 오차가 큰 영역이나 복잡한 경계 조건이 있는 구간을 스스로 더 자주 탐색하도록 유도했다. 즉, AI가 무작위 산책을 하듯 여러 구간을 탐색하면서도, 오차가 크거나 중요한 부분을 더 자주 들여다보며 스스로 학습 효율을 높이는 것이다.

'적응형 샘플링 프레임워크(LAS)'의 핵심은 잔차 기반 확률 분포를 직접 추정하는 대신 잔차의 변화 방향(기울기) 정보에 잡음(일정한 확률적 요인)을 주입해 샘플링 과정을 동적으로 조정하는 것이다. 이를 통해 AI가 오차가 급격히 변하는 '날카로운' 잔차 영역보다 '완만한(flat)' 영역을 선호하게 만들어 학습 안정성을 크게 높였다.

그 결과, LAS는 다양한 학습 속도나 모델 구조가 달라져도 성능을 일관되게 유지했으며, 고차원 편미분방정식 문제에서도 기존 방법보다 더 안정적으로 끝까지 해답을 찾아가는 모습을 보였다.

LAS 샘플링 점과 해 오차.

연구팀은 여러 실험을 통해 LAS의 높은 성능도 입증했다. 파동이나 화학 반응 등 1차원 편미분방정식 문제에서는 기존 방법보다 오차가 훨씬 작고, 학습 과정에서 결과가 일정하게 안정적으로 수렴했다. 더 복잡한 4~8차원 열전달 방정식 문제에서는 기존 기법들이 불안정해 제대로 학습하지 못한 반면, LAS만이 유일하게 안정적으로 답을 찾아냈다.

또 신경망 구조를 복잡하게 만들거나 학습 속도를 빠르게 조정한 상황에서도 기존 기법은 불안정해졌지만, LAS는 넓은 조건에서도 안정성과 정확성을 유지했다. 계산 효율성도 우수해 기존 방법과 비슷한 비용으로 더 빠르고 정확한 결과를 냈다.

이번 연구 성과는 물리정보 신경망의 활용 범위를 크게 넓힐 것으로 기대된다. 복잡한 다차원 물리 현상을 안정적으로 재현할 수 있어 유체 역학, 열전달, 재료 시뮬레이션, 교통·전력망 해석 등 다양한 공학 분야에서 활용 가능성이 크다. 특히 기존 수치해석법보다 계산 효율이 높고 데이터 활용도도 뛰어나 산업계에서 시뮬레이션 비용을 줄이는 데도 도움이 될 전망이다.

황 교수는 "이번 연구는 복잡한 모델에서도 안정적인 학습을 가능하게 하면서도 계산 비용을 줄일 수 있는 방법을 제시했다"며 "제조·공정, 에너지·발전, 환경·기후 등 고차원 편미분방정식에서 정확한 값에 가까운 계산 결과가 필요한 산업 전반에서 신뢰성 높은 AI 해법을 제공할 수 있을 것이다"고 말했다.

황 교수가 지도하고 서기업 박사과정생과 정민석 석사 졸업생이 수행한 이번 연구는 한국연구재단 중견연구자지원사업과 기초연구실지원사업의 지원을 받았다.

연구 결과는 AI 분야 세계 최고 권위의 학술대회인 '뉴립스(NeurIPS, Conference on Neural Information Processing Systems)'에 제출된 전체 논문 중 상위 약 3.5% 이내에 해당하는 '스포트라이트(Spotlight)' 논문으로 선정됐다. 논문은 지난달 18일 게재 승인을 받았으며, 오는 12월 2~7일 미국 샌디에이고에서 열리는 'NeurIPS 2025'에서 발표될 예정이다.

호남취재본부 민찬기 기자 coldair@asiae.co.kr