"뇌는 언제 학습할까"…국내 연구진, 소뇌 '학습 스위치' 찾았다[과학을읽다]

AI 기반 뇌지도 분석으로 새 시냅스 발견…학습 여는 '탈억제 회로' 규명

국내 연구진이 뇌가 '언제 학습할지'를 결정하는 소뇌 신경회로의 핵심 원리를 밝혀냈다. 연구진은 인공지능(AI) 기반 정밀 뇌지도(커넥톰) 분석을 통해 기존에 알려지지 않았던 새로운 시냅스 연결 구조를 발견하고, 학습을 가능하게 만드는 '잠금 해제 회로'를 규명했다.

한국뇌연구원(KBRI)은 성균관대학교, 기초과학연구원(IBS) 공동연구진이 소뇌에서 학습을 유도하는 새로운 시냅스 구조와 신경회로를 발견했다고 14일 밝혔다.

소뇌 운동학습 신경회로 모식도. 여러 등반섬유(CF)가 동시에 활성화되면 억제 회로가 해제(탈억제)되면서 푸르키네 뉴런(PC) 활성이 증가하고 학습이 유도되는 과정을 나타낸다. 연구진 제공

이번 연구는 3차원 전자현미경과 AI 분석 기술을 활용한 초정밀 뇌지도 분석을 기반으로 수행됐다. 연구 결과는 신경과학 분야 최고 권위 학술지인 Nature Neuroscience에 게재됐다.

소뇌는 정교한 운동과 학습을 담당하는 뇌 영역이다. 기존에는 '등반섬유(climbing fiber)'라는 신경 줄기가 동작 오류 신호를 전달해 학습을 유도하는 것으로 알려져 있었다. 하지만 등반섬유는 오류가 없는 상황에서도 지속적으로 활동해 "뇌는 어떤 기준으로 실제 학습 여부를 결정하는가"라는 의문이 남아 있었다.

학습 여는 '잠금 해제 회로' 첫 규명

연구진은 해답이 신호 자체보다 이를 처리하는 신경회로 구조에 있다고 봤다. 공동연구진은 뇌지도 분석과 뉴런 활성 측정, 컴퓨터 시뮬레이션, 유전자 조작 동물 실험 등을 결합해 소뇌 회로를 분석했다.

그 결과 등반섬유가 기존 이론처럼 푸르키네 뉴런(Purkinje cell)에만 연결되는 것이 아니라, 특정 억제성 뉴런에도 시냅스로 연결된다는 사실을 확인했다. 이 뉴런은 다시 다른 억제 뉴런을 억제해 결과적으로 푸르키네 뉴런의 억제를 풀어주는 '탈억제(disinhibition) 회로'를 형성했다.

연구진은 이 회로가 마치 학습의 '잠금 해제 스위치'처럼 작동한다고 설명했다. 오류가 없는 평상시에는 소수의 등반섬유만 활성화돼 학습이 일어나지 않지만, 오류 상황에서는 여러 등반섬유가 동시에 활성화되며 탈억제 회로가 작동하고 학습이 가능해진다는 것이다.

소뇌 신경회로의 고해상도 3차원 구조와 시냅스 연결 관계(A), 등반섬유 활성에 따른 푸르키네 뉴런 내 칼슘 신호 변화 시뮬레이션(B), 탈억제회로 손상에 따른 운동학습 저하 결과(C)를 나타낸 그림. 연구진은 인공지능(AI) 기반 뇌지도 분석을 통해 소뇌 회로와 운동학습의 연관성을 분석했다. 연구진 제공

실제 시뮬레이션과 뉴런 활성 측정 결과에서도 여러 등반섬유가 동시에 활성화될수록 푸르키네 뉴런 내부 칼슘 농도가 크게 증가했고, 이는 시냅스 연결 강도를 바꾸는 학습 조건으로 이어졌다.

연구진은 또 약물 처리로 탈억제 회로를 방해하면 운동 학습 능력이 감소하고, 광유전학 기법으로 억제 뉴런 활성을 낮추면 학습 능력이 다시 회복되는 것도 확인했다.

이계주 KBRI 박사는 "이번 연구는 뇌가 학습해야 할 때와 그렇지 않을 때를 구분하는 기본 원리를 제시했다는 데 의미가 있다"며 "향후 초고속 전자현미경과 AI 기반 분석 기술을 활용해 다양한 뇌 영역의 커넥톰 분석을 더욱 가속화할 계획"이라고 말했다.

김진섭 성균관대 교수는 "이번 연구는 학습과 기억이 뉴런과 시냅스 연결을 통해 이뤄지는 기전을 규명한 것"이라며 "뇌 작동 원리에 대한 이해가 깊어질수록 의학·공학적 응용 가능성도 커질 것"이라고 기대했다.

김종화 기자 justin@asiae.co.kr