[대학저널 오혜민 기자] KAIST(한국과학기술원·총장 이광형)는 바이오및뇌공학과 이상완(사진) 교수 연구팀이 뇌 기반 인공지능(AI)기술을 이용해 AI의 난제 중 하나인 ‘과적합-과소적합 상충 문제’를 해결하는 원리를 풀어냈다고 5일 밝혔다.
이상완 교수와 현 뉴욕대 박사후 연구원인 김동재 박사가 주도하고, KAIST 정재승 교수가 참여한 이번 연구는 `강화학습 중 편향-분산 상충 문제에 대한 전두엽의 해법'이라는 제목으로 국제 학술지 셀(Cell)의 오픈 액세스 저널인 셀 리포트 12월 28일자 온라인판에 게재됐다.
KAIST에 따르면 AI 모델들은 다양한 실제 문제에 대해 최적의 해법을 제시하지만, 상황 변화에 유동적으로 대응하는 부분에 있어서는 어려움을 겪고 있다. 기계학습에서는 이를 과소적합·과적합의 위험성 또는 편향·분산 상충문제로 부르며 연구됐지만, 실제 세계와 같이 상충조건이 계속 변하는 상황에서의 해법은 아직 제안된 바가 없다.
반면 인간은 주어진 문제에 집중하면서도(과소적합 문제 해결), 당면 문제에 과하게 집착하지 않고(과적합 문제 해결) 변하는 상황에 맞게 유동적으로 대처한다. 연구팀은 뇌 데이터와 확률과정 추론모형, 강화학습 알고리즘을 이용해 인간의 뇌가 이 문제를 어떻게 해결하는지에 대한 이론적 틀을 마련하고 유동적 메타 강화학습 모델을 도출해냈다.
인간의 뇌는 중뇌 도파민 회로와 전두엽에서 처리되는 예측 오차의 하한선이라는 단 한 가지 정보를 이용해 이 문제를 해결한다. 전두엽, 특히 복외측전전두피질은 현재 내가 사용하고 있는 문제 해결 방식으로 주어진 문제를 얼마나 잘 풀 수 있을지에 대한 기대치의 한계를 추정하고, 변화하는 상황에 맞춰 최적인 문제 해결전략을 유동적으로 선택하는 과정을 통해 과소적합-과적합의 위험을 최소화하게 된다.
연구팀은 그동안 다양한 연구 결과로 자신의 학습과 추론능력을 스스로 평가하는 인간의 메타인지 능력을 증명했으며, 이 능력을 바탕으로 인공지능이 풀기 어려워하는 현실세계의 다양한 상충적 상황을 풀어낼 수 있다는 `전두엽 메타 학습이론'을 정립한 바 있다.
연구를 통해 개발된 메타 강화학습 모델을 이용하면 간단한 게임을 통해 인간의 유동적 문제 해결능력을 간접적으로 측정할 수 있다. 또한 스마트 교육이나 중독과 관련된 인지 행동치료에 적용할 경우, 상황 변화에 유동적으로 대처하는 인간의 문제 해결능력 자체를 향상시킬 수 있을 전망이다.
이 교수는 “AI가 우리보다 잘 푸는 문제가 많지만, AI로 풀기 어려운 문제들이 우리에게는 쉽게 느껴지는 경우들이 많다”며 “인간의 다양한 고위 수준능력을 인공지능 이론 관점에서 형식화하는 연구를 통해 인간지능의 비밀을 하나씩 풀어나갈 수 있을 것ˮ이라고 말했다.
연구팀은 과학기술정보통신부의 재원으로 정보통신기획평가원의 지원을 받아 설립한 KAIST 신경과학-인공지능 융합연구센터에서 기반기술을 활용해 인간지능을 모사한 차세대 인공지능 모델을 개발하고, 국제 공동연구 협약기관과의 연구를 통해 기술의 파급력을 높여나갈 계획이다.
[저작권자ⓒ 대학저널. 무단전재-재배포 금지]
