신경과학자들이 인공지능(AI)을 활용해 강화학습과 의사결정 과정을 매핑해 뇌의 작동 방식을 밝히고 있다. 

강아지는 "앉아"라는 명령을 듣고 시행착오와 반복, 칭찬을 통해 무엇을 해야 하는지 배우게 된다. 이것이 바로 '강화 학습(reinforcement learning)'이다. 

플로리다 대학 허버트 워트헤임 스크립스 연구소(Herbert Wertheim UF Scripps Institute for Biomedical Innovation & Technology)의 신경과학자 료마 하토리(Ryoma Hattori) 박사는 강화학습에 매료돼 일관적인 연구를 하고 있다. 그는 강화 학습을 이해하고 맵핑하는 연구를 진행하고 있으며 뇌가 어떻게 정보를 통해 결정을 내리는지, 또 뇌가 어떻게 정보를 통합하는지 연구한다.

미국 건강 의학 매체 메디컬익스프레스(MedicalXpress)는 23일(현지시간) 인간의 뇌는 약 860억 개의 뉴런으로 구성되어 있으며, 이 뉴런들은 100조 개 이상의 연결을 형성하고 있는 매우 복잡한 구조라고 전했다.

하토리 박사는 의사 결정 과정에는 많은 요소들이 영향을 미친다고 말했다. 간단한 식당 선택만 해도 기억과 판단의 복잡한 행렬을 통해 이루어지기 때문에 여러 뇌 영역이 동원된다. 어떤 식당은 음식과 서비스가 좋지만, 그렇지 않은 식당도 있다. 가격도 어떤 곳은 비싸고 어떤 곳은 저렴하다. 경험은 결정을 내리는 데 필요한 가치를 부여하고 고려해야 하는 입력 자료를 제공한다.

하토리 박사는 "이 모든 과정을 통합하는 것은 매우 어려운 일이지만, 우리 뇌는 어떻게든 그렇게 한다"며 이 과정의 기저 메커니즘을 이해하는 것이 정신질환 및 자폐 스펙트럼 장애 치료에 중요한 단서가 될 수 있다고 주장했다.

그는 "많은 정신질환과 신경계 질환은 의사결정 기능 일부가 손상되는 것을 특징으로 한다"고 설명했다.

여러 뇌 영역이 상호작용해 보상 경험을 처리하고 의사결정을 유도하는 방식을 모델링하는 것은 흥미로운 도전이다. 하토리 박사는 데이터 수집을 위해 대규모 2광자 이미징, 가상현실 기반 실험, 신경 활동 조작을 위한 빛을 사용하는 방법인 광유전학 등 다양한 연구 기법을 사용한다. 또 계산 모델링이 점점 더 복잡한 동물 행동과 뇌 동태를 이해하는 데 중요한 도구가 되고 있다고 말했다.

하토리 박사와 그의 연구팀은 연구를 돕기 위해 인공지능을 개발하고 있다. 인공지능은 신경과학 발견을 발전시키는 데 도움을 주고, 신경과학 발견은 또한 인공지능 개선에도 도움을 줄 수 있다.

그는 "뇌와 인공지능은 모두 신경 활동 역학과 시냅스 가소성을 이용하여 연산 및 학습을 수행하는 신경망으로 구성되어 있다"며 "이들은 외부 입력을 받고 정보를 처리하여 행동을 출력하고 이 행동의 결과는 네트워크 학습을 유도한다. 이러한 유사성은 특정 행동에 대한 신경망 모델로 인공지능을 사용할 수 있는 기회를 제공한다"고 밝혔다.

하토리 박사는 막스 플랑크(Max Planck)의 과학 감독인 료헤이 야수다(Ryohei Yasuda) 박사와 공동으로 최근 '자연 신경과학(Nature Neuroscience)' 저널에 일반화된 지식 획득에서 궤도전두피질이라는 뇌 영역의 역할에 대한 논문을 발표했다.

연구팀은 쥐가 새로운 환경에 적응하면서 다양한 시간 규모의 다중 레이어 학습이 작용하는 것을 발견했다. 쥐의 학습 메커니즘은 인공지능 연구자들이 개발한 강화 학습 컴퓨터 모델과 유사했다.

하토리 박사는 "우리는 인공지능으로부터 뇌 메커니즘에 대한 통찰력을 얻을 수 있으며 또한 의사결정과 학습을 위한 뇌 메커니즘을 더 잘 이해함에 따라 이 지식을 인공지능 모델로 이전할 수 있다"라며 "내 연구 프로젝트가 뇌 이해에 기여하고 기계 학습 커뮤니티에서 더 나은 성능을 발휘하는 인공지능 개발에 기여하기를 바란다"고 말했다.