AI 모델은 에세이를 비롯한 다양한 유형의 텍스트를 쉽게 생성할 수 있지만 논리적 추론을 포함한 수학 문제를 해결하는 데는 그다지 능숙하지 않다. 그러나 AI 모델이 그 벽을 넘어서기 시작했다고 MIT테크놀로지리뷰가 전했다.

구글 딥마인드(Google DeepMind)가 고급 추론을 포함하는 복잡한 수학 문제를 해결하기 위해 훈련한 두 개의 AI 시스템 알파프루프(AlphaProof)와 알파지오메트리2(AlphaGeometry2) 연합 팀이 올해의 국제 수학 올림피아드(IMO)에서 6개 문제 중 4개를 푸는 데 성공했다. IMO는 고등학생을 위한 권위 있는 대회로, 이들의 셩과는 은메달에 해당한다.

AI 시스템이 수학 문제를 해결하는 데에서 이렇게 높은 성공률을 달성한 것은 처음이다. 이 프로젝트에 참여한 구글 딥마인드의 푸시미트 콜리 부사장은 "이는 머신러닝과 AI 분야에서 큰 진전이다. 지금까지 이 정도의 성공률로 문제를 해결할 수 있는 시스템은 개발되지 않았다"라고 말했다.

AI 시스템이 고급 추론을 포함하는 수학 문제를 풀기 어려운 이유가 몇 가지 있다. 이런 유형의 문제는 종종 추상이 필요하고 이를 활용해야 한다. 또 복잡한 계층적 계획과 하위 목표 설정, 역추적, 새로운 경로 시도가 필요하다. 이 모든 것이 AI에게는 어려운 일이다. 온라인에 공식 수학 데이터가 적기 때문에 수학 모델을 훈련하는 것도 쉽지 않다.

이를 해결하기 위해 구글 딥마인드는 수학적 진술을 증명하도록 스스로 훈련하는 강화 학습 기반 시스템 알파프루프를 개발했다. 시스템의 핵심은 자연스럽고 비공식적인 언어로 표현된 수학 문제를 AI가 처리하기 쉬운 공식 표현으로 자동 번역하도록 조정된 제미니(Gemini) AI 버전이다. 이를 통해 다양한 난이도의 공식 수학 문제 라이브러리가 대량으로 생성되었다. 에든버러 대학교의 웬다 리 AI 담당 교수는 “수학 데이터를 공식 언어로 번역하는 프로세스를 자동화하는 것은 수학계의 큰 진전”이라고 평가했다.

제미니 모델은 구글 딥마인드가 바둑이나 체스와 같은 게임을 훈련시킨 강화 학습 모델 알파지로(AlphaZero)와 함께 작동해 수백만 개의 수학 문제를 증명하거나 반증한다. 성공적으로 해결한 문제가 많아질 수록 알파프루프는 더욱 복잡한 문제를 능숙하게 해결할 수 있게 된다.

올해 기능을 개선해 발표한 알파지오메트리2는 각도, 비율, 거리를 포함하는 물체의 움직임과 방정식과 관련된 문제를 해결하도록 최적화되었다. 이전 모델보다 훨씬 더 많은 합성 데이터로 훈련되었기 때문에 더욱 어려운 기하학 문제를 처리할 수 있었다.

올해 IMO에서 부여된 6가지 문제를 두 시스템에 과제로 부여한 결과 알파프루프는 대수 문제 2개와 수론 문제 1개를 풀었다. 그중 하나는 대단히 어렵다고 평가된 문제였다. 알파지오메트리2는 기하 문제를 성공적으로 풀었지만, 조합론에서 출제된 2개의 문제는 풀지 못했다.

알파프루프 팀의 엔지니어인 알렉스 데이비스는 알파프루프의 경우 조합론보다는 대수와 수론에서 더 나은 성과를 보였다고 설명했다. 그리고 그 이유를 분석하고 있으며, 이를 통해 시스템을 개선할 수 있을 것이라고 밝혔다.

두 명의 수학자가 답안지를 검토했으며, 4개의 정답에 각각 만점(7점)을 주었고 42점 만점 중 28점을 받았다. 같은 점수를 받은 IMO 참가자는 은메달을 받았다. 채점을 담당했던 고워스는 "수학자로서 매우 인상적이었다. 시스템의 능력이 상당히 도약한 것 같다"라고 말했다. 다른 채점자 마이어스 역시 수학 부문에서 AI가 이전에 달성할 수 있었던 것보다 상당히 발전했다는 데 동의했다.

인간이 아직 모르는 복잡하고 어려운 수학 문제를 해결할 수 있는 AI 시스템에 대한 기대감도 높이고 있다. 인간-AI 협업의 길을 열어 수학 발전에 기여할 수 있을 것이라는 기대다.