천문학자들이 은하계를 관측하는 도구인 지니 계수를 활용해 인공지능(AI)으로 제작한 딥페이크를 구별하는 기술을 개발했다.

최근 AI 기술 발달로 인해 실제 사람과 구별하기 어려운 가짜 이미지 생성이 가능해지면서, 이러한 이미지를 탐지하는 개술 개발의 필요성이 대두되고 있다.

이에 지난주 영국 헐(Hull) 대학교에서 열린 왕립천문학회 국가 천문학 회의에서 AI 생성 이미지를 탐지하는 새로운 기술을 발표했다고 아르스테크니카가 전했다.

헐 대학교 석사과정 학생인 아데주모크 오월라비 등 연구팀은 실제 이미지와 AI가 생성한 이미지에서 사람의 안구에 반사된 빛을 분석했다. 그런 다음 천문학에서 일반적으로 사용되는 방법을 사용해 반사를 정량화하고 좌우 안구 반사 사이의 일관성을 확인했다. 

즉, 이 기술은 사람 눈의 빛 반사를 분석해 이미지의 진위 여부를 판별하는 방식으로, 천문학자들이 은하를 연구하는 데 사용하는 도구를 응용한 것이다. 

연구팀은 동일한 광원에 의해 조명되는 두 눈은 일반적으로 각 안구에 유사한 모양의 빛 반사를 갖는다는 원리에 착안해 AI 생성 이미지에 나타나는 비일관적인 빛 반사 패턴을 분석했다.

가짜 이미지는 각 눈 사이의 반사광이 일관성이 없는 반면, 실제 사람의 이미지는 일반적으로 두 눈에 같은 반사광이 나타난다.

연구를 주도한 헐 대학교의 천체물리학 교수이자 인공지능 및 모델링 우수센터 소장인 케빈 핌블렛 교수는 "눈 알에 반사된 모습은 실제 사람의 모습은 일치하지만, 가짜 사람의 모습은 (물리학적 관점에서) 부정확하다"고 설명했다. 그는 "이 기술은 은하의 모양을 측정하는 방식과 유사하게, 눈의 빛 반사 형태를 분석해 이미지의 진위 여부를 판별한다"고 덧붙였다.

연구팀은 은하 이미지의 빛 분포를 측정하는 데 사용되는 지니 계수를 활용하여 눈의 픽셀 전체에 걸쳐 반사의 균일성을 평가하고, CAS(집중도, 비대칭성, 부드러움)및 지니 지수를 통해 은하 빛 분포를 측정하는 도구를 탐색하는 등 다양한 천문학적 방법을 적용했다.

핌블릿 교수는 "은하의 모양을 측정하기 위해 우리는 은하가 중심이 콤팩트한지, 대칭인지, 얼마나 매끄러운지를 분석한다. 그리고 빛의 분포를 분석한다"고 말했다.

그러나 이 기술은 AI 모델이 물리적으로 정확한 눈 반사를 통합하도록 발전할 경우 효과가 떨어질 수 있으며, 눈 알이 선명하게 보이는 고품질의 눈 이미지가 필요하다는 한계점이 있다. 또한 실제 사진에서도 조명 조건이나 후처리 기술에 따라 눈 반사가 일관되지 않을 수 있어 오탐 가능성도 존재한다.

핌블렛 교수는 "이 기술은 완벽하지 않지만, 딥페이크 탐지 경쟁에서 우리에게 기반을 제공한다"며 "향후 머리카락 질감, 해부학적 구조, 피부 세부 정보 및 배경 일관성과 같은 다른 요소들을 고려하는 더욱 발전된 딥페이크 탐지 도구 개발에 기여할 것으로 기대한다"고 밝혔다.