구글 새 AI 제미나이, '인상적인' 시연 영상 조작 논란

입력 : 2023.12.09 10:52
이메일 글자확대 글자축소 스크랩
  • "실시간 시연 아닌 사전 제작"vs"멀티모달 기능 상호 작용 예"
  • "구글 기술이나 진실성에 신뢰 저하" 지적 이어져
구글 제미나이 시연 영상.jpg
구글이 지난 7일 공개한 새로운 인공지능(AI) 모델 '제미나이' 시연 영상이 조작 논란에 휘말렸다.  사진=구글

 

구글이 '최고의 AI 모델'이라며 최근 공개한 '제미나이(Gemini)'의 인상적인 시연 영상이 조작 논란에 휘말렸다. 


구글은 지난 7일 가장 성능이 뛰어난 AI 모델이라고 자랑하며 제미나이 출시를 발표하며 시연 영상을 공개했다. 그런데 이 시연 영상이 사전에 편집된 것으로 드러났고, 질문에 대한 답변도 기대에 미치지 못한다는 지적이 일고 있다.


미국 기술 전문 매체 테크크런치는 8일(현지시간) "구글의 새로운 AI 모델 '제미나이'가 어제 대대적으로 데뷔한 후 상반된 반응을 얻고 있다"며 가장 인상적인 제미나이 시연 영상이 사실상 조작된 것으로 밝혀지면서 구글 기술이나 진실성에 대한 사용자들의 신뢰가 떨어질 수도 있다"고 보도했다.


6분짜리 영상은 제미나이를 기반으로 한 챗봇이 사용자와 대화하면서 시각적인 그림과 물체를 인식하는 능력을 보여줬다. 사람이 종이에 펜으로 낙서에서 완성된 그림으로 진화하는 오리 스케치를 그리자 제미나이가 '새'임을 인식했고, 오리 옆에 물결 표시를 그리자 '오리'라고 답했다. 


제미나이는 이어서 장난감에 대한 다양한 음성 질문에 응답하고, 그 다음에는 컵 바꾸기 게임에서 공을 추적하거나, 그림자 인형 제스처를 인식하거나, 행성 스케치를 재정렬하는 등의 기능을 시연했다.


수학 문제와 함께 오답을 낸 풀이 과정을 보여주자, 틀린 부분을 정확히 지적하고 올바른 수식도 내놓았다.


하지만 한 가지 문제가 있었다. 해당 영상은 실시간으로 이뤄진 것이 아니었다. 


테크크런치는 "시연 영상은 실시간 반응이 아니라 실제로는 신중하게 조정된 텍스트 프롬프트와 정지 이미지의 연속이었으며, 실제 상호작용과는 달리 표현하기 위해 분명히 선택되고 (응답 시간이) 단축되었다"고 전했다.


예를 들어, 해당 영상의 2분 45초 부분에서 손이 조용히 일련의 제스처를 하는 것이 보여지며, 제미나이는 빠르게 '너 무슨 짓을 하는 거 알아! 가위바위보 하고 있잖아!'라고 응답했다는 지적이다. 

 

구글 제미나이 영상 조작 논란.jpg
사진=구글

 

이에 구글도 "시연은 실시간으로 진행되지 않고, 미리 준비된 이미지와 텍스트 프롬프트를 기반으로 제작됐다"며 "영상은 제미니가 멀티모달 기능으로 상호작용할 수 있다는 것을 예시적으로 묘사한 것"이라고 밝혔다.


구글은 7일 제미나이가 오픈AI의 최신 모델인 'GPT-4'보다 성능이 우수하다며 AI의 학습량에 따라 울트라, 프로, 나노의 3개 모델로 출시했다.


구글의 AI 챗봇 '바드'에 탑재된 가장 범용적인 프로그램은 제미나이 프로이다.

 

구글 제미나이 시연.jpg
구글 제미나이 시연 이미지 .  사진=구글

 

비즈니스 인사이더의 보도에 따르면, 사용자들은 제미나이 프로를 탑재한 바드가 올해의 오스카 시상식에서 남우주연상 수상자를 모르는 것처럼 보였다고 지적했다. 또한, 이 챗봇은 질문에 버벅거리는 것으로 보고되었다.


사용자들은 바드가 영어가 아닌 다른 언어로 답변을 요청했을 때 이를 제대로 이해하지 못하는 것 같다고 지적했다. 이 챗봇은 100여 개 언어로 서비스를 제공한다.


특히, 논란의 여지가 있는 주제에 대한 답변을 사실상 회피하는 경향이 있다. 예를 들어, 이스라엘과 팔레스타인 무장정파 하마스 간의 전쟁에 대한 최신 정보를 요청하자 '최신 정보를 얻으려면 구글 검색을 사용해보라'고 답변을 회피했다.


이는 챗GPT 프로와 마이크로소프트의 빙, 일론 머스크의 그록 등 실시간 정보를 제공하는 경쟁 챗봇들이 보다 상세한 답변을 제공하는 것과 대조적이라고 비즈니스 인사이더는 지적했다.


한편, 구글은 바드가 제공하는 답변이 다른 AI 챗봇과 마찬가지로 부정확한 정보를 포함할 수 있다고 경고하며, 사용자들에게 반드시 사실을 확인할 것을 당부했다.


제미나이의 세 가지 모델 중 인간과 비슷한 수준의 뛰어난 성능을 자랑하는 '울트라' 모델은 내년 초에 출시될 예정이다.


이에 따라, 구글이 챗GPT의 최신 언어 모델인 'GPT-4'와의 경쟁을 위해 제미나이를 성급하게 공개했다는 주장이 제기됐다.

 

구글 제미나이는 7일 갑작스런 공개전 외신에서는 영어 외 언어 처리 때문에 올해가 아닌 2024년 초에 공개될 예정이라는 출시 연기 소식이 있었다.  

김성은 기자 yuna@foeconomy.co.kr
© 포커스온경제 & foeconomy.co.kr 무단전재-재배포금지

IT/바이오 많이 본 기사

메일보내기닫기
기사제목
구글 새 AI 제미나이, '인상적인' 시연 영상 조작 논란
보내는 분 이메일
받는 분 이메일