오픈AI가 대화형인공지능(AI) 챗GPT와 달리(Dall-E 3)가 선거에 악용되는 것을 막기 위한 대책을 내놨다.

오픈AI가 대화형인공지능(AI) 챗GPT와 달리(Dall-E 3)가 선거에 악용되는 것을 막기 위한 대책을 내놨다. 

오는 11월 미국 대선 등 올해 전 세계 곳곳에서 중요한 선거가 예정된 가운데 AI 기술에 기반한 가짜뉴스가 확산될 수 있다는 우려가 커지면서 대응책 마련에 나선 것이다.

오픈AI는 15일(현지시간) 블로그를 통해 자사의 AI 도구가 제공하는 최신 선거 관련 정보에 출처를 표시할 예정이라고 밝혔다.　

오픈AI는 동영상 생성AI ‘달리 3’에서 생성된 동영상에 대해 동영상을 누가 언제 작성했는지 등 콘텐츠출처에 관한 데이터를 보여주는 내역정보의 코드화를 개시한다. 이를 통해 유권자는 웹으로 보는 동영상이 AI생성인지 여부를 판단하기 쉽게 된다는 것이다.  

이 프로세서에서는 C2PA가 확립한 암호표준이 사용된다.  C2PA는 인텔 등 몇개사가 지난 2021년에 공동으로 설립한 생성AI의 페이크동영상에 대항하는 표준화단체다.

오픈 AI는 동영상에 대해 달리 생성인지 여부를 조사하기 위해 사용자가 이용할 수 있는 동영상 검색도구를 투입한다고 밝혔다. 우선 저널리스트와 플랫폼, 연구자들에 제공해 피드백을 방을 예정이다. 

아울러 달리가 제공한 이미지에는 이를 확인하는 워터마크가 표시된다.

지금까지 특정의 동영상과 문장이 AI생성여부를 판단하는 많은 검색도구에 정밀도에서 문제가 있었다. 하지만 밀러 무디 최고기술책임자(CTO)는 지난해 10월 자사의 동영상 검색도구는 사내시험에서 99%의 정밀도를 보였다고 말했다. 

선거를 앞두고 AI 기술을 보유한 기업들은 자사의 기술이 선거에 악용되는 것을 막기 위해 서둘러 대책을 내놓고 있다.

구글은 자사 AI 챗봇 '바드'와 AI 검색 기능이 답변할 수 있는 선거 관련 질문을 제한하기로 했다.

또 AI로 생성된 콘텐츠를 사람들이 바로 식별할 수 있도록 선거 광고가 AI를 사용한 경우 광고주가 이 사실을 눈에 띄게 표시하도록 했다.

오픈AI는 "올해 전 세계 곳곳의 선거를 앞두고 우리 도구의 남용 가능성을 예측하고 방지하기 위해 계속해서 파트너와 협력할 것"이라고 밝혔다.