AI 워터마크, 뚫기 쉽다⋯보안 강화 촉구

입력 : 2023.10.07 15:29
이메일 글자확대 글자축소 스크랩
  • 오픈AI·메타 등 디지털 워터마크 기술 개발 서둘러
  • 딥페이크 생성 급증으로 AI 콘텐츠 오용 방지 우려
이미지.gif
신스ID가 적용된 사진. 좌측은 신스ID가 구분할 수 있는 워터마크가 있지만 사람 눈으로 판별할 수 없다. 출처=딥마인드


디지털 워터마크는 다양한 분야에서 활용되는 보안 기술로, 우표부터 현금, 이미지까지 폭넓게 적용되며 그 핵심 역할은 정보의 신뢰성 확보와 위조 방지에 있다. 


최근 '엔가제트(engadget)' 매체에 따르면 디지털 워터마크의 취약점에 대한 우려가 커지고 있다. 


인공지능(AI)을 활용한 딥 페이크와 생성 예술 등의 확산으로 인해 디지털 워터마크의 중요성이 갈수록 커지고 있다. 특히 AI로 만들어진 콘텐츠를 정확히 식별하고, 해당 콘텐츠가 실제로 AI에 의해 생성됐는지 확인하는 것이 중요한 과제로 부상했다.


이러한 워터마크는 AI에 의한 콘텐츠의 오용을 방지하는 목적으로 이미지 등에 적용되기도 한다. 딥 페이크나 허위 정보의 생성이 급증하자 이를 방어하고 정보의 신뢰성을 보장하기 위해 많은 기업들이 워터마크 기술의 개발에 힘쓰고 있다. 구체적으로 오픈AI, 메타, 아마존 등 주요 기업들이 이러한 문제점에 대응하기 위한 워터마킹 기술 개발에 앞장서고 있다. 


메릴랜드 대학교(UMD)의 컴퓨터 과학 연구팀은 워터마크의 추가나 제거에 관한 연구를 수행했다. UMD의 쇼헤이 페이지(Soheil Feizi) 교수는 와이어드(Wired)와의 인터뷰에서 현재 신뢰할 수 있는 워터마킹 응용 프로그램이 없다는 연구 결과를 얻었다고 밝혔다.


실제로, AI를 사용하지 않고 이미지에 가짜 워터마크를 추가하는 것은 상대적으로 간단한 일이었다. 반면, 워터마크를 완전히 제거하는 것은 여전히 복잡한 작업으로 판명되었다. 일부 연구진은 워터마크를 거의 완전히 제거하기 어렵게 만드는 기술의 개발에 힘쓰고 있으며, 이런 기술은 제품의 도난 감지에도 활용될 전망이다.


캘리포니아 대학교 산타 바바라 캠퍼스와 카네기 멜론 대학교의 연구팀은 디지털 워터마크의 제거 방법에 대한 공동 연구를 진행했다. 이 연구에서는 디지털 워터마크를 쉽게 제거할 수 있다는 사실을 확인했다.


두 가지 주요 워터마크 제거 방법, 즉 파괴적 접근과 건설적 접근이 탐색되었다. 파괴적 접근은 워터마크를 이미지의 일부로 간주하고 이를 조정하여 제거하는 방식인데, 이 과정에서 이미지 품질이 떨어질 수 있다. 반면, 건설적 접근은 워터마크를 유지한 채로 제거하는 복잡한 방법을 취한다.


이 연구는 디지털 워터마크의 취약성을 드러내면서 그 개선의 필요성을 부각시켰다. 디지털 워터마킹 기술은 지속적으로 발전해야 하며, 특히 AI가 잠재적으로 잘못된 정보를 만들어내어 사회에 혼란을 줄 수 있기 때문에, AI 생성 콘텐츠의 식별 도구와 기술의 발전이 필요하다.

이경희 기자 yjs@foeconomy.co.kr
© 포커스온경제 & foeconomy.co.kr 무단전재-재배포금지

IT/바이오 많이 본 기사

메일보내기닫기
기사제목
AI 워터마크, 뚫기 쉽다⋯보안 강화 촉구
보내는 분 이메일
받는 분 이메일