한국 정부는 인공지능(AI) 관련 저작권 제도 정비와 딥페이크를 활용한 가짜뉴스 대응 등 디지털 시대 핵심 쟁점 8가지에 대해 집중 관리 방침을 세웠다. 

과학기술정보통신부는 30일 서울 중앙우체국에서 이종호 장관 주재로 '제2차 새로운 디지털 질서 정립 관계부처 회의'를 개최해 국민들의 관심이 높고 시급성을 갖는 AI 저작권과 비대면 진료 등 디지털 시대의 핵심 쟁점 8개를 선별해 집중적으로 관리하겠다고 밝혔다.

이날 26개 주요 부처가 참여한 회의에서 과기정통부는 디지털 심화 시대의 범정부 대응 현황을 확인하는 '디지털 심화 대응 실태진단' 결과를 공유했다. 이 진단을 통해 각 부처가 중점적으로 대응하고 있는 17개 분야에 걸쳐 52개의 쟁점과 현안이 도출됐다.

정부는 대국민 인식 조사 결과 등을 토대로 AI 저작권, 딥페이크, 비대면 진료 외에도 다음과 같은 주제를 8대 핵심 쟁점으로 선정했다. AI 기술의 안전성 및 신뢰성과 윤리 확보 방안, 연결되지 않을 권리의 보장, 잊힐 권리 도입의 범위와 방안, 디지털 재난 및 사이버 위협에 대한 대응 방안, 그리고 디지털 접근성 향상 및 대체 수단 확보 방안 등이다.

먼저 AI 저작권 관련 제도 정비는 문화체육관광부가 주관하고, 비대면 진료 시행 방안은 보건복지부가, 딥페이크를 이용한 가짜 뉴스 대응 방안은 방송통신위원회가 각각 담당한다. 특히, 생성형 AI 기술에 의한 허위 정보의 생산 및 유통을 방지하기 위해 워터마크 표시 등 구체적인 방안을 검토할 예정이다.

정부는 오는 3월까지 '디지털 신질서 정립 추진계획'(가칭)을 마련하여, 이번 진단을 통해 도출된 52개 쟁점에 대한 구체적인 정책 방향과 방안을 설정할 예정이다.

딥페이크 대응은 디지털 기술, 특히 인공지능(AI)을 사용하여 생성된 가짜 영상이나 오디오, 이미지 등의 조작된 콘텐츠, 즉 딥페이크(deepfake)에 맞서는 일련의 방법, 기술, 정책, 법적 조치를 의미한다. 딥페이크 기술은 실제로 존재하지 않는 사람의 얼굴이나 음성을 매우 사실적으로 재현할 수 있으며, 이는 개인의 명예를 훼손하거나 사회적 혼란을 야기할 수 있어 심각한 문제로 대두되고 있다. 

최근 미국에서는 가수 테일러 스위프트(Taylor Swift)의 포르노 이미지, 조 바이든(Joe Biden) 미국 대통령의 음성이 녹음된 자동녹음전화 등이 입소문을 타고 있지만 그 중 단 하나도 실제가 아닌 것으로 밝혀져 충격을 주고 있다.

NDTV는 지난 27일 인공지능(AI)에 의해 생성된 딥페이크는 이번 달 소셜 미디어에서 급증해 일련의 유명 피해자를 우발했고 다가오는 미국 선거 주기를 앞두고 조작된 미디어의 위험을 공개적인 대화의 장으로 끌어 올렸다고 전했다.

과기정통부는 쟁점별 특성을 고려하여 심층 연구, 전문가 자문, 콜로키움(발표 후 참여자들과의 자유로운 토론) 등을 통해 사회적 논의를 촉진할 계획이다.

정책 방향 설정이 단기간 내에 어려운 쟁점들에 대해서는 국내외 정책 추세 분석과 공론화 과정을 통한 쟁점 해결 방안을 수립하기로 했다.

이번 회의는 '디지털 권리장전'이라는 새로운 디지털 질서의 기본 방향을 기반으로 하여, 구체적인 디지털 질서 정립을 위한 실행 방안을 논의하기 위해 개최됐다.

디지털 권리장전은 디지털 환경에서 개인의 권리와 자유를 보장하고, 디지털 기술의 발전이 사회에 긍정적인 영향을 미치도록 하는 원칙과 지침을 담은 선언 또는 정책 문서를 의미한다. 

이는 디지털 시대에 개인의 사생활 보호, 데이터 보호, 표현의 자유, 정보 접근 권리, 디지털 격차 해소 등과 관련된 권리들을 명시하고, 인공지능(AI), 빅데이터, 사물인터넷(IoT)과 같은 기술이 인간의 존엄성과 기본적 인권을 존중하는 방식으로 사용되어야 함을 강조한다.

디지털 권리장전은 디지털 환경에서 발생할 수 있는 다양한 문제들에 대응하기 위해, 정부, 기업, 시민사회가 공동으로 준수해야 할 기본 원칙과 표준을 제시한다. 이를 통해 기술 발전이 사회 전반에 긍정적인 변화를 가져오면서도, 개인의 권리가 충분히 보호될 수 있도록 하는 것이 목적이다.

온라인 개인정보 보호, 디지털 격차 해소, 디지털 환경에서의 표현의 자유 보장, 알고리즘의 투명성 및 공정성 확보, 인공지능과 로봇 기술 사용에 따른 윤리적 기준 설정 등이 디지털 권리장전에 포함될 수 있는 주요 내용이다.

한국에서의 디지털 권리장전 도입 논의는 아직 초기 단계이며, 구체적인 내용과 범위, 실행 방안 등은 관계부처, 전문가, 시민사회와의 지속적인 협의와 공론화 과정을 통해 확정될 예정이다. 디지털 권리장전은 한국 사회가 디지털 변혁을 긍정적으로 수용하고, 디지털 기술의 발전이 사회 전반에 걸쳐 공정하고 포용적인 방식으로 이루어지도록 하는 데 중요한 역할을 할 것으로 기대된다.

이날 회의에서 발표된 대국민 인식 조사 결과에 따르면, 국민들은 디지털 권리장전의 중요성(94.3%)과 필요성(91.5%)에 대해서는 높은 공감을 나타냈으나, 디지털 권리장전에 대한 인지도는 18.2%로 상대적으로 낮게 나타났다.

2023년 11월 16일부터 12월 13일까지 만 15세 이상의 국민 2200명을 대상으로 진행한 인식 조사에서, 응답자들은 디지털 심화 시대의 주요 우려 사항으로 '플랫폼 노동자의 권리 보장'(43.3%, 복수 응답 가능), 'AI 기술 개발을 위한 저작권 이용 범위'(39.7%), 'AI 생성물에 대한 저작권 인정'(37.9%), 'AI 로봇의 의료 행위 허용 여부'(36.6%) 등이 우려된다고 꼽았다.