검색
-
-
유력 언론기관 RSF, 애플에 가짜뉴스 생성한 AI 기능 철폐 촉구
- 유력 언론기관이 애플(Apple)의 생성형 AI가 미국에서 발생한 유명 인사 살인 사건에 대해 오해의 소지가 있는 가짜 뉴스를 만들어 배포한 데 대해 강하게 비판하고, 생성형 AI 기능을 폐기할 것을 촉구했다고 BBC가 전했다. BBC는 생성형 AI 도구를 사용해 알림을 요약하고 그룹화하는 애플의 AI인 ‘애플 인텔리전스(Apple Intelligence)’가 살인 용의자 루이지 맨지오니(Luigi Mangione)에 대해 가짜뉴스를 생성한 데 대해 강한 불만을 제기했다. 애플의 AI가 요약한 가짜뉴스는 “BBC 뉴스가 뉴욕에서 의료 보험을 취급하는 유나이티드헬스케어 CEO 브라이언 톰슨을 살해한 혐의를 받는 맨지오니가 자살했다는 내용의 기사를 보도했다”는 것이었다. 그러나 맨지오니는 자살하지 않았고 BBC 뉴스도 그런 내용을 전하지 않았던 것. 맨지오니는 기업가 가문에서 태어난 데이터 엔지니어로서 톰슨을 살해한 혐의로 현재 1급 살인 혐의를 받고 있다. 이에 대해 유력 언론기관인 국경없는기자단(RSF)은 애플에 관련 AI 기술을 제거할 것을 강하게 요구했다. 그러나 애플은 이에 대해 아무 언급을 하지 않고 있다고 한다. 애플 인텔리전스는 최근 영국에서 출시되었다. RSF는 AI 도구로 인해 "언론에 가해지는 위험에 대해 매우 우려하고 있다"고 말했다. RSF는 "BBC 사건은 생성형 AI 서비스가 대중에게 신뢰할 수 있는 정보를 제공하기에는 아직 너무 미숙하다는 것을 증명한다"고 지적했다. RSF의 기술 및 저널리즘 담당 빈센트 베르티에는 "생성형 AI는 확률 기계일 뿐이다. 언론이 취급하는 사실(팩트)은 주사위를 굴려서 결정할 수 없는 것이다"라고 말했다. 이에 따라 RSF는 애플에 대해 "이 AI 기능을 제거하는 책임감 있는 행동을 촉구한다. 언론사 보도를 사칭한 가짜뉴스의 자동 생성은 매체의 신뢰성에 대한 심각한 타격이며, 사건에 대한 신뢰할 수 있는 정보를 획득하고자 하는 대중의 권리를 위협한다"고 강조했다. 그러나 애플은 이 사건이 보도된 이후 아무 언급을 하지 않고 있다. 애플의 AI가 가짜뉴스를 전한 것은 BBC 뿐만이 아니었다. 지난 11월 21일, 뉴욕타임스의 세 기사가 하나의 알림으로 그룹화되었다. 한 부분은 "네타냐후 체포"였다. 이스라엘 총리를 지칭한 것으로 명백한 가짜정보였다. 네타냐후에 대한 체포 영장을 국제형사재판소에서 발부했다는 보도를 부정확하게 요약한 것. 네타냐후가 체포되었다고 보도한 것이 아니었다. 한편 애플 인텔리전스는 애플이 내놓은 생성형 AI 도구로, 사용자가 알림을 그룹화할 수 있도록 하고 있다. 이 기능은 iOS 18.1 버전 이상을 사용하는 아이폰 16, 아이폰 15 프로 및 프로맥스 등 최신 아이폰에서만 사용할 수 있다. 일부 아이패드와 맥에서도 사용할 수 있다. 그룹화된 알림은 특정 아이콘으로 표시된다.
-
- IT/바이오
-
유력 언론기관 RSF, 애플에 가짜뉴스 생성한 AI 기능 철폐 촉구
-
-
EU 데이터보호위원회, 오픈AI 가짜정보 생성방지 대응 부족 판단
- 유럽연합(EU) 데이터보호위원회(EDPB) 테스크포스는 24일(현지시간) 미국 오픈AI가 대화형 인공지능(AI) 챗GPT 서비스제공에서 가짜정보 생성을 막고자 하는 대응이 부족하다라는 견해를 나타냈다. 테스크포스는 오픈AI가 EU 데이터규정을 완전하게 지키고 있지 않다는 점을 그 이유로 설명했다. 이날 로이터통신 등 외신들에 따르면 타스크포스는 웹사이트에 발표한 보고서에서 “투명성 원칙을 준수하기 위해 취해야할 조치는 챗GPT의 출력이 잘못 해석되는 것을 피하기 위해 유익하지만 데이터의 정확성 원칙을 준수하는데에는 충분하지 않다”고 지젖했다. EDPB는 이탈리아당국을 비롯한 규제당국이 챗GPT와 관련한 우려를 나타낸 점을 내세워 지난해 챗GPT에 관한 타스크포스를 구성했다. 데이터의 정확성은 EU의 데이터보호규정중 중요원칙중 하나다. 보고서에는 EU 가맹국의 다양한 조사는 아직 진행중이므로 완전한 결과보고를 제공할 수 없다고 언급했다. 테스크포스는 “시스템의 확률적 특성 때문에 현재 훈련 접근방식은 편향되거나 조작된다든지 한 출력을 생상할 가능성이 있는 모델로 이어질 가능성이 있다”고 설명했다. 이와 함께 “챗GPT가 제공하는 것은 실제 정확성에 관계없이 개인에 관한 정보를 포함해 이용자가 옳다고 받아들일 가능성이 높다”고 덧붙였다. EDPB는 이탈리아와 프랑스 등 개인정보 보호 규정(GDPR) 위반여부를 판단해달라는 요청이 많아지자 지나 4월 테스크포스를 구성해 조사를 벌여왔다. 이에 앞서 지난 1월말 이탈리아의 개인정보 보호 감시 기관(GPDP)은 "오픈AI의 챗GPT가 개인정보보호법을 위반했다"고 밝혔다. 지난해 3월 30일, 대화형AI 챗GPT를 개인 정보 보호 문제로 조사를 시작하면서 챗GPT 사용을 금지했던 GPDP는 조사를 시작한지 10개월 만에 최종 결론으로 챗GPT가 개인정보보호법 위반해 이를 오픈AI에 통보했다.
-
- IT/바이오
-
EU 데이터보호위원회, 오픈AI 가짜정보 생성방지 대응 부족 판단
검색 결과가 없습니다.