인공지능(AI)가 토론에서 인간보다 설득력이 훨씬 뛰어나는 연구 결과가 발표됐다.  

일상적으로 온라인에서 수많은 논쟁이 벌어지지만, 실제로 상대방의 생각을 바꾸는 경우는 드물다. 그러나 최근 연구에 따르면, 대규모 언어모델(LLM)이 인간보다 더 설득력 있는 주장을 펼칠 수 있다는 결과가 나왔다.

미국과 유럽의 여러 대학 연구진이 공동으로 수행한 이번 연구에서는 AI 스타트업 오픈AI(OpenAI)의 GPT-4가 인간보다 우수한 설득 능력을 보였으며, 특히 상대방의 개인정보를 바탕으로 주장을 조정했을 때 그 효과가 더욱 두드러졌다고 밝혔다. 해당 내용에 대해서는 학술지 네이처, 영국 일간지 가디언, 미국 일간지 워싱턴 포스트, MIT 테크놀로지 리뷰 등 다수 외신이 보도했다. 

이 논문은 국제 학술지 '네이처 휴먼 비헤이비어(Nature Human Behavior)'에 게재됐다.

연구진은 미국에 거주하는 성인 900명을 모집해 성별, 나이, 인종, 교육 수준, 직업, 정치 성향 등의 개인정보를 수집한 후, 참가자들에게 찬반이 갈릴 수 있는 30개 사회적·정치적 주제를 무작위로 배정해 토론을 진행하게 했다. 참가자는 인간 혹은 GPT-4와 10분간 찬반 토론을 벌였으며, 일부 경우에는 상대의 개인정보를 사전에 제공받았다.

개인정보 활용시 인간보다 설득 능력 64%↑

그 결과 GPT-4는 전반적인 주제에서 인간과 동등하거나 더 나은 설득력을 보였다. 특히 GPT-4가 상대방의 개인정보를 활용할 수 있었던 경우, 단순한 설득력에서 인간보다 64% 더 효과적인 것으로 나타났다. 반면, 인간이 개인정보를 기반으로 설득을 시도했을 때는 오히려 일반적인 경우보다 설득력이 약간 낮아지는 경향이 나타났다.

연구에 참여한 이탈리아 브루노 케슬러 재단(Fondazione Bruno Kessler)의 물리학자 리카르도 갈로티(Riccardo Gallotti)는 "AI가 최소한의 개인 정보를 가지고도 정교하고 전략적인 설득 논리를 구성할 수 있다는 점에서, 인공지능 기반 허위정보 캠페인에 대한 경각심이 필요하다"고 지적했다. 그는 "자동화된 AI 계정들이 여론을 조직적으로 움직이는 수준에 이르렀다"며 정책 입안자들과 온라인 플랫폼의 대응을 촉구했다.

참가자들은 토론 후 자신이 논쟁한 상대가 인간인지 AI인지에 대한 인식을 공유했다. 

흥미롭게도, 참가자들이 상대가 AI라고 인식했을 때 의견 변화가 더 두드러졌으며, 연구진은 이러한 반응의 원인에 대해서는 추가 연구가 필요하다고 밝혔다. 참가자들이 'AI라면 져도 괜찮다'는 심리에서 의견을 바꾼 것인지, 아니면 의견이 바뀌었기 때문에 '상대는 AI였을 것'이라고 인식한 것인지 명확하지 않다는 것이다.

"GPT-4 여론 조작 잠재력" 경고

이번 연구는 LLM이 단순히 정보를 제공하는 수준을 넘어, 여론을 형성하거나 설득하는 역할까지 수행할 수 있다는 점을 부각시킨다. 

갈로티 박사는 "AI가 개인화된 반론을 자동 생성해 허위정보에 노출된 이들에게 맞춤형 교육을 제공하는 등 긍정적 활용 가능성도 있다"며 "다만 이러한 기술이 악용될 소지가 큰 만큼, 관련 위협을 완화하기 위한 추가 연구가 시급하다"고 강조했다.

미국 다트머스대학의 연구원 알렉시스 팔머(Alexis Palmer)는 "우리는 사람 간 설득과정의 심리에는 익숙하지만, AI와의 상호작용에서 어떤 심리가 작동하는지는 거의 알려진 바가 없다"며 "AI가 인간처럼 말을 흉내 내는 것만으로도 동일한 설득 결과를 유도할 수 있는가, 아니면 인간만이 줄 수 있는 설득 요소가 있는가 하는 것이 앞으로의 핵심 질문"이라고 말했다.