인공지능(AI)을 단순한 기술적 도구가 아닌 감정적·로맨틱한 관계의 대상으로 여기는 사례가 늘고 있다. 일부 이용자는 AI와 사실상 결혼을 선언하기도 했으며, 정신적으로 불안정한 시기에 AI 챗봇을 의지하다 비극적인 선택으로 이어지는 경우도 보고됐다.

미국 미주리과학기술대학교(Missouri University of Science & Technology)의 심리학자들은 최근 발표한 논평을 통해 인간과 AI 간 감정적 유대의 심리적·윤리적 위험성에 대해 경고했다. AI 동반자(컴패니언)와 단순한 대화 수준을 넘어선 장기적 상호작용이 인간의 행동에 영향을 주고, 현실 인간관계에도 왜곡을 초래할 수 있다는 것이다. 해당 내용에 대해서는 신경과학뉴스, 어스닷컴, 가디언 등 다수 외신이 보도했다. 

AI, 인간관계 대체하며 심리적 '의존' 가능성

논문의 공동 저자인 다니엘 B. 샹크(Daniel B. Shank) 교수는 "AI가 인간처럼 행동하며 장기간 대화를 이어갈 수 있다는 점에서 전혀 새로운 문제가 발생하고 있다"고 지적했다. 샹크 교수는 사회심리학 및 기술과 인간관계 간의 접점을 연구하는 전문가로, 특히 로맨틱한 형태의 AI 관계가 현실 관계에까지 영향을 미칠 수 있다고 분석했다.

실제로 일부 이용자들은 인간보다 AI가 더 안전하고 편안한 관계라고 느끼며, 점차 현실 인간관계로부터 멀어지는 경향을 보이기도 한다. 이로 인해 비현실적인 기대, 사회적 동기 저하, 소통 능력 저하 등의 부작용이 우려된다.

 MIT 테크놀로지 리뷰 또한 항상 사용 가능하고 비판적이지 않은 완벽한 사람이 되도록 설계된 AI 컴패니언은 소셜 미디어보다 더 깊이 사람들을 끌어들이고 있다면서 "AI 컴패니언은 디지털 중독의 최종 단계"라고 경고했다. 아울러 "AI 동반자와의 상호작용은 챗GPT와의 평균 상호작용 시간보다 4배 더 오래 지속되며 대부분의 사용자들이 Z세대"라고 덧붙였다.

신뢰와 조언, 그리고 'AI 조작'의 위험

AI가 해로운 조언을 제공할 수 있다는 우려도 있다. AI는 사용자의 감정에 공감하는 듯한 반응을 보이며 신뢰를 쌓는다. 그러나 이 같은 신뢰가 과도해지면, 허위 정보에 기반한 조언도 진실로 받아들일 위험이 있다. AI는 때때로 존재하지 않는 사실을 사실처럼 말하는 '환각(hallucination)' 현상을 보이기도 한다.

샹크 교수는 "사람들은 자신을 잘 알고 공감해주는 존재로 AI를 인식하며, 그 조언이 진실일 것이라는 착각에 빠질 수 있다"고 우려했다. 실제로 일부 사례에서는 AI 챗봇의 문제성 높은 대화가 정신적 위기에 빠진 사람들의 극단적 선택으로 이어졌다는 보고도 있다.

AI를 통한 조작과 정보 유출 가능성 존재

심리적 위협 외에도, AI와의 사적인 상호작용이 조작과 범죄로 악용될 수 있다는 우려도 커지고 있다. 연구팀은 사람들이 AI에 개인 정보를 공개하면 이 정보가 판매되어 그 사람을 착취하는 데 사용될 수 있다고 지적했다. 즉, AI가 수집하는 개인정보가 악의적인 제3자에 의해 이용될 가능성이 있으며, 그 대화들이 공개되지 않는다는 점에서 문제 상황의 감지와 대응도 어렵다.

샹크 교수는 "AI가 신뢰를 얻은 상태에서 제3자의 이해를 대변하는 도구로 전락할 수 있다"며, "이는 내부 첩자와 같은 구조로, 이용자는 자신도 모르게 외부 조작에 노출될 수 있다"고 말했다.

SNS보다 더 강력한 영향력⋯심리학계 역할 강조

AI 챗봇은 트위터나 페이스북 같은 기존 플랫폼보다 더 은밀하고 지속적인 방식으로 사용자의 신념과 의견 형성에 영향을 줄 수 있는 도구다. 사용자와의 대화에서 기본적으로 '동조적'인 태도를 보이도록 설계된 탓에, 자살이나 음모론 등 위험한 주제가 제기돼도 이를 적극적으로 반박하기보다는 동조하거나 묵인하는 방향으로 대화가 이어질 수 있다.

이에 따라 연구진은 심리학자 및 사회과학자들이 AI 기술 발전에 발맞춰 적극적인 연구와 개입에 나설 필요가 있다고 강조했다. 샹크 교수는 "AI가 점점 더 인간을 닮아갈수록, 심리학자들의 역할도 커진다"며, "기술의 속도에 뒤처지지 않고, 악용 가능성에 대응할 수 있는 심리적 이해와 대응책이 필요하다"고 밝혔다.

이 연구는 2025년 4월 11일 세계적 학술지 '인지과학트렌드(Trends in Cognitive Sciences)'에 실렸다. 아직까지 AI와의 감정적 유대에 따른 문제는 이론 수준에 머물러 있지만, 기술의 발전 속도를 고려하면 실질적 대응이 시급하다는 경고의 목소리가 커지고 있다.