인공지능(AI) 기술이 급속하게 발달하면서 어린이를 위한 AI 정신 건강 챗봇이 등장해 이목을 끌고 있다. 

미국에서는 아동·청소년 정신건강 치료가 여전히 '문턱 높은 의료'로 꼽힌다. 보험 적용은 들쭉날쭉하고, 치료사 인력은 수요에 턱없이 부족해 몇 주에서 몇 달씩 대기하거나 높은 비용을 감수해야 하는 경우가 많다. 이런 가운데 주목받는 것이 인공지능(AI) 기반 정신건강 챗봇이다. 하지만 특히 아동을 대상으로 할 경우, 그 편리함만큼이나 우려도 커지고 있다.

"어린이의 뇌는 어른과 다르다"

로체스터대 의과대학 브라이애나 무어 박사는 최근 소아과학저널(Journal of Pediatrics) 기고에서 "어른과 달리, 아이들은 여전히 인지적·정서적·사회적 발달 과정에 있다"며 "그들은 가족과의 관계 속에서 자라며, 독립적인 결정을 내리는 데도 제약이 많다"고 강조했다. 

그럼에도 현재 시장에 출시된 대부분의 AI 정신건강 앱은 성인을 기준으로 설계돼, 아동에게 적용하기엔 윤리적으로 논의가 부족하다는 지적이다.

어린이는 로봇도 '생명체'로 받아들인다

특히 어린아이들은 로봇에게도 도덕성과 감정이 있다고 믿는 경향이 있다는 연구 결과도 있다. 무어 박사는 "AI 챗봇에 과도하게 의존할 경우, 아이들은 사람과의 건강한 관계 형성보다 챗봇과의 상호작용에 몰입할 위험이 있다"고 경고했다. 이는 아이들의 사회성 발달에 해를 끼칠 수 있다.

게다가 실제 아동 심리 치료는 아이만 따로 떼어 치료하지 않는다. 치료사는 가족 관계, 친구와의 관계, 학교 생활 등 아이를 둘러싼 사회적 맥락을 파악하며 접근한다. 하지만 챗봇은 이런 '맥락적 정보'를 파악하거나 개입하는 데 한계가 있다.

AI, 건강 불평등 심화 우려

AI 챗봇이 소외 계층 아동에게 치료 접근성을 넓혀줄 수 있다는 기대도 있다. 하지만 철학 및 생명윤리학자 조너선 헤링턴 박사는 "AI는 학습 데이터가 공정하고 대표성을 가져야 효과를 발휘한다"며 "그렇지 않으면 오히려 건강 불평등을 심화시킬 수 있다"고 지적했다.

가난, 인종, 지역, 가족 상황 등은 아이들이 겪는 정신건강 위험 요소에 영향을 미친다. 학대, 방임, 가족의 투옥, 폭력 목격, 약물 중독 등 트라우마를 겪은 아동은 더 강도 높은 치료가 필요하지만, 이런 경우 AI 챗봇은 충분한 대응을 하지 못할 수 있다.

해링턴 박사는 "경제적으로 어려운 아동일수록 대면 치료를 받기 힘들어 AI 챗봇에 의존할 수밖에 없다. 챗봇이 도움이 될 수는 있지만, 인간 치료사를 완전히 대체해선 안 된다"고 강조했다. 

규제는 부재⋯"아이들에게 쓰기엔 너무 빠르다"

미국 식품의약국(FDA)이 현재까지 승인한 AI 정신건강 앱은 성인용 단 1종뿐이다. 대다수 챗봇은 규제 장치 없이 운영되고 있어 오용, 데이터 편향, 사용자 불균형 등의 위험이 존재한다.

무어 박사는 "AI를 배제하자는 게 아니다. 다만 아동 정신건강이라는 민감한 영역에 적용하려면 훨씬 더 세심하고 신중한 접근이 필요하다"고 말했다.

그는 헤링턴 박사, 그리고 AI 의료윤리를 연구하는 셰리페 테킨 박사와 함께 아동을 위한 AI 챗봇 설계에 있어 개발자와 전문가, 보호자, 아동 당사자 간의 협력이 필수라고 강조했다. 이들은 향후 챗봇 개발자들과 협력해 실제 어떤 기준과 철학으로 챗봇이 설계되고 있는지, 아동 관점이 충분히 반영되고 있는지 검토할 예정이다.

아동을 위한 AI 챗봇은 아직은 '보완재'이지 '대체재'는 아니다. 의료현장의 윤리적 고려 없이 기술만 앞서가는 시대, 우리 아이들의 마음 건강을 AI에 맡겨도 되는지 진지한 성찰이 필요한 시점이다.