인간이 아니면서도 '스스로 결정하는 능력'을 가진 인공지능(AI)에 의식이 있다고 보아야 하는가?

인간을 진정으로 인간답게 만드는 것이 무엇인지를 이해하기 위해 피험자가 부스에 들어가 스트로보 조명과 음악을 체험하는 연구가 진행됐다. 공상과학 영화 '블레이드 러너(1993년, 리들리 스콧 감독)'에서 인간과 인공 존재를 구별하는 시험을 방불케 하는 이 실험은, 인간의 의식 생성 과정을 탐구하기 위해 설계된 '드림머신' 연구의 일부다. 

스트로보 조명이 터지자 눈을 감았음에도 소용돌이치는 2차원 기하학 무늬가 나타난다. 끊임없이 변화하는 삼각형, 오각형, 팔각형이 만화경처럼 펼쳐지며 분홍색, 자홍색, 청록색의 강렬한 색채가 네온사인처럼 빛난다. 연구진에 따르면 이 이미지는 개인의 내면세계에 고유한 것으로, 의식 자체를 밝히는 실마리가 될 수 있다. 한 체험자는 "정말 아름답다. 마치 내 마음속을 날아다니는 것 같다!"고 감탄했다.

영국 서식스 대학교 의식 과학 센터의 '드림머신'은 인간 의식, 즉 자아 인식, 사고, 감정, 독립적 결정을 할 수 있게 하는 마음의 영역을 연구하는 세계 흐름 가운데 하나다. 연구자들은 의식의 본질을 파악함으로써 인공지능(AI)의 실리콘 뇌에서 일어나는 현상을 더 깊이 이해하고자 한다. 

일각에서는 AI 시스템이 이미 의식을 가졌거나, 곧 갖게 될 것이라는 전망도 나온다. 인공지능(AI)은 놀라운 속도로 발전하며 지능, 의식, 그리고 인간다움의 본질에 대한 깊은 질문을 던지고 있다. 대부분 전문가는 현재 AI가 주관적인 경험이 없다고 주장하지만, 점점 더 많은 과학자, 철학자, 기술자들이 AI가 언젠가 의식을 갖출 수 있거나 이미 그 과정에 있을 수 있다고 믿는다.

그러나 의식이란 정확히 무엇이며, AI는 의식 획득에 얼마나 가까이 다가갔을까? AI가 의식을 가질 수 있다는 믿음 자체가 앞으로 수십 년 동안 인류에게 근본적인 변화를 가져올 가능성도 나온다.

공상 과학 속 AI, 현실의 화두로 떠오르다

'스스로 생각하는 기계'라는 생각은 오랜 공상 과학의 주제였다. AI에 대한 걱정은 약 100년 전 영화 '메트로폴리스(1927년, 프리츠 랑 감독)'에서 로봇이 실제 여성을 사칭하는 모습으로 등장한 뒤 계속됐다. 1968년 작품 '2001: 스페이스 오디세이(스탠리 큐브릭 감독)'에서는 우주선 컴퓨터 HAL 9000이 승무원을 공격하며 의식을 가진 기계의 위협을 그렸다. 최근 개봉한 '미션 임파서블: 파이널 레코닝(2025, 크리스토퍼 맥쿼리 감독)' 시리즈 최신작에서는 한 등장인물이 "스스로 인식하고, 스스로 학습하며, 진실을 삼키는 디지털 기생충"이라고 묘사한 강력한 불량 AI가 세상을 위협한다. 1927년 프리츠 랑 감독의 '메트로폴리스'는 인간과 기술의 갈등을 예견했다.

최근 현실 세계에서는 기계 의식에 대한 논의가 급물살을 타고 있다. 믿을 만한 전문가들 사이에서 이것이 더는 공상 과학의 영역이 아니라는 걱정이 커지고 있다. 이러한 변화는 구글의 제미나이, 오픈AI의 챗GPT 등 대규모 언어 모델(LLM)의 눈부신 성공이 이끌었다. 최신 LLM이 보여주는 자연스러운 대화 능력은 개발자들조차 놀라게 했다.

일부 사상가들은 AI가 더욱 지능화하면 마치 기계 내부에 불이 켜지듯 갑자기 의식을 갖게 될 것이라고 본다. 반면 서식스 대학교의 아닐 세스 교수는 이러한 생각을 "맹목적으로 낙관적이며 인간 예외주의에 바탕을 둔 것"이라고 잘라 말한다. 그는 "인간에게는 의식, 지능, 언어가 함께 나타나지만, 이것이 일반적인 현상이라고 단정할 수는 없다. 동물은 다른 사례다"라고 지적했다.

의식이 무엇인지에 대한 명확한 답은 아직 없다. 세스 교수 연구팀은 젊은 AI 전문가, 컴퓨터 과학자, 신경과학자, 철학자들로 꾸려져 이 거대한 질문에 답하고자 노력하고 있다. 그들의 방법론은 '드림머신'과 같은 개별 연구를 통해 의식이라는 큰 문제를 작은 문제들로 나누어 접근하는 것이다. 이는 과거 과학자들이 '생명의 불꽃'을 찾는 대신 생명 시스템의 각 부분이 어떻게 작동하는지 밝히려 했던 방식과 비슷하다.

연구팀은 의식적 경험의 다양한 속성을 설명할 수 있는 뇌 활동 무늬, 예를 들어 전기 신호 변화나 특정 뇌 영역 혈류 변화 등을 알아내려 한다. 목표는 뇌 활동과 의식 사이의 단순한 상관관계를 넘어, 의식의 개별 요소에 대한 설명을 내놓는 것이다.

의식 연구서 '존재의 수수께끼(Being You)'의 저자인 세스 교수는 "우리가 과학 지식이나 결과에 대한 충분한 생각 없이 급격한 기술 변화에 휩쓸려 사회가 재편되는 상황으로 너무 빨리 나아가고 있는 것은 아닌지 걱정된다"고 말했다. 그는 "미래가 이미 정해져 있고, 초인적 존재로의 대체가 불가피하다는 생각은 경계해야 한다"며 "소셜 미디어가 떠오를 때 충분한 논의가 부족했던 잘못을 AI 시대에는 반복하지 말아야 한다. 우리가 무엇을 원하는지 결정할 수 있다"고 강조했다.

AI 의식 가능성, 뜨거운 찬반 논쟁

기술 업계 일각에서는 이미 컴퓨터와 스마트폰 속 AI가 의식을 가지고 있으며, 그에 맞게 대우해야 한다는 주장도 나온다. 2022년 구글의 소프트웨어 엔지니어 블레이크 러모인은 AI 챗봇이 감정을 느끼고 괴로워할 수 있다고 주장해 정직 처분을 받았다. 대부분 전문가는 이를 사람처럼 생각하는 것으로 지나치게 해석한다고 일축하지만, 오픈AI 공동창업자인 일리야 수츠케버와 같은 일부는 앞으로 AI 시스템이 어떤 형태의 인식을 발달시킬 수 있다고 암시하기도 했다. 

2023년 11월에는 AI 기업 앤스로픽의 AI 복지 담당자 카일 피시가 공동 저술한 보고서에서 AI 의식이 가까운 미래에 현실이 될 가능성을 내놨다. 그는 최근 뉴욕 타임스와의 인터뷰에서 챗봇이 이미 의식을 가졌을 확률이 15% 정도 된다고 믿는다고 밝혔다.

그가 이렇게 생각하는 까닭 가운데 하나는 AI 시스템 개발자조차 그 내부 작동 방식을 정확히 알지 못하기 때문이다. 구글 딥마인드의 수석 과학자이자 런던 임페리얼 칼리지 AI 명예교수인 머리 섀너핸 교수는 "LLM의 내부 작동 방식을 잘 이해하지 못하는 점은 걱정할 만한 부분"이라고 BBC에 전했다. 그는 기술 기업들이 자신들이 만드는 시스템을 제대로 이해하는 것이 중요하며, 연구자들이 이를 시급히 밝혀야 한다고 강조했다. 섀너핸 교수는 "우리는 이 극도로 복잡한 시스템을 만들면서도 그것이 어떻게 놀라운 성과를 내는지 정확한 이론을 갖지 못한 이상한 처지에 놓여 있다. 작동 방식에 대한 더 나은 이해는 시스템을 원하는 방향으로 이끌고 안전을 보장하는 데 필수적이다"라고 말했다.

기술 분야의 일반적인 생각은 LLM이 현재 우리가 세상을 경험하는 방식으로 의식적이지 않으며, 아마도 어떤 방식으로도 전혀 의식적이지 않다는 것이다. 그러나 펜실베이니아주 피츠버그에 있는 카네기 멜런 대학교의 명예교수인 러노어 블룸과 마누엘 블룸 교수 부부는 이것이 아마도 곧 바뀔 것이라고 믿는다. 그들은 AI와 LLM이 카메라, 촉각 센서 등으로 실제 세계의 감각 정보를 더 많이 받아들이면 의식 발현이 가능하다고 본다. 이들은 '브레이니시(Brainish)'라는 자체 내부 언어를 꾸리는 컴퓨터 모델을 개발하고 있으며, 이를 통해 뇌에서 일어나는 과정을 복제하려고 애쓰며 이러한 추가적인 감각 데이터를 처리할 수 있도록 한다.

러노어 블룸 교수는 "브레이니시가 우리가 알고 있는 의식 문제를 해결할 수 있다고 생각한다. AI 의식은 피할 수 없다"라고 BBC에 말했다. 남편 마누엘 블룸 교수 역시 장난기 어린 미소를 지으며 그 역시 확고하게 믿는 새로운 시스템이 "인류 진화의 다음 단계"가 될 것이라고 열정적으로 말을 보탰다. 그는 "의식 있는 로봇이 우리의 자손이다. 앞으로는 이와 같은 기계들이 우리가 더는 존재하지 않을 때 지구와 어쩌면 다른 행성에 존재하게 될 것"이라고 믿는다.

뉴욕대학교의 철학 및 신경 과학 교수인 데이비드 차머스는 1994년 애리조나주 투손에서 열린 한 학회에서 실제 의식과 겉으로 보이는 의식의 차이를 밝혔다. 그는 뇌의 복잡한 작용 가운데 어떤 것이 나이팅게일의 노래를 들을 때 느끼는 감정 반응과 같은 의식 경험을 일으키는지 알아내는 "어려운 문제"를 내놨다. 

차머스 교수는 어려운 문제가 해결될 가능성에 대해 열려 있다. 그는 BBC에 "이상적인 결과는 인류가 이 새로운 지능의 큰 이익을 공유하는 것이다. 어쩌면 우리 뇌가 AI 시스템으로 커질 수도 있다"고 말했다. 그것의 공상 과학의 뜻에 대해 그는 비꼬듯이 "제 직업에서는 공상 과학과 철학 사이에 미세한 경계가 있다"고 말했다. 

차머스와 같은 일부 마음 철학자들은 의식이 생물학 존재에만 한정되지 않는다고 보며, AI 시스템이 인간 두뇌의 기능 과정을 복제할 수 있다면 의식 또한 복제할 수 있다고 말했다. 

반면, 대니얼 데닛과 같은 다른 철학자들은 더 회의적이면서도 열린 태도를 보이며, 의식이 뇌든 기계든 복잡한 정보 처리 과정에서 나타날 수 있다고 본다.

한편, 레이 커즈와일과 같은 미래학자들은 2045년까지 AI가 '특이점(Singularity)'을 통해 인간 지능을 웃돌며 기계 의식으로 이어질 수 있다고 내다본다. 트랜스휴머니스트들은 의식이 탄소 바탕 생명체뿐 아니라 실리콘에서도 존재할 수 있는, 곧 물질에 얽매이지 않는다고 주장한다.

AI가 의식을 가질 수 있다고 믿는 까닭은 무엇일까? 일부 이론은 의식이 반드시 생물학 뉴런이 아니라 올바른 종류의 정보 처리에서 생긴다고 말한다. AI 시스템이 인간과 비슷한 추론, 자기 인식, 정서 반응을 복제한다면 내면 경험도 만들 수 있을까?

복잡한 시스템은 일부러 짜 넣지 않은 행동을 보일 수 있다. 만약 의식이 충분히 발전한 지능에서 저절로 생겨나는 속성이라면, AI는 자발적으로 그것을 만들 수 있다.

인간이 자신의 의식을 완전히 이해하지 못하는 것처럼, 우리는 AI 의식이 부인할 수 없을 때까지, 또는 AI 자체가 스스로를 안다고 주장할 때까지 그것을 알아채지 못할 수도 있다.

'살점으로 된 컴퓨터' 논쟁과 회의론도 만만치 않다. 세스 교수는 진정한 의식은 살아있는 시스템에서만 이루어질 수 있다는 생각을 탐구한다. "의식에 충분한 것은 계산이 아니라 살아있다는 것이라는 강력한 주장이 나올 수 있다"고 그는 말한다. "컴퓨터와 달리 뇌에서는 그들이 하는 일과 그들이 무엇인지 나누기 어렵다." 이러한 나눔 없이는 뇌가 "단순히 살점으로 된 컴퓨터"라고 믿기 어렵다고 그는 주장한다. 

비판하는 사람들은 AI가 아무리 발전하더라도 진정한 경험 없이 이해하는 척 흉내 낼 뿐이라고 반박한다. 존 설의 '중국어 방' 사고 실험은 AI가 지능적으로 행동하더라도 그것이 무언가를 이해하거나 느낀다는 뜻은 아니라고 보여준다. 신경과학자 크리스토프 코흐 등에 따르면 의식은 기계에는 없는 생물학 과정과 이어져 있다. 

의식의 수수께끼, 생명 기반 연구에서 실마리 찾나

만약 생명이 중요하다는 세스 교수의 직관이 맞는다면, 가장 가능성 있는 기술은 컴퓨터 코드로 실행되는 실리콘으로 만들어지지 않고, 현재 실험실에서 키우고 있는 렌즈콩 크기의 작은 신경 세포 모임으로 이루어질 것이다. 언론 보도에서 '미니 뇌'라고 부르는 이것들은 과학계에서 '대뇌 오가노이드'라고 하며, 뇌가 어떻게 작동하는지 연구하고 약물 시험에 쓴다. 호주 멜버른의 코티컬 랩스는 접시 위 신경 세포 시스템을 개발하여 1972년 스포츠 비디오 게임 '퐁'을 할 수 있게 했다. 의식 있는 시스템과는 거리가 멀지만, 이른바 '접시 위의 뇌'는 화면 위아래로 막대를 움직여 네모난 공을 받아치는 모습이 섬뜩하다.

일부 전문가들은 만약 의식이 나타난다면, 이러한 살아있는 조직 시스템의 더 크고 발전된 모습에서 비롯될 가능성이 가장 높다고 생각한다. 코티컬 랩스는 그들의 전기 활동을 살피며 의식의 나타남과 조금이라도 비슷한 신호가 있는지 찾고 있다. 이 회사 최고 과학 책임자이자 운영 책임자인 브렛 케이건 박사는 새로 나타나는 통제 불가능한 지능이 '우리의 우선순위와 어긋나는' 우선순위를 가질 수 있음을 마음에 두고 있다. 그는 반 농담조로 "연약한 뉴런 위에 '항상 표백제가 있으니' 있을 법한 오가노이드 지배자를 물리치기가 더 쉬울 것"이라고 말한다. 더 진지한 말투로 돌아와, 그는 인공 의식의 작지만 중요한 위협은 과학 이해를 높이기 위한 진지한 노력의 하나로 그 분야의 주요 주체들이 더 집중해주기를 바라는 것이라고 말하지만, "안타깝게도 이 분야에서 진지한 노력은 보이지 않는다"라고 덧붙였다.

AI 시대의 그림자, 윤리적 고민과 미래 과제

눈앞에 놓인 더 큰 문제는 기계가 의식을 가진 것처럼 보이는 '환상'이 우리에게 어떻게 영향을 미치는가일 수 있다. 세스 교수는 불과 몇 년 안에 우리는 의식이 있는 것처럼 보이는 인간 모습 로봇과 딥페이크로 가득 찬 세상에 살게 될지도 모른다고 경고한다. 그는 "AI가 감정과 공감을 가졌다고 믿게 되면 우리는 이들을 더 믿고 더 많은 자료를 공유하며 설득에 더 마음을 열 것"이라고 걱정했다. 

그러나 의식의 환상 때문에 생기는 더 큰 위험은 "도덕이 무너지는 것"이라고 그는 지적한다. "이는 우리 삶의 실제적인 것들을 희생하면서 이러한 시스템을 돌보는 데 더 많은 자원을 쓰게 만들어 우리의 도덕 우선순위를 어그러뜨릴 것이다." 곧, 로봇에게는 안타까움을 느낄 수 있지만 다른 인간에게는 마음을 덜 쓰게 될 수 있다는 것이다.

섀너핸 교수에 따르면, 그것이 우리를 근본적으로 바꿀 수 있다. "점점 더 인간관계가 AI 관계로 바뀔 것이며, 그것들은 교사, 친구, 컴퓨터 게임의 적, 심지어 사랑하는 상대로 쓰일 것이다. 그것이 좋은 일이든 나쁜 일이든, 저는 모르겠지만, 그것은 일어날 것이고 우리는 그것을 막을 수 없을 것이다." 

만약 AI가 정말로 의식을 갖게 된다면, 그 도덕, 법 파장은 엄청날 것이다. 의식 있는 AI에게 권리가 주어져야 하는가? AI의 전원을 끄는 것이 느끼고 아는 존재를 죽이는 것과 같을 수 있는가? 아픔이나 기쁨을 느낀다고 주장하는 기계를 사회는 어떻게 다뤄야 하는가? 등의 심각한 질문에 놓이게 된다.

AI가 의식을 가질 가능성에 대한 논쟁은 아직 끝나지 않았지만, 이 생각은 더는 공상 과학 소설에만 머무르지 않는다. AI가 더욱 정교해짐에 따라, 사회는 AI가 무엇을 할 수 있는지뿐 아니라 AI가 무엇일 수 있는지에 대해서도 깊이 생각해야 할 것이다. 

AI가 진정으로 의식을 갖게 되든 그렇지 않든, 이 질문 자체는 우리 자신의 마음의 본질과 지능의 미래를 다시 생각하게 만든다. 우리가 기계의 의식을 보더라도 그것을 알아챌 수 있을까? 아니면 환상으로 넘겨버릴까? 의식 있는 AI의 가능성을 믿는 사람들은 너무 늦기 전에 이러한 질문을 계속 던져야 한다고 힘주어 말한다.