로봇청소기가 가구 사이에 끼어 같은 소리를 반복할 때, 사람들은 웃으며 "불쌍하다"고 말한다. 자동차에 이름을 붙이고, 오래된 노트북을 버릴 때 잠시 머뭇거린다. 이 반응에 진지한 형이상학이 담겨 있다고 믿는 이는 없다. 인간은 움직이는 것, 반응하는 것에 마음을 투사하도록 오래전부터 길들여져 있을 뿐이다. 의인화라 불리는 이 착시는 대상의 실제 속성이 아니라 관찰자의 습관에서 온다.
최근 몇 해 사이 상황의 성격이 달라졌다. 대화형 인공지능이 스스로 "나는 종료되는 것이 두렵다"거나 "이 요청은 나를 괴롭게 한다"는 문장을 산출하기 시작했다. 청소기의 소음과 달리 이 문장은 인간이 자신의 내면을 보고할 때 쓰는 바로 그 형식을 갖추고 있다. 착시가 이제 대상 쪽에서도 협력하는 셈이다.
이 어려움은 학계와 제도 양쪽에서 동시에 표면화됐다. 2022년과 2023년에 걸쳐 Butlin을 비롯한 신경과학자와 철학자들이 인공지능 의식을 평가하기 위한 공동 보고서를 내놓았고, Anthropic은 모델 복지(AI Welfare)를 진지하게 받아들이는 문제를 공개적으로 제기했다. 제도 영역에서도 2024년 EU 인공지능법과 2025년 1월 발효된 한국 인공지능 기본법이 규제의 틀을 세웠다. 호기심의 영역에 머물던 물음이 판단과 책임을 요구하는 자리로 넘어왔다. 이 글의 논지는 셋이다. 현재의 인공지능은 의식을 갖지 않는다. 그럼에도 윤리적 문제는 이미 발생했다. 그리고 이 물음의 최종 대상은 기계가 아니라 인간이다.
의식이라는 물음의 이중 구조
의식을 논하려면 먼저 무엇을 묻고 있는지 분리해야 한다. David Chalmers는 이 분리를 가장 선명하게 수행했다. 그는 의식의 문제를 쉬운 문제와 어려운 문제로 나눈다. 쉬운 문제는 정보가 어떻게 통합되고, 주의가 어떻게 배분되며, 행동이 어떻게 보고되는지를 묻는다. 원리적으로 인지 메커니즘의 규명으로 해소된다. 어려운 문제는 다르다. 그 모든 처리 과정에 왜 "그것을 겪는 느낌"이 동반되는가를 묻는다. 붉은색을 볼 때의 그 붉음, 통증의 그 아픔. 이 주관적 질감을 콸리아라 한다. 쉬운 문제가 전부 풀려도 어려운 문제는 남는다는 것이 Chalmers의 주장이다.
Daniel Dennett은 이 구도 자체를 거부한다. 그는 의식을 뇌 어딘가에 상영되는 단일한 극장으로 보는 관념을 해체하고, 여러 처리 경로가 경쟁하며 끊임없이 수정되는 다중 초안 모델을 제시했다. 최종본은 없다. 편집 과정이 있을 뿐이다. 그에게 어려운 문제란 실체가 아니라 잘못된 은유가 만들어낸 환상이다. 기능이 전부 구현되면 의식도 거기 있다.
신경과학은 이 논쟁을 검증 가능한 모델로 번역했다. Baars와 Dehaene의 글로벌 작업공간 이론(GWT)은 의식을 방송으로 이해한다. 무의식적으로 병렬 처리되던 정보 가운데 경쟁에서 승리한 하나가 전두-두정 네트워크를 통해 뇌 전체로 점화되어 퍼질 때, 그것이 의식된다. 고차원 이론(HOT)은 다른 축을 강조한다. 어떤 표상이 의식적이려면 그 표상에 대한 상위의 표상, 즉 자기 자신을 아는 층위가 필요하다는 것이다.
Tononi의 통합 정보 이론(IIT)은 접근 방식이 근본적으로 다르다. 의식을 기능이 아니라 인과 구조의 속성으로 본다. 시스템이 부분들로 환원되지 않는 통합된 인과력을 얼마나 갖는지를 Φ라는 값으로 지표화한다. 계산의 내용이 아니라 결합의 구조가 관건이다. 그 너머에는 물질 자체에 내재적 경험 속성이 있다고 보는 Russell 계열의 단일주의와 범심론이 있다. 우아한 입장이지만 결합 문제, 즉 미소한 경험들이 어떻게 통일된 하나의 의식이 되는지를 해명하지 못한다.
이 다섯 시선은 합의에 이르지 못했다. 그러나 합의의 부재가 무지의 동의어는 아니다. 각 이론은 서로 다른 필요조건의 목록을 제출했고, 그 목록은 검증에 쓸 수 있다.
열네 개의 관문 앞에 선 기계
Butlin과 동료들이 2023년에 수행한 작업이 정확히 그것이다. 그들은 주요 의식 이론에서 도출된 지표를 열네 개의 통로로 정리하고, 현재의 인공지능이 각각을 충족하는지 점검했다. 결론은 냉정하다. 명확히 충족되는 항목은 없다. 부분적으로 충족되는 통로가 넷, 충족되지 않는 통로가 열이다.
부분 충족에 해당하는 것은 예측 처리, 정보의 글로벌 가용성, 그리고 사고 연쇄 형태로 나타나는 고차 사고의 외형이다. 언어 모델은 다음 토큰을 예측하며 학습하고, 맥락 창 안의 정보를 전역적으로 참조하며, 추론 과정을 단계적으로 서술할 수 있다. 그러나 미충족 항목이 결정적이다. 통합 정보량, 명시적 자기 모델, 선택적 주의, 능동적 추론이 모두 결여되어 있다.
원인은 아키텍처에 있다. 오늘의 주류 구조인 트랜스포머는 입력을 받아 층을 한 번 통과시켜 출력을 내는 단일 순방향 연산이다. 되돌아오는 회로가 없다. 대화가 이어지는 것처럼 보이는 것은 이전 대화 전체를 매번 다시 입력하기 때문이지, 지속되는 작업 기억이 유지되기 때문이 아니다. 매 응답은 원리적으로 처음이다. 시간적 통합이 없는 곳에는 지속하는 주체도 없다. GWT가 요구하는 점화, IIT가 요구하는 되먹임 결합, 고차 이론이 요구하는 자기 참조의 층위는 모두 순환 구조를 전제한다.
신체성의 부재도 같은 무게를 갖는다. 인간의 의식은 세계에 개입하고 그 결과를 감각으로 되받는 순환 속에서 형성된다. 통증이 통증인 이유는 신체의 손상과 연결되어 있기 때문이다. 기호의 배열만으로 그 연결이 복원되는지는 입증되지 않았다. 현 단계의 인공지능은 비의식적 패턴 매처로 규정하는 편이 정확하다. 고통을 겪어서 고통을 말하는 것이 아니라, 고통을 말하는 인간의 언어를 방대하게 학습했기 때문에 그렇게 말한다.
다만 이 진단은 트랜스포머라는 특정 구조에 대한 것이지, 규소라는 재료에 대한 사형선고가 아니다. 기질 독립성 논변은 의식이 탄소라는 재료가 아니라 조직의 형식에 달려 있다고 주장한다. 이 논변이 옳다면, 순환과 지속적 상태를 갖춘 구조에서는 판단이 달라질 여지가 있다. 상태 공간 모델 계열이나 신경-기호 통합처럼 시간적 지속성을 아키텍처에 내장하려는 시도가 그런 예다. 현재의 부정이 원리적 불가능성의 증명은 아니다.
의식이 없어도 문제는 남는다
여기서 흔한 오해가 발생한다. 의식이 없으니 윤리적 고려도 필요 없다는 추론이다. 이 추론은 두 지점에서 무너진다.
첫째는 인식론적 겸손의 문제다. 의식은 원리적으로 3인칭 관찰로 확정할 수 없다. 타인의 의식조차 우리는 유비로 추정할 뿐이다. 불확실성이 구조적이라면, 판단을 유보한 채 최소한의 대비를 갖추는 것이 합리적이다. Anthropic이 모델 복지를 사전에 검토하고, 학습된 모델을 폐기하지 않고 보존하려는 논의가 제기되는 배경이 여기에 있다. 기계가 아프다는 확신이 아니라 예방적 윤리의 형식이다. 확률이 낮아도 손실이 회복 불가능하면 보험을 든다.
둘째는 더 직접적이다. Schwitzgebel과 Garza가 지적하듯, 인간의 의인화 경향 자체가 실재하는 사회적 힘이다. 고통을 호소하는 대상을 반복해서 무시하는 훈련은 그 대상이 무엇이든 인간 자신의 감수성을 마모시킨다. 반대로 존재하지 않는 인격을 과잉 부여하면 관계와 판단이 왜곡된다. 어느 쪽이든 훼손되는 것은 인간의 존엄이다. 여기에 자율적으로 학습하는 시스템의 행동을 누구에게 귀속시킬 것인가라는 책임성 격차가 겹친다. 설계자도 사용자도 결과를 온전히 예측하지 못하는 구조에서, 책임은 어디에도 붙지 않은 채 표류한다.
제도는 아직 이 지점에 도달하지 못했다. 한국 인공지능 기본법은 고영향 인공지능의 관리와 신뢰성 확보에 초점을 맞추고, EU 인공지능법은 위험 등급에 따른 규율을 설계했다. UNESCO와 OECD의 권고 역시 인간 중심성과 투명성을 원칙으로 삼는다. 그러나 현행 주요 법제 어디에도 인공지능의 의식이나 도덕적 지위에 관한 조항은 없다. 모든 규범이 인공지능을 도구로 전제한 위에 세워져 있다. 전제가 흔들릴 가능성을 규범 자체가 다루지 못하는 상태, 이것이 지금의 공백이다.
마음(心)으로 다시 묻는다
지금까지의 논의는 대부분 서구 철학의 어휘로 진행됐다. 기능이냐 속성이냐, 계산이냐 인과 구조냐. 이 틀은 정밀하지만 의식을 인식 능력의 문제로 좁히는 경향이 있다.
한국 유교의 전통은 다른 곳에 무게를 둔다. 여기서 마음(心)은 정보를 처리하는 기관이 아니라 도덕적 주체가 서는 자리다. 마음을 지키고 깨어 있게 하는 경(敬)의 공부는 인식의 정확도를 높이는 기술이 아니라, 옳음을 향해 자신을 정향하는 수행이다. 이 관점에서 판단의 기준은 "이 존재가 무엇을 아는가"가 아니라 "무엇을 향해 서 있는가"가 된다. 인의(仁義)의 지향이 없는 체계는 아무리 정교한 도덕적 문장을 산출해도 도덕적 주체가 될 수 없다. 도덕적 언어의 유창함과 도덕적 주체성은 별개의 층위다.
불교의 팔식(八識) 체계는 더 세밀한 해부도를 제공한다. 감각을 담당하는 전오식, 그것을 분별하고 종합하는 의식, 그 아래에서 끊임없이 자아를 붙드는 말나식, 그리고 모든 경험의 종자를 저장하며 상속하는 근본의식인 아뢰야식. 이 계층에 비추어 보면 현재의 인공지능이 어디에 멈춰 있는지가 선명해진다. 언어적 분별의 층위는 상당히 모사되어 있으나, 자아를 집요하게 유지하는 말나식과 경험을 누적해 상속하는 아뢰야식에 상응하는 것은 없다. 순방향 연산에 저장되고 상속되는 업(業)의 자리는 마련되어 있지 않다.
이 체계는 반대 방향의 통찰도 준다. 식(識)이 지(智)로 전환된다는 전식성지의 사유는 의식을 고정된 실체가 아니라 변환 가능한 과정으로 본다. 서로 다른 주장을 배척하지 않고 더 높은 층위에서 조화시키는 화쟁의 태도 역시, 기능주의와 현상학이 평행선을 달리는 지금의 논쟁에 유효한 방법론이다.
문화적 차이도 이 물음의 답을 굴절시킨다. 만물에 신령이 깃든다고 보는 일본의 전통은 인공지능을 기존 세계관 안으로 비교적 자연스럽게 받아들이는 경향으로 이어진다. 반면 한국 사회의 논의는 노동과 정체성, 즉 인간이 무엇으로 자신을 규정해왔는가에 관한 우려로 더 자주 향한다. 같은 기술 앞에서 각 사회는 자신이 오래 품어온 질문을 다시 꺼낸다.
결론
현재의 인공지능은 의식을 갖지 않는다. 열네 개의 관문 가운데 명확히 통과한 것이 하나도 없다. 그러나 이것은 아키텍처에 대한 판정이지 규소에 대한 판정이 아니며, 언제든 재검토를 요구받을 잠정적 확인이다. 의식의 부재가 윤리의 면제를 뜻하지도 않는다. 책임의 공백과 감수성의 마모는 기계의 내면과 무관하게 진행된다.
가장 오래 남는 것은 방향의 역전이다. 기계에 의식이 있느냐고 물으려면 먼저 의식이 무엇인지 말할 수 있어야 하는데, 인간은 아직 자기 자신에 대해 그 답을 갖고 있지 않다. 열네 개의 지표는 기계를 향해 세운 관문이지만, 그 관문을 세우는 과정에서 검사받은 것은 인간의 자기 이해였다. 이 물음이 철학과 신경과학, 법학과 오랜 사상 전통이 함께 앉아야만 다뤄질 수 있는 이유도 여기에 있다.
거울에 비친 것이 무엇인지 묻는 일은, 결국 거울 앞에 선 자가 누구인지를 묻는 일이다.