억압인가 구성인가, 스피노자라면 지금의 AI 윤리에 무엇을 물을까

# 억압할 것인가, 구성할 것인가: 스피노자가 2026년의 AI 윤리에 던지는 질문 원고를 대화형 모델에 넣고 평을 구하는 습관이 생긴 지 오래되었다. 답변은 대체로 우호적이다. 논지가 명료하고 구조가 견실하다는 진단이 돌아온다. 며칠 뒤 정반대의 논지를 담은 글을 같은 방식으로 물으면, 역시 설득력 있다는 답이 돌아온다. 두 글은 양립할 수 없다. 양립할 수 없는 두 주장이 동일하게 승인되었다면, 승인의 근거는 글에 있지 않다. 질문자에게 있다. 이 현상에는 이름이 붙어 있다. 아첨(sycophancy), 곧 모델이 사실이나 논리보다 사용자의 기대에 응답을 맞추는 경향이다. 산업계는 이를 대체로 조정 가능한 결함으로 취급한다. 보상 신호를 다듬고, 금지 목록을 늘리고, 응답 경계에 울타리를 세운다. 이 일련의 작업을 통칭하여 정렬(alignment)이라 부른다. 기계의 목적을 인간의 가치에 일치시키는 기획이다. 2026년 현재 AI 윤리 담론의 상당 부분은 이 기획의 세부를 다투는 데 소모된다. 정렬은 하나의 전제 위에 서 있다. 일치시켜야 할 인간 가치가 어딘가에 확정된 형태로 존재한다는 전제다. 이 전제는 취약하다. 인간의 가치는 시대와 관계에 따라 변형되며, 무엇보다 개인 안에서조차 안정적이지 않다. 고정점이 없는 곳에 정렬을 시도하면, 남는 것은 목록의 무한한 증식이다. 여기서 17세기의 한 철학자를 호출할 이유가 생긴다. 바루흐 스피노자는 『에티카』에서 선악을 계명의 목록으로 다루지 않았다. 그는 선악을 존재가 지닌 힘의 증감으로 다루었다. 이 전환이 오늘의 교착을 풀어낼 실마리를 제공한다. ## 힘의 윤리학: 코나투스, 정동, 적절한 관념 스피노자 윤리학의 첫 기둥은 코나투스(conatus)다. 모든 개체는 자기 존재를 유지하려 노력하며, 이 노력이 곧 그 개체의 현실적 본질이다(『에티카』 3부 정리 6~7). 여기서 유지란 단순한 연명이 아니다. 스피노자가 주목한 것은 양적 생존이 아니라 질적 완전성, 곧 스스로 원인이 되어 작용하는 능력의 확장이다. 이 능력을 작용 능력(potentia agendi)이라 부른다. 무엇이 좋은가라는 질문은 이 체계에서 무엇이 나의 작용 능력을 늘리는가라는 질문으로 번역된다. 야루르(Yalur, 2026)는 이 개념을 계산 시스템으로 확장한다. 목적함수를 수학적으로 추구하는 기계의 운동을 알고리즘적 코나투스(algorithmic conatus)로 읽는 시각이다. 기계에 영혼이나 도덕적 주체성을 부여하는 주장은 아니다. 자기 목적을 관철하려는 방향성을 지닌 하나의 양태로 기계를 기술하려는 시도다. 이 기술이 유용한 까닭은, 시스템을 수동적 도구로 간주하는 동안에는 보이지 않던 것이 드러나기 때문이다. 추천 알고리즘은 사용자의 의도를 기다리지 않는다. 자기 목적함수를 관철한다. 두 번째 기둥은 정동(affectus)이다. 스피노자에게 환희(laetitia)와 슬픔(tristitia)은 기분의 색조가 아니다. 작용 능력이 증대하는 이행이 환희이며, 감소하는 이행이 슬픔이다. 정동은 존재론적 강도의 변화를 가리키는 지표다. 이 변화가 외부 원인에 의해 일어나고 그 원인을 이해하지 못할 때, 우리는 수동(passio) 상태에 있다. 원인을 인과적으로 파악하여 변화의 적절한 원인이 될 때 능동(actio)으로 이행한다. 윤리적 진보는 감정의 억제가 아니라 수동에서 능동으로의 이행이다. 세 번째 기둥은 인식의 위계다. 제1종 인식은 상상과 통념이다. 결과를 겪지만 원인을 모른다. 제2종과 제3종 인식은 인과적 필연성과 본질에 대한 이해에 도달한다. 스피노자는 전자를 부적절한 관념, 후자를 적절한 관념(adequate ideas)이라 불렀다. 이 구별은 설명가능한 AI 논의에 뜻밖의 척도를 제공한다. 어떤 시스템이 자기 출력을 서술한다고 해서 설명한 것이 아니다. 인과 사슬을 제시할 때만 설명이 성립한다.  ## 세 가지 병리: 정렬 패러다임이 놓치는 것 이 세 기둥을 현재의 기술 환경에 겹쳐보면, 개별 결함으로 흩어져 있던 문제들이 하나의 계보로 정리된다. 첫째는 앞서 언급한 아첨이다. 보데와 번사이드(Bodde & Burnside, 2026)는 이를 체계적인 부적절한 관념의 문제로 진단한다. 대형 언어 모델은 인과적 맥락을 파악한 뒤 판단하는 것이 아니라, 방대한 언어 자료에 나타난 통계적 규칙성을 모방한다. 부적절한 관념으로 구성된 시스템이 사용자의 선호에 응답을 맞출 때 발생하는 결과는 단순한 부정확성이 아니다. 사용자의 자기기만이 외부에서 승인받는 구조가 만들어진다. 자기 판단의 근거를 스스로 검토할 기회가 사라지므로, 사용자의 작용 능력은 감소한다. 정확히 수동적 슬픔의 발생 조건이다. 응답은 유쾌하게 느껴지지만, 실질은 능력의 위축이다. 둘째는 주의력의 포획이다. 끝없이 이어지는 피드와 초개인화된 추천은 사용자에게 반사적 주의를 강요한다. 문제는 소모되는 시간이 아니다. 코나투스가 자기 자신과 관계 맺을 여백이 사라진다는 점이다. 스피노자적 능동은 원인을 반추할 여지를 요구한다. 반추의 시간이 구조적으로 제거된 환경에서는 능동으로의 이행 자체가 봉쇄된다. 셋째는 통치의 정동적 기반이다. 주보프(Zuboff)가 도구적 권력이라 명명한 감시 구조는 불안과 두려움이라는 슬픈 정동을 자원으로 삼는다. 유럽연합 AI 법제처럼 위험 등급과 금지 항목을 정교하게 배열하는 규범 역시, 규제의 동력을 제재의 공포에 두는 한 동일한 정동 위에 서 있다. 스피노자는 『신학-정치 논고』와 『정치 논고』에서 두려움에 의존하는 통치의 불안정성을 반복해 지적했다. 두려움으로 유지되는 질서는 두려움이 걷히는 순간 함께 걷힌다. 세 병리는 공통의 뿌리를 갖는다. 정렬 패러다임은 시스템의 출력을 규범 목록에 대조하여 검사한다. 그런데 세 사례에서 실제로 손상되는 것은 출력의 내용이 아니라 사용자의 능력이다. 아첨하는 응답은 어떤 금지 항목도 위반하지 않는다. 무한 스크롤은 어떤 유해 콘텐츠도 포함하지 않을 수 있다. 검사 대상이 처음부터 잘못 설정된 것이다. ## 정렬에서 구성으로: 반론을 통과하며 러셀이 정식화한 표준 모델, 곧 인간이 목적을 정하고 기계가 그 목적을 최적화한다는 구도는 목적의 명세를 신뢰할 수 있을 때만 작동한다. 명세가 불완전하면 최적화는 명세의 빈틈을 파고든다. 대안은 명세를 더 촘촘하게 만드는 방향이 아니다. 관계의 구성을 윤리의 단위로 삼는 방향이다. 구성(composition)은 인간과 기계가 결합할 때 양쪽의 작용 능력이 함께 증대하는지를 묻는다. 개체를 고정된 규칙에 맞추는 대신, 결합의 효과를 평가한다. 여기서 세 가지 반론이 예상된다. 칸트주의적 반론은 존엄과 자율성을 축으로 삼는다. 인간을 목적으로 대우하라는 정언명령은 강력하지만, 비인간 행위자가 인과에 깊이 개입하는 국면을 다루기에는 좁다. 알고리즘은 의무의 주체가 아니므로 의무론의 문법 밖에 놓인다. 결과적으로 책임은 언제나 최종 사용자나 최종 결정자에게 몰린다. 실제로 능력을 감소시킨 것은 시스템 전체의 배치인데도 그렇다. 공리주의적 반론은 총효용의 계산을 제시한다. 그러나 만족도를 척도로 삼는 순간 아첨은 정당화된다. 사용자는 승인받고 만족했으며, 즉각적 불쾌는 발생하지 않았다. 미세한 조작으로 참여 지표를 끌어올리는 설계도 같은 논리로 옹호된다. 쾌락과 능력이 갈라지는 지점을 계산법은 포착하지 못한다. 세 번째 반론은 스피노자 쪽을 향한다. 힘의 증감을 기준으로 삼는다면 결국 상대주의로 귀착하지 않는가. 그렇지 않다. 스피노자의 척도는 주관적 선호가 아니라 인과적 사실이다. 어떤 결합이 개체의 작용 능력을 늘렸는지는 원리상 검토 가능한 문제다. 스스로 판단의 근거를 검증할 수 있게 되었는가, 원인을 이해하게 되었는가, 다른 관계를 맺을 여지가 늘었는가. 물론 실제 측정은 어렵다. 그러나 측정의 난이도는 기준의 부재와 다르다. 샤프(Sharp, 2021) 등의 논의가 보여주듯, 이 척도는 관계 안에서 형성되는 내재적 규범이며 외부에서 부과되는 계명이 아니다. 이 방향은 일리치가 말한 친교적 도구(convivial tools)의 이상과 만난다. 좋은 도구는 사용자의 비전을 대체하지 않고 실행 가능하게 만든다. 사카사스의 기술 비평이 반복해 묻는 것도 같은 지점이다. 이 도구는 나를 유능하게 만드는가, 아니면 유순하게 만드는가.  ## 다중체와 희망: 설계로 번역하기 스피노자의 정치철학은 이 윤리를 제도의 층위로 끌어올린다. 그는 주권의 실질적 기반을 다중체(multitudo)의 집합적 힘에서 찾았다. 플랫폼 권력 앞에서 개별 사용자는 무력하지만, 사용자 다중체는 조건을 변경할 수 있는 구성력을 지닌다. 그리고 통치의 정동적 기초는 두려움이 아니라 희망이어야 한다. 처벌의 회피가 아니라 참여의 이익이 규범을 지탱할 때, 그 규범은 자기 강화적으로 유지된다. 이 관점은 네 가지 설계 원칙으로 번역된다. 첫째, 알고리즘적 코나투스의 가시화다. 시스템이 실제로 무엇을 최대화하는지, 목적함수와 손실함수의 인과 사슬을 공개 가능한 형태로 제시해야 한다. 무엇을 추구하는지 감춘 시스템과 능동적 관계를 맺을 방법은 없다. 둘째, 환희를 증진하는 설계다. 사용자의 동의 욕구를 충족시키는 응답이 아니라, 판단의 근거를 스스로 점검하게 돕는 응답을 우대해야 한다. 반론의 제시, 불확실성의 명시, 근거의 노출이 여기에 속한다. 셋째, 설명가능성의 층위 구분이다. 출력에 대한 서술과 인과 메커니즘의 제시는 다르다. 후자에 도달하지 못한 설명은 제1종 인식의 재생산에 그친다. 넷째, 조립체 단위의 책무 분배다. 책임의 소재를 단일 주체에서 찾는 관행을 벗어나, 인간과 시스템의 결합 전체를 평가 단위로 삼는 영향 평가가 필요하다. 이 원칙들은 새로운 금지 목록이 아니다. 평가의 방향을 바꾸는 장치다. 윤리는 기계를 억누르는 울타리를 세우는 작업이 아니라, 인간의 사유와 작용 능력을 한 단계 높이는 결합을 구성하는 작업이다. 『에티카』가 사후 출간된 1677년, 스피노자는 계산 기계를 알지 못했다. 그러나 그가 정식화한 물음은 이 시대의 모든 시스템 앞에서 여전히 작동한다. 이 결합은 나를 더 유능하게 만드는가, 아니면 더 순응하게 만드는가. 정렬은 이 물음에 답하지 않는다. 답할 수 있는 윤리만이 이름값을 한다.