손가락이 먼저 움직이는 새벽
새벽 두 시. 잠들기로 마음먹은 지 한 시간이 지났다. 화면에는 다음 영상이 이미 재생되고 있다. 누른 기억은 없다. 정확히 말하면 누르기로 결심한 기억이 없다. 손가락이 먼저 움직였고 마음은 뒤늦게 따라붙었다.
나는 그 영상을 보기로 선택했는가, 아니면 보도록 만들어졌는가. 추천 목록을 짠 것은 내가 아니다. 무엇을 먼저 보여줄지, 얼마나 짧게 끊을지, 어느 지점에서 다음 영상을 자동 재생할지는 모두 설계된 값이고, 그 설계는 나의 체류 시간을 늘리도록 조정되어 있다. 그럼에도 화면을 껐다 켠 손은 분명 나의 손이었다.
여기서 익숙한 답이 둘 나온다. 기술은 도구일 뿐이며 쓰는 사람의 문제라는 답, 그리고 인간은 이미 알고리즘의 노예가 되었다는 답. 앞의 것은 편리하고 뒤의 것은 극적이지만 둘 다 실제로 벌어지는 일을 설명하지 못한다. 도구가 중립이라면 왜 모든 사용자가 비슷한 시각에 비슷한 방식으로 무너지는가. 인간이 노예라면 왜 어떤 이는 앱을 지우고 어떤 이는 지우지 못하는가.
이 글의 명제는 그 사이에 있다. 기술은 인간의 선택을 강하게 조건 짓는다. 그러나 조건 지어진 선택은 선택이 아닌 것이 아니다. 자유란 조건이 없는 상태가 아니라, 조건을 인지하고 그 조건 자체를 다시 짜는 능력이다. 이것을 조건화된 자유라 부르기로 한다.
기술은 역사를 결정하는가
결정론의 두 얼굴
기술이 인간을 결정한다는 생각을 학술적으로 기술 결정론이라 한다. 기술 변화가 사회 구조와 인간 의식의 방향을 규정한다는 입장이다.
강한 형태의 대표자는 자크 엘율이다. 그는 근대를 지배하는 것이 특정 기계가 아니라 효율성의 논리 자체라고 보았다. 그가 라 테크니크라 부른 이 논리는 스스로 확장하며, 인간의 목적을 묻지 않고 최적의 수단만을 요구한다. 마셜 매클루언은 다른 각도에서 접근했다. 매체가 메시지라는 그의 명제는, 내용보다 매체의 형식이 인간의 감각 비율을 재편한다는 주장이다. 무엇을 보느냐보다 어떤 방식으로 보느냐가 인간을 바꾼다.
유연한 형태는 결정의 주체를 기술 자체가 아니라 설계에 둔다. 랭던 위너는 인공물에 정치가 있는가를 물으며 로버트 모지스의 저교량 사례를 들었다. 뉴욕의 특정 공원 진입로 위로 놓인 다리들은 버스가 통과하기 어려울 만큼 낮게 지어졌고, 대중교통에 의존하던 계층은 그 공간에서 사실상 배제되었다. 콘크리트 구조물이 사회적 차별을 수행한 셈이다. 여기서 결정하는 것은 기술의 자율적 논리가 아니라 설계에 새겨진 의도다.
기술은 협상의 산물이다
반론은 더 근본적이다. 기술의 사회적 구성론은 기술의 최종 형태가 필연이 아니라 협상의 결과임을 보인다. 자전거의 역사가 자주 인용된다. 앞바퀴가 거대한 초기 형태는 속도를 중시한 젊은 남성 이용자 집단의 요구에 부합했으나, 안전과 접근성을 요구한 다른 집단의 압력 속에서 오늘날의 형태로 수렴했다. 기술이 사회를 결정한 것이 아니라, 서로 다른 사회 집단이 기술의 의미를 두고 다툰 것이다.
브뤼노 라투르의 행위자 연결망 이론은 한 걸음 더 나아간다. 그는 인간만이 행위의 주체라는 전제를 내려놓는다. 과속 방지턱은 운전자에게 속도를 늦추라고 말하지 않지만, 말보다 확실하게 속도를 늦춘다. 인간과 사물은 서로를 규정하는 연결망 속에서 함께 행위한다. 그렇다면 결정은 일방향이 아니라 공동 구성이다.
고전적 기술 결정론은 학술적으로 이 반론들에 의해 상당 부분 해체되었다. 문제는 그 해체가 현실의 경험을 해소해주지 못한다는 데 있다.
결정론은 두 번 돌아온다
뇌가 먼저 결정한다는 보고
첫 번째 귀환은 인간의 내부에서 온다. 벤저민 리벳의 실험은 손가락을 움직이려는 의식적 의도가 생기기 전에 이미 뇌에서 준비 전위라 불리는 활동이 나타남을 보고했다. 그 간격은 대략 350밀리초 수준으로 제시되었다. 이후 순과 헤인스 등의 뇌영상 연구는 특정 조건에서 피험자가 자각하기 수 초 전에 선택의 방향을 예측할 수 있다고 보고했다. 자료에 따르면 그 예측 시간은 7초 안팎에서 10초에 이르는 범위로 언급된다.
결론은 충격적으로 들린다. 내가 결정하기 전에 뇌가 이미 결정했다면, 의식적 의지란 사후에 붙는 해설에 불과하다.
알프레드 밀리의 반박은 정면을 겨눈다. 뇌의 선행 활동은 상관물이지 결정 자체가 아니다. 어떤 신경 활동이 행동보다 앞선다는 사실은, 그 활동이 행동을 인과적으로 확정했다는 증명이 되지 못한다. 더 결정적인 것은 실험 설계의 한계다. 손가락을 언제 꺾을지 임의로 고르는 과제와, 직장을 옮길지 오랜 신념을 바꿀지 숙고하는 과제는 같은 종류의 사건이 아니다. 전자의 결과를 후자로 확장하는 것은 논증이 아니라 비약이다.
신경과학은 자유 의지를 폐기하지 않았다. 자유 의지가 어떤 물질적 조건 위에서 작동하는지를 드러냈을 뿐이다. 이 구분은 이후 논의 전체를 지탱한다.
알고리즘이 미래를 상품으로 만들 때
두 번째 귀환은 인간의 외부에서, 훨씬 조직적인 형태로 온다.
쇼샤나 주보프가 감시 자본주의라 명명한 축적 양식은 인간 행동에서 남는 데이터를 원료로 삼는다. 그 원료는 예측 상품으로 가공되고, 예측의 정확도를 높이는 가장 확실한 방법은 예측 대상을 미리 유도하는 것이다. 여기서 관찰은 조용히 개입으로 넘어간다.
엘리 파리저의 필터 버블은 그 결과를 인식의 층위에서 설명한다. 개인화된 정보 환경은 이용자가 이미 동의하는 것을 강화하고, 불편한 것을 시야에서 걷어낸다. 주의력 경제 논의는 그 동력을 밝힌다. 유한한 인간의 주의가 거래 가능한 자원이 되는 순간, 인식의 폭을 좁히는 것은 부작용이 아니라 수익 모델이다.
더 미묘한 문제는 책임의 소재다. 대규모 언어 모델이 산출한 결론을 검토 없이 채택할 때, 사라지는 것은 정답이 아니라 이유를 따져 묻는 절차다. 자유 의지 논의에서 이성 반응성이라 불리는 능력, 곧 근거에 응답하여 판단을 수정하는 능력이 그 절차 안에 있다. 절차가 생략되면 결과가 맞아도 주체는 남지 않는다.
해체되었던 강한 결정론은 학문의 명제가 아니라 산업의 구조로 되돌아왔다. 우리를 결정하는 것은 기술의 형이상학적 본질이 아니라, 특정한 이윤 구조 위에 설계된 장치다.
조건을 다루는 다른 문법
서구의 논쟁은 오랫동안 완전한 자유와 완전한 결정이라는 양극 사이에서 진행되었다. 동아시아 사상은 애초에 그 대립을 세우지 않았다.
유가에서 인간은 주어진 바탕을 지닌 채 태어난다. 맹자는 그 바탕을 선한 단서로 보았고, 순자는 다듬어야 할 재료로 보았다. 두 사람 모두 그 바탕을 인간이 고른 것이 아니라는 데는 동의한다. 갈라지는 지점은 그 다음이다. 주어진 조건은 수양의 출발점이지 종착점이 아니다. 왕부지에 이르면 이와 기는 분리되지 않으며, 인간은 기의 흐름 안에서 스스로를 변형시키는 존재로 그려진다. 자유는 조건 밖에 있지 않고 조건을 다루는 숙련 속에 있다.
도가는 다른 통로를 낸다. 무위자연은 아무것도 하지 않음이 아니라 억지로 하지 않음이다. 장자의 무용지용, 곧 쓸모없음의 쓸모라는 역설은 특히 지금 읽을 만하다. 굽고 옹이진 나무는 목재로 쓰이지 못했기에 베이지 않고 천수를 누렸다. 유용성의 척도에 완전히 포섭되지 않은 것만이 그 척도의 지배에서 벗어난다. 효율로 환산되지 않는 시간을 남겨두는 일은 낭비가 아니라 방어다.
불교의 연기는 더 급진적이다. 모든 것은 조건에 의존해 일어나며, 그 조건들과 무관한 고정된 자아는 없다. 언뜻 자유 의지의 부정처럼 들린다. 그러나 불교 전통이 도출한 결론은 체념이 아니라 수행이었다. 실체로서의 행위자가 없어도 행위의 책임은 성립한다. 조건이 나를 만들었다면, 조건에 개입하는 것이 곧 나를 바꾸는 일이기 때문이다. 조선의 동학이 사람이 곧 하늘이라 선언했을 때에도, 그것은 조건 없는 전능의 선포가 아니라 주어진 자리에서 발현되는 주체성의 선포였다.
조향은 아직 우리 손에 있다
이제 처음의 새벽으로 돌아간다.
조건화된 자유는 무균의 자유가 아니다. 나의 신경계, 나의 습관, 내가 사는 시대의 장치는 모두 내가 고르지 않은 조건이다. 자유는 그 조건을 벗어나는 데 있지 않다.
해리 프랭크퍼트는 인간이 욕구를 가질 뿐 아니라 그 욕구에 대한 욕구를 가진다는 점에 주목했다. 나는 다음 영상을 보고 싶다. 동시에 나는 그것을 보고 싶어 하지 않기를 원한다. 이 두 번째 층위의 승인 또는 거부가 있는 한, 그 행위는 단순한 반응이 아니다. 대니얼 데닛은 자유를 다르게 회피할 수 있었는가라는 형이상학적 물음에서 떼어내, 실제로 위험을 회피할 수 있는 능력으로 재정의했다. 자유는 우주적 예외가 아니라 진화한 역량이다.
개인의 층위에서 필요한 것은 절제의 의지가 아니라 반성적 거리다. 의지는 설계와의 싸움에서 대체로 진다. 대신 무엇이 나의 주의를 어떤 방식으로 가져가는지를 명시적으로 파악하고, 그 구조에 개입해야 한다. 자동 재생을 끄는 일은 사소해 보이지만, 조건을 손대는 행위라는 점에서 결심보다 강하다.
설계의 층위는 더 근본적이다. 앤드루 핀버그가 지적했듯 기술의 코드는 정치적 선택의 침전물이며, 따라서 민주적 재구성의 대상이다. 가치 민감 설계와 참여적 설계는 그 재구성을 개발 초기 단계로 끌어올리려는 시도다. 무엇을 최적화할 것인지가 곧 어떤 인간을 만들 것인지의 문제라면, 그 질문은 설계실 안에만 머물 수 없다.
알고리즘 시대의 인간다움은 기술을 거부하는 데 있지 않다. 기술에 판단을 맡기는 데는 더더욱 없다. 레일은 이미 깔려 있고, 그 레일을 놓은 것도 인간이다. 우리에게 남은 자유는 레일 밖으로 뛰어내리는 자유가 아니라, 레일이 어디로 향할지를 다시 묻고 조금씩 방향을 트는 능력이다. 조건을 없앨 수는 없지만, 조건을 아는 자만이 조건을 바꾼다.