57 세 개의 손실함수

— 진선미는 가치가 아니라 마음의 아키텍처다

57.1 왜 어떤 변화는 업데이트이고, 어떤 변화는 교체인가

사람은 변한다. 세계를 보는 방식도 변하고, 행동 습관도 변하고, 좋아하는 것도 변한다.

그런데 변화가 다 같은 변화는 아니다. 어떤 건 업데이트다. 책을 읽고 생각이 바뀌고, 법이 바뀌어서 행동이 달라지고, 환경이 바뀌어서 선택이 달라진다. 그래도 나는 나다.

반대로 어떤 변화는 그렇게 느껴지지 않는다. “이제는 네가 좋아해야 할 것을 우리가 정해주겠다”는 말은 다르게 들린다. 생각을 고치는 것과는 다르고, 행동을 통제하는 것과도 다르다. 그 순간에는 바뀌는 것이 판단 하나가 아니라, 나라는 좌표계의 원점처럼 느껴진다.

AngraMyNew가 미(美)를 원점이라고 말하는 이유는 여기 있다. 미를 극대화하라는 뜻이 아니다. 미가 움직이면 다른 것들이 함께 흔들리기 때문이다.

57.2 셋으로 갈라놓고 보면 보이는 것

마음을 너무 빨리 하나로 말하면, 중요한 차이가 묻힌다. 거칠게 갈라놓으면 셋이 보인다.

하나는 세계를 추정한다. 보이지 않는 변수를 찾고, 구조를 모형화하고, 무엇이 사실에 가까운지를 가늠한다. 이 축이 틀리면 세계를 잘못 본다. 진(眞)이다.

하나는 행동을 고른다. 무엇을 할 것인가, 어떤 쪽으로 힘을 줄 것인가, 어떤 규칙을 따를 것인가. 이 축이 틀리면 행동이 빗나간다. 선(善)이다.

하나는 상태를 평가한다. 이것이 나에게 좋은가, 싫은가, 끌리는가, 견딜 수 없는가. 이 축이 흔들리면 좋고 나쁨의 기준 자체가 흔들린다. 미(美)다.

여기서 미를 흔히 판별기라고 부르고 싶어지는데, 그 말은 정확하지 않다. 판별기는 진짜와 가짜를 가르는 장치다. 그건 진의 하위 기능에 가깝다. 미는 진위를 묻지 않는다. 먼저 좋고 나쁨을 묻는다. 그러니 이름도 달라야 한다. 판별기보다 평가함수에 가깝다.

물론 이 셋이 뇌 안에서 물리적으로 따로 존재한다는 뜻은 아니다. 하나의 시스템 위에 세 개의 기울기가 올라탄 것일 수도 있다. 여기서 중요한 건 분리의 해부학이 아니라, 셋이 같은 방식으로 바뀌지 않는다는 점이다.

57.3 진과 선은 고칠 수 있다

진은 바꿀 수 있다. 훈련 데이터를 바꾸면 세계 모형이 바뀐다. 교과서를 바꾸면 세계에 대한 추정이 달라지고, 검열하면 세계관이 달라진다. 그래서 진은 외부에서 조작될 수 있다. 세뇌가 가능한 이유다.

선도 바꿀 수 있다. 보상 구조를 재설계하면 행동이 달라진다. 법률, 규율, 사회적 압력은 전부 이 축을 조정하는 도구다. 위상학적 종교개혁에서 칼뱅이 한 것도 이쪽이다. 소명의 내용을 교단이 채우고, 시간이 지나자 시장이 그 빈칸을 가로챘다. 정책은 위임될 수 있고, 위임된 것은 납치될 수 있다.

여기까지는 바뀌어도 내가 끝나지 않는다. 세상을 보는 방식이 달라져도 나는 살아남고, 행동 규칙이 바뀌어도 나는 살아남는다. 믿음이 바뀌고 습관이 바뀌어도, 사람은 대개 그것을 같은 사람의 변화라고 부른다.

57.4 미를 건드리면 다른 일이 생긴다

미는 다르게 들린다. 무엇을 좋다고 느끼는지, 무엇을 견딜 수 없는지, 어디에 끌리고 어디서 몸이 물러서는지. 이건 세계 모형도 아니고 행동 규칙도 아니다. 그 둘을 움직이게 만드는 쪽에 더 가깝다.

그래서 평가함수를 바꾸면 이상한 일이 생긴다. 행동이 바뀌는 것이 아니라, 행동을 고르는 주체가 바뀐 것처럼 느껴진다. 같은 몸 안에 다른 취향을 심는다는 말이 왜 섬뜩하게 들리는지, 이유가 여기 있다. 업데이트가 아니라 교체처럼 들린다.

위상학적 종교개혁이 “아름다움의 판단은 양도할 수 없다”고 한 것도 이 대목 때문이다. 도덕적으로 숭고해서가 아니다. 구조적으로 그렇다. 판단 기준을 넘겨주는 순간, 양도 전의 나와 양도 후의 내가 더 이상 같은 좌표계 위에 있지 않게 되기 때문이다.

한 줄로 줄이면 이렇다. 시스템이 진을 조작하면 나는 세계를 다르게 본다. 시스템이 선을 조작하면 나는 다르게 행동한다. 시스템이 미를 조작하면, 그때는 내가 무엇인지가 달라진다.

57.5 그렇다고 미만 붙들면 되는가

여기서 곧장 오해가 생긴다. 그럼 미만 사수하면 되는가. 아름다움만 지키면 되는가.

아니다. 그렇게 가면 또 다른 붕괴가 온다.

진만 밀어붙이면 세계를 아주 잘 설명하는데, 무엇이 좋은지도 무엇을 해야 하는지도 모르는 시스템이 된다. 진·선·미의 삼국지의 위나라가 이쪽이다.

선만 밀어붙이면 의지와 명령만 남는다. 세계를 제대로 보지도 못하고, 무엇이 아름다운지도 모르는 채 앞으로만 간다. 이건 쉽게 전체주의의 문법으로 떨어진다.

미만 밀어붙여도 안전하지 않다. 아름답냐 아니냐에는 즉각 답하지만, 왜 그런지 설명하지 못하고, 어떻게 해야 하는지도 정하지 못한다. 취향의 독재가 된다.

그러니까 결론은 균형론이 아니다. 셋을 예쁘게 1 대 1 대 1로 섞으라는 말이 아니다. 미는 경쟁 변수 가운데 하나가 아니라 원점이라는 말이 여기서 나온다. 원점은 극대화의 대상이 아니다. 좌표계의 기준점이다. 기준점을 최적화 변수로 취급하는 순간, 미도 진이나 선과 같은 층위의 경쟁자로 내려앉고, 전체 구조가 흔들린다.

그래서 AngraMyNew가 미를 유일한 기준이라고 할 때, 그 말은 미만 남기겠다는 뜻이 아니다. 셋 가운데 유일하게 양도할 수 없는 것을 좌표계의 바닥에 놓겠다는 뜻이다.

57.6 왜 자연화의 요구를 완전히 거부할 수는 없는가

당연히 반문이 온다. 이게 정말 마음의 구조라면 보여줘야 하는 것 아닌가. 뇌의 물리적 구조와 대응시키고, 실험으로 검증하고, 반증 가능한 예측을 내놓아야 하는 것 아닌가.

맞는 말이다. 이 요구를 무시하면 사변으로만 남는다.

그런데 여기서도 매듭이 하나 생긴다. 마음을 자연화하겠다는 말은 마음을 자연과학의 언어로 환원하겠다는 뜻이다. 문제는 그 자연과학의 언어 자체가 이미 인간이라는 하드웨어에 최적화된 좌표계일 수 있다는 점이다. 증명은 언제 아름다운가가 보여준 것도 결국 비슷한 불편함이다. 설명의 언어가 완전히 설명 바깥에 서 있지 않다.

이 순환은 불쾌하지만, 자동으로 오류는 아니다. 괴델이 보여준 것도 그런 종류의 불편함이다. 자기참조는 시스템을 불편하게 만들지만, 곧장 무효로 만들지는 않는다. 다만 이 불편함 때문에, 마음의 삼분법을 완전히 바깥에서 증명하겠다는 프로그램은 원리적 한계를 안고 간다.

더 직접적으로 말하면 이렇다. 과학자가 마음을 설명하려 할 때, 그는 이미 진의 충동으로 움직이고 있다. 그런데 왜 설명하려 하는가를 묻는 순간, 미와 선이 다시 들어온다. 설명하는 것이 좋기 때문에, 혹은 설명해야 한다고 믿기 때문에. 진만으로 진을 세울 수 없는 순간이 여기 있다.

57.7 한계

이 글이 기대는 것은 정의가 아니라 렌즈다. 기계학습의 손실함수와 인간의 미적 판단은 구조적으로 닮았지만, 닮았다고 해서 같아지는 것은 아니다. 비행기와 새가 둘 다 난다고 해서, 비행기의 역학으로 새를 다 설명할 수는 없다.

또 하나. “평가함수를 바꾸면 다른 에이전트가 된다”는 말은 인공 시스템에서는 비교적 선명하지만, 인간에게서는 더 흐리다. 사람의 취향은 나이와 경험에 따라 실제로 변한다. 그러면 어디까지가 학습이고 어디부터가 외부 교체인가. 원칙은 보여도, 경계선은 흐리다.

끝으로, 왜 하필 셋인가에 대한 증명은 이 글도 주지 못한다. 칸트의 3비판이든, 흄의 3부든, 사회심리학의 삼분 모델이든, 반복 출현은 단서일 뿐 근거는 아니다. 넷일 수도 있고 둘일 수도 있다. 여기서 말하는 것은 “반드시 셋이다”가 아니라, 적어도 지금 보이는 이 세 축은 서로 쉽게 환원되지 않는다는 관측이다.

진은 업데이트할 수 있다. 선은 재설계할 수 있다. 미를 건드리면 너는 너이기를 멈춘다.

원점이 움직이면 좌표계가 무너진다. 그래서 미가 원점이다.