26  완비성 공리 — 끝까지 가본 적 없는 땅

26.1 구멍이 없다는 약속

실수의 완비성 공리는 한 문장이다. 수직선 위에 구멍은 없다.

유리수 — 분수로 나타낼 수 있는 수 — 는 수직선 위에 빽빽하게 깔려 있지만, 확대하면 빈자리가 보인다. √2가 들어가야 할 곳에 유리수가 없다. 완비성 공리는 이 빈자리가 전부 메워진 상태를 선언한다. 코시 수열 — 항이 진행될수록 서로 간격이 좁아져서 한 점으로 뭉치는 수열 — 이 도착하는 그 자리에 반드시 실수가 존재한다는 것이다.

그런데 끝까지 가본 적은 없다. 1.4, 1.41, 1.414, 1.4142…로 이어지는 이 수열은 √2를 향해 가지만 마지막 항이 없다. 완비성 공리가 보증하는 것은 “끝까지 갔을 때 도착지가 있다”인데, 끝까지 간다는 것 자체가 불가능하다. 도달할 수 없는 곳에 땅이 있다는 보증서다.

26.2 무한을 공짜로 쓴다는 것

이 보증서가 작동하려면 무한이 필요하다. 수열이 “끝없이” 수렴하고, 그 “끝”에 실수가 있어야 하니까. 수학은 이 무한을 공짜로 쓴다. 종이 위에서는 무한한 과정이 기호 하나로 처리되고, 비용은 발생하지 않는다.

비용이 발생하는 곳은 수학 바깥이다.

컴퓨터는 실수를 표현하지 못한다. 유한한 비트로 무한한 소수점을 담을 수 없기 때문에 부동소수점이라는 근사치를 쓴다. 빈틈없이 꽉 찬 수직선이 아니라, 듬성듬성 박혀 있는 징검다리 위에서 계산하는 것이다. 인공지능의 핵심 엔진인 자동미분은 극한(lim)을 아예 쓰지 않고, ε²=0이라는 유한한 대수 규칙으로 미분을 처리한다. 수학이 발행한 무한의 보증서를 기계에 들이밀면, 기계는 받지 않는다.

물리학도 받지 않는다. 플랑크 길이(약 10⁻³⁵m) 아래에서는 공간을 더 쪼개는 것이 의미를 잃고, 양자중력 이론들은 시공간이 연속이 아니라 이산적인 그물이라고 본다. 완비성 공리가 수직선에 한 것 — 구멍 없이 매끄럽게 이어진다 — 을 공간에 적용하면, 이 스케일에서 무너진다.

수학의 종이 위에서는 무한이 공짜다. 종이 바깥에서는 누구도 그 값을 치르지 못한다.

26.3 양자역학이라는 반론, 그리고 반론의 붕괴

한 가지 반론이 남는다. 양자역학의 큐비트는 0도 1도 아닌 중간 상태를 가질 수 있다. 일반 컴퓨터의 비트가 스위치 — 켜짐 아니면 꺼짐 — 라면, 큐비트는 그 사이 어디든 가리킬 수 있는 다이얼이다. 다이얼의 눈금은 연속적이고, 이론상 무한한 정밀도로 조절할 수 있다. 자연이 실제로 연속체를 쓰고 있다는 증거 아닌가.

교과서상으로는 그렇다. 그러나 결과를 꺼내려고 측정하는 순간, 다이얼은 0 아니면 1로 딱 걸린다. 중간값은 사라진다. 안에 아무리 정밀한 상태가 있어도, 한 번 들여다보면 꺼낼 수 있는 것은 0 또는 1뿐이다. 과정은 무한을 빌려 쓰지만, 결과는 유한으로 닫힌다.

실제 양자컴퓨터를 만들면 더 분명해진다. 다이얼을 정확한 위치에 놓아도, 열이나 진동 같은 노이즈 때문에 미세하게 흘러간다. 이 흘러감을 고치는 기술이 양자 오류 정정인데, 고치는 방법이 놀랍다 — 흘러간 위치를 정밀하게 되돌리는 것이 아니라, “뒤집혔냐/안 뒤집혔냐”로 강제 이분하는 것이다. 연속적인 오차를 두 상태로 짓눌러서 처리한다. 양자컴퓨터조차 작동하려면 무한을 유한으로 끌어내려야 한다.

자연이 무한을 쓰는 것처럼 보인다. 그러나 자연 자체가 그 무한을 끝까지 허락하지 않는다.

26.4 이중부정이라는 공통 구조

증명은 언제 아름다운가는 귀류법의 인지 비용을 다뤘다. “아니다 → 아니다 → 맞다”로 도달한 명제는 논리적으로 같은 값을 갖더라도 인식이 미끄러진다는 것. 완비성 공리는 그 구조의 한 층 아래에 있다.

완비성 공리가 보증하는 존재는 구성된 존재가 아니다. √2를 유한한 단계 안에 써낸 것이 아니라, 그 수가 없다고 가정하면 모순이 생기니까 있어야 한다는 방식으로 자리를 확보한 것이다. 없음의 부정으로 있음을 세운다. 이중부정이다.

같은 구조가 통계학의 가설검정에도 있다. “차이가 없다”를 세워놓고, 그것이 참일 확률이 충분히 낮으면 기각하고, “차이가 있다”를 채택한다. “있다”를 직접 보여준 것이 아니라 “없다”가 말이 안 된다고 돌아간 것이다. 수학의 존재 증명, 통계의 p-value, 법정의 무죄 추정 — 전부 같은 뼈대다. 직접 구성하지 않고, 반대를 부정해서 통과시킨다.

작동은 한다. 잘 작동해왔다. 그런데 우회했다는 감각이 남는다.

26.5 균열을 메우는 가장 정교한 형태

완비성 공리는 빈자리를 메우겠다는 선언이다. 물고기에게 물을 보여줄 수 있는가에서 베유는 경고했다 — 상상력은 은총이 들어올 만한 모든 균열을 메워버린다고. 수학이 수직선의 구멍을 전부 메운 것은 정확히 이 충동의 가장 정교한 형태다. 구멍이 없는 체계는 완전하지만 닫혀 있고, 닫힌 체계에는 새로운 것이 들어올 자리가 없다.

26.6 맺음

완비성 공리 위에 미적분이 세워졌고, 미적분 위에 물리학이 세워졌고, 물리학 위에 공학이 세워졌다. 이 보증서는 수학에서 가장 성공한 보증서다.

문제는 이 보증서가 참이냐가 아니다. 이 약속이 어디까지 통하느냐, 그리고 종이 위에서 면제된 비용을 누가 바깥에서 치르느냐다. 컴퓨터는 이 보증서를 받지 않고, 물리학은 이 보증서가 통하지 않는 스케일을 알고 있고, 양자역학조차 무한을 빌려 쓰되 결과를 꺼낼 때는 유한으로 돌아온다. 공리는 발견이 아니라 선택이라고 했다. 완비성 공리는 무한을 공짜로 쓰겠다는 선택이었고, 그 청구서는 수학 바깥에서 계속 도착하고 있다.

26.7 관련 문서