66  갈루아와 5차방정식

— 풀 수 없음을 증명하는 아름다움

66.1 300년의 집착

2차방정식의 근의 공식은 중학교에서 배운다. 3차, 4차도 공식이 있다. 복잡하지만 존재한다. 그러면 5차는?

300년간 수학자들이 5차방정식의 근의 공식을 찾았다. 1824년, 아벨이 “없다”고 증명했다. 그런데 아벨의 증명에는 빈자리가 있었다. 없다는 것은 보였지만, 왜 없는지는 설명하지 못했다.

66.2 결투 전날 밤

에바리스트 갈루아는 20세에 죽었다. 결투 전날 밤, 그는 편지를 썼다. 그 편지에는 수학이 아니라 수학을 보는 새로운 방식이 들어 있었다.

갈루아는 방정식을 풀려고 하지 않았다. 대신 방정식의 대칭 구조를 봤다. 기존 질문이 “근이 무엇인가?”였다면, 갈루아의 질문은 “근들 사이의 관계가 무엇인가?”였다. 논리보다 먼저 온 감각이었다. 갈루아가 결투 전날 밤 편지 한 장에 핵심 아이디어를 전부 쏟아낸 것 자체가 그 증거다. 체계적으로 조립한 것이 아니라 한꺼번에 쏟아져 나왔고, 그 진동이 군론이라는 형태로 고정된 것이다.

66.3 군(Group)이라는 구조

갈루아가 만든 것은 군(Group) 이라는 구조다. 방정식의 근들이 서로 어떻게 치환될 수 있는지, 그 치환들이 어떤 구조를 이루는지를 본 것이다.

근의 공식이 하는 일은 이 군을 단계적으로 쪼개는 과정이라고 생각하면 된다. 2차, 3차, 4차 방정식의 군은 단계적으로 쪼갤 수 있고, 그래서 공식이 존재한다. 그런데 5차방정식의 군은 단순군이다. 더 이상 쪼갤 수 없다. 쪼갤 수 없으면 공식도 없다.

얼핏 보면 “풀 수 없다”는 것이 실패처럼 느껴지는데, 전혀 아니다. 풀 수 없음이 구조적 필연이 되는 순간, 불가능성 자체가 정리가 된다. 아벨이 “없다”고만 말했다면, 갈루아는 없을 수밖에 없는 이유를 구조로 보여준 것이다.

66.4 편지 한 장이 바꾼 것

갈루아 이론은 방정식을 넘어섰다. 대수학 전체의 기초가 되었고, 암호학의 뼈대가 되었고, 물리학의 대칭성 이론으로 확장되었다. 20세 청년이 결투 전날 밤에 쓴 편지 한 장이 수학의 언어 자체를 바꿨다.

66.5 맺음

나가르주나는 밖에서 본질을 부정하여 안을 비웠고, 아인슈타인은 설명해야 할 것 자체를 제거했다. 갈루아는 답을 구하는 대신, 답이 없는 이유를 구조로 보여줬다. 방향은 다르지만 셋 다 같은 곳에 도착한다 — 질문의 좌표계를 바꾸면 세계가 달라 보인다.

AngraMyNew에서 “아름다운가?”라는 질문도 같은 구조다. 답을 찾는 것이 아니라, 답이 될 수 없는 것을 가려내는 과정이다. 값보다 관계를 먼저 보는 것. 가장 아름다운 증명은 답을 구하지 않고, 답이 없는 이유를 구조로 보여준다.

66.6 관련 문서