07. 일곱 번째 수업: 루트 2가 무리수인 이유 (Irrational Proof)

히파소스는 피타고라스 학파에게 도대체 어떤 기막힌 설명을 했길래 죽임을 당해야 했을까요? “$\sqrt{2}$ 는 분수로 만들 수 없습니다!”라는 주장은, 칠판에 적힌 단 몇 줄의 대수학(Algebra) 증명만으로 완벽하게 사실로 판별 났기 때문입니다. 이 증명은 인류 수학사에서 가장 우아하고 아름다운 “귀류법(모순 이끌어내기)” 증명으로 꼽힙니다.

1. 귀류법: 거짓말쟁이를 함정에 빠뜨리기

귀류법(Proof by Contradiction)이란, 일단 우기기 대장(상대방)의 억지 주장을 “맞다고 쳐보자~” 하고 가정한 뒤, 논리를 계속 밀어붙이다가 결국 말도 안 되는 큰 모순(어불성설)에 부딪히게 만들어 스스로 항복하게 하는 탐정의 기술입니다.

히파소스의 무기는 아래와 같았습니다. “좋습니다, 장로님들. $\sqrt{2}$ 가 유리수라고 한 번 우겨보겠습니다.”

2. 증명의 시작 (기약분수 세팅)

만약 $\sqrt{2}$ 가 진짜로 유리수라면, 분모와 분자로 깔끔하게 표현되어야만 하겠죠.

\(\sqrt{2} = \frac{a}{b}\) (단, $a$ 와 $b$ 는 공약수가 오직 $1$ 뿐인 더 이상 약분할 수 없는 ‘기약분수’의 정수입니다.)

이 기약분수 약속이 바로 모순을 터뜨릴 뇌관입니다.

3. 치명적인 오류의 발견

양변을 사이좋게 제곱($x^2$) 해보겠습니다. $2 = \frac{a^2}{b^2}$

양변에 곱하기 $b^2$ 을 돌려주면 $2b^2 = a^2$ — (1번 식)

어떤 숫자($b^2$)에 $2$를 곱했으니, 왼쪽 값인 $2b^2$은 무조건 짝수(Even)입니다. 왼쪽이 짝수면 이퀄($=$) 마크로 이어진 오른쪽인 $a^2$ 도 무조건 짝수여야 합니다. 그런데 소수 상식상, 제곱해서 짝수가 되려면 원래 숫자였던 $a$ 본인도 무조건 짝수일 수밖에 없습니다. (홀수의 제곱은 홀수).

좋습니다. $a$가 짝수라는 걸 알아냈으니, 짝수의 표현법인 $a = 2k$ 로 살짝 치환해서 다시 (1번 식)에 대입해 볼까요?

$2b^2 = (2k)^2$ $2b^2 = 4k^2$ 양변을 2로 나누면? $b^2 = 2k^2$

어라? 이번엔 바뀐 오른쪽 식에 $2$가 곱해져 있으니 무조건 짝수네요. 그렇다면 반대편인 $b^2$ 도 짝수이고, 결과적으로 그 뿌리인 $b$ 본인도 짝수여야 합니다!

4. 수학계의 논리적 폭발 (모순)

여기서 함정이 펑! 터집니다. “아니, 분명히 맨 처음에 $\frac{a}{b}$ 는 끝까지 약분해서 분모와 분자가 서로 더 이상 나눠지지 않는 기약분수라고 우겼잖아요?”

그런데 증명을 굴려보니 분자($a$) 도 짝수(2로 나눠짐), 분모($b$) 도 짝수(2로 나눠짐)라는 기가 막힌 결론이 나와버렸습니다. 둘 다 최소공약수 2를 당당히 가지고 있다니! 기약분수라는 전제 자체가 완전히 박살 난 것입니다.

이것이 모순. 애초에 $\sqrt{2}$ 를 분수로 억지로 우겨 넣으려 했던 가정 자체가 ‘새빨간 거짓말’이었던 것입니다. 따라서, $\sqrt{2}$는 어떠한 정수의 분수로도 나타낼 수 없는 수, 즉 그토록 두려워하던 무리수임이 최종 확정되었습니다!