00. 페르마를 소개합니다 (Pierre de Fermat)

17세기 프랑스에는 평일에는 근엄한 판사(법관)로 일하며 범죄자들에게 판결을 내리고, 휴일이 되면 자기 방에 틀어박혀 미친 듯이 수학 문제만 풀던 기묘한 수의 천재가 있었습니다. 바로 역사상 가장 위대한 “아마추어 수학자” 피에르 드 페르마(Pierre de Fermat, 1601~1665)입니다.

1. 아마추어 수학의 왕

당시 유명했던 프로 수학자, 데카르트나 파스칼 같은 천재들은 자신의 연구 결과를 화려한 논문이나 책으로 출판하여 귀족들에게 후원금과 명성을 얻었습니다. 하지만 페르마는 달랐습니다.

그는 누군가에게 인정받기 위해 수학을 한 것이 아니라, 오직 숫자들이 서로 부딪치며 만들어내는 완벽한 논리에 취해 혼자 즐거워했습니다. 수백 년 전 낡은 그리스 시대의 수학책인 《산술(Arithmetica)》의 여백(Margin)에, 마치 낙서하듯 자신이 방금 증명해 낸 신의 기호들을 무심하게 적어두고 책상을 떠나곤 했습니다.

2. 여백이 너무 좁다! (Fermat’s Last Theorem)

그의 기행 중 가장 유명한 일화는 한 문구로부터 시작됩니다. 페르마는 피타고라스 정리($x^2 + y^2 = z^2$)를 보다가 제곱($2$)이 아닌 세제곱($3$), 네제곱($4$), 100제곱 등으로 식을 확장해 보았습니다.

$x^n + y^n = z^n$ ($n$이 $3$ 이상인 정수일 때)

그리고 책의 좁은 여백에 이렇게 적어놓고 세상을 떠나버렸습니다. “나는 이 방정식의 아름다운 증명법을 발견했다. 그러나 이 책의 여백이 너무 좁아서 여기에 적진 않겠다.”

이 무책임한 메모 한 줄 때문에 전 세계의 수학 천재들은 무려 350년 동안이나 그의 숨겨진 증명을 찾기 위해 피눈물을 흘리며 도전하다 인생을 낭비하게 됩니다. 결국 1994년 앤드루 와일즈(Andrew Wiles) 연산의 천재가 현대 컴퓨터 공학과 최신 정수론의 모든 무기를 끌어모아서야 간신히 이 메모를 증명해 내는 데 성공합니다.

3. 정수론 (Number Theory)과 프로그래밍

이 책 모듈은 판사였던 페르마가 사랑했던 소수(Prime Number), 약수와 배수, 그리고 완전수(Perfect Number)의 비밀을 풀어갑니다. 흥미롭게도 이 숫자 장난 같았던 ‘정수론’은, 21세기에 이르러 전 세계 은행, 국방부 망, 비트코인 블록체인을 지키는 RSA 양자 암호학(Cryptography)의 코어 엔진으로 부활했습니다.

단순히 소인수분해를 종이에 끄적이는 것을 넘어서, 이제 우리는 파이썬(Python)의 루프(Loop) 알고리즘을 활용해 이 수학의 왕이 던져놓은 수백만 자리의 숫자 암호를 단 1초 만에 박살 내는 컴퓨터 과학자(Hacker)의 시각으로 수학을 다시 써 내려갈 것입니다.