00. 수학자들도 거부했던 금지된 숫자 이야기 (Intro)

“내 통장 잔고가 마이너스야.” 오늘날 우리는 이 슬픈 현실을 너무나 자연스럽게 받아들입니다. 하지만 불과 몇백 년 전까지만 해도, 서양의 천재 수학자들조차 통장 잔고가 $0$ 밑으로 떨어지는 이 ‘마이너스(-)’ 숫자를 “터무니없고 쓸모없는 가짜 숫자”라며 철저히 무시했습니다.

독일의 수학자 헤르만 한켈(Hermann Hankel)과 함께, 왜 과거 수학자들은 음수(Negative Numbers)를 두려워했는지, 그리고 어떻게 그것이 현대 수학과 컴퓨터 공학을 움직이는 필수 톱니바퀴가 되었는지 알아봅시다.

학습 목표

• 고대와 중세 수학자들이 음수를 방정식의 해로 인정하지 않았던 역사적 배경을 이해합니다.
• 눈에 보이지 않는 방향성과 상태(빚, 반대 방향)를 표현하기 위해 ‘음수’가 필연적으로 등장해야만 했던 이유를 배웁니다.

1. 사과가 -3개 있다고? (Absurd Numbers)

수학은 본래 개수나 길이, 넓이처럼 ‘눈에 보이는 것’을 재기 위해 탄생했습니다. 만약 여러분이 사과 5개를 가지고 있는데, 동생이 “사과 8개를 줘!”라고 요구한다면 어떻게 될까요? 옛날 사람들은 “내가 5개밖에 없는데 어떻게 8개를 줘? 불가능해!” 하고 계산을 그만두었습니다.

중세 유럽의 수학자들은 $x + 5 = 2$ 같은 방정식을 마주하면, 해답( $-3$ )을 구하려고 시도조차 하지 않았습니다. 그들은 이 답을 ‘터무니없는(absurd)’ 수 이자 존재하지 않는 허상이라고 취급했습니다. 당시 최고의 수학자였던 디오판토스, 파스칼, 심지어 데카르트 같은 거장들도 “아무것도 없는 무(0)보다 더 작은 것이 존재한다는 것은 논리적 모순이다”라며 음수를 거부했습니다. (데카르트는 음수를 ‘거짓된 수’라 불렀죠!)

2. 한켈의 일침: 눈에 보이지 않아도 ‘규칙’이 있다면 수(Number)다!

수백 년 동안 홀대받던 음수가 시민권을 획득한 것은, 상업이 극도로 발달하면서부터였습니다. 눈에 보이는 사과 갯수가 아니라, “내가 친구에게 1만 원을 빚진 상태”를 장부에 기록해야 했기 때문입니다. 이탈리아 상인들은 잃은 돈이나 빚을 적을 때 숫자 앞에 마이너스(-) 기호를 그려 넣기 시작했습니다.

독일의 수학자 헤르만 한켈(Hermann Hankel)은 이런 역사적 대립을 끝내버린 논리학자였습니다. 그는 수학책에 이런 요지의 문장을 남겼습니다.

“수학에서 숫자란 꼭 눈에 보이는 개수나 빵 조각만을 의미하지 않는다. 우리가 약속한 기호들의 순서와 연산 ‘규칙’에 모순이 없다면, 그것은 당당한 수학적 객체(형식)이다!”

오늘날 컴퓨터 프로그래밍과 데이터베이스에서는 음수를 전혀 이상하게 여기지 않습니다. 은행 전산망 데이터베이스에서 사용자의 자산을 뜻하는 변수인 account_balance가 0보다 작아지면 서버가 터지거나 “불가능한 수치입니다”라며 계산을 포기하지 않습니다. 단지 상태값이 양(Positive)에서 음(Negative, 빚)으로 변환되었을 뿐, 컴퓨터는 기존의 덧셈/뺄셈 공식을 그대로 적용해 아무 불만 없이 마이너스 대출 이자를 계산해냅니다.

학습 정리

1. 음수의 역사적 거부: 고대와 중세 수학자들은 ‘0’보다 작은 것은 현실에 존재하지 않는 허상이라고 생각하여 음수를 인정하지 않았다.
2. 형식 불역의 원리 (한켈): 숫자는 눈에 보이는 대상을 넘어서서, 약속된 연산 규칙만 모순 없이 맞아떨어진다면 수학적 개념(수)으로 정당하게 인정된다는 현대적 관점.
3. 현대에는 음수가 대출(빚), 온도의 저하, 해수면 아래의 깊이, 혹은 운동의 반대 방향 등 눈에 보이지 않는 ‘상태와 방향’을 표기하는 가장 완벽한 언어로 쓰이고 있다.