04. 네 번째 수업: 유효숫자의 비밀 (Significant Figures)
숫자가 엄청나게 길다고 해서 무조건 좋은 것이 아닙니다. $10\text{mm}$ 자로 길이를 재 놓고는, 종이에 $1.7000000000\text{cm}$ 라고 호들갑을 떨며 적어두면 지나가던 과학자들이 여러분을 기만자라고 욕할 것입니다.
여러분이 측정한 숫자 중에서 “진짜로 믿을 만한(의미가 있는) 알맹이 숫자들”의 개수, 그것을 바로 유효숫자(Significant Figures) 라고 부릅니다.
1. 그래서 누가 유효숫자인데? (판별법)
수많은 숫자 중에서 진짜 정보값을 담고 있는 “유효숫자”를 골라내는 눈은 공학자들의 기본 소양입니다. 딱 3가지 법칙만 기억하면 됩니다.
[법칙 1] 0이 아닌 숫자(1~9)는 무조건 $100\%$ 다 믿을 수 있는 유효숫자다.
- $456 \rightarrow$ 유효숫자 3개 ($4$, $5$, $6$)
- $1.23 \rightarrow$ 유효숫자 3개 ($1$, $2$, $3$)
[법칙 2] 0은 위치에 따라 믿을 놈과 안 믿을 놈으로 뼈대가 갈린다. 이게 사람을 가장 미치게 하는 포인트입니다. $0$이 어디 박혀있느냐에 따라 대우가 다릅니다.
- 사이에 낀 0 (샌드위치): 무조건 유효숫자!
- $305 \rightarrow$ 양쪽 숫자가 든든히 지켜주는 $0$은 의미 있는 측정값. (유효숫자 3개: $3$, $0$, $5$)
- 앞에 나열된 0 (병풍): 쓸모없는 허수아비! 유효숫자 아님!
- $0.0045 \rightarrow$ 앞의 $0.00$ 시리즈는 그냥 소수점을 만들어 주려고 억지로 끼워 넣은 자리 채움 용도입니다. (유효숫자는 뒤의 $4, 5$ 단 2개뿐!)
- 마치 45밀리미터를 미터로 적으려다 보니 $0.045\text{m}$라고 적은 것뿐, 잰 눈금의 능력은 똑같습니다.
[법칙 3] 소수점 뒤의 맨 마지막 0 (과시용 0) : 무조건 유효숫자!
- 정수 끝에 대충 붙은 $0$(예: “약 $4500$명”)은 반올림한 건지 진짜 $0$인지 헷갈리지만,
- 일부러 소수점 뒤에 박아 넣은 $0$ 은 다릅니다.
- $4.50 \rightarrow$ “난 $4.5$ 가 아니라 진짜 초정밀 기계로 소수점 둘째 자리까지 쟀는데 마침 거기 눈금이 $0$ 이었어!” 라는 강렬한 자기 과시입니다. 따라서 이 $0$은 믿을 만한 핵심 데이터(유효숫자 3개)로 쳐줍니다.
2. 유효숫자 카운팅 실전 퀴즈
숫자들을 던져줄 테니 진짜 쓸모 있는(유효한) 측정 능력이 몇 개인지 파악해 봅시다!
- $20.45$ $\rightarrow$ 유효숫자 몇 개?
- 정답: 4개 ($2, 0, 4, 5$. 0이 샌드위치처럼 사이에 끼어 있으므로 진퉁!)
- $0.007$ $\rightarrow$ 유효숫자 몇 개?
- 정답: 1개 (앞에 있는 $0.00$ 은 자리 채우기 병풍, 찐 알맹이는 $7$ 하나뿐!)
- $6.00$ $\rightarrow$ 유효숫자 몇 개?
- 정답: 3개 (뒤에 굳이 소수점으로 어필한 $0$ 은 강력한 측정 정밀도의 상징!)
3. 연산할 때 폭발하는 유효숫자 (정밀도의 하향 평준화)
덧셈이나 곱셈을 할 때, 초정밀 눈금으로 잰 측정값과 싸구려 자로 잰 측정값을 섞으면 전체 결과물은 어떻게 될까요? 정답은 “가장 형편없는(유효숫자가 적은) 측정값의 눈금 수준(구린 스펙)으로 깎여 내려간다” 입니다. $100\%$ 깨끗한 생수에 흙탕물(오차) 한 방울을 떨어뜨리면, 물 전체가 탁해지는 것과 같은 공학의 법칙입니다.
이 유효숫자를 관리하는 법칙을 우아하게 표기하는 방법이 바로 다음 챕터에 나올, 우주 미사일 궤도를 표현하는 ‘과학적 표기법’입니다.