본문
유효숫자, 과학적 표기법의 정의 및 문제풀이
유효숫자란, 오차의 범위를 정확하게 표기하기 위하여 사용하는 “측정값이나 계산값의 의미있는 수”를 의미한다. 또한 유효숫자의 마지막 숫자는 (반올림 등으로 인한) 불확실한 숫자를 뜻할 수 있다. 또한 같이 사용되는 과학적 표기법은 N * 10^n의 형태의 표기법을 뜻하며, 이때 N은 1이상 10미만의 수, n은 정수를 가리킨다.
유효숫자의 계산은 덧/뺄셈과 곱/나눗셈에 있어서 차이를 보인다.
덧/뺄셈의 경우, [과학적 표기법을 사용한 상태에서 같은 지수(n)를 갖도록 조정하고] 소수점상의 유효숫자가 가장 적은쪽으로 맞추어 반올림한다.
ex) 2.097(소숫점상 유효숫자 3개)-0.12(소숫점상 유효숫자 2개)=1.977=>1.98(소숫점상의 유효숫자를 2개로 맞추기 위해 반올림함.)
곱/나눗셈의 경우, 가장 적은 유효숫자를 기준으로 반올림을 한다.
ex) 2.8(유효숫자 2개) x 4.5039(유효숫자 5개)=12.61092=>13(유효숫자 2개로 맞추기 위하여 반올림)
문제풀이
* 7.310(4개)/5.70(3개)=1.28(3개)
->나눗셈의 경우이므로, 식에서 가장 적은 유효숫자를 가지는 5.70(3개)을 기준으로 결과의 유효숫자를 맞춘다
* (3.26x10^-3) – (7.88x10^-5) = (3.26x10^-3) - (0.0788x10^-3) = (3.182x10^-3) = (3.18x10^-3)
-> 뺄셈의 경우이므로 우선 같은 지수를 가지도록 맞춘 후(10^-3으로) 둘을 빼고, 가장 작은 소숫점상의 유효숫자가 2개이므로 결과도 소숫점상의 유효숫자가 2개가 되도록 맞춘다. 지수 두개를 늘리려면 소숫점을 오른쪽으로 두칸 움직여준다.
* (4.02x10^6) + (7.74x10^7 ) = (0.402x10^7) + (7.74x10^7) = (8.14x10^7)
-> 덧셈의 경우이므로 우선 같은 지수를 가지도록 맞춘 후 (10^7으로) 둘을 더하고, 가장 작은 소숫점상의 유효숫자가 2개이므로 결과도 소숫점상의 유효숫자가 2개가 되도록 맞춘다. 지수 하나를 늘리려면 소숫점을 오른쪽으로 한칸 움직여준다.
* (7.8-0.34) / (1.15+0.82) = (7.46->7.5) / (1.97) = 7.5 / 1.97 = 3.807106598984772 = 3.8
========================
책이 번역이 깔끔하지 않아서 개념정리겸 해서 글을 올린다. 본문의 '1~10의 수'라는게 뭔가 해서 원문을 찾아보니 'a number between 1 and 10'이었다. 상식상 1이상 10 미만의 수라고 생각되는데, 역자에게 해석이 애매하자 대충 때워 넘긴 느낌이다.
between A and B는 참 오묘하다 어떨때는 양단을 포함하기도 하고, 어떨때는 포함하지 않기도 한다. 물론 데이터베이스에서의 between은 양단을 포함하는 개념을 사용한다. 어떤 사람들은 이러한 혼란을 방지하기 위해 'inclusive/exclusive' 혹은 'but not'등의 단어를 붙여 사용하기도 한다. 물론 from A to B라고 하는게(양단 포함) 명확하겠지. 특히 위와같은 경우에는 수학적 표현법을 차용하여 1'이상'을 'more than or equal to', 10 미만을 'less than'이라고 구분하여 쓰는게 더 좋았으리라!
그리고 위 그림에서 '유효숫자가 무한함'이라고 적어놓았는데 '모든 숫자가 유효하다'라고 하는것이 더 이해가 쉬울것 같다. 다시 수정하기 번거로워서 그냥 놔둔다. 또 덧붙이자면 맨 마지막 '다양한 유효숫자가 나올 경우'라는것은 소숫점이 없을때에 대한 이야기이며, 이때, 뒷부분에 붙은 0에 대해서 이것이 유효하냐 무효하냐에 대한 의문에 다양한 결과가 나올 수 있다는 의미이다.
댓글