줌달 (8판) 1.5 유효 숫자와 계산

유효 숫자를 세는 규칙

​

1. 0이 아닌 정수. 0이 아닌 정수는 모두 유효 숫자에 포함시킨다.

​

2. 0. 세 가지 종류의 0이 있다.

a. 0이 아닌 숫자 앞에 오는 0: 유효 숫자에 포함시키지 않는다. 숫자 0.0025에서 앞에 있는 세 개의 0은 소수점의 위치만 나타낸다. 이 숫자는 두 개의 유효 숫자를 가진다.

b. 숫자 중간에 있는 0: 이것은 항상 유효 숫자에 포함시킨다. 숫자 1.008은 네 개의 유효 숫자를 가진다.

c. 숫자의 오른쪽에 있는 0: 숫자에 소수점이 있을 경우에만 중요하다. 숫자 100은 한 개의 유효 숫자를 가지며, 1.00 X 102은 세 개의 유효 숫자를 가진다.

​

3. 완전수. 측정 장치를 사용하지 않고 실험 10번. 사과 3개, 분자 8개 등과 같이 세어서 구한 값을 계산에 포함시키는 경우가 있다. 이와 같은 숫자를 완전수라고 하며, 무한대의 유효 숫자를 가진다고 가정한다.

​

​

측정값을 이용한 계산에서 유효 숫자의 규칙

​

1. 곱셈과 나눗셈: 계산 결과의 유효 숫자는 계산에 사용한 값 중 정밀도가 가장 낮은 측정값의 유효 숫자와 같다.

​

예) 4.56 x 1.4 = 6.38 → 6.4

​

2. 덧셈과 뺄셈: 계산 결과는 계산에 사용한 값 중 정밀도가 가장 낮은 측정값과 소수점 아래 숫자의 개수가 같아야 한다.

​

예) 12.11 + 18.0 + 1.013 = 31.123 → 31.1

​

반올림 규칙

​

1. 여러 계산을 연속적으로 할 때는 마지막 결과를 얻을 때까지 모든 숫자를 가져가서 유효 숫자의 개수가 맞도록 반올림을 한다.

​

2. 만일 반올림하는 숫자가

a. 5보다 작으면 버린다. 예를 들어, 1.33을 반올림하면 1.3이 된다.

b. 5 이상이면 그 앞자리 수에 1을 더한다. 1.36을 반올림하면 1.4가 된다.

​

*계산 중간에 유효 숫자를 따져서 반올림하는 것과 모든 계산을 끝내고 마지막에 유효 숫자를 따져서 반올림하는 것은 다른 결과를 가져올 수 있다.