유효 숫자와 계산

1. 유효 숫자 계산

 

실험에 대한 최종 결과를 계산 할 때 그 불확실성을 정확하게 알고 있는 것은 매우 중요하다

 

1.00  x 10^5 이라는 표현은 지수 표기법이라 부른다. 이런 표기법에는 최소 두 가지 장점을 가지고 있다. 아주 큰수나 아주 작은 수를 적을 때 0을 적게 표기할 수 있고 유효 숫자의 갯수를 쉽게 나타낼 수 있다. 유효 숫자를 세는 규칙은 다음과 같다.

 

ㄱ. 영이 아닌 정수는 항상 유효숫자로 간주하여 센다.

ㄴ. 1)  앞부분에 있는 영은 숫자 앞에 있는 영으로 유효 숫자로 간주하지 않는다. 예를 들면 0.0033이라는 수에서 세개의 0은 단지 소수점의 위치만을 나타낸다. 이 숫자에는 단지 두개의 유효 숫자만 존재한다.

2) 중간에 있는 영은 영이 아닌 숫자 사이에 있는 영으로  항상 유효 숫자로 간주한다. 1.006에는 네개의 유효 숫자가 있다.

3) 마지막 부분에 있는 영은 숫자의 오른쪽 끝에 있는 0으로 숫자에 소수점이 있는 경우 에만 유효 숫자가 된다. 500이라는 숫자에는 한개의 유효 숫자가 존재하지만 3.00 x 10^3에는 세개의 유효 숫자가 존재한다

ㄷ. 완전수란 계산할때 측정 장치를 사용하여 얻은 값이 아니고 연산을 통해 얻은 숫자이다. 열 다섯번의 실험, 다개의 사과, 만개의 분자 등 이런 수를 완전수라고 부른다. 이것들은 무한대의 유효숫자를 가지는 것으로 간주한다.

완전수는 정의에 의해 얻어질 수 있다. 예를 들면 1인치는 2.54센치미터라고 정의 한것처럼 말이다.

ㄹ. 곱셈이나 나눗셈의 경우 가장 낮은 정밀도를 갖는 숫자의 유효숫자의 자릿수와 같다. 

예를 들면 5.36 x 2.5 = 13.40이지만 13.4로 두개의 유효숫자만 가지게 표기한다.

ㅁ. 덧셈이나 뺄셈의 경우 소수점 이하의 숫자는 계산에 사용하는 가장 낮은 정밀도의 측정값에서 소숫점 이하 숫자의 수와 같다. 예를 들면 13.11 + 15.0 = 28.11 이지만 한개의 소수자리를 가지고 있는 항이 있으므로 28.1로 표기한다

 

2 단위의 차원 분석

 

어떤 단위계에서 얻은 결과를 다른 단위계로 환산해야하는 경우가 가끔 있다. 환산하는 가장 좋은 방법은 단위 인자 방법(unit factor method) 라고 불리는 방법 이다.

한 단위를 다른 단위로 바꾸려면 두 단위가 관련있는 관계식을 이용해야 한다.

원하는 방향을 생각한 후 필요하지 않는 단위를 삭제 할 수 있는 단위 인자를 유도 한다.

환산하는 양에 단위 인자를 곱하면 원하는 단위 인자를 갖는 양이 얻어진다.

예를 들면 2.54cm/1in 와 1in/2.54cm 를 가지고 유도할 수 있다.

25.5in 킥보드를 주문 하려고 목록을 보았을때 센티미터로만 표기 되어 있다면  환산인자 2.54cm/1in가 필요하다

 

25.5in x 2.54cm/1in = 64.8cm 와 같은 방식이다.