정밀계측사출(프레스)금형기사 · 2010년05월09일 · 61/80
61.6.50 × 103 측정값의 유효 숫자는 몇 자리인가?
1
2자리
2
3자리정답
3
5자리
4
6자리
해설
※ 유효숫자 기본 규칙 ① 0이 아닌 정수는 모두 유효숫자 → ex) 778.32 → 유효숫자 : 7,7,8,3,2 ② 숫자 앞부분에 오는 0은 유효숫자가 아님 → ex) 0.014 → 유효숫자 :1,4 위의 숫자는 1.4 × 10-2 라고 나타낼 수 있음(지수표기법). ③ 숫자 가운데에 오는 0은 유효숫자 → ex) 481.021 → 유효숫자 : 4,8,1,0,2,1= ④ 숫자 끝에 오는 0은 소수점일 경우에만 유효숫자 → ex) 0.023010 → 유효숫자 : 2,3,0,1,0 → ex) 1990 → 유효숫자 : 1,9,9 ※ 숫자 끝에 오는 0이 소수점이 아닌 경우, 유효숫자인지 명확하지 않음 대표적으로, 100 같은 경우 백의 자리의 1은 확실히 유효숫자 십의 자리인 0은 유효숫자가 아님 일의 자리인 0은 유효숫자인지 알 수 없음 ⑤ 완전수 - 직접 세거나, 정의에 의해 정해지는 수 완전수는 유효숫자의 계산에서 고려하지 않음 → ex) 공 5개 1인치 = 2.54cm → 마치 기호처럼, 그대로 사용