품질경영품질경영기사 · 2020년06월06일 · 97/100
97.수치 맺음법에 따라 계산한 것으로 틀린 것은?
1
2.2962를 유효숫자 3 자리로 맺으면 2.30 이다.
2
3.2967을 소수점 이하 3 자리로 맺으면 3.297 이다.
3
5.346을 유효숫자 2 자리로 맺을 때 첫 단계로 5.35, 둘째 단계로 5.4 가 되어 결국 5.4 이다.정답
4
0.0745(소수점 이하 4 자리가 반드시 5 인지 버려진 것인지 올려진 것인가를 모른다)를 소수점 이하 3 자리로 맺으면 0.074 이다.
해설
맺음은 한번에 해야하므로 5.3이 된다.