简述有效数字的修约规则(常规修约:即以1单位修约)。

浏览

简述有效数字的修约规则(常规修约:即以1单位修约)。

参考答案:

1、当拟舍去的尾数大于保留末位数的半个单位时,则进位,末位数加一个单位,例如:3.86修约到小数后一位,得3.9。1377修约为三位有效数,得1.38×103

2、当拟舍去的尾数小于保留末位数的半个单位时,则舍去。例如:O.0137修约到小数后二位,得0.01。5783.4修约为四位有效数,得5783。

3、当拟舍去的尾数恰好等于保留末位数的半个单位时,如拟保留的末位数是奇数则进位,如果是偶数则舍去。这就是偶数法则。采用偶数法则的理由:偶数法常能除尽,可以减少计算误差;当被加数很多时,正负舍入误差出现的机会相等,可以抵消。例如:3.85修约到小数后一位,得3.8。3175修约到三位有效数字,得3.18×103。

4、当拟舍去的尾数超过二位数字时,不得进行多次修约,只能一次修约。例如:3.146修约到小数后一位,应是3.1,而不能先修约为3.15,再按偶数法则修约为3.2。


相关文章