电气测量技术基础
有效数字的四则运算法则 | |
加减运算 | 乘除运算 |
1)将参与加减运算的各数修约到比小数点后位数最少的那个数多保留一位小数 2)进行加减运算 3)对结果进行修约,使其小数点后的位数与原小数点后位数最少的那个数相同 | 1)将参与乘除运算的各数修约到比有效数字位数最少的那个数多保留一位有效数字 2)进行加减运算 3)对结果进行修约,使其有效数字的位数与原有效数字位数最少的那个数相同 |
举例: 13.65+0.00823 +1.633=? 对各项进行修约得: 13.65+0.008 +1.633=? 运算得:15.291 对结果进行修约得:15.29 | 举例: 0.0121×25.64 ×1.05782=? 对各项进行修约得: 0.0121×25.64 ×1.058=? 运算得:0.3282 对结果进行修约得:0.328 |