问题 学科领域 问题类型
关于有效数字四则运算和修约 基础科学 文献查找
答案
余老师: 您好! 非常感谢您使用NSTL! 考虑到您的问题涉及专业知识,有些说法并没有定论,以下供您参考!如有不妥,请指正! 1、这个问题本质上是有效数字与数据运算之间的一个问题。 如果纯粹从数学的角度上讲,先全部保留,接着运算,然后再按照相关原则取小数点后1位即可。 但如果将这些数字理解为一些物理测量量的结果,那就不一定了,因为即使中间有一项精度很高,但整个结果的精度是以最低的那个来计算的。即计算由此引入的不确定度分量是按照最低精度的来计算。 2、在数据运算中,一般有如下的规则: 在乘法或者除法运算中,所有参与运算的数据以有效位数最小的数据位数为准,其余的数据要比有效位数最少的数据位数多取一位数字,而最终结果应与有效位数最小的数据位数相同。 比如:2.35698*1.2=2.828376≈2.8 3、具体对于所提的计算问题,GB8170中所提的是“可以”,即多保留一位有效数字参与运算,这个有效数字也称为“安全数字”,其实应该理解为最小的保留位数是必须的,但若计算功能强大,多保留位数运算是可以的,但至少是多保留一位参与运算。 第一种意见:修约也是2.36,故不正确。 第二种意见:个人认为可以。 第三种意见:应该是:2.36*1.2*2.56*100.00 第四种意见:也可以,因为只是多保留位数运算,这个标准里并没有反对,虽然多小数运算需要的运算能力强,对硬件的要求高。