数据加减乘除修约的问题

lude · 发表于 2012-4-27 14:59:21

一分钟快速注册,轻松融入检测圈

您需要登录才可以下载或查看，没有帐号？立即注册

x

有效数字的运算规则
1、数据的加减运算：保留的有效数字应为小数点后位数最少的数据为准。是先修约再加减还是加减完再修约。
同理数据的乘除运算也是这个问题。
例如：1.05*30.212*0.067应该怎么计算，请列出计算过程，谢谢。

king382311160 · 发表于 2012-4-27 15:20:39

本帖最后由 king382311160 于 2012-4-27 15:21 编辑

先加减，再修约

lou123 · 发表于 2012-4-27 16:54:03

你参考一下关于修约准则，就什么都知道了

一笑了之 · 发表于 2012-4-28 10:29:08

“例如：1.05*30.212*0.067应该怎么计算，请列出计算过程。”
一步一步计算，最后按标准修约至小数点后三位。

lude · 发表于 2012-4-28 10:44:20

一笑了之发表于 2012-4-28 10:29
“例如：1.05*30.212*0.067应该怎么计算，请列出计算过程。”
一步一步计算，最后按标准修约至小数点后三位 ...

不对吧，乘除所保留的位数，以有效数字最少的为标准。

资深民工 · 发表于 2012-5-1 02:52:03

数据的修约产生在试验结束后，试验依照规范操作一般不会产生你所说的情况。在实际中，往往电子秤的显示数据高于他保证的精度，是没有必要全部记录的，很多仪器也是如此，没有必要估读，规范怎么要求的就怎么记录没有必要记录更多的位数。
至于整理试验数据嘛，你非要改电脑和计算器要他们四舍六入五考虑？除非专门考试，一般还是四舍五入。

sky · 发表于 2012-5-6 14:50:40

最后修约

511266087 · 发表于 2012-5-9 08:00:47

看看‘

梦里想家 · 发表于 2012-5-14 16:35:01

加、减运算
如果参与运算的数不超过10个，运算时以各数中（末）最大的数为准，其余的数均比它多保留一位，多余位数应舍去。计算结果的（末）应与参与运算数中（末）最大的那个数相同。若计算结果尚需参加下一步运算，则可多保留一位。
剩、除运算
数剩除运算时，以有效数字位数最少的那个数为准，其余的数的有效位数均比它多保留一位。运算结果（积或商）的有效数字位数，应与参与运算数中有效数字位数最少的那个数相同。

帐号		自动登录	找回密码
密码			立即注册

[已解决] 数据加减乘除修约的问题

一分钟快速注册,轻松融入检测圈

看你要修约多少位数我才可以计算啊