数值修约的问题，请问是否正确

l75258 · 发表于 2018-10-24 20:16:11

一分钟快速注册,轻松融入检测圈

您需要登录才可以下载或查看，没有帐号？立即注册

x

5个整数求平均值，恰好整除，请问结果可以写到比如1024.00，这个数值对吗？若不对，请问依据在哪

bzj369 · 发表于 2018-10-24 20:32:08

首先要弄清楚你所说的“整数”是数学意义上的整数还是最后一位是有误差的整数，如果是纯数学意义的整数，除完保留几位都无所谓，如果是最后一位是有误差的整数，还是保留到与你除之前相同的有效位数，这样才能确保最后一位有效位数的数值有意义。

l75258 · 发表于 2018-10-25 20:29:36

bzj369 发表于 2018-10-24 20:32
首先要弄清楚你所说的“整数”是数学意义上的整数还是最后一位是有误差的整数，如果是纯数学意义的整数，除 ...

就是仪器结果为整数，比如1120，就是这样的数。请问假如5个这样的数之和正好被5整除，结果能写到小数点后两位吗？依据是什么？

337956564 · 发表于 2018-10-26 08:26:37

一个是修约到几位有效数字，还是精确至小数点后几位，再有就是修约间隔是多少

a楚西 · 发表于 2018-10-26 08:59:15

1.测量值精度，与仪器分辨率有关，一般认为是不低于标准要求的精度（不要傻傻地认为比如标准精确度为1g,那我用0.1g的反倒违法了，得人工修约原始值合龙到1g去）；2.计算结果修约在标中是有应有明确规定的，比如要求精确到0.01，那你就算结果是整数，也得记作0.00；3.如果测量结果就是检测结果，则依据后者，按标准要求间隔修约，或1，或2，或5 ，或10，或100，或0.1或0.01或0.01等等

bzj369 · 发表于 2018-10-26 21:33:32

l75258 发表于 2018-10-25 20:29
就是仪器结果为整数，比如1120，就是这样的数。请问假如5个这样的数之和正好被5整除，结果能写到小数点后 ...

正确的数值应该是224.0，除前1120是四位有效数字，所以除后只能保留四位有效数字，5是不是测出来的，所以可以认为其有效数字为无数个。

帐号		自动登录	找回密码
密码			立即注册

[新问题] 数值修约的问题，请问是否正确

一分钟快速注册,轻松融入检测圈