工程检测论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问移动社区

手机扫码登录更安全

查看: 3996|回复: 5

[新问题] 数值修约的问题,请问是否正确

[复制链接]
发表于 2018-10-24 20:16:11 | 显示全部楼层 |阅读模式
标准管理系统

一分钟快速注册,轻松融入检测圈

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
5个整数求平均值,恰好整除,请问结果可以写到比如1024.00,这个数值对吗?若不对,请问依据在哪
回复

使用道具 举报

发表于 2018-10-24 20:32:08 | 显示全部楼层
首先要弄清楚你所说的“整数”是数学意义上的整数还是最后一位是有误差的整数,如果是纯数学意义的整数,除完保留几位都无所谓,如果是最后一位是有误差的整数,还是保留到与你除之前相同的有效位数,这样才能确保最后一位有效位数的数值有意义。
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-10-25 20:29:36 | 显示全部楼层
工程检测网检测交流官方QQ群
bzj369 发表于 2018-10-24 20:32
首先要弄清楚你所说的“整数”是数学意义上的整数还是最后一位是有误差的整数,如果是纯数学意义的整数,除 ...

就是仪器结果为整数,比如1120,就是这样的数。请问假如5个这样的数之和正好被5整除,结果能写到小数点后两位吗?依据是什么?
回复 支持 反对

使用道具 举报

发表于 2018-10-26 08:26:37 | 显示全部楼层
一个是修约到几位有效数字,还是精确至小数点后几位,再有就是修约间隔是多少
回复 支持 反对

使用道具 举报

发表于 2018-10-26 08:59:15 | 显示全部楼层
工程检测网检测交流官方QQ群
1.测量值精度,与仪器分辨率有关,一般认为是不低于标准要求的精度(不要傻傻地认为比如标准精确度为1g,那我用0.1g的反倒违法了,得人工修约原始值合龙到1g去);2.计算结果修约在标中是有应有明确规定 的,比如要求精确到0.01,那你就算结果是整数,也得记作0.00;3.如果测量结果就是检测结果,则依据后者,按标准要求间隔修约,或1,或2,或5 ,或10,或100,或0.1或0.01或0.01等等
回复 支持 反对

使用道具 举报

发表于 2018-10-26 21:33:32 | 显示全部楼层
l75258 发表于 2018-10-25 20:29
就是仪器结果为整数,比如1120,就是这样的数。请问假如5个这样的数之和正好被5整除,结果能写到小数点后 ...

正确的数值应该是224.0,除前1120是四位有效数字,所以除后只能保留四位有效数字,5是不是测出来的,所以可以认为其有效数字为无数个。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

广播台
招聘信息台 我也要招聘

QQ|小黑屋|手机版|工程检测网检测论坛 ( 苏ICP备09082304号-7 )

GMT+8, 2024-4-20 14:13 , Processed in 0.078939 second(s), 22 queries .

咨询电话:0571-87163301

Copyright © 2012-2020, 工程检测论坛.

快速回复 返回顶部 返回列表