中国自动化学会专家咨询工作委员会指定宣传媒体
免费注册 登录 广告服务 | 客服中心
您现在所在的是:

仪器仪表

抖音 西门子减速电机 德嘉 台达 英威腾 泓格论坛 西门子 我和LOGO!有个约会 FLIR红外热像论坛 【有奖活动】英威腾 “Ni美国国家仪器 “PLC发展趋势大讨论”活动圆满结束 cc-link图文征集活动 西门子SMART LINE V3
工控论坛首页 仪器仪表 → 浏览主题: 有效数字、欠准数字、可靠数字和数据修约在数据处理中的应用
发表新帖 回复该主题
回帖:0个,阅读:114 [上一页] [1] [下一页]
* 帖子主题:

有效数字、欠准数字、可靠数字和数据修约在数据处理中的应用

分享到
711
yunrun
文章数:45
年度积分:278
历史总积分:711
注册时间:2011/3/15
发站内信
发表于:2019/5/20 12:38:14
#0楼
仪表工在校准仪表或测量参数数据时均会与数字接触,只有明白有效数字、欠准数字、可靠数字、有效数字的运算规则、数据修约的概念和关于“0”的使用原则,才能对测量记过进行合理的处理。本文最这些知识做简单介绍。

有效数字、欠准数字和可靠数字
在测量结果中能准确读出的是可靠数字,估读出来的是欠准数字,将可靠数字和欠准数字合起来,称为有效数字,如25.3、0.0135都是三位有效数字。其中,25和13分别是可靠数字,而后面的3和5则是欠准数字。在一个数据中,只保留一位欠准数字,其余都应是可靠数字。

关于“0”的使用原则
①只与计量单位有关的数字“0”不计入有效数字。例如,仪表工可以将245mV写成0.245V,两种写法的有效数字都是三位。
②小数点后面的“0”一般不能随意省略,例如15mA和15.0mA,两种写法差距很大,15mA表示电流可能是14mA,也可能是16mA,而15.0mA说明15是可靠的,小数点后的零则是欠准的。
有效数字yunrun.com.cn/tech/2491.html
有效数字的运算规則
①常数运算。参加运算的常数如,π、e、根号二等,其有效位数根据需要确定。
②加减法运算。运算时,将小数位数多的进行舍入处理,使其比小数位数少的只多一位小数,然后进行计算。运算结果的小数位数取至各数中小数位数最少的位数。侧如,17.6+2.45+0.314,先将0.314化整为0.31,则17.6+2.45+0.31=20.43,最后的取值为20.4。
③乘除法运算。运算时,以有效位数最少的为准,对位数较多的数进行舍入处理,使其比有效位数少的多一位,然后运算,运算结果的位数,取至各数中有效位数最少的数。

数据修约
①测量结果数据悔约的确定
对测量结果数据修约到哪一位,根据微小误差准则,被修约数据的位数要比被测量允许误差多一个数量级。例如,被测量允许误差为1%,则数据修约确定为0.1%。
②修约规则(常规修约)
◆规则规定,当拟舍去的数字中,最左边的一位数字小于5时,则舍去。例如,将31.4365修约到只保留一位小数时,其舍去的数字中最左边的一位是“3”,应舍去,结果为31.4。
◆当拟舍去的数字中最左边的数字大于5时,应进位,即在保留的末位数上加1。例如,将36.2631修约到只保留一位小数时,其舍去的数字最左边的位数是6,则应进位,修约结果为36.3。
◆当拟舍的数字最左一位刚好为“5”时,如果拟保留的末位数是奇数则进一,若是偶数则不进,即偶数法则。例如,对6.4852和2.1358进行修约,取三位有效数字,修约后未6.48和2.14。

有效数字、欠准数字、可靠数字、有效数字的运算规则、数据修约的概念和关于“0”的使用原则仪表工要完全理解和掌握,比如处理仪表检定结果时,检定数据所取位数不要过多或过少取得过多,则浪费计算时间,还可能对测量结果产生误差;取得太少,又不能满足精确度要求。
工控学堂推荐视频:

关于我们 | 联系我们 | 广告服务 | 本站动态 | 友情链接 | 法律声明 | 非法和不良信息举报

工控网客服热线:0755-86369299
版权所有 中华工控网 Copyright©2019 Gkong.com, All Rights Reserved

62.4