AD模块读出数据是整数还是浮点数

2851

305456779

文章数：624

年度积分：50

历史总积分：2851

作者的所有帖子(624)

注册时间：2012/2/29

发站内信

发表于：2015/9/10 14:54:38

#0楼

如题，问这个问题是由于现场有人员反应，我用整数乘除法处理的时候产生了偏差值，但是这个偏差值达到了20多，感觉不可能，但是如果是浮点数的话那就有这个可能。附上运算程序图

【方案】VisionGift 通过环境监测帮助患者恢复视力并重获新生|维萨拉

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 结帖 | 管理

8391

fujifa

文章数：2943

年度积分：77

历史总积分：8391

作者的所有帖子(2943)

注册时间：2014/2/10

发站内信

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

发表于：2015/9/10 15:30:21

#1楼

以下是引用305456779在2015/9/10 14:54:38的发言：
如题，问这个问题是由于现场有人员反应，我用整数乘除法处理的时候产生了偏差值，但是这个偏差值达到了20多，感觉不可能，但是如果是浮点数的话那就有这个可能。附上运算程序图

目前没有看到过有厂家的AD模块为浮点数读取的，都是整数。

偏差20多，很正常。

举例：100除以30，按整数除法的结果等于3，你看看，不考虑余数的话，要误差多少啊。

精通富士POD，富士PLC的编程
有问题可以直接电邮：FUJIFA@yeah.net

【方案】奥普特—汽车电路基板定位

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

3671

穿孩子的树

文章数：344

年度积分：50

历史总积分：3671

作者的所有帖子(344)

注册时间：2014/9/10

发站内信

发表于：2015/9/10 15:48:28

#2楼

以下是引用305456779在2015/9/10 14:54:38的发言：
如题，问这个问题是由于现场有人员反应，我用整数乘除法处理的时候产生了偏差值，但是这个偏差值达到了20多，感觉不可能，但是如果是浮点数的话那就有这个可能。附上运算程序图

肯定是整数的，转化成浮点数在除呗！

【方案】FA在线 | 7月TOP10问题集锦&中奖名单公布！

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

2851

305456779

文章数：624

年度积分：50

历史总积分：2851

作者的所有帖子(624)

注册时间：2012/2/29

发站内信

发表于：2015/9/10 15:53:21

#3楼

以下是引用fujifa在2015/9/10 15:30:21的发言：

以下是引用305456779在2015/9/10 14:54:38的发言：
如题，问这个问题是由于现场有人员反应，我用整数乘除法处理的时候产生了偏差值，但是这个偏差值达到了20多，感觉不可能，但是如果是浮点数的话那就有这个可能。附上运算程序图

目前没有看到过有厂家的AD模块为浮点数读取的，都是整数。

偏差20多，很正常。

举例：100除以30，按整数除法的结果等于3，你看看，不考虑余数的话，要误差多少啊。

D162就是AD模块的读取数据，连续整除哪来的20偏差？

【方案】自动鉴别，快速通行——华北工控打造人证识别系统嵌入式产品方案

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

2851

305456779

文章数：624

年度积分：50

历史总积分：2851

作者的所有帖子(624)

注册时间：2012/2/29

发站内信

发表于：2015/9/10 15:57:13

#4楼

以下是引用穿孩子的树在2015/9/10 15:48:28的发言：

以下是引用305456779在2015/9/10 14:54:38的发言：
如题，问这个问题是由于现场有人员反应，我用整数乘除法处理的时候产生了偏差值，但是这个偏差值达到了20多，感觉不可能，但是如果是浮点数的话那就有这个可能。附上运算程序图

肯定是整数的，转化成浮点数在除呗！

问题是我后面没有乘法运算，如果整除后再使用乘法运算那是会产生很大的偏差，所以不明白，是我绕进去了么？

【方案】台达机电产品在自动枕式包装机的应用

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

8391

fujifa

文章数：2943

年度积分：77

历史总积分：8391

作者的所有帖子(2943)

注册时间：2014/2/10

发站内信

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

发表于：2015/9/10 16:24:35

#5楼

以下是引用305456779在2015/9/10 15:53:21的发言：

以下是引用fujifa在2015/9/10 15:30:21的发言：

以下是引用305456779在2015/9/10 14:54:38的发言：
如题，问这个问题是由于现场有人员反应，我用整数乘除法处理的时候产生了偏差值，但是这个偏差值达到了20多，感觉不可能，但是如果是浮点数的话那就有这个可能。附上运算程序图

目前没有看到过有厂家的AD模块为浮点数读取的，都是整数。

偏差20多，很正常。

举例：100除以30，按整数除法的结果等于3，你看看，不考虑余数的话，要误差多少啊。

D162就是AD模块的读取数据，连续整除哪来的20偏差？

整除的话，就没误差了，关键是不能整除，所以除数越大，误差越大。

精通富士POD，富士PLC的编程
有问题可以直接电邮：FUJIFA@yeah.net

【方案】状态监测 - 如何更快检测错误或异常情况？

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

20178

高雅的雅

文章数：15776

年度积分：-210

历史总积分：20178

作者的所有帖子(15776)

注册时间：2015/5/12

发站内信

2018论坛解答高手

发表于：2015/9/10 18:15:26

#6楼

我只知道你的K2000000除以K32000，==62.5，此时前面D162如果是偶数，应该是没有小数，但是奇数的话你自己说呢

那一瞬间忽然不再想你，因为去一趟漠河，走了一趟西藏，逛了一趟天涯海角，泡了一会栖谷温泉，回来就是：一切随他去吧，该咋过咋过！！车祸不死感言

【方案】高速信息化时代，华北工控加快网络安全行业专用计算机市场布局

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

2851

305456779

文章数：624

年度积分：50

历史总积分：2851

作者的所有帖子(624)

注册时间：2012/2/29

发站内信

发表于：2015/9/11 17:00:18

#7楼

以下是引用高雅的雅在2015/9/10 18:15:26的发言：
我只知道你的K2000000除以K32000，==62.5，此时前面D162如果是偶数，应该是没有小数，但是奇数的话你自己说呢

有小数的话不是也就0.5么？0.5的话再除以2925还有什么用呢？

【方案】智慧电网 | 支持智能电网调度系统应用的华北工控嵌入式计算机

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

20178

高雅的雅

文章数：15776

年度积分：-210

历史总积分：20178

作者的所有帖子(15776)

注册时间：2015/5/12

发站内信

2018论坛解答高手

发表于：2015/9/11 17:33:30

#8楼

假如D176内容为30000，除以K2925，结果呢？

那一瞬间忽然不再想你，因为去一趟漠河，走了一趟西藏，逛了一趟天涯海角，泡了一会栖谷温泉，回来就是：一切随他去吧，该咋过咋过！！车祸不死感言

【方案】图尔克使用UHF RFID进行物料检测

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

2851

305456779

文章数：624

年度积分：50

历史总积分：2851

作者的所有帖子(624)

注册时间：2012/2/29

发站内信

发表于：2015/9/11 17:52:27

#9楼

回复 #8楼高雅的雅

唉，假如D176是30000.99999，30000/2925跟30000.99999/2925，有多大误差，会产生20多的误差么？

【方案】FA技术 | MR-JET-G如何通过SLMP协议实现点位表控制功能？

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

PLC论坛

工控学堂推荐视频：