中国自动化学会专家咨询工作委员会指定宣传媒体
免费注册 登录 广告服务 | 客服中心
您现在所在的是:

PLC论坛

抖音 德嘉 泓格论坛 FLIR红外热像论坛
工控论坛首页 PLC论坛 → 浏览主题: 大家用三菱fx的浮点运算精度怎么搞的了
发表新帖 回复该主题
回帖:9个,阅读:1984 [上一页] [1] [下一页]
* 帖子主题:

大家用三菱fx的浮点运算精度怎么搞的了

分享到
18948
PLC-hmi
文章数:7455
年度积分:205
历史总积分:18948
注册时间:2010/8/19
发站内信
2018论坛热心网友
发表于:2018/4/17 14:58:55
#0楼
算个3/400  0.0075.只有0.001的精度还要放大倍数?真是不方便了。
此帖发自论坛APP
36258
cvlsam 版主
文章数:12209
年度积分:610
历史总积分:36258
注册时间:2001/12/22
发站内信
2018论坛贡献奖
2017论坛贡献奖
2016论坛贡献奖
2015论坛贡献奖
2013论坛贡献奖
2012论坛贡献奖
2011论坛贡献奖
2011国庆活动
2010论坛杰出贡献奖
发表于:2018/4/17 16:28:46
#1楼
以下是引用PLC-hmi2018/4/17 14:58:55的发言:
算个3/400  0.0075.只有0.001的精度还要放大倍数?真是不方便了。

我竟然还真的用计算器计算了一下。

附件 snap1.jpg

Good Luck~
18948
PLC-hmi
文章数:7455
年度积分:205
历史总积分:18948
注册时间:2010/8/19
发站内信
2018论坛热心网友
发表于:2018/4/17 16:34:06
#2楼
是,plc算出来是多少你可以看看
此帖发自论坛APP
36258
cvlsam 版主
文章数:12209
年度积分:610
历史总积分:36258
注册时间:2001/12/22
发站内信
2018论坛贡献奖
2017论坛贡献奖
2016论坛贡献奖
2015论坛贡献奖
2013论坛贡献奖
2012论坛贡献奖
2011论坛贡献奖
2011国庆活动
2010论坛杰出贡献奖
发表于:2018/4/17 16:37:41
#3楼
以下是引用PLC-hmi2018/4/17 14:58:55的发言:
算个3/400  0.0075.只有0.001的精度还要放大倍数?真是不方便了。

而在PLC软件中:

附件 snap1.jpg

显然也没有任何问题。

Good Luck~
18948
PLC-hmi
文章数:7455
年度积分:205
历史总积分:18948
注册时间:2010/8/19
发站内信
2018论坛热心网友
发表于:2018/4/17 18:49:45
#4楼
0.007和00075精度是不一样的。
此帖发自论坛APP
36258
cvlsam 版主
文章数:12209
年度积分:610
历史总积分:36258
注册时间:2001/12/22
发站内信
2018论坛贡献奖
2017论坛贡献奖
2016论坛贡献奖
2015论坛贡献奖
2013论坛贡献奖
2012论坛贡献奖
2011论坛贡献奖
2011国庆活动
2010论坛杰出贡献奖
发表于:2018/4/17 19:02:21
#5楼
以下是引用PLC-hmi2018/4/17 18:49:45的发言:
0.007和00075精度是不一样的。

把图放放大,我就知道贴图能仔细看的没几个。
附件 snap2.jpg

Good Luck~
36258
cvlsam 版主
文章数:12209
年度积分:610
历史总积分:36258
注册时间:2001/12/22
发站内信
2018论坛贡献奖
2017论坛贡献奖
2016论坛贡献奖
2015论坛贡献奖
2013论坛贡献奖
2012论坛贡献奖
2011论坛贡献奖
2011国庆活动
2010论坛杰出贡献奖
发表于:2018/4/17 19:08:01
#6楼
真以为三菱连点浮点数都做不好?
附件 snap3.jpg

选择合适的监控数据类型才是程序员的重要工作,只知道地址的做法已经不适合现在标签化编程的需要了。

Good Luck~
36258
cvlsam 版主
文章数:12209
年度积分:610
历史总积分:36258
注册时间:2001/12/22
发站内信
2018论坛贡献奖
2017论坛贡献奖
2016论坛贡献奖
2015论坛贡献奖
2013论坛贡献奖
2012论坛贡献奖
2011论坛贡献奖
2011国庆活动
2010论坛杰出贡献奖
发表于:2018/4/17 19:09:01
#7楼
另外告诉你一下,为何是0.007500而不是0.00750000000或者其他?

因为IEEE754的有效位数为6位。


Good Luck~
18948
PLC-hmi
文章数:7455
年度积分:205
历史总积分:18948
注册时间:2010/8/19
发站内信
2018论坛热心网友
发表于:2018/4/17 20:08:29
#8楼
习惯了按f3监控直接看结果了,搞复杂的监控也比较累。
此帖发自论坛APP
1841
xiatianyun
文章数:276
年度积分:50
历史总积分:1841
注册时间:2002/6/5
发站内信
发表于:2018/4/18 13:29:34
#9楼
以下是引用cvlsam2018/4/17 19:09:01的发言:
另外告诉你一下,为何是0.007500而不是0.00750000000或者其他?

因为IEEE754的有效位数为6位。


Good Luck~
精度是6位或7位,这个还真不一定。6位是有保证的,但有时候也会是7位。
此帖发自手机工控论坛
工控学堂推荐视频:

关于我们 | 联系我们 | 广告服务 | 本站动态 | 友情链接 | 法律声明 | 非法和不良信息举报

工控网客服热线:0755-86369299
版权所有 工控网 Copyright©2024 Gkong.com, All Rights Reserved

62.4004