您现在所在的是:

PLC论坛

回帖:11个,阅读:786 [上一页] [1] [2] [下一页]
* 帖子主题:

浮点运算的问题

1832
gfy4003
文章数:236
年度积分:50
历史总积分:1832
注册时间:2004/6/15
发站内信
发表于:2014/12/13 23:43:11
#0楼
DEDIV K37520 k100  d0     结果是375.200
为什么把k37520改成K2147483640,怎么结果不是21474836.400

请看下面图片:
附件 未命名.jpg
[此贴子已经被作者于2014/12/15 17:54:20编辑过]
此帖发自手机工控论坛
5375
ytleader
文章数:1149
年度积分:48
历史总积分:5375
注册时间:2006/10/23
发站内信
发表于:2014/12/14 6:53:23
#1楼
三菱的plc?
此帖发自论坛手机版
1832
gfy4003
文章数:236
年度积分:50
历史总积分:1832
注册时间:2004/6/15
发站内信
发表于:2014/12/14 9:03:25
#2楼
是的fx2n
此帖发自手机工控论坛
2680
九翱九天
文章数:335
年度积分:50
历史总积分:2680
注册时间:2005/6/20
发站内信
发表于:2014/12/14 9:11:39
#3楼
双字节最大2147483648.你的数太大了
此帖发自论坛手机版
5084
zytlc
文章数:849
年度积分:50
历史总积分:5084
注册时间:2006/8/9
发站内信
发表于:2014/12/14 10:08:08
#4楼
32位浮点数最大7位有效数字,结果没有这么精确。
16218
zrx517697809
文章数:6262
年度积分:50
历史总积分:16218
注册时间:2014/3/28
发站内信
2018论坛热心网友
三菱电机活动(三)
寻找英威腾(三)
发表于:2014/12/14 12:39:29
#5楼
超量程了
此帖发自论坛手机版
致力于自动化
伺服 PLC HMI
18266
ZHTOK
文章数:11585
年度积分:-16
历史总积分:18266
注册时间:2004/3/11
发站内信
2014相约国庆
发表于:2014/12/14 19:35:59
#6楼
   为什么把k37520改成K2147483640,结果是多少啊?
3914
www.xutengfei
文章数:818
年度积分:50
历史总积分:3914
注册时间:2010/12/8
发站内信
发表于:2014/12/15 8:57:21
#7楼
运算超范围了。
此帖发自论坛手机版
虚心请教,努力学习!
1832
gfy4003
文章数:236
年度积分:50
历史总积分:1832
注册时间:2004/6/15
发站内信
发表于:2014/12/15 12:54:05
#8楼
2147473640还是在32位运算范围,怎么会超范围了,难道只能在16位运算范围
此帖发自手机工控论坛
5084
zytlc
文章数:849
年度积分:50
历史总积分:5084
注册时间:2006/8/9
发站内信
发表于:2014/12/17 10:06:43
#9楼
结果对了,2.147*10^7,监控显示就这精度了,实际应该可以精确到2.147484*10^7

关于我们 | 联系我们 | 广告服务 | 本站动态 | 友情链接 | 法律声明 | 非法和不良信息举报

工控网客服热线:0755-86369299
版权所有 工控网 Copyright©2025 Gkong.com, All Rights Reserved

78.0005