您现在所在的是:

人机界面

回帖:2个,阅读:651 [上一页] [1] [下一页]
19537
fuhuafeng72
文章数:5589
年度积分:708
历史总积分:19537
注册时间:2011/11/21
发站内信
2017国庆活动(三)
2016国庆活动(三)
2014逛工博
发表于:2020/1/15 16:48:02
#0楼
计算涉及到包含非常大和非常小数字的一长串数值时,计算结果可能不准确。
如果数字相差 10 的 x 次方,其中 x > 6 (Real) 或 15 (LReal),则会发生上述情况。 例如 (Real): 100 000 000 + 1 = 100 000 000.  
这样的单精度浮点运算,为什么相差10的6次方以上就不正确了呢!
凯成、日发、攀峰龙带式帘子线倍捻机、直捻机电控系统维修改造。
2440
51477工控迷
文章数:682
年度积分:66
历史总积分:2440
注册时间:2017/3/31
发站内信
发表于:2020/1/15 17:14:13
#1楼
我觉得吧这毕竟是一个机器,我用施耐德的PLC浮点运算最多能支持小数点后的两位还是三位来的,,所以不太奢求精度
19254
pqsh 版主
文章数:7424
年度积分:1084
历史总积分:19254
注册时间:2006/8/22
发站内信
2018论坛解答高手
发表于:2020/1/15 22:04:47
#2楼
因为单精度浮点的数位精度就是6位,超出6位差别,就没法计算了.
也就是说,它只能留着大约6位小数.比如1.999888,你让它加0.0000009(9.000000^10-7),它就瞎了一样,看不到.
如果我忘了我
请帮忙记得我
pqsh@163,326199298@v&q同号

关于我们 | 联系我们 | 广告服务 | 本站动态 | 友情链接 | 法律声明 | 非法和不良信息举报

工控网客服热线:0755-86369299
版权所有 工控网 Copyright©2024 Gkong.com, All Rights Reserved

46.8003