您现在所在的是:

PLC论坛

回帖:9个,阅读:2073 [上一页] [1] [下一页]
19419
PLC-hmi
文章数:7448
年度积分:137
历史总积分:19419
注册时间:2010/8/19
发站内信
2018论坛热心网友
发表于:2018/4/17 14:58:55
#0楼
算个3/400  0.0075.只有0.001的精度还要放大倍数?真是不方便了。
此帖发自论坛手机版
37952
cvlsam 版主
文章数:12474
年度积分:563
历史总积分:37952
注册时间:2001/12/22
发站内信
2018论坛贡献奖
2017论坛贡献奖
2016论坛贡献奖
2015论坛贡献奖
2013论坛贡献奖
2012论坛贡献奖
2011论坛贡献奖
2011国庆活动
2010论坛杰出贡献奖
发表于:2018/4/17 16:28:46
#1楼
以下是引用PLC-hmi2018/4/17 14:58:55的发言:
算个3/400  0.0075.只有0.001的精度还要放大倍数?真是不方便了。

我竟然还真的用计算器计算了一下。

附件 snap1.jpg

Good Luck~
19419
PLC-hmi
文章数:7448
年度积分:137
历史总积分:19419
注册时间:2010/8/19
发站内信
2018论坛热心网友
发表于:2018/4/17 16:34:06
#2楼
是,plc算出来是多少你可以看看
此帖发自论坛手机版
37952
cvlsam 版主
文章数:12474
年度积分:563
历史总积分:37952
注册时间:2001/12/22
发站内信
2018论坛贡献奖
2017论坛贡献奖
2016论坛贡献奖
2015论坛贡献奖
2013论坛贡献奖
2012论坛贡献奖
2011论坛贡献奖
2011国庆活动
2010论坛杰出贡献奖
发表于:2018/4/17 16:37:41
#3楼
以下是引用PLC-hmi2018/4/17 14:58:55的发言:
算个3/400  0.0075.只有0.001的精度还要放大倍数?真是不方便了。

而在PLC软件中:

附件 snap1.jpg

显然也没有任何问题。

Good Luck~
19419
PLC-hmi
文章数:7448
年度积分:137
历史总积分:19419
注册时间:2010/8/19
发站内信
2018论坛热心网友
发表于:2018/4/17 18:49:45
#4楼
0.007和00075精度是不一样的。
此帖发自论坛手机版
37952
cvlsam 版主
文章数:12474
年度积分:563
历史总积分:37952
注册时间:2001/12/22
发站内信
2018论坛贡献奖
2017论坛贡献奖
2016论坛贡献奖
2015论坛贡献奖
2013论坛贡献奖
2012论坛贡献奖
2011论坛贡献奖
2011国庆活动
2010论坛杰出贡献奖
发表于:2018/4/17 19:02:21
#5楼
以下是引用PLC-hmi2018/4/17 18:49:45的发言:
0.007和00075精度是不一样的。

把图放放大,我就知道贴图能仔细看的没几个。
附件 snap2.jpg

Good Luck~
37952
cvlsam 版主
文章数:12474
年度积分:563
历史总积分:37952
注册时间:2001/12/22
发站内信
2018论坛贡献奖
2017论坛贡献奖
2016论坛贡献奖
2015论坛贡献奖
2013论坛贡献奖
2012论坛贡献奖
2011论坛贡献奖
2011国庆活动
2010论坛杰出贡献奖
发表于:2018/4/17 19:08:01
#6楼
真以为三菱连点浮点数都做不好?
附件 snap3.jpg

选择合适的监控数据类型才是程序员的重要工作,只知道地址的做法已经不适合现在标签化编程的需要了。

Good Luck~
37952
cvlsam 版主
文章数:12474
年度积分:563
历史总积分:37952
注册时间:2001/12/22
发站内信
2018论坛贡献奖
2017论坛贡献奖
2016论坛贡献奖
2015论坛贡献奖
2013论坛贡献奖
2012论坛贡献奖
2011论坛贡献奖
2011国庆活动
2010论坛杰出贡献奖
发表于:2018/4/17 19:09:01
#7楼
另外告诉你一下,为何是0.007500而不是0.00750000000或者其他?

因为IEEE754的有效位数为6位。


Good Luck~
19419
PLC-hmi
文章数:7448
年度积分:137
历史总积分:19419
注册时间:2010/8/19
发站内信
2018论坛热心网友
发表于:2018/4/17 20:08:29
#8楼
习惯了按f3监控直接看结果了,搞复杂的监控也比较累。
此帖发自论坛手机版
1906
xiatianyun
文章数:278
年度积分:56
历史总积分:1906
注册时间:2002/6/5
发站内信
发表于:2018/4/18 13:29:34
#9楼
以下是引用cvlsam2018/4/17 19:09:01的发言:
另外告诉你一下,为何是0.007500而不是0.00750000000或者其他?

因为IEEE754的有效位数为6位。


Good Luck~
精度是6位或7位,这个还真不一定。6位是有保证的,但有时候也会是7位。
此帖发自手机工控论坛

关于我们 | 联系我们 | 广告服务 | 本站动态 | 友情链接 | 法律声明 | 非法和不良信息举报

工控网客服热线:0755-86369299
版权所有 工控网 Copyright©2025 Gkong.com, All Rights Reserved

62.4004