PLC论坛

* 帖子主题：

浮点运算的问题

1832

gfy4003

文章数：236

年度积分：50

历史总积分：1832

注册时间：2004/6/15

发表于：2014/12/18 0:21:47

#10楼

以下是引用zytlc在2014/12/17 10:06:43的发言：
结果对了，2.147*10^7,监控显示就这精度了，实际应该可以精确到2.147484*10^7

谢谢，超过多少，就会显示成这样，是不是科学记数法

此帖发自手机工控论坛

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

5084

zytlc

文章数：849

年度积分：50

历史总积分：5084

注册时间：2006/8/9

发表于：2014/12/19 14:03:41

#11楼

回复 #10楼 gfy4003

只是显示的问题，尽可能的让有效数字多显示，太大的和太小的都显示科学计数，常规的不能显示出有效数字就用这个显示。

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

PLC学习视频变频器学习视频西门子学习视频三菱学习视频更多学习视频>>

46.8003