关于赋值计算请求指点一下

50

piyufeng

文章数：20

年度积分：50

历史总积分：50

品牌积分(台达)：36

作者的所有帖子(20)

注册时间：2019/10/21

发站内信

发表于：2021/3/25 14:14:09

#0楼

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

【方案】再善于伪装的野生动物，也难逃FLIR热成像单筒望远镜的“法眼”！

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 结帖 | 管理

37237

cvlsam 版主

文章数：12401

年度积分：1589

历史总积分：37237

品牌积分(台达)：43

作者的所有帖子(12401)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆活动

2010论坛杰出贡献奖

发表于：2021/3/25 15:04:24

#1楼

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

【方案】顺应电网智能化趋势，华北工控打造电力监控系统专用计算机产品方案

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

50

piyufeng

文章数：20

年度积分：50

历史总积分：50

品牌积分(台达)：36

作者的所有帖子(20)

注册时间：2019/10/21

发站内信

发表于：2021/3/25 15:26:12

#2楼

也就是说后台计算完全是按没有小数进行的，
为了前台正确显示，我还要根据小数的取位，在后台乘（除）10的n次方？

以下是引用cvlsam在2021/3/25 15:04:24的发言：

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

【方案】图尔克全方位的图尔克包装解决方案

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

37237

cvlsam 版主

文章数：12401

年度积分：1589

历史总积分：37237

品牌积分(台达)：43

作者的所有帖子(12401)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆活动

2010论坛杰出贡献奖

发表于：2021/3/25 16:16:58

#3楼

以下是引用piyufeng在2021/3/25 15:26:12的发言：
也就是说后台计算完全是按没有小数进行的，
为了前台正确显示，我还要根据小数的取位，在后台乘（除）10的n次方？

以下是引用cvlsam在2021/3/25 15:04:24的发言：

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

YES，因此纯小数运算请选用浮点数。

Good Luck~

【方案】台达水处理解决方案助江西水厂实现过程自动化控制

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

台达论坛

关于赋值计算 请求指点一下

工控学堂推荐视频：