关于赋值计算请求指点一下

50

piyufeng

文章数：20

年度积分：50

历史总积分：50

品牌积分(台达)：36

作者的所有帖子(20)

注册时间：2019/10/21

发站内信

发表于：2021/3/25 14:14:09

#0楼

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

【方案】国际版《走近科学》，跟随FLIR T540热像仪揭开神秘山区的传说！

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 结帖 | 管理

36408

cvlsam 版主

文章数：12269

年度积分：760

历史总积分：36408

品牌积分(台达)：43

作者的所有帖子(12269)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆活动

2010论坛杰出贡献奖

发表于：2021/3/25 15:04:24

#1楼

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

【方案】台达电子打造全台湾最大面积LED显示屏幕系统

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

50

piyufeng

文章数：20

年度积分：50

历史总积分：50

品牌积分(台达)：36

作者的所有帖子(20)

注册时间：2019/10/21

发站内信

发表于：2021/3/25 15:26:12

#2楼

也就是说后台计算完全是按没有小数进行的，
为了前台正确显示，我还要根据小数的取位，在后台乘（除）10的n次方？

以下是引用cvlsam在2021/3/25 15:04:24的发言：

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

【方案】使用热成像技术捕杀灰松鼠？选择FLIR Scout的原因是......

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

36408

cvlsam 版主

文章数：12269

年度积分：760

历史总积分：36408

品牌积分(台达)：43

作者的所有帖子(12269)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆活动

2010论坛杰出贡献奖

发表于：2021/3/25 16:16:58

#3楼

以下是引用piyufeng在2021/3/25 15:26:12的发言：
也就是说后台计算完全是按没有小数进行的，
为了前台正确显示，我还要根据小数的取位，在后台乘（除）10的n次方？

以下是引用cvlsam在2021/3/25 15:04:24的发言：

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

YES，因此纯小数运算请选用浮点数。

Good Luck~

【方案】LSNE（PCI 制药公司）利用数字化来保障质量、合规性和数据完整性

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

台达论坛

关于赋值计算 请求指点一下

工控学堂推荐视频：