关于赋值计算请求指点一下

50

piyufeng

文章数：20

年度积分：50

历史总积分：50

品牌积分(台达)：36

作者的所有帖子(20)

注册时间：2019/10/21

发站内信

发表于：2021/3/25 14:14:09

#0楼

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

【方案】倍福将具有更高性能的伺服驱动器直接集成在 EtherCAT I/O 系统中

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 结帖 | 管理

37231

cvlsam 版主

文章数：12401

年度积分：1583

历史总积分：37231

品牌积分(台达)：43

作者的所有帖子(12401)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆活动

2010论坛杰出贡献奖

发表于：2021/3/25 15:04:24

#1楼

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

【方案】1400˚C的钢水喷溅，FLIR A315将危险扼杀在摇篮里

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

50

piyufeng

文章数：20

年度积分：50

历史总积分：50

品牌积分(台达)：36

作者的所有帖子(20)

注册时间：2019/10/21

发站内信

发表于：2021/3/25 15:26:12

#2楼

也就是说后台计算完全是按没有小数进行的，
为了前台正确显示，我还要根据小数的取位，在后台乘（除）10的n次方？

以下是引用cvlsam在2021/3/25 15:04:24的发言：

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

【方案】应用案例 | 紧凑型 I/O 模块显著降低硬件需求以及成本，并将设备装配时间减少 50%

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

37231

cvlsam 版主

文章数：12401

年度积分：1583

历史总积分：37231

品牌积分(台达)：43

作者的所有帖子(12401)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆活动

2010论坛杰出贡献奖

发表于：2021/3/25 16:16:58

#3楼

以下是引用piyufeng在2021/3/25 15:26:12的发言：
也就是说后台计算完全是按没有小数进行的，
为了前台正确显示，我还要根据小数的取位，在后台乘（除）10的n次方？

以下是引用cvlsam在2021/3/25 15:04:24的发言：

以下是引用piyufeng在2021/3/25 14:14:09的发言：

一个数值输入控件，一个数值显示控件，一句代码，结果和预想不一样，是为什么？

因为：
看似输入的是3.00，由于通过定点整数显示的方式，因此实际在寄存器中的值是300。

通过300乘以300，结果就是90000，然后由于设定的是3位小数显示，因此最后显示为90.000。

触摸屏的计算完全没有问题，这个锅触摸屏不会替程序员背的。

Good Luck~

YES，因此纯小数运算请选用浮点数。

Good Luck~

【方案】图尔克 BLOCK I/0控制滚筒输送机模块

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

台达论坛

关于赋值计算 请求指点一下

工控学堂推荐视频：