请教个基础问题，REAL类型的数值，做乘除运算为啥误差这么大？

2985

q616602675

文章数：354

年度积分：137

历史总积分：2985

作者的所有帖子(354)

注册时间：2018/2/2

发站内信

发表于：2023/3/28 23:34:23

#0楼

如图，原来一直也没注意过，今天仿真时候拿手机算了一下，误差还真不小
是数据类型的问题吗？我查到的资料是Real类型要比Float类型精度更高呀

【方案】菱机妙用 | iQ-R系列CC-Link IE TSN 网络使用

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 结帖 | 管理

36339

cvlsam 版主

文章数：12236

年度积分：691

历史总积分：36339

作者的所有帖子(12236)

注册时间：2001/12/22

发站内信

2018论坛贡献奖

2017论坛贡献奖

2016论坛贡献奖

2015论坛贡献奖

2013论坛贡献奖

2012论坛贡献奖

2011论坛贡献奖

2011国庆活动

2010论坛杰出贡献奖

发表于：2023/3/29 5:14:10

#1楼

因为IEEE浮点存在有效位。

【方案】电子电路研发过程中的微小温差，FLIR T560也能精准捕获

只看该作者 | 赞[0] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

18551

pqsh 版主

文章数：7320

年度积分：381

历史总积分：18551

作者的所有帖子(7320)

注册时间：2006/8/22

发站内信

2018论坛解答高手

发表于：2023/3/29 9:18:39

#2楼

第一,你这个PLC的浮点计算有问题.并不是所有的PLC都带浮点运算器,老式的计算机,CPU和浮点CPU都是分立的.就是现在,也算是分立的,只不过现在用在图像处理叫GPU,也是比CPU具有更强的浮点能力.
第二,对于过小的数,采用它的倒数计算比较好.比如你这个除以0.003想法采用乘以3333333.这是数值计算的常识.无论你是常数还是通过计算来的数,都要想法让它至少在小数点前有有效位, 这其中还包括改变乘除顺序(比如3/1000*25,不如25*3/1000). 对于加减(累积),会产生截断误差.
第三,如上,浮点有精度,一般的real是指float,32位表达,6位精度.如果需要更精确,采用双精度(64位),也许你的real(比如现在的C)是双精度,但此处不是. 在有些累积的计算上, 往往还不采用浮点(实数), 而采用整数.

如果我忘了我
请帮忙记得我
pqsh@163,326199298@v&q同号

【方案】英威腾Goodrive5000系列变频器在新疆伊宁市水利工程的应用

只看该作者 | 赞[1] | 踩[0] | 引用 | 回复 | 编辑 | 推荐 | 举报 | 管理

PLC论坛

请教个基础问题，REAL类型的数值，做乘除运算为啥误差这么大？

工控学堂推荐视频：