lifeison
级别: 探索解密
精华主题: 0
发帖数量: 40 个
工控威望: 138 点
下载积分: 685 分
在线时间: 24(小时)
注册时间: 2016-07-12
最后登录: 2022-09-30
查看lifeison的 主题 / 回贴
楼主  发表于: 2016-12-06 08:20
只看楼主 | 小 中 大
图片：
图片：
如图的两种运算方法，运算结果都有偏差！
znz43
工控职业已成回忆 只因爱好常回家园 乐此不疲
级别: 工控侠客

精华主题: 0
发帖数量: 1055 个
工控威望: 4898 点
下载积分: 7346 分
在线时间: 2552(小时)
注册时间: 2010-06-24
最后登录: 2024-05-11
查看znz43的 主题 / 回贴
1楼  发表于: 2016-12-06 10:21
只看该作者 | 小 中 大
很正常，浮点数的有效位数只有7位。
出门打工难，打工学艺难，学艺拜师难，找到好师傅更难。
赠人玫瑰，手留余香。舍得舍得，有舍才有得。
lu08171537
级别: 家园常客
精华主题: 0
发帖数量: 91 个
工控威望: 593 点
下载积分: 474 分
在线时间: 115(小时)
注册时间: 2016-08-10
最后登录: 2016-12-20
查看lu08171537的 主题 / 回贴
2楼  发表于: 2016-12-06 10:59
只看该作者 | 小 中 大
精度问题,很正常好不
lifeison
级别: 探索解密
精华主题: 0
发帖数量: 40 个
工控威望: 138 点
下载积分: 685 分
在线时间: 24(小时)
注册时间: 2016-07-12
最后登录: 2022-09-30
查看lifeison的 主题 / 回贴
3楼  发表于: 2016-12-06 13:19
只看该作者 | 小 中 大
引用
引用第2楼lu08171537于2016-12-06 10:59发表的  :
精度问题,很正常好不


已知A=22400,B=0.005625,求C

你说C=125.99999正常？请用计算器算一下！
lifeison
级别: 探索解密
精华主题: 0
发帖数量: 40 个
工控威望: 138 点
下载积分: 685 分
在线时间: 24(小时)
注册时间: 2016-07-12
最后登录: 2022-09-30
查看lifeison的 主题 / 回贴
4楼  发表于: 2016-12-08 08:37
只看该作者 | 小 中 大
      
cvlsam
富士低压，POD（觸摸屏），PLC专卖
级别: VIP会员

精华主题: 3 篇
发帖数量: 6738 个
工控威望: 37093 点
下载积分: 8900 分
在线时间: 9396(小时)
注册时间: 2006-09-13
最后登录: 2024-05-11
查看cvlsam的 主题 / 回贴
5楼  发表于: 2016-12-08 08:40
只看该作者 | 小 中 大
引用
引用第3楼lifeison于2016-12-06 13:19发表的  :


已知A=22400,B=0.005625,求C

你说C=125.99999正常？请用计算器算一下！


您需要去了解一下IEEE754浮点数与我们PC上常说的浮点数的区别。

Good Luck~
业绩电气
级别: 略有小成
精华主题: 0
发帖数量: 189 个
工控威望: 377 点
下载积分: 1061 分
在线时间: 117(小时)
注册时间: 2009-01-02
最后登录: 2023-11-08
查看业绩电气的 主题 / 回贴
6楼  发表于: 2017-11-19 08:06
只看该作者 | 小 中 大
跪求松下PLC编程软件谢谢
sjbandmm
级别: 略有小成
精华主题: 0
发帖数量: 236 个
工控威望: 406 点
下载积分: 985 分
在线时间: 167(小时)
注册时间: 2008-08-23
最后登录: 2024-04-22
查看sjbandmm的 主题 / 回贴
7楼  发表于: 2017-11-19 12:12
只看该作者 | 小 中 大
浮点数进度问题，可以用双精度浮点数来解决问题，如果还不能达到精度，只能换成整数计算再转换为浮点数，只要是带小数的浮点数都是可能存在误差的，只有整数乘法没有误差。另外说一句，对于人家的回答，不管是对错，都要注意自己的态度！
tkggtdkjpl
工欲善其事，必先利其器！
级别: 网络英雄

精华主题: 1 篇
发帖数量: 3413 个
工控威望: 20949 点
下载积分: 21118 分
在线时间: 1704(小时)
注册时间: 2010-01-03
最后登录: 2024-05-11
查看tkggtdkjpl的 主题 / 回贴
8楼  发表于: 2017-11-19 20:32
只看该作者 | 小 中 大
把22400改成22400.0试试。
自动化单机，生产线，项目编程调试！
工控剑侠666
天道酬勤，认真的人做认真的事 。
级别: 工控侠客
精华主题: 0
发帖数量: 979 个
工控威望: 2657 点
下载积分: 21602 分
在线时间: 267(小时)
注册时间: 2013-03-30
最后登录: 2024-03-29
查看工控剑侠666的 主题 / 回贴
9楼  发表于: 2017-11-21 08:09
只看该作者 | 小 中 大
哈哈，你们厉害
工控人加油