lifeison
级别: 探索解密
精华主题: 0
发帖数量: 40 个
工控威望: 138 点
下载积分: 685 分
在线时间: 24(小时)
注册时间: 2016-07-12
最后登录: 2022-09-30
查看lifeison的 主题 / 回贴
楼主  发表于: 2016-12-06 08:20
全看 | 小 中 大
图片：
图片：
如图的两种运算方法，运算结果都有偏差！
lifeison
级别: 探索解密
精华主题: 0
发帖数量: 40 个
工控威望: 138 点
下载积分: 685 分
在线时间: 24(小时)
注册时间: 2016-07-12
最后登录: 2022-09-30
查看lifeison的 主题 / 回贴
1楼  发表于: 2016-12-06 13:19
全看 | 小 中 大
引用
引用第2楼lu08171537于2016-12-06 10:59发表的  :
精度问题,很正常好不


已知A=22400,B=0.005625,求C

你说C=125.99999正常？请用计算器算一下！
lifeison
级别: 探索解密
精华主题: 0
发帖数量: 40 个
工控威望: 138 点
下载积分: 685 分
在线时间: 24(小时)
注册时间: 2016-07-12
最后登录: 2022-09-30
查看lifeison的 主题 / 回贴
2楼  发表于: 2016-12-08 08:37
全看 | 小 中 大