王德位
级别: 略有小成
精华主题: 0
发帖数量: 234 个
工控威望: 381 点
下载积分: 1109 分
在线时间: 182(小时)
注册时间: 2016-05-05
最后登录: 2024-04-27
查看王德位的 主题 / 回贴
楼主  发表于: 2017-08-23 10:40
只看楼主 | 小 中 大
图片：
新手请教欧姆龙浮点数减法为什么不等于0.6，却等于0.5999999呢
往事如风
科技改变制造
级别: 网络英雄

精华主题: 0
发帖数量: 10711 个
工控威望: 17864 点
下载积分: 10316 分
在线时间: 2631(小时)
注册时间: 2013-01-31
最后登录: 2024-04-28
查看往事如风的 主题 / 回贴
1楼  发表于: 2017-08-23 12:43
只看该作者 | 小 中 大
既然是浮点运算就是这样，0.6说明四舍五入了
三人行者必有我师 ，择其善者而从之