王德位
级别: 略有小成
精华主题: 0
发帖数量: 249 个
工控威望: 399 点
下载积分: 1333 分
在线时间: 233(小时)
注册时间: 2016-05-05
最后登录: 2026-04-02
查看王德位的 主题 / 回贴
楼主  发表于: 2017-08-23 10:40
只看楼主 | 小 中 大
图片：
新手请教欧姆龙浮点数减法为什么不等于0.6，却等于0.5999999呢
往事如风
科技改变制造
级别: 网络英雄

精华主题: 0
发帖数量: 12219 个
工控威望: 20029 点
下载积分: 16377 分
在线时间: 2867(小时)
注册时间: 2013-01-31
最后登录: 2026-04-03
查看往事如风的 主题 / 回贴
1楼  发表于: 2017-08-23 12:43
只看该作者 | 小 中 大
既然是浮点运算就是这样，0.6说明四舍五入了
三人行者必有我师 ，择其善者而从之