jony7788
级别: 工控侠客
精华主题: 0
发帖数量: 51 个
工控威望: 2005 点
下载积分: 4398 分
在线时间: 253(小时)
注册时间: 2023-02-25
最后登录: 2025-10-29
查看jony7788的 主题 / 回贴
楼主  发表于: 2023-09-29 15:33
图片:
图片:
用三菱PLC(FX-3U)计算对数,发现同EXCEL直接计算的有差异,两个数值都是相差0.09,是什么原因造成的呢。
[ 此帖被jony7788在2023-09-29 20:26重新编辑 ]
gzcjx555
QQ  296686949
级别: 网络英雄
精华主题: 0
发帖数量: 563 个
工控威望: 5155 点
下载积分: 806 分
在线时间: 447(小时)
注册时间: 2014-02-15
最后登录: 2025-10-29
查看gzcjx555的 主题 / 回贴
1楼  发表于: 2023-09-29 18:10
计算精度问题,三菱FX3U只支持单精度浮点计算,32位,EXCEL默认使用双精度浮点,也就是64位。
本帖最近评分记录:
  • 下载积分:+5(jony7788) 热心助人!
  • 联系电话15071699246,QQ296686949
    jony7788
    级别: 工控侠客
    精华主题: 0
    发帖数量: 51 个
    工控威望: 2005 点
    下载积分: 4398 分
    在线时间: 253(小时)
    注册时间: 2023-02-25
    最后登录: 2025-10-29
    查看jony7788的 主题 / 回贴
    2楼  发表于: 2023-09-29 20:01
    感谢!
    后面发现当数值大于一定值的时候,两者的计算结果是一样的。
    niningtt
    级别: 工控侠客
    精华主题: 0
    发帖数量: 1226 个
    工控威望: 3555 点
    下载积分: 854 分
    在线时间: 463(小时)
    注册时间: 2010-08-24
    最后登录: 2025-10-29
    查看niningtt的 主题 / 回贴
    3楼  发表于: 2023-10-06 16:16
    你PLC计算的结果0.004,0.007只是四舍五入的三位小数结果,实际按32为浮点数还有几位有效数字,只是编程软件没有显示出来,不表示那是计算的参数值
    本帖最近评分记录:
  • 下载积分:+5(jony7788) 热心助人!
    cypress1121
    级别: 工控侠客
    精华主题: 0
    发帖数量: 185 个
    工控威望: 3273 点
    下载积分: 21185 分
    在线时间: 423(小时)
    注册时间: 2020-01-07
    最后登录: 2025-10-27
    查看cypress1121的 主题 / 回贴
    4楼  发表于: 2023-10-06 17:00
    小數點位數問題~~