550374389
！！！
级别: 论坛先锋

精华主题: 0
发帖数量: 696 个
工控威望: 1161 点
下载积分: 5237 分
在线时间: 2360(小时)
注册时间: 2010-11-28
最后登录: 2023-09-22
查看550374389的 主题 / 回贴
楼主  发表于: 2013-11-11 20:14
全看 | 小 中 大

如图，为什么D10跟D30都是0.500，但是K8Y0却与K8Y40不相等呢
john42tw
级别: 网络英雄
精华主题: 0
发帖数量: 1276 个
工控威望: 6107 点
下载积分: 52046 分
在线时间: 1120(小时)
注册时间: 2012-04-24
最后登录: 2024-03-06
查看john42tw的 主题 / 回贴
1楼  发表于: 2013-11-12 10:21
全看 | 小 中 大
因為他本來就不一樣
楼主留言：
请教大侠，能说明一下，两者之间为什么不一样吗？？非常感谢你的帮忙
附件： TT.pdf (24 K) 下载次数:34
网站提示: 请不要用迅雷下载附件，容易出错
本帖最近评分记录：
  • 下载积分:+5(550374389) 热心助人！
    john42tw
    级别: 网络英雄
    精华主题: 0
    发帖数量: 1276 个
    工控威望: 6107 点
    下载积分: 52046 分
    在线时间: 1120(小时)
    注册时间: 2012-04-24
    最后登录: 2024-03-06
    查看john42tw的 主题 / 回贴
    2楼  发表于: 2013-11-13 17:27
    全看 | 小 中 大
    推測是在 DEBIN  轉換中產生誤差

    這個例子 在实數數值上只差  2的-25次方分之1
    應該沒有實際影響
    楼主留言：
    感谢大侠帮忙，大侠是来自台湾吧？？