550374389
！��！
級別: 論壇先鋒

精華主題: 0
發(fā)帖數(shù)量: 696 個
工控威望: 1161 點
下載積分: 5237 分
在線時間: 2360(小時)
注冊時間: 2010-11-28
最后登錄: 2024-10-11
查看550374389的 主題 / 回貼
樓主  發(fā)表于: 2013-11-11 20:14

如圖，為什么D10跟D30都是0.500，但是K8Y0卻與K8Y40不相等呢
john42tw
級別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 1276 個
工控威望: 6107 點
下載積分: 52058 分
在線時間: 1120(小時)
注冊時間: 2012-04-24
最后登錄: 2024-09-30
查看john42tw的 主題 / 回貼
1樓  發(fā)表于: 2013-11-12 10:21
因為他本來就不一樣
樓主留言：
請教大俠，能說明一下，兩者之間為什么不一樣嗎？？非常感謝你的幫忙
附件： TT.pdf (24 K) 下載次數(shù):34
網(wǎng)站提示: 請不要用迅雷下載附件，容易出錯
本帖最近評分記錄：
  • 下載積分:+5(550374389) 熱心助人！
    john42tw
    級別: 網(wǎng)絡(luò)英雄
    精華主題: 0
    發(fā)帖數(shù)量: 1276 個
    工控威望: 6107 點
    下載積分: 52058 分
    在線時間: 1120(小時)
    注冊時間: 2012-04-24
    最后登錄: 2024-09-30
    查看john42tw的 主題 / 回貼
    2樓  發(fā)表于: 2013-11-13 17:27
    推測是在 DEBIN  轉(zhuǎn)換中產(chǎn)生誤差

    這個例子 在實數(shù)數(shù)值上只差  2的-25次方分之1
    應(yīng)該沒有實際影響
    樓主留言：
    感謝大俠幫忙，大俠是來自臺灣吧？？