kongqigg
級別: 正式會員
精華主題: 0
發(fā)帖數(shù)量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的 主題 / 回貼
樓主  發(fā)表于: 2015-01-15 17:25
DEBCD指令得到的數(shù)值是錯的？為什么？？請大俠指點。
kongqigg
級別: 正式會員
精華主題: 0
發(fā)帖數(shù)量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的 主題 / 回貼
1樓  發(fā)表于: 2015-01-15 18:51
我以為DEBCD指令得到結果是100000，但是不知道為變大了
kongqigg
級別: 正式會員
精華主題: 0
發(fā)帖數(shù)量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的 主題 / 回貼
2樓  發(fā)表于: 2015-01-16 11:38
引用
引用第4樓niningtt于2015-01-15 20:45發(fā)表的  :
你需要將浮點數(shù)轉換成整數(shù)也就是100000.0轉成INT100000，
錯誤原因，1、BCD碼轉化也不是將浮點數(shù)轉為整數(shù) 2、直接用浮點數(shù)轉BCD也是錯誤的做法，

我后來把debcd改了，改成INT就好了，但是我還是不太清楚，第一次用浮點數(shù)，謝謝指點。
kongqigg
級別: 正式會員
精華主題: 0
發(fā)帖數(shù)量: 6 個
工控威望: 95 點
下載積分: 584 分
在線時間: 10(小時)
注冊時間: 2014-12-30
最后登錄: 2023-04-03
查看kongqigg的 主題 / 回貼
3樓  發(fā)表于: 2015-01-16 13:31
引用
引用第5樓hsqknx于2015-01-15 21:21發(fā)表的  :
結果不是你這么用的，DEBCD得出的是10進制小數(shù)，會有誤差

那個程序里面還有一段跟這個差不多的，那里的BCD指令得出來的結果是正確的。
所以我很納悶
求高人指點。