szrunluo
級(jí)別: *
精華主題: * 篇
發(fā)帖數(shù)量: * 個(gè)
工控威望: * 點(diǎn)
下載積分: * 分
在線時(shí)間: (小時(shí))
注冊(cè)時(shí)間: *
最后登錄: *
查看szrunluo的 主題 / 回貼
樓主  發(fā)表于: 2008-07-15 00:14
使用除法運(yùn)算時(shí),DIV,    10000 / 6=1666,   余數(shù)是0.666667.       但在PC運(yùn)行中計(jì)算出來的余數(shù)是4,我百思不解PC是怎樣轉(zhuǎn)換過來的結(jié)果,
請(qǐng)求高手指點(diǎn).
zxdha
級(jí)別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 182 個(gè)
工控威望: 247 點(diǎn)
下載積分: 1264 分
在線時(shí)間: 47(小時(shí))
注冊(cè)時(shí)間: 2007-05-17
最后登錄: 2021-05-30
查看zxdha的 主題 / 回貼
1樓  發(fā)表于: 2008-07-16 10:26
簡單點(diǎn)說，div或ddiv是整數(shù)運(yùn)算指令，在運(yùn)算時(shí)它不會(huì)去計(jì)算小數(shù)點(diǎn)后面的數(shù)據(jù)，也就是說它只運(yùn)算到個(gè)位數(shù)為止，所以余數(shù)也一定是整數(shù)。如1000除以6等于166，余數(shù)肯定為4。

而使用浮點(diǎn)運(yùn)算從理論上來說是不存在余數(shù)的�。�！實(shí)際應(yīng)用中主要看你使用32位計(jì)算、還是使用64位計(jì)算、還是用128位計(jì)算，位數(shù)越高精確度也越高。如1000除以6等于166.66666666666.......7。請(qǐng)注意小數(shù)點(diǎn)后面的0.66666666666.......7它其實(shí)是商，而不是余數(shù)�。。�
本帖最近評(píng)分記錄：
  • 下載積分:+3(YMMFA) 熱心助人!