過(guò)往云煙
級(jí)別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 18 個(gè)
工控威望: 120 點(diǎn)
下載積分: 730 分
在線時(shí)間: 22(小時(shí))
注冊(cè)時(shí)間: 2017-02-16
最后登錄: 2022-01-27
查看過(guò)往云煙的 主題 / 回貼
樓主  發(fā)表于: 2022-01-24 12:11
圖片:
用了3U,浮點(diǎn)運(yùn)算后得到了D100的數(shù)值,這個(gè)數(shù)值是對(duì)的,但是我在用D100的數(shù)字在和常數(shù)K600比較時(shí)候,D100數(shù)值變的很大,是什么原因

lizhendong
級(jí)別: 家園常客
精華主題: 0
發(fā)帖數(shù)量: 608 個(gè)
工控威望: 800 點(diǎn)
下載積分: 1992 分
在線時(shí)間: 852(小時(shí))
注冊(cè)時(shí)間: 2016-10-12
最后登錄: 2024-12-26
查看lizhendong的 主題 / 回貼
1樓  發(fā)表于: 2022-01-24 12:16
浮點(diǎn)數(shù)比較指令不對(duì)!
樓主留言:
用ECMP嗎