理論:
把測(cè)量量滿值等份成4095份。實(shí)測(cè)值乘以一份的量
工程值=測(cè)量值*0.34188034188034188034188034188034
阻礙:
單份非整形數(shù)據(jù),需浮點(diǎn)計(jì)算
解決方法:
1、轉(zhuǎn)換為浮點(diǎn)數(shù)后計(jì)算
優(yōu)點(diǎn):精度
缺點(diǎn):運(yùn)行速度、寄存器使用量
注意:1N是否支持FLT和INT這兩個(gè)數(shù)據(jù)轉(zhuǎn)換指令未知。起碼我知道2N以上有……
2、將數(shù)值翻倍后取整
優(yōu)點(diǎn):速度、寄存器使用量
缺點(diǎn):精度
注意:?jiǎn)我患拇嫫饔行ё畲鬅o(wú)符號(hào)整形數(shù)為65535。設(shè)置倍率時(shí)需留意計(jì)算值范圍。窮舉推算的結(jié)果最合適倍率為6倍,誤差-2.5%