lifeison
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點(diǎn)
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的 主題 / 回貼
樓主  發(fā)表于: 2016-12-06 08:20
圖片：
圖片：
如圖的兩種運(yùn)算方法，運(yùn)算結(jié)果都有偏差！
cvlsam
富士低壓，POD（觸摸屏），PLC專賣
級別: VIP會員

精華主題: 3 篇
發(fā)帖數(shù)量: 6777 個
工控威望: 38380 點(diǎn)
下載積分: 4213 分
在線時間: 9537(小時)
注冊時間: 2006-09-13
最后登錄: 2024-12-23
查看cvlsam的 主題 / 回貼
1樓  發(fā)表于: 2016-12-08 08:40
引用
引用第3樓lifeison于2016-12-06 13:19發(fā)表的  :


已知A=22400,B=0.005625,求C

你說C=125.99999正常？請用計(jì)算器算一下！


您需要去了解一下IEEE754浮點(diǎn)數(shù)與我們PC上常說的浮點(diǎn)數(shù)的區(qū)別。

Good Luck~