lifeison
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-09-29
查看lifeison的 主題 / 回貼
樓主  發(fā)表于: 2016-12-06 08:20
圖片：
圖片：
如圖的兩種運算方法，運算結果都有偏差！
cvlsam
富士低壓，POD（觸摸屏），PLC專賣
級別: VIP會員

精華主題: 3 篇
發(fā)帖數(shù)量: 6766 個
工控威望: 38367 點
下載積分: 2589 分
在線時間: 9497(小時)
注冊時間: 2006-09-13
最后登錄: 2024-11-05
查看cvlsam的 主題 / 回貼
1樓  發(fā)表于: 2016-12-08 08:40
引用
引用第3樓lifeison于2016-12-06 13:19發(fā)表的  :


已知A=22400,B=0.005625,求C

你說C=125.99999正常？請用計算器算一下！


您需要去了解一下IEEE754浮點數(shù)與我們PC上常說的浮點數(shù)的區(qū)別。

Good Luck~