lifeison
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的 主題 / 回貼
樓主  發(fā)表于: 2016-12-06 08:20
圖片：
圖片：
如圖的兩種運算方法，運算結果都有偏差！
lifeison
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的 主題 / 回貼
1樓  發(fā)表于: 2016-12-06 13:19
引用
引用第2樓lu08171537于2016-12-06 10:59發(fā)表的  :
精度問題,很正常好不


已知A=22400,B=0.005625,求C

你說C=125.99999正常？請用計算器算一下！
lifeison
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的 主題 / 回貼
2樓  發(fā)表于: 2016-12-08 08:37