lifeison
級(jí)別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個(gè)
工控威望: 138 點(diǎn)
下載積分: 685 分
在線時(shí)間: 25(小時(shí))
注冊(cè)時(shí)間: 2016-07-12
最后登錄: 2024-09-29
查看lifeison的 主題 / 回貼
樓主  發(fā)表于: 2016-12-06 08:20
圖片：
圖片：
如圖的兩種運(yùn)算方法，運(yùn)算結(jié)果都有偏差！
sjbandmm
級(jí)別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 237 個(gè)
工控威望: 407 點(diǎn)
下載積分: 987 分
在線時(shí)間: 167(小時(shí))
注冊(cè)時(shí)間: 2008-08-23
最后登錄: 2024-05-22
查看sjbandmm的 主題 / 回貼
1樓  發(fā)表于: 2017-11-19 12:12
浮點(diǎn)數(shù)進(jìn)度問題，可以用雙精度浮點(diǎn)數(shù)來(lái)解決問題，如果還不能達(dá)到精度，只能換成整數(shù)計(jì)算再轉(zhuǎn)換為浮點(diǎn)數(shù)，只要是帶小數(shù)的浮點(diǎn)數(shù)都是可能存在誤差的，只有整數(shù)乘法沒有誤差。另外說一句，對(duì)于人家的回答，不管是對(duì)錯(cuò)，都要注意自己的態(tài)度！