科技改變未來
知識就是讓你禿頭的力量
級別: 家園常客
精華主題: 0
發(fā)帖數(shù)量: 552 個
工控威望: 758 點
下載積分: 10387 分
在線時間: 439(小時)
注冊時間: 2011-04-18
最后登錄: 2024-11-06
查看科技改變未來的 主題 / 回貼
樓主  發(fā)表于: 2022-08-24 10:44
圖片：
圖片：
如圖通過模擬發(fā)現(xiàn) 被除數(shù)小于82時候，算出的結(jié)果是準的 。被除數(shù)大于83 ，為什么結(jié)果就不準了呢/有知道原因的小伙伴嗎
gxtmdb82164
級別: 論壇先鋒
精華主題: 0
發(fā)帖數(shù)量: 770 個
工控威望: 1148 點
下載積分: 399 分
在線時間: 604(小時)
注冊時間: 2019-09-22
最后登錄: 2024-12-20
查看gxtmdb82164的 主題 / 回貼
1樓  發(fā)表于: 2022-08-24 15:16
你繼續(xù)換其他數(shù)值,你會發(fā)現(xiàn)還有其他的數(shù)也會有誤差~

這就是傳說中,二進制不能用于表達任意值,通過浮點數(shù)格式,在有限范圍內(nèi)盡可能精確的逼近目標值~