影帝剛
級別: 正式會(huì)員
精華主題: 0
發(fā)帖數(shù)量: 6 個(gè)
工控威望: 53 點(diǎn)
下載積分: 826 分
在線時(shí)間: 3(小時(shí))
注冊時(shí)間: 2018-03-23
最后登錄: 2022-03-28
查看影帝剛的 主題 / 回貼
樓主  發(fā)表于: 2018-03-24 12:26
圖1
  圖2
 浮點(diǎn)運(yùn)算為什么D110里面是0.001 。D120里面是4.17e+005 。這些都是怎么換算的，算不出來。
caoxj007
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 29 個(gè)
工控威望: 159 點(diǎn)
下載積分: 1075 分
在線時(shí)間: 326(小時(shí))
注冊時(shí)間: 2013-04-24
最后登錄: 2024-12-03
查看caoxj007的 主題 / 回貼
1樓  發(fā)表于: 2018-03-24 13:08
D110里面的數(shù)據(jù)是0.0006472491，顯示保留三未小數(shù)就是0.001
本帖最近評分記錄：
  • 下載積分:+1(影帝剛) 熱心助人！