影帝剛
級別: 正式會員
精華主題: 0
發(fā)帖數(shù)量: 6 個
工控威望: 53 點
下載積分: 826 分
在線時間: 3(小時)
注冊時間: 2018-03-23
最后登錄: 2022-03-28
查看影帝剛的 主題 / 回貼
樓主  發(fā)表于: 2018-03-24 12:26
圖1
  圖2
浮點運算為什么D110里面是0.001 。D120里面是4.17e+005 。這些都是怎么換算的,算不出來。