lifeison
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的 主題 / 回貼
樓主  發(fā)表于: 2016-12-06 08:20
圖片：
圖片：
如圖的兩種運算方法，運算結(jié)果都有偏差！
znz43
工控職業(yè)已成回憶 只因愛好常回家園 樂此不疲
級別: 工控俠客

精華主題: 0
發(fā)帖數(shù)量: 1057 個
工控威望: 4900 點
下載積分: 7351 分
在線時間: 2561(小時)
注冊時間: 2010-06-24
最后登錄: 2024-12-16
查看znz43的 主題 / 回貼
1樓  發(fā)表于: 2016-12-06 10:21
很正常，浮點數(shù)的有效位數(shù)只有7位。
出門打工難，打工學(xué)藝難，學(xué)藝拜師難，找到好師傅更難。
贈人玫瑰，手留余香。舍得舍得，有舍才有得。
lu08171537
級別: 家園常客
精華主題: 0
發(fā)帖數(shù)量: 91 個
工控威望: 593 點
下載積分: 474 分
在線時間: 115(小時)
注冊時間: 2016-08-10
最后登錄: 2016-12-20
查看lu08171537的 主題 / 回貼
2樓  發(fā)表于: 2016-12-06 10:59
精度問題,很正常好不
lifeison
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的 主題 / 回貼
3樓  發(fā)表于: 2016-12-06 13:19
引用
引用第2樓lu08171537于2016-12-06 10:59發(fā)表的  :
精度問題,很正常好不


已知A=22400,B=0.005625,求C

你說C=125.99999正常？請用計算器算一下！
lifeison
級別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的 主題 / 回貼
4樓  發(fā)表于: 2016-12-08 08:37
      
cvlsam
富士低壓，POD（觸摸屏），PLC專賣
級別: VIP會員

精華主題: 3 篇
發(fā)帖數(shù)量: 6777 個
工控威望: 38380 點
下載積分: 4203 分
在線時間: 9537(小時)
注冊時間: 2006-09-13
最后登錄: 2024-12-22
查看cvlsam的 主題 / 回貼
5樓  發(fā)表于: 2016-12-08 08:40
引用
引用第3樓lifeison于2016-12-06 13:19發(fā)表的  :


已知A=22400,B=0.005625,求C

你說C=125.99999正常？請用計算器算一下！


您需要去了解一下IEEE754浮點數(shù)與我們PC上常說的浮點數(shù)的區(qū)別。

Good Luck~
業(yè)績電氣
級別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 189 個
工控威望: 377 點
下載積分: 1061 分
在線時間: 117(小時)
注冊時間: 2009-01-02
最后登錄: 2023-11-08
查看業(yè)績電氣的 主題 / 回貼
6樓  發(fā)表于: 2017-11-19 08:06
跪求松下PLC編程軟件謝謝
sjbandmm
級別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 237 個
工控威望: 407 點
下載積分: 987 分
在線時間: 168(小時)
注冊時間: 2008-08-23
最后登錄: 2024-11-19
查看sjbandmm的 主題 / 回貼
7樓  發(fā)表于: 2017-11-19 12:12
浮點數(shù)進(jìn)度問題，可以用雙精度浮點數(shù)來解決問題，如果還不能達(dá)到精度，只能換成整數(shù)計算再轉(zhuǎn)換為浮點數(shù)，只要是帶小數(shù)的浮點數(shù)都是可能存在誤差的，只有整數(shù)乘法沒有誤差。另外說一句，對于人家的回答，不管是對錯，都要注意自己的態(tài)度！
tkggtdkjpl
工欲善其事，必先利其器！
級別: 網(wǎng)絡(luò)英雄

精華主題: 1 篇
發(fā)帖數(shù)量: 3443 個
工控威望: 20982 點
下載積分: 28515 分
在線時間: 1765(小時)
注冊時間: 2010-01-03
最后登錄: 2024-12-22
查看tkggtdkjpl的 主題 / 回貼
8樓  發(fā)表于: 2017-11-19 20:32
把22400改成22400.0試試。
自動化單機，生產(chǎn)線，項目編程調(diào)試！
工控劍俠666
天道酬勤，認(rèn)真的人做認(rèn)真的事 。
級別: 工控俠客
精華主題: 0
發(fā)帖數(shù)量: 1007 個
工控威望: 2686 點
下載積分: 22581 分
在線時間: 276(小時)
注冊時間: 2013-03-30
最后登錄: 2024-12-21
查看工控劍俠666的 主題 / 回貼
9樓  發(fā)表于: 2017-11-21 08:09
哈哈，你們厲害
工控人加油