jony7788
級(jí)別: 論壇先鋒
精華主題: 0
發(fā)帖數(shù)量: 37 個(gè)
工控威望: 1629 點(diǎn)
下載積分: 1021 分
在線時(shí)間: 207(小時(shí))
注冊(cè)時(shí)間: 2023-02-25
最后登錄: 2024-11-05
查看jony7788的 主題 / 回貼
樓主  發(fā)表于: 2023-09-29 15:33
圖片：
圖片：
用三菱PLC(FX-3U)計(jì)算對(duì)數(shù)，發(fā)現(xiàn)同EXCEL直接計(jì)算的有差異，兩個(gè)數(shù)值都是相差0.09，是什么原因造成的呢。
[ 此帖被jony7788在2023-09-29 20:26重新編輯 ]
gzcjx555
QQ  296686949
級(jí)別: 工控俠客
精華主題: 0
發(fā)帖數(shù)量: 468 個(gè)
工控威望: 3830 點(diǎn)
下載積分: 3013 分
在線時(shí)間: 323(小時(shí))
注冊(cè)時(shí)間: 2014-02-15
最后登錄: 2024-11-06
查看gzcjx555的 主題 / 回貼
1樓  發(fā)表于: 2023-09-29 18:10
計(jì)算精度問題，三菱FX3U只支持單精度浮點(diǎn)計(jì)算，32位，EXCEL默認(rèn)使用雙精度浮點(diǎn)，也就是64位。
本帖最近評(píng)分記錄：
  • 下載積分:+5(jony7788) 熱心助人！
    • 聯(lián)系電話15071699246，QQ296686949
    jony7788
    級(jí)別: 論壇先鋒
    精華主題: 0
    發(fā)帖數(shù)量: 37 個(gè)
    工控威望: 1629 點(diǎn)
    下載積分: 1021 分
    在線時(shí)間: 207(小時(shí))
    注冊(cè)時(shí)間: 2023-02-25
    最后登錄: 2024-11-05
    查看jony7788的 主題 / 回貼
    2樓  發(fā)表于: 2023-09-29 20:01
    感謝！
    后面發(fā)現(xiàn)當(dāng)數(shù)值大于一定值的時(shí)候，兩者的計(jì)算結(jié)果是一樣的。
    niningtt
    級(jí)別: 工控俠客
    精華主題: 0
    發(fā)帖數(shù)量: 1230 個(gè)
    工控威望: 3550 點(diǎn)
    下載積分: 858 分
    在線時(shí)間: 458(小時(shí))
    注冊(cè)時(shí)間: 2010-08-24
    最后登錄: 2024-10-18
    查看niningtt的 主題 / 回貼
    3樓  發(fā)表于: 2023-10-06 16:16
    你PLC計(jì)算的結(jié)果0.004,0.007只是四舍五入的三位小數(shù)結(jié)果，實(shí)際按32為浮點(diǎn)數(shù)還有幾位有效數(shù)字，只是編程軟件沒有顯示出來(lái)，不表示那是計(jì)算的參數(shù)值
    本帖最近評(píng)分記錄：
  • 下載積分:+5(jony7788) 熱心助人！
    cypress1121
    級(jí)別: 工控俠客
    精華主題: 0
    發(fā)帖數(shù)量: 184 個(gè)
    工控威望: 3272 點(diǎn)
    下載積分: 16673 分
    在線時(shí)間: 410(小時(shí))
    注冊(cè)時(shí)間: 2020-01-07
    最后登錄: 2024-11-06
    查看cypress1121的 主題 / 回貼
    4樓  發(fā)表于: 2023-10-06 17:00
    小數(shù)點(diǎn)位數(shù)問題~~