錦繡明天
級(jí)別: 探索解密
精華主題: 0
發(fā)帖數(shù)量: 59 個(gè)
工控威望: 184 點(diǎn)
下載積分: 937 分
在線時(shí)間: 264(小時(shí))
注冊(cè)時(shí)間: 2014-10-04
最后登錄: 2024-12-12
查看錦繡明天的 主題 / 回貼
樓主  發(fā)表于: 2024-05-22 23:05
請(qǐng)教大師三菱，0.087890625×2034這個(gè)數(shù)如何寫程式計(jì)算。
Lu
雪山飛狐
級(jí)別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個(gè)
工控威望: 15097 點(diǎn)
下載積分: 38895 分
在線時(shí)間: 942(小時(shí))
注冊(cè)時(shí)間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
1樓  發(fā)表于: 2024-05-23 08:51
研究學(xué)習(xí)。
heiheiwodeai
級(jí)別: 略有小成
精華主題: 0
發(fā)帖數(shù)量: 253 個(gè)
工控威望: 375 點(diǎn)
下載積分: 990 分
在線時(shí)間: 336(小時(shí))
注冊(cè)時(shí)間: 2013-03-26
最后登錄: 2024-12-20
查看heiheiwodeai的 主題 / 回貼
2樓  發(fā)表于: 2024-05-23 09:58
圖片：
FLOAT只能處理到小數(shù)點(diǎn)后6位
雪山飛狐
級(jí)別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個(gè)
工控威望: 15097 點(diǎn)
下載積分: 38895 分
在線時(shí)間: 942(小時(shí))
注冊(cè)時(shí)間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
3樓  發(fā)表于: 2024-05-23 11:37
把小數(shù)擴(kuò)大n倍，結(jié)杲再縮小n倍。
雪山飛狐
級(jí)別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個(gè)
工控威望: 15097 點(diǎn)
下載積分: 38895 分
在線時(shí)間: 942(小時(shí))
注冊(cè)時(shí)間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
4樓  發(fā)表于: 2024-05-23 11:37
仿試試看吧。
雪山飛狐
級(jí)別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個(gè)
工控威望: 15097 點(diǎn)
下載積分: 38895 分
在線時(shí)間: 942(小時(shí))
注冊(cè)時(shí)間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
5樓  發(fā)表于: 2024-05-24 08:51
試試成功。
雪山飛狐
級(jí)別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個(gè)
工控威望: 15097 點(diǎn)
下載積分: 38895 分
在線時(shí)間: 942(小時(shí))
注冊(cè)時(shí)間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
6樓  發(fā)表于: 2024-05-29 13:52
計(jì)算快樂(lè)。
上海工控人1
級(jí)別: 正式會(huì)員
精華主題: 0
發(fā)帖數(shù)量: 55 個(gè)
工控威望: 87 點(diǎn)
下載積分: 642 分
在線時(shí)間: 32(小時(shí))
注冊(cè)時(shí)間: 2023-08-17
最后登錄: 2024-12-20
查看上海工控人1的 主題 / 回貼
7樓  發(fā)表于: 2024-05-29 14:31
單精度浮點(diǎn)精度不夠，得用double 雙精度浮點(diǎn)運(yùn)算，看看控制吃支持64位雙精度浮點(diǎn)運(yùn)算嘛
可以聯(lián)系我qq 1515325122 大家一起學(xué)習(xí)交流
雪山飛狐
級(jí)別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個(gè)
工控威望: 15097 點(diǎn)
下載積分: 38895 分
在線時(shí)間: 942(小時(shí))
注冊(cè)時(shí)間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
8樓  發(fā)表于: 2024-05-30 07:12
計(jì)算問(wèn)題。
雪山飛狐
級(jí)別: 網(wǎng)絡(luò)英雄
精華主題: 0
發(fā)帖數(shù)量: 12412 個(gè)
工控威望: 15097 點(diǎn)
下載積分: 38895 分
在線時(shí)間: 942(小時(shí))
注冊(cè)時(shí)間: 2019-06-05
最后登錄: 2024-12-22
查看雪山飛狐的 主題 / 回貼
9樓  發(fā)表于: 2024-05-30 08:17
多謝計(jì)算。