,,

lifeison

級別: 探索解密

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的主題 / 回貼

樓主發(fā)表于: 2016-12-06 08:20

只看樓主 | 小中大

圖片：

如圖的兩種運算方法，運算結果都有偏差！

znz43

工控職業(yè)已成回憶只因愛好�；丶覉@ 樂此不疲

級別: 工控俠客

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 1059 個
工控威望: 4902 點
下載積分: 7356 分
在線時間: 2563(小時)
注冊時間: 2010-06-24
最后登錄: 2025-05-16
查看znz43的主題 / 回貼

1樓發(fā)表于: 2016-12-06 10:21

只看該作者 | 小中大

很正常，浮點數(shù)的有效位數(shù)只有7位。

出門打工難，打工學藝難，學藝拜師難，找到好師傅更難。
贈人玫瑰，手留余香。舍得舍得，有舍才有得。

lu08171537

級別: 家園常客

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 91 個
工控威望: 593 點
下載積分: 474 分
在線時間: 115(小時)
注冊時間: 2016-08-10
最后登錄: 2016-12-20
查看lu08171537的主題 / 回貼

2樓發(fā)表于: 2016-12-06 10:59

只看該作者 | 小中大

精度問題,很正常好不

lifeison

級別: 探索解密

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的主題 / 回貼

3樓發(fā)表于: 2016-12-06 13:19

只看該作者 | 小中大

引用
引用第2樓lu08171537于2016-12-06 10:59發(fā)表的 :
精度問題,很正常好不

已知A=22400,B=0.005625,求C

你說C=125.99999正常？請用計算器算一下！

lifeison

級別: 探索解密

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 40 個
工控威望: 138 點
下載積分: 685 分
在線時間: 25(小時)
注冊時間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的主題 / 回貼

4樓發(fā)表于: 2016-12-08 08:37

只看該作者 | 小中大

cvlsam

富士低壓，POD（觸摸屏），PLC專賣

級別: VIP會員

發(fā)送短信
加為好友

精華主題: 3 篇
發(fā)帖數(shù)量: 6803 個
工控威望: 38407 點
下載積分: 9496 分
在線時間: 9659(小時)
注冊時間: 2006-09-13
最后登錄: 2025-05-17
查看cvlsam的主題 / 回貼

5樓發(fā)表于: 2016-12-08 08:40

只看該作者 | 小中大

引用
引用第3樓lifeison于2016-12-06 13:19發(fā)表的 :

已知A=22400,B=0.005625,求C

你說C=125.99999正常？請用計算器算一下！

您需要去了解一下IEEE754浮點數(shù)與我們PC上常說的浮點數(shù)的區(qū)別。

Good Luck~

業(yè)績電氣

級別: 略有小成

發(fā)送短信
加為好友
QQ聯(lián)系

精華主題: 0
發(fā)帖數(shù)量: 189 個
工控威望: 377 點
下載積分: 1061 分
在線時間: 117(小時)
注冊時間: 2009-01-02
最后登錄: 2023-11-08
查看業(yè)績電氣的主題 / 回貼

6樓發(fā)表于: 2017-11-19 08:06

只看該作者 | 小中大

跪求松下PLC編程軟件謝謝

sjbandmm

級別: 略有小成

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 243 個
工控威望: 413 點
下載積分: 999 分
在線時間: 171(小時)
注冊時間: 2008-08-23
最后登錄: 2025-05-17
查看sjbandmm的主題 / 回貼

7樓發(fā)表于: 2017-11-19 12:12

只看該作者 | 小中大

浮點數(shù)進度問題，可以用雙精度浮點數(shù)來解決問題，如果還不能達到精度，只能換成整數(shù)計算再轉換為浮點數(shù)，只要是帶小數(shù)的浮點數(shù)都是可能存在誤差的，只有整數(shù)乘法沒有誤差。另外說一句，對于人家的回答，不管是對錯，都要注意自己的態(tài)度！