,,

lifeison

級別: 探索解密

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 40 個(gè)
工控威望: 138 點(diǎn)
下載積分: 685 分
在線時(shí)間: 25(小時(shí))
注冊時(shí)間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的主題 / 回貼

樓主發(fā)表于: 2016-12-06 08:20

只看樓主 | 小中大

圖片：

如圖的兩種運(yùn)算方法，運(yùn)算結(jié)果都有偏差！

znz43

工控職業(yè)已成回憶只因愛好�；丶覉@ 樂此不疲

級別: 工控俠客

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 1059 個(gè)
工控威望: 4902 點(diǎn)
下載積分: 7356 分
在線時(shí)間: 2563(小時(shí))
注冊時(shí)間: 2010-06-24
最后登錄: 2025-05-03
查看znz43的主題 / 回貼

1樓發(fā)表于: 2016-12-06 10:21

只看該作者 | 小中大

很正常，浮點(diǎn)數(shù)的有效位數(shù)只有7位。

出門打工難，打工學(xué)藝難，學(xué)藝拜師難，找到好師傅更難。
贈(zèng)人玫瑰，手留余香。舍得舍得，有舍才有得。

lu08171537

級別: 家園�？�

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 91 個(gè)
工控威望: 593 點(diǎn)
下載積分: 474 分
在線時(shí)間: 115(小時(shí))
注冊時(shí)間: 2016-08-10
最后登錄: 2016-12-20
查看lu08171537的主題 / 回貼

2樓發(fā)表于: 2016-12-06 10:59

只看該作者 | 小中大

精度問題,很正常好不

lifeison

級別: 探索解密

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 40 個(gè)
工控威望: 138 點(diǎn)
下載積分: 685 分
在線時(shí)間: 25(小時(shí))
注冊時(shí)間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的主題 / 回貼

3樓發(fā)表于: 2016-12-06 13:19

只看該作者 | 小中大

引用
引用第2樓lu08171537于2016-12-06 10:59發(fā)表的 :
精度問題,很正常好不

已知A=22400,B=0.005625,求C

你說C=125.99999正常？請用計(jì)算器算一下！

lifeison

級別: 探索解密

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 40 個(gè)
工控威望: 138 點(diǎn)
下載積分: 685 分
在線時(shí)間: 25(小時(shí))
注冊時(shí)間: 2016-07-12
最后登錄: 2024-12-07
查看lifeison的主題 / 回貼

4樓發(fā)表于: 2016-12-08 08:37

只看該作者 | 小中大

cvlsam

富士低壓，POD（觸摸屏），PLC專賣

級別: VIP會(huì)員

發(fā)送短信
加為好友

精華主題: 3 篇
發(fā)帖數(shù)量: 6798 個(gè)
工控威望: 38402 點(diǎn)
下載積分: 9013 分
在線時(shí)間: 9646(小時(shí))
注冊時(shí)間: 2006-09-13
最后登錄: 2025-05-03
查看cvlsam的主題 / 回貼

5樓發(fā)表于: 2016-12-08 08:40

只看該作者 | 小中大

引用
引用第3樓lifeison于2016-12-06 13:19發(fā)表的 :

已知A=22400,B=0.005625,求C

你說C=125.99999正常？請用計(jì)算器算一下！

您需要去了解一下IEEE754浮點(diǎn)數(shù)與我們PC上常說的浮點(diǎn)數(shù)的區(qū)別。

Good Luck~

業(yè)績電氣

級別: 略有小成

發(fā)送短信
加為好友
QQ聯(lián)系

精華主題: 0
發(fā)帖數(shù)量: 189 個(gè)
工控威望: 377 點(diǎn)
下載積分: 1061 分
在線時(shí)間: 117(小時(shí))
注冊時(shí)間: 2009-01-02
最后登錄: 2023-11-08
查看業(yè)績電氣的主題 / 回貼

6樓發(fā)表于: 2017-11-19 08:06

只看該作者 | 小中大

跪求松下PLC編程軟件謝謝

sjbandmm

級別: 略有小成

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 242 個(gè)
工控威望: 412 點(diǎn)
下載積分: 997 分
在線時(shí)間: 171(小時(shí))
注冊時(shí)間: 2008-08-23
最后登錄: 2025-04-30
查看sjbandmm的主題 / 回貼

7樓發(fā)表于: 2017-11-19 12:12

只看該作者 | 小中大

浮點(diǎn)數(shù)進(jìn)度問題，可以用雙精度浮點(diǎn)數(shù)來解決問題，如果還不能達(dá)到精度，只能換成整數(shù)計(jì)算再轉(zhuǎn)換為浮點(diǎn)數(shù)，只要是帶小數(shù)的浮點(diǎn)數(shù)都是可能存在誤差的，只有整數(shù)乘法沒有誤差。另外說一句，對于人家的回答，不管是對錯(cuò)，都要注意自己的態(tài)度！

tkggtdkjpl

工欲善其事，必先利其器！

級別: 網(wǎng)絡(luò)英雄

發(fā)送短信
加為好友
QQ聯(lián)系

精華主題: 1 篇
發(fā)帖數(shù)量: 3452 個(gè)
工控威望: 20991 點(diǎn)
下載積分: 32623 分
在線時(shí)間: 1796(小時(shí))
注冊時(shí)間: 2010-01-03
最后登錄: 2025-05-03
查看tkggtdkjpl的主題 / 回貼

8樓發(fā)表于: 2017-11-19 20:32

只看該作者 | 小中大

把22400改成22400.0試試。

自動(dòng)化單機(jī)，生產(chǎn)線，項(xiàng)目編程調(diào)試！