科技改變未來
知識就是讓你禿頭的力量
級別: 家園常客
![]() |
圖片:
![]()
圖片:
![]() 如圖通過模擬發(fā)現(xiàn) 被除數(shù)小于82時候,算出的結(jié)果是準(zhǔn)的 。被除數(shù)大于83 ,為什么結(jié)果就不準(zhǔn)了呢/有知道原因的小伙伴嗎 |
---|---|
|
菜鳥入行
級別: 論壇先鋒
![]() ![]() |
有沒可能F83其實是82.99992 |
|
---|---|---|
|
gxtmdb82164
級別: 論壇先鋒
![]() |
你繼續(xù)換其他數(shù)值,你會發(fā)現(xiàn)還有其他的數(shù)也會有誤差~ 這就是傳說中,二進(jìn)制不能用于表達(dá)任意值,通過浮點數(shù)格式,在有限范圍內(nèi)盡可能精確的逼近目標(biāo)值~ |
---|---|
|
libin520
雖然沒什么突破和進(jìn)步,卻還是每天在堅持著。
級別: 工控俠客
![]() |
中間需要轉(zhuǎn)化一下。詳見以下視頻。更正K100應(yīng)為E100。 https://www.bilibili.com/video/BV1vg411r7dj?spm_id_from=333.999.0.0&vd_source=fe01af24b36f4ec9d5907739c0079391 之前也看到過這個問題。網(wǎng)上搜索了一下。里面的內(nèi)容需要批判繼承 ![]() |
|
---|---|---|
|
明月照我心
干飯了!干飯了!
級別: 略有小成
![]() |
![]() ![]() ![]() |
|
---|---|---|
|