好看的小说,玄幻小说排行榜,殿上欢

工控人家園 歐姆龍工控論壇 歐姆龍CP1H浮點數等于指令，W99.00不輸出

18026919780

級別: 探索解密

發送短信
加為好友

精華主題: 0
發帖數量: 30 個
工控威望: 140 點
下載積分: 701 分
在線時間: 21(小時)
注冊時間: 2021-06-20
最后登錄: 2025-04-08
查看18026919780的主題 / 回貼

樓主發表于: 2022-11-16 16:45

只看樓主 | 小中大

圖片：

D10=D20,W99.00為什么不輸出

hansir

級別: 探索解密

發送短信
加為好友

精華主題: 0
發帖數量: 44 個
工控威望: 101 點
下載積分: 2030 分
在線時間: 19(小時)
注冊時間: 2021-09-17
最后登錄: 2025-04-06
查看hansir的主題 / 回貼

1樓發表于: 2022-11-18 12:27

只看該作者 | 小中大

雖然看起來一樣，實際上內部存儲的不一樣，所以浮點數不能直接比較相等，一般加上范圍進行比較更準確

本帖最近評分記錄：

下載積分:+1(guochunyi) 熱心助人！

hansir

級別: 探索解密

發送短信
加為好友

精華主題: 0
發帖數量: 44 個
工控威望: 101 點
下載積分: 2030 分
在線時間: 19(小時)
注冊時間: 2021-09-17
最后登錄: 2025-04-06
查看hansir的主題 / 回貼

2樓發表于: 2022-11-18 12:30

只看該作者 | 小中大

圖片：

如圖，D10和D20中的值并不相同

本帖最近評分記錄：

下載積分:+3(18026919780)

hansir

級別: 探索解密

發送短信
加為好友

精華主題: 0
發帖數量: 44 個
工控威望: 101 點
下載積分: 2030 分
在線時間: 19(小時)
注冊時間: 2021-09-17
最后登錄: 2025-04-06
查看hansir的主題 / 回貼

3樓發表于: 2022-11-18 12:34

只看該作者 | 小中大

浮點數是能比較大小的。只是不太合適比較兩個浮點數是否“相等”。

這是由于十進制的浮點數通常不能用有限位數的二進制表示。所以，計算機中保存的十進制浮點數都是“近似值”。舉個例子說，10個十進制的0.1相加后，就“不等于”浮點數1.0

所以，當需比較兩個浮點數是否相等時，一般我們要比較這兩個浮點數的差的絕對值，是否小于一個我們允許的誤差值，比如1億分之一。當小于這個數時，我們就認為這兩個浮點數是“相等”的。

本帖最近評分記錄：

下載積分:+3(18026919780)