Round-off error

Round-off error 又稱Rounding error。

數學上或計算機學術語,為某一數值近似計算值與其真實值的差值。

數學上或計算機學術語,為某一數值近似計算值與其真實值的差值。具體含義為:
1. 【數學】捨入誤差 進行數值計算的過程中,對計算得到的中間結果數據要使用“四捨五入”或其他規則取近似值,因而使計算過程有誤差
2. 【計算機】進位錯誤 (指計算機將十進制數二進制數互轉時產生的錯誤)

如:圓周率pi=3.1415926...理論上sin(pi)與0是相等的,但是在近似計算中,sin(pi)近似值為1.2246E-16不等於0。如果在編程計算時忽略了這一點,就會造成錯誤。特別是當進行邏輯計算時,會出現意料之外的結果。

相關詞條

熱門詞條

聯絡我們