--- title: 精準度問題 tags: math, number theory --- # 小數精準度問題(Floating Number Precision Problem) 電腦本身在儲存小數(floating number)時使用的方式是用二進位數組儲存的, 並且因為位數有上限的關係,所以小數經準度問題常屬於一個非常普遍且難以排除的問題 ### [IEEE754(wiki)](https://zh.wikipedia.org/wiki/IEEE_754)  --- ### 浮點數誤差 浮點數誤差在使用float變數上非常常見,以下提供幾種修正誤差的解法。 我們通常會假設一個容錯區間 $ε$ (epsilon),泛指誤差的偏誤容許值大小, 假設一比較式:$a-b=0$,可以改寫成 $-ε\leq a-b\leq ε$, 在通常情況,可以參照 [浮點常數的限制(Micorosoft)](https://docs.microsoft.com/zh-tw/cpp/c-language/limits-on-floating-point-constants?view=msvc-170) 提供的此表來設定 $ε$ 的值 而在Math-Tools Datapack中,我們建議設置 $ε=5×10^{-5}$
×
Sign in
Email
Password
Forgot password
or
By clicking below, you agree to our
terms of service
.
Sign in via Facebook
Sign in via Twitter
Sign in via GitHub
Sign in via Dropbox
Sign in with Wallet
Wallet (
)
Connect another wallet
New to HackMD?
Sign up