誤差

Roundoff Error

因為現實機器的處理位數有限, 造成需要做些折衷, 可能是用四捨五入之類的方式取到特定位數, 引想看似微小,但是可能在後續被疊加或放大, 例如無窮小數截成 16 位的小數。

Truncation Error

在使用趨近的方程式時會造成的誤差,例如 Taylor Series。

減少誤差的處理要點

  • 避免相減兩個非常接近的數值

  • 如果要同時處理很大跟很小的數值,先處理很小的

  • 整理方程式,讓量級相近的一起處理

參考