誤差
Roundoff Error
因為現實機器的處理位數有限, 造成需要做些折衷, 可能是用四捨五入之類的方式取到特定位數, 引想看似微小,但是可能在後續被疊加或放大, 例如無窮小數截成 16 位的小數。
Truncation Error
在使用趨近的方程式時會造成的誤差,例如 Taylor Series。
減少誤差的處理要點
避免相減兩個非常接近的數值
如果要同時處理很大跟很小的數值,先處理很小的
整理方程式,讓量級相近的一起處理
因為現實機器的處理位數有限, 造成需要做些折衷, 可能是用四捨五入之類的方式取到特定位數, 引想看似微小,但是可能在後續被疊加或放大, 例如無窮小數截成 16 位的小數。
在使用趨近的方程式時會造成的誤差,例如 Taylor Series。
避免相減兩個非常接近的數值
如果要同時處理很大跟很小的數值,先處理很小的
整理方程式,讓量級相近的一起處理