在數值分析和計算機科學中,當表示一個數字時,我們通常希望在有限的數位內盡可能精準地捕捉到原始數值的精確度。2的平方根是一個無理數,它的小數部分是無窮不循環的,因此不能精確表示為一個有限的小數數字。不過,我們可以用有限的數位來近似它。
當要求用5位數來表示2的平方根時(其中2位在小數點前,3位在小數點後),目標是在這些限制下盡可能接近實際的數值。2的平方根實際上是1.4142135623730950...,當我們只能使用5位數來表示時,最接近的近似值就是1.41421。這是因為:
這樣表示,在限制條件下盡可能保留了原數的精度,且這是一個5位有效數字的最佳近似值。