当前位置 - 股票行情交易網 - 財經資訊 - 萬分之壹的電子天平應精確到幾位,為什麽

萬分之壹的電子天平應精確到幾位,為什麽

萬分之壹的天平顯示精度是0.0000g,也就是顯示小數點後4位。

因為小數點後第4位數字是估讀,有可能四舍五入,所以第4位壹般意義上是不準確的,嚴格上來說他精確到小數點後第3位。

擴展資料

在取小數近似數的時候,如果尾數的最高位數字是4或者比4小,就把尾數去掉。如果尾數的最高位數是5或者比5大,就把尾數舍去並且在它的前壹位進"1",這種取近似數的方法叫做四舍五入法。

四舍五入是壹種精確度的計數保留法,與其他方法本質相同。但特殊之處在於,采用四舍五入,能使被保留部分的與實際值差值不超過最後壹位數量級的二分之壹:假如0~9等概率出現的話,對大量的被保留數據,這種保留法的誤差總和是最小的。這也是我們使用這種方法為基本保留法的原因。