最后結果應為2.00191,結果的有效數字位數是五位(小數后位數)而不是六位(整數位數加小數位數),因整數部分只說明該數的10的方次。 5.平均值 計算幾個數值的平均值時,先將計算結果修約至比要求的位數多一位,再按數值修約規則處理。 6.方差和標準偏差 方差和標準偏差在運算過程中對中間結果不做修約,只將最后結果修約至要求的位數。 ...
注意:首位為8或9的數字,有效數字可多計一位 ? 有效數字的修約規則 規定:當尾數≤4時則舍,尾數≥6時則入;尾數等于5而后面的數都為0時,5前面為偶數則舍,5前面為奇數則入;尾數等于5而后面還有不為0的任何數字,無論5前面是奇或是偶都入。 例:將下列數字修約為4位有效數字。 ...
修約前 修約后 0.526647--------0.5266 0.36266112------0.3627 10.23500--------10.24 250.65000-------250.6 18.085002--------18.09 3517.46--------3517 ?全屏顯示表格有效數字運算規則 由于與誤差傳遞有關,計算時加減法和乘除法的運算規則不太相同。 ...
C.在計算過程中,還會遇到一些非測定值,如稀釋倍數、濃縮倍數、分數等,它們的有效數字位數可以認為是無限多位的。D.第一位數字大于等于8的數據,其有效數字的位數可比該數據的實際位數多算一位。數值修約原則《GB/T 8170-2008數值修約規則與極限數值的表示和判定》規定了對數值進行修約的規則、數值極限數值的表示和判定方法,以及將測定值或計算值與標準規定的極限值作比較的方法。...
Copyright ?2007-2022 ANTPEDIA, All Rights Reserved
京ICP備07018254號 京公網安備1101085018 電信與信息服務業務經營許可證:京ICP證110310號