儀表工在校準(zhǔn)儀表或測量參數(shù)數(shù)據(jù)時均會與數(shù)字接觸，只有明白有效數(shù)字、欠準(zhǔn)數(shù)字、可靠數(shù)字、有效數(shù)字的運算規(guī)則、數(shù)據(jù)修約的概念和關(guān)于“0”的使用原則，才能對測量記過進行合理的處理。本文最這些知識做簡單介紹。
有效數(shù)字、欠準(zhǔn)數(shù)字和可靠數(shù)字
在測量結(jié)果中能準(zhǔn)確讀出的是可靠數(shù)字，估讀出來的是欠準(zhǔn)數(shù)字，將可靠數(shù)字和欠準(zhǔn)數(shù)字合起來，稱為有效數(shù)字，如25.3、0.0135都是三位有效數(shù)字。其中，25和13分別是可靠數(shù)字，而后面的3和5則是欠準(zhǔn)數(shù)字。在一個數(shù)據(jù)中，只保留一位欠準(zhǔn)數(shù)字，其余都應(yīng)是可靠數(shù)字。
關(guān)于“0”的使用原則
①只與計量單位有關(guān)的數(shù)字“0”不計入有效數(shù)字。例如，儀表工可以將245mV寫成0.245V，兩種寫法的有效數(shù)字都是三位。
②小數(shù)點后面的“0”一般不能隨意省略，例如15mA和15.0mA，兩種寫法差距很大，15mA表示電流可能是14mA，也可能是16mA，而15.0mA說明15是可靠的，小數(shù)點后的零則是欠準(zhǔn)的。
有效數(shù)字的運算規(guī)則
①常數(shù)運算。參加運算的常數(shù)如，π、e、根號二等，其有效位數(shù)根據(jù)需要確定。
②加減法運算。運算時，將小數(shù)位數(shù)多的進行舍入處理，使其比小數(shù)位數(shù)少的只多一位小數(shù)，然后進行計算。運算結(jié)果的小數(shù)位數(shù)取至各數(shù)中小數(shù)位數(shù)最少的位數(shù)。側(cè)如，17.6+2.45+0.314，先將0.314化整為0.31，則17.6+2.45+0.31=20.43，最后的取值為20.4。
③乘除法運算。運算時，以有效位數(shù)最少的為準(zhǔn)，對位數(shù)較多的數(shù)進行舍入處理，使其比有效位數(shù)少的多一位，然后運算，運算結(jié)果的位數(shù)，取至各數(shù)中有效位數(shù)最少的數(shù)。
數(shù)據(jù)修約
①測量結(jié)果數(shù)據(jù)悔約的確定
對測量結(jié)果數(shù)據(jù)修約到哪一位，根據(jù)微小誤差準(zhǔn)則，被修約數(shù)據(jù)的位數(shù)要比被測量允許誤差多一個數(shù)量級。例如，被測量允許誤差為1%，則數(shù)據(jù)修約確定為0.1%。
②修約規(guī)則(常規(guī)修約)
◆規(guī)則規(guī)定，當(dāng)擬舍去的數(shù)字中，最左邊的一位數(shù)字小于5時，則舍去。例如，將31.4365修約到只保留一位小數(shù)時，其舍去的數(shù)字中最左邊的一位是“3”，應(yīng)舍去，結(jié)果為31.4。
◆當(dāng)擬舍去的數(shù)字中最左邊的數(shù)字大于5時，應(yīng)進位，即在保留的末位數(shù)上加1。例如，將36.2631修約到只保留一位小數(shù)時，其舍去的數(shù)字最左邊的位數(shù)是6，則應(yīng)進位，修約結(jié)果為36.3。
◆當(dāng)擬舍的數(shù)字最左一位剛好為“5”時，如果擬保留的末位數(shù)是奇數(shù)則進一，若是偶數(shù)則不進，即偶數(shù)法則。例如，對6.4852和2.1358進行修約，取三位有效數(shù)字，修約后未6.48和2.14。
有效數(shù)字、欠準(zhǔn)數(shù)字、可靠數(shù)字、有效數(shù)字的運算規(guī)則、數(shù)據(jù)修約的概念和關(guān)于“0”的使用原則儀表工要完全理解和掌握，比如處理儀表檢定結(jié)果時，檢定數(shù)據(jù)所取位數(shù)不要過多或過少取得過多，則浪費計算時間，還可能對測量結(jié)果產(chǎn)生誤差；取得太少，又不能滿足精確度要求。
