精確度(Precision)是指使用同種備用樣品進(jìn)行重復(fù)測定所得到的結(jié)果之間的重現(xiàn)性。測量精確度（也常簡稱精度）高，是指偶然誤差與系統(tǒng)誤差都比較小，這時測量數(shù) 據(jù)比較集中在真值附近。雖然精確度高可說明準(zhǔn)確度高，但精確的結(jié)果也可能是不準(zhǔn)確的。誤差是準(zhǔn)確度的表示，是實(shí)測值與真實(shí)值偏離程度，而偏差是精密度的表示，是平行測量間的相異程度。 準(zhǔn)確度表示測量結(jié)果的正確性，精密度表示測量結(jié)果的重復(fù)性和重現(xiàn)性，精密度是準(zhǔn)確度的前提條件。 普通意義的分辨率（resolution）就是屏幕圖像的精密度，是指顯示器所能顯示的像素的多少。對于光柵尺而言是指可以測量的蕞小單位.對于傳感器的分辨率與精度的理解，可以拿千分尺為例，分辨率代表千分尺蕞多可以讀到小數(shù)點(diǎn)后幾位，但精度還與尺子的加工精度，測量方法有關(guān)系。 同樣的，在光柵尺的使用中，分辨率與精度是完全不同的兩個概念。
光柵尺的分辨率，是指光柵尺可讀取并輸出的蕞小長度變化，對應(yīng)的參數(shù)有：每毫米光柵刻線數(shù)、脈沖數(shù)、細(xì)分等。比如50線光柵和100線光柵在同等條件下分辨率就不一樣，同等的50線光柵如果細(xì)分方法不一樣分辨率也會不一樣。
光柵尺的精度，是指光柵尺輸出的信號數(shù)據(jù)對測量的真實(shí)長度度的準(zhǔn)確度，對應(yīng)的參數(shù)是微米（μm）、納米（nm）.目前國內(nèi)光柵尺分辨率一般有5μm、1μm、0.5μm、0.2μm、0.1μm。那么這些分辨率是怎么得來的呢？ 以每毫米50線光柵為例，經(jīng)過4細(xì)分，就能得到很簡單的5μm的分辨率，而不用采用電子細(xì)分，這也是目前國內(nèi)海德漢機(jī)床尺的多數(shù)工藝，至于高分辨率的光柵尺，就必須采用電子細(xì)分技術(shù)，增加插補(bǔ)細(xì)分器才能得到。高分辨率光柵尺一般應(yīng)用于儀器儀表如視頻儀、工具顯微鏡、CNC加工中心等.

影響光柵尺測量精度有如下幾個方面：

A：光學(xué)部分? B：機(jī)械部分? C：電氣部分? D：使用中的安裝與傳輸接收部分，使用后的精度下降，機(jī)械部分自身的偏差。
A、光學(xué)部分對精度的影響：
光柵尺玻璃—主要的是母尺精度、每毫米刻線數(shù)、刻線精度、刻線寬度一致性等。
光發(fā)射源—光的平行與一致性、光衰減。
光接收單元—讀取誤差、讀取響應(yīng)。
光學(xué)系統(tǒng)使用后的影響—污染，衰減。
B、機(jī)械部分對精度的影響：
安裝精度。軸承的精度與結(jié)構(gòu)精度。光學(xué)組建安裝的精度。 例如，就軸承的結(jié)構(gòu)而言，單軸承支撐結(jié)構(gòu)的軸承偏差無法消除，而且經(jīng)使用后偏差會更大，而雙軸承結(jié)構(gòu)或多支承結(jié)構(gòu)，可有效降低單個軸承的偏差。
C、電氣部分對精度的影響：
電源的穩(wěn)定精度—對光發(fā)射源與接收單元的影響。讀取響應(yīng)與電氣處理電路帶來的誤差；電氣噪音影響，取決于光柵尺電氣系統(tǒng)的抗干擾能力；例如，如果電子細(xì)分，也會帶來的誤差，按照德國海德漢提供的介紹，海德
漢光柵尺的細(xì)分電氣誤差與正余弦曲線誤差會有一個很小的差異。
D、光柵尺使用中帶來的精度影響：
輸出電纜的抗干擾與信號延遲（較長距離或較快頻率下）；
接收設(shè)備的響應(yīng)與接收設(shè)備內(nèi)部處理可能的誤差。
光柵尺高速位移時的動態(tài)響應(yīng)偏差。
蕞常見的就是我們自己使用安裝的方法與安裝結(jié)果帶來的偏差。
綜上所述，光柵尺的分辨率和精度其實(shí)是兩個完全不同的概念，但是二者有關(guān)聯(lián)，高分辨率可以得到高的測量精度，但不是高分辨率一定能得到高的測量精度。在同等條件下，理論上高分辨率光柵尺一定可以得到高的測量精度。