準(zhǔn)確度是指使用相同備用樣品重復(fù)測(cè)量所得結(jié)果之間的再現(xiàn)性。測(cè)量精度高(也常稱為準(zhǔn)確度)是指偶然誤差和系統(tǒng)誤差都比較小，測(cè)量數(shù)據(jù)集中在真值附近。雖然高精度意味著高精度，但準(zhǔn)確的結(jié)果也可能不準(zhǔn)確。誤差是精度的表現(xiàn)，是測(cè)量值與真實(shí)值的偏差，而偏差是精度的表現(xiàn)，是平行測(cè)量的差值。準(zhǔn)確度是指測(cè)量結(jié)果的正確性，精密度是指測(cè)量結(jié)果的重復(fù)性和再現(xiàn)性，精密度是準(zhǔn)確度的前提條件。常識(shí)中的分辨率是屏幕圖像的精度，指顯示器能夠顯示的像素?cái)?shù)量。對(duì)于光柵尺來(lái)說(shuō)，是指可以測(cè)量的最小單位。為了理解傳感器的分辨率和精度，以千分尺為例。分辨率是指千分尺最多能讀出幾個(gè)小數(shù)位，但精度還與尺子的加工精度和測(cè)量方法有關(guān)。同樣，在光柵尺的使用中，分辨率和精度是兩個(gè)*不同的概念。
光柵尺的分辨率是指光柵尺能夠讀取和輸出的最小長(zhǎng)度變化，對(duì)應(yīng)的參數(shù)有:每毫米光柵線數(shù)、脈沖數(shù)、細(xì)分?jǐn)?shù)等。比如相同條件下50線光柵和100線光柵的分辨率是不同的，同樣的50線光柵，細(xì)分方式不同，分辨率也會(huì)不同。
光柵尺的精度是指光柵尺輸出的信號(hào)數(shù)據(jù)被測(cè)實(shí)際長(zhǎng)度的精度，對(duì)應(yīng)的參數(shù)有微米(微米)和納米(nm)。目前國(guó)內(nèi)光柵尺的分辨率一般有5μm、1μm、0.5μm、0.2μm、0.1μm，那么這些分辨率是怎么來(lái)的呢？以每毫米50線的光柵為例，經(jīng)過(guò)4次細(xì)分，不需要電子細(xì)分就可以獲得非常簡(jiǎn)單的5μm分辨率，這也是目前國(guó)內(nèi)機(jī)床尺的多數(shù)工藝。對(duì)于高分辨率的光柵尺，需要采用電子細(xì)分技術(shù)，增加插值細(xì)分來(lái)獲得。高分辨率光柵尺一般用于視頻儀器、工具顯微鏡、數(shù)控加工中心等儀器中。