“精度”是用來描述物理量的準(zhǔn)確程度，其反應(yīng)的是測量值與真實值之間的誤差，而“分辨率”是用來描述刻度劃分的，其反應(yīng)的是數(shù)值讀取過程中所能讀取的最小變化值。簡比喻：一把常見的量程為10厘米的刻度尺，上面有100個刻度，最小能讀出1毫米的有效值。那么我們就說這把尺子的分辨率是1毫米，他只能1、2、3、4……100這樣讀值；而它的實際精度就不得而知了，因為用這把尺讀出來的2毫米，我們并不知道他與真實絕對的2毫米之間的誤差值。而當(dāng)我們用火來烤一下它，并且把它拉長一段，然后再考察一下它。我們不難發(fā)現(xiàn)，它還有100個刻度，因而它的“分辨率”還是1毫米，跟原來一樣！然而，它的精度顯然已經(jīng)改變了。
對于編碼器來說，“分辨率”除了與刻線數(shù)有關(guān)外，還會因電氣信號方面的影響而改變，它是可調(diào)的，可控的，它可以隨著對信號的細(xì)分而改變，細(xì)分倍數(shù)越高，分辨率越小，但是細(xì)分倍數(shù)越高，引入加大的誤差就越大。而精度，更多的偏向于機械方面，一個產(chǎn)品生產(chǎn)出來后，他的精度基本已經(jīng)固定（有些高精度的產(chǎn)品可以對信號進行補償?shù)葋硖岣呔龋@個數(shù)值是通過檢測出來的，它與產(chǎn)品的做工，材料等綜合性能息息相關(guān)，我們難以通過計算來得出一個具體的數(shù)值作為精度的依據(jù)，大多只能在使用的過程當(dāng)中判斷出精度的好壞來。
例如，對于13bit的，其碼盤上的絕對位置數(shù)為：8192，則：計算出的分辨率為158角秒，也就是說，在讀取數(shù)值的時候，要求數(shù)值間的跳動是158角秒，如果要讀取的第一個數(shù)值是0，則第二個讀取的數(shù)值要大于158，若要小于158，則我們需要選取更小的分辨率。當(dāng)要讀取158這個數(shù)值的時候，由于誤差的存在，并不可能得到絕對的158秒，編碼器所讀取出來的158秒與絕對真實158秒之間的誤差，就取決于精度了。所以說，精度，是在分辨率的基礎(chǔ)上來談的。
而并非越細(xì)分得到小的分辨率就越好，因為細(xì)分會引入誤差和擴大誤差，過度的細(xì)分將無法保證精度！需要多少倍的細(xì)分，能做到多少倍的細(xì)分，前提必須是在保證精度的基礎(chǔ)上進行的，因為精度在使用前的不可見性而高倍細(xì)分是不負(fù)責(zé)任的。碼盤質(zhì)量越高，刻線越好，信號質(zhì)量信號越好，細(xì)分后產(chǎn)生的誤差就越小，這受到一臺編碼器綜合性能的影響，這也就是為什么會在相同的參數(shù)下，會有不同品牌，不同價位編碼器的一個原因。
例如，我們要讀取的數(shù)值為1、2、4、7、8，我至少要選擇1個單位的分辨率，選擇2個單位的分辨率是顯然不行的，因為我們讀出了1這個數(shù)值，則2是讀不出來的，在選擇1個單位分辨率的基礎(chǔ)上，我們讀出來的1與真實絕對的1的誤差就是精度。機床上的數(shù)控系統(tǒng)對于直光柵是有分辨率的設(shè)定的，需要讀取的數(shù)值間隔小于分辨率，機床就有可能會抖動或出錯等。
對于絕對式帶增量信號編碼器，能夠精確的保持串行傳輸?shù)慕^對位置值與增量值同步，絕對值確切的對應(yīng)一個增量信號，位置值一定在一個增量信號的正弦周期之內(nèi)。如13位絕對式，帶512線的增量信號，絕對位置間隔158秒，若要讀取兩個碼盤位置中間的一個位置是不合適的，但是，我們可以通過對其所帶的1Vpp增量信號進行細(xì)分，如細(xì)分100倍，則相當(dāng)于在兩個絕對位置之間又引入了幾個細(xì)分后的位置，我們可以在絕對位置值的基礎(chǔ)上，通過計算細(xì)分后的增量脈沖數(shù)而讀取兩個絕對位置之間的一個位置值，如：512線細(xì)分100倍，絕對位置1數(shù)值是0，絕對位置2數(shù)值是158，則讀取這兩個位置間的位置可以在位置1：數(shù)值0的基礎(chǔ)上多出一個脈沖則是25，兩個則是25x2=50……但是，帶增量信號的絕對式編碼器本身是不帶細(xì)分的，這就要求用戶能自行的對增量信號進行細(xì)分處理。