分辨率是編碼器的基本參數，是選擇編碼器時最重要的因素之一。對于線性編碼器，分辨率是指定每個距離（英寸或毫米）的測量單位的數量，而對于旋轉編碼器，則指每轉測量單位數（也稱為每轉脈沖數，即PPR）或每度的角度數。編碼器分辨率通常以二進制單位表示：16位分辨率旋轉編碼器每轉將具有65,536（216）個增量或PPR。

不要將分辨率與精度或重復性混淆。精度表示編碼器的目標位置和實際位置之間的差異。對編碼器精度的主要影響是測量單元間隔的精確程度，盡管運動部件中的其他機器參數（例如偏移或游隙）也會對精度產生不利影響。重復性是編碼器進行相同測量的一致性，對于執行重復性任務（如組裝或拾放過程）的應用程序來說，重復性是一個重要的規格。

磁性編碼器使用放置在轉子邊緣的永磁體，霍爾傳感器檢測磁體交變磁極通過時磁場的變化。編碼器的磁極和傳感器越多，分辨率越高。

對于光電編碼器來說，光柵盤（或條狀物，在線性版本的情況下）被圖案化為具有透明或不透明的區域，當光源照射時，光電探測器感測到該區域。不透明和透明部分的數量和圖案決定了分辨率。光學編碼器每轉一般具有100至6000段，這意味著它們可以提供3.6至0.06度的分辨率。

增量式編碼器產生一個或兩個方波脈沖，稱為A和B。當僅產生一個脈沖時，編碼器可以檢測位置。為了檢測位置和方向，編碼器使用正交輸出，產生兩個相位相差90度的脈沖A和B.方向取決于哪個通道是超前的。一些增量式編碼器也會產生一個帶有單脈沖的第三個通道（通常稱為Z），該脈沖用作零位索引或參考位置。

正交輸出允許三種類型的編碼：X1，X2和X4。使用X1編碼，計數通道A的前沿（又名上升沿）或后續（又名下降沿）。如果通道A通道超前通道B，則計數上升沿，向前或順時針方向移動。如果通道A跟隨通道B，則計數下降沿，并且移動是向后或逆時針。

通過X2編碼，通道A的前沿和后沿都被計數。這使每次旋轉計數的脈沖數量或線性距離增量加倍，這提供了兩倍的分辨率。

X4編碼同時計數A和B通道的前沿和后沿，使脈沖數增加四倍，分辨率提高四倍。

通過X4編碼，計數通道A和B的前沿和后沿。

對于旋轉編碼器，位置的計算方法是：將所計算的邊沿數除以上述（1,2或4）中所述的每轉脈沖數與編碼類型的乘積，然后將結果乘以360得到運動速度。

x=typeofencoding(X1,X2,orX4)

N=numberofpulsesgeneratedpershaftrevolutionordistance

x=編碼類型（X1，X2或X4）

N=每轉軸或距離產生的脈沖數

對于線性編碼器，位置的計算方法是將每個距離的脈沖數與編碼類型的乘積除以邊數。然后這個結果乘以每毫米（或每英寸）的脈沖的倒數。

PPM=pulsespermillimeter

PPI=pulsesperinch

PPM=每毫米脈沖數

PPI=每英寸的脈沖數

絕對編碼器

絕對式編碼器在編碼器磁盤上具有多個不透明和透明段的同心環或軌道。這些軌到從磁盤中間開始，當它們向外擴展時，每個軌道的段數比前一個軌道增加了一倍。第一個軌道有一個透明和一個不透明的環，第二個軌道有兩個，第三個軌道有四個等等。軌道的數量決定了編碼器的分辨率。例如，具有12個軌道的絕對編碼器是12位編碼器，其每分辨率為4096（212）。

絕對式旋轉編碼器通過單圈還是多圈進一步區分。單圈編碼器使用一個編碼盤，編碼器每旋轉一圈重復一次位置的數字值。當測量多于一圈時，單圈編碼器無法確定編碼器已經完成了多少圈。

當實際的應用需要使用多個編碼器圈數進行測量時，需要多圈編碼器。多圈編碼器不會重復數字位置值，直到達到最大編碼器轉數（通常為4096）。最常見的多圈編碼器類型是使用多個齒輪嚙合在一起的光柵盤版本。這種編碼器的分辨率是每個磁盤輸出的總和。因此，如果主磁盤給出12位輸出，并且兩個輔助磁盤給出4位輸出，則總的編碼器分辨率將是20位，即1,048,576個唯一的數字位置值。