高精度位移传感器通过摩尔条纹原理和光电转换数字表示线性位移。光栅尺的线性位移有两个关键参数：精度和分辨率。
精度是指使用相同的备用样品重复测定结果之间的重现。
高测量度（也通常称为精度）是指意外误差和系统误差相对较小，此时测量数据相对集中在真实值附近。虽然高测量可以表明高精度，但结果也可能不准确。
误差是准确性的表示，实测值与真实值的偏差程度，偏差是精度的表示，是平行测量之间的差异程度。
精度表示测量结果的正确性，精度表示测量结果的重复性和再现性，精度是准确性的前提。
一般意义的分辨率(resolution)屏幕图像的精度是指显示器能显示多少像素。光栅尺是指可测量的最小单位.对于传感器的分辨率和精度的理解，以千分尺为例。分辨率意味着千分尺可以读到小数点的最后几位，但精度也与尺的加工精度和测量方法有关。同样，分辨率和精度是数显光栅尺使用中完全不同的两个概念。
数量光栅尺的分辨率是指光栅尺可读输出的最小长度变化。相应的参数包括：每毫米光栅刻线数、脉冲数、细分等。例如，在相同条件下，50线光栅和100线光栅的分辨率不同。如果细分方法不同，相同的50线光栅的分辨率也会不同。
数量光栅尺的精度是指光栅尺输出的信号数据对测量真实长度的准确性，相应参数为微米(μm)、纳米(nm).目前国内光栅尺分辨率一般为5μm、1μm、0.5μm、0.2μm、0.1μm。那么这些分辨率是如何获得的呢？以每毫米50线光栅为例，经过4个细分可以得到非常简单的5μm分辨率，而不是电子细分，这也是前国内机床尺的大部分工艺。至于高分辨率光栅尺，必须采用电子细分技术，增加插入式细分器。高分辨率光栅尺一般用于视频仪、工具显微镜等仪器仪表CNC加工中心等。
光栅尺测量精度的影响如下：
A：光学部分 B：机械部分 C：电气部分 D：接收部分的安装和传输，使用后精度下降，机械部分本身的偏差。
A、 光学对精度的影响：
光栅尺玻璃-主要是母尺精度、每毫米刻线数量、刻线精度、刻线宽度一致性等。光发射源-光的平行一致性和光衰减。光接收单元-读取误差和读取响应。光学系统使用后的影响-污染和衰减。
B、机械部件对精度的影响：
安装精度。轴承的精度和结构的精度。光学安装的精度。例如，就轴承结构而言，单轴承支撑结构的轴承偏差不能消除，使用后偏差较大，双轴承结构或多支撑结构可有效减少单轴承的偏差。
C、电气部件对精度的影响：
电源的稳定性精度-对光发射源和接收单元的影响。读取响应和电气处理电路的误差；电气噪声的影响取决于光栅尺电气系统的抗干扰能力；例如，根据德国海德汉提供的介绍，海德汉光栅尺的细分电气误差与正余弦曲线误差之间的差异很小。
D、光栅尺使用中的精度影响：
输出电缆的抗干扰和信号延迟（长距离或快速频率）；接收设备的响应与接收设备内部处理的可能误差。光栅尺高速位移时的动态响应偏差。常见的是我们自己的安装方法和安装结果的偏差。
综上所述，光栅尺的分辨率和精度其实是两个完全不同的概念，但是二者有关联，高分辨率可以得到高的测量精度，但不是高分辨率一定能得到高的测量精度。在同等条件下，理论上高分辨率光栅尺一定可以得到高的测量精度。
例如：传感器精度：单位：mm 精度分为三个等级
≤200 ±0.001 ±0.002 ±0.003
光栅尺的重复性：传感器与数显表连接后，在有效范围内的任何点的重复性都应符合表中的规定。mm.分辨率 0.01 0.005 0.002 0.001
简单来说，选择精度200mm±3um 精度在200.003-199.997mm区间正常um最简单的理解是光栅尺移动1um发出脉冲。这很容易理解。