Esto es la tolerancia mínima de medida que permitirá indicar, registrar o controlar el instrumento. En otras palabras, es la mínima división de escala de un instrumento indicador. Generalmente esta se expresa en porcentaje (%) del SPAN. La precisión de un instrumento indica su capacidad para reproducir cierta lectura con una exactitud dada.

EJEMPLO: Se está midiendo un voltaje conocido de 100V. Se toman 5 lecturas con cierto voltímetro y los valores encontrados son 104, 103, 105, 103, 105. Dadas estas lecturas, cuál es la exactitud y cuál es la precisión del instrumento.

R. Ya que la desviación máxima del instrumento es 5V de la entrada real de 100V, se tiene una exactitud de 5%. La precisión del instrumento la da la desviación máxima de la media de las lecturas, en este caso, ±1%.