Utilizamos este término con instrumentos analógicos para indicar el valor más pequeño que se puede leer con precisión en una escala. En general, podemos decir que estos son los valores que existen entre dos marcas sucesivas.
Por ejemplo, si las marcas sucesivas en una escala indican 0.1 y 0.2, podemos decir que, al medir tensiones en la escala de 0 a 10 V, la resolución será de 1 V.
Para los codificadores también podemos usar el término, que indica la diferencia entre dos puntos de medición sucesivos que puede realizar un codificador dado. Ver Resolución de Encoders o codificadores ( ALM994S )