La tolérance de l'instrumentation correspond aux incréments de mesure de l'instrumentation (également appelée résolution ou discrimination).
Selon la directive de l'AIAG appelée la règle des dix, la résolution de l'instrumentation doit diviser la tolérance de procédé en au moins 10 pièces.
La tolérance du procédé est l'écart autorisé par rapport à une valeur cible qui conserve la finalité du produit (variation du procédé). Par exemple, votre entreprise fabrique des stylos à bille dont la bille présente un diamètre extérieur de 0,35 mm. Le diamètre des billes doit être compris entre 0,34 et 0,36 mm. La soustraction du diamètre minimum et du diamètre maximum donne une tolérance de procédé égale à 0,02 mm. Pour mesurer précisément ces billes, vous devez utiliser une instrumentation capable de détecter plusieurs différences dans cette étendue. A l'aide de la règle des dix, calculez 10 % de la tolérance du procédé. Cela signifie que l'instrumentation doit être en mesure de détecter une différence d'au moins 0,002 mm entre les billes.