Un ingénieur souhaite évaluer la linéarité et le biais de l'instrumentation d'un système de mesure utilisé pour mesurer les diamètres de roulements. L'ingénieur choisit cinq pièces qui représentent l'étendue prévue des mesures. Une étude du plan a permis de déterminer la mesure de référence de chaque pièce. Un opérateur a ensuite mesuré chaque pièce douze fois de façon aléatoire. L'ingénieur a préalablement réalisé une étude de R&R de l'instrumentation croisée à l'aide de la méthode ANOVA et a déterminé que la variation totale de l'étude est de 16,5368.
La valeur %Linéarité (valeur absolue de la pente * 100) est de 13,2, c'est-à-dire que la linéarité de l'instrumentation explique 13 % de la variation globale du procédé. La valeur de p de la pente est de 0,000, ce qui indique que la pente est significative et qu'une linéarité est présente dans le système de mesure.
La linéarité étant significative, l'ingénieur doit utiliser des valeurs de biais individuelles et non pas la valeur de biais moyenne globale. Les valeurs de biais individuelles varient de 0,2 à 3,7 et leurs valeurs de p varient de 0,000 à 0,688. Les valeurs de référence 2, 8 et 10 présentent un biais. Les valeurs 4 et 6 ne comportent pas de biais.