Ein Techniker möchte die Linearität und systematische Messabweichung eines Messsystems untersuchen, mit dem die Innendurchmesser von Lagern gemessen werden. Der Techniker wählt fünf Teile aus, die den erwarteten Bereich von Messwerten darstellen. Jedes Teil wurde von einem Prüfingenieur gemessen, um den Referenzmesswert zu ermitteln; anschließend wurde jedes Teil von einem Prüfer nach dem Zufallsprinzip zwölfmal gemessen. Der Techniker hat bereits eine gekreuzte Messsystemanalyse mit der ANOVA-Methode ausgeführt. Dabei wurde festgestellt, dass die Gesamtstreuung in der Untersuchung 16,5368 beträgt.
%Linearität (absoluter Wert der Steigung * 100) ist 13,2. Das heißt, dass die Linearität des Messsystems 13 % der gesamten Prozessstreuung erklärt. Der p-Wert für die Steigung ist 0,000. Dies weist darauf hin, dass die Steigung signifikant und Linearität im Messsystem vorhanden ist.
Da die Linearität signifikant ist, muss der Techniker die Einzelwerte für die systematische Messabweichung anstelle des Gesamtdurchschnitts für die systematische Messabweichung verwenden. Die Einzelwerte für die systematische Messabweichung variieren von 0,2 bis 3,7 und die zugehörigen p-Werte von 0,000 bis 0,688. Die Referenzwerte 2, 8 und 10 enthalten eine systematische Messabweichung. Die Werte 4 und 6 weisen keine systematische Messabweichung auf.