Un ingeniero desea evaluar la linealidad y el sesgo de un sistema de medición que se utiliza para medir diámetros internos de rodamientos. El ingeniero selecciona cinco partes que representan el rango esperado de mediciones. Cada parte se midió utilizando inspección total para determinar su medición de referencia y luego un operador midió cada parte de forma aleatoria 12 veces. El ingeniero realizó previamente un estudio R&R cruzado del sistema de medición, utilizando el método ANOVA, y determinó que la variación total del estudio es 16.5368.
El %Linealidad (valor absoluto de la pendiente * 100) es 13.2, lo que indica que la linealidad del sistema de medición explica el 13% de la variación general del proceso. El valor p de la pendiente es 0.000, lo que indica que la pendiente es significativa y que existe linealidad en el sistema de medición.
Puesto que la linealidad es significativa, el ingeniero debe utilizar los valores individuales de sesgo y no el valor promedio de sesgo general. Los valores individuales de sesgo varían de 0.2 a 3.7, mientras que sus valores p varían de 0.000 a 0.688. Los valores de referencia 2, 8 y 10 presentan sesgo. Los valores de 4 y 6 no tienen sesgo.