Die Messgerätetoleranz stellt die Messintervalle eines Messgeräts dar (und wird auch als Auflösung oder Unterscheidungsfähigkeit bezeichnet).
Gemäß der so genannten „Zehnerregel“ der AIAG sollte die Auflösung des Messsystems die Prozesstoleranz in mindestens 10 Teile unterteilen.
Die Prozesstoleranz ist die zulässige Abweichung von einem Sollwert, bei dem der Produktzweck noch erfüllt ist (Prozessstreuung). Angenommen, in Ihrem Unternehmen werden Kugelschreiber mit einem äußeren Kugeldurchmesser von 0,35 mm produziert. Akzeptable Kugeln weisen einen Durchmesser von 0,34 bis 0,36 mm auf. Wenn Sie den Mindestdurchmesser vom Höchstdurchmesser subtrahieren, beträgt die Prozesstoleranz 0,02. Um diese Kugeln genau messen zu können, müssen Sie ein Messgerät einsetzen, das verschiedene Differenzen innerhalb dieses Bereichs erkennen kann. Wenden Sie die Zehnerregel an, und berechnen Sie 10 % der Prozesstoleranz. Das heißt, das Messgerät muss in der Lage sein, eine Differenz von mindestens 0,002 mm zwischen den Kugeln zu erkennen.