L'écart type du procédé est également appelé sigma, ou σ. Si vous entrez une valeur historique pour sigma, Minitab utilise cette valeur historique. Sinon, Minitab utilise une des méthodes suivantes pour estimer sigma à partir des données.
Méthode R barre
Minitab utilise l'étendue de chaque sous-groupe, 
, pour calculer 
, qui est un estimateur non biaisé de σ :
où
Lorsque l'effectif de sous-groupe est constant, la formule peut être simplifiée comme suit :
où 
(R barre) est la moyenne des étendues des sous-groupes, calculée comme suit :
Notation
| Terme | Description |
|---|---|
| ri | étendue pour le sous-groupe i |
| m | nombre de sous-groupes |
| d2(·) | valeur de la constante de correction de biais d2 correspondant à la valeur indiquée entre parenthèses |
| ni | nombre d'observations dans le sous-groupe i |
| d3(·) | valeur de la constante de correction de biais d3 correspondant à la valeur indiquée entre parenthèses |
Méthode S barre
Sans constante de correction de biais
Si vous n'utilisez pas de constante de correction de biais, S barre est la moyenne des écarts types des sous-groupes :
Avec constante de correction de biais
Si vous utilisez la constante de correction de biais, c4(ni), S barre est calculé comme suit :
Lorsque l'effectif de sous-groupe est constant, S barre est égal à :
Notation
| Terme | Description |
|---|---|
| c4 (ni) | valeur de la constante de correction de biais c4 correspondant à la valeur spécifiée entre parenthèses |
| Si | écart type du sous-groupe i |
| m | nombre de sous-groupes |
Méthode de l'écart type regroupé
L'écart type regroupé (Sp) est obtenu avec la formule suivante :
Lorsque l'effectif de sous-groupe est constant, Sp peut également être calculé comme suit :
Avec constante de correction de biais
Par défaut, Minitab applique la constante de correction de biais, c4(), lorsque vous utilisez l'écart type regroupé pour estimer σ :
Notation
| Terme | Description |
|---|---|
| xij | je observation du ie sous-groupe |
 | moyenne du sous-groupe i |
| ni | nombre d'observations dans le sous-groupe i |
| μv | moyenne des variances de sous-groupes |
| c4(·) | valeur de la constante de correction de biais c4 correspondant à la valeur spécifiée entre parenthèses |
| j | degrés de liberté pour Sp, obtenus avec la formule suivante :
 |
