シグマ(σ)は工程の標準偏差です。σの経験値を入力すると、その経験値が使用されます。値を入力しないと、次のいずれかの方法を使用して、データからσが推定されます。
Minitabでは各サブグループの範囲、
を使用して、を計算します。
、これはσの不偏推定値です。

ここで

サブグループサイズが一定の場合、この式は次のように簡略化されます:

ここで、
(Rbar)は、サブグループ範囲の平均で、次のように計算されます:

| 用語 | 説明 |
|---|---|
| ri | サブグループiの範囲 |
| m | サブグループ数 |
| d2(·) | 括弧内に指定された値に対応する不偏化のための定数d2。 |
| ni | サブグループ内の観測値数 i |
| d3(·) | 括弧内に指定された値に対応する不偏化のための定数 d3。 |
併合標準偏差(Sp)は、次の計算式で計算します。

サブグループサイズが一定の場合、Spは次のように計算することもできます:

併合標準偏差を使用してσを推定する場合、デフォルトで、不偏化のための定数、c4()が適用されます。


| 用語 | 説明 |
|---|---|
| xij | i番目のサブグループのj番目の観測値 |
![]() | サブグループiの平均 |
| ni | サブグループi内の観測値数 |
| μv | サブグループ分散の平均 |
| c4(·) | 括弧内に指定された値に対応する不偏化のための定数 c4。 |
| d | 次の計算式で求められる、Spの自由度:
![]() |