シグマ(σ)はこの過程の標準偏差です。 σの履歴値を入力すると、Minitabはその履歴価値を使用します。それ以外の場合、Minitabはデータから σ を推定するために以下のいずれかの方法を使用します。
Rbar法
Minitabは各サブグループの範囲を使用します。 
、 を計算するために 
これは σの無偏推定量です:
ここで、
サブグループサイズが一定の場合、この式は次のように簡略化されます:
ここで、
(Rbar)は部分群範囲の平均で、次のように計算されます。
表記
| 用語 | 説明 |
|---|---|
| ri | サブグループiの範囲 |
| m | サブグループ数 |
| d2(・) | 括弧内に指定された値に対応する不偏化定数d2 の値。 |
| ni | サブグループi内の観測値数 |
| d3(・) | 括弧内に指定された値に対応する不偏化定数d3 の値。 |
併合標準偏差法
プールされた標準偏差(Sp)は次の式で与えられます。
部分群の大きさが一定の場合、 Spは次のように計算できます。
不偏化のための定数を使用する場合
Minitabはデフォルトで、プールされた標準偏差を用いて推定する際に、無偏定数c4()を適用します σ:
部分群の大きさが一定の場合、バイアスなし のSp は次のように計算できます。
表記
| 用語 | 説明 |
|---|---|
| xij | I番目の 部分群におけるj番目の 観測値 |
 | サブグループiの平均 |
| ni | サブグループi内の観測値数 |
| μv | サブグループ分散の平均 |
| C4(·) | 括弧内で指定された値に対応する無偏定数C4 の値を。 |
| d | Spの自由度は次の式で与えられます: |
