シグマ(σ)は、工程の標準偏差です。σの経験値を入力すると、その経験値が使用されます。経験値を入力しない場合は、次のいずれかの方法を使用してデータからσが推定されます。
移動範囲平均、
、長さwは、次の計算式で得られます。

ここで、MRiは次のように計算される、観測値iの移動範囲です。

Minitabでは、
を使用して、σの偏りのない推定値であるSmrを計算します。

| 用語 | 説明 |
|---|---|
| n | 観測値数 |
| w | 移動範囲の長さ。デフォルトは2です。 |
| d2() | 括弧内で指定された値に対応する、不偏化のための定数d2の値。 |
移動範囲中央値、
、の長さwは、次の計算式で得られます。

ここで、MRiは次のように計算される、観測値iの移動範囲です。

Minitabでは、
を使用して、σの偏りのない推定値であるSmrを計算します。

| 用語 | 説明 |
|---|---|
| n | 観測値数 |
| w | 移動範囲の長さ。デフォルトは2です。 |
| d4() | 括弧内で指定された値に対応する、不偏化のための定数d4の値。 |
MSSDは、平方逐次的差分の平均(Mean of Squared Successive Differences)を表します。MSSDの平方根(SRMSSD)は、次のように計算されます。


| 用語 | 説明 |
|---|---|
| di | 観測値iの値と観測値i – 1の値の差 |
| N | 観測値数 |
| c4'(N) | 表からの不偏化のための定数 |
Minitabは各サブグループの範囲を使用します。
、 を計算するために
これは σの無偏推定量です:

ここで、

サブグループサイズが一定の場合、この式は次のように簡略化されます:

ここで、
(Rbar)は部分群範囲の平均で、次のように計算されます。

| 用語 | 説明 |
|---|---|
| ri | サブグループiの範囲 |
| m | サブグループ数 |
| d2(・) | 括弧内に指定された値に対応する不偏化定数d2 の値。 |
| ni | サブグループi内の観測値数 |
| d3(・) | 括弧内に指定された値に対応する不偏化定数d3 の値。 |
不偏化のための定数を使用しない場合、Sbarはサブグループ標準偏差の平均です。

不偏化のための定数、c4(ni)を使用する場合、Sbarは次のように計算します。


サブグループサイズが一定の場合、Sbarは次のように計算されます。

| 用語 | 説明 |
|---|---|
| c4 (ni) | 括弧内に指定された値に対応する不偏化のための定数c4。 |
| Si | サブグループiの標準偏差 |
| m | サブグループ数 |
プールされた標準偏差(Sp)は次の式で与えられます。

部分群の大きさが一定の場合、 Spは次のように計算できます。

Minitabはデフォルトで、プールされた標準偏差を用いて推定する際に、無偏定数c4()を適用します σ:


| 用語 | 説明 |
|---|---|
| xij | I番目の 部分群におけるj番目の 観測値 |
![]() | サブグループiの平均 |
| ni | サブグループi内の観測値数 |
| μv | サブグループ分散の平均 |
| C4(·) | 括弧内で指定された値に対応する無偏定数C4 の値を。 |
| d | Spの自由度は次の式で与えられます:![]() |