Sigma (σ) é o desvio padrão do processo. Se você inserir um valor histórico para σ, Minitab usa o valor histórico. Caso contrário, o Minitab utiliza um dos seguintes métodos para estimar σ a partir dos dados.
A amplitude móvel média,
, do comprimento w é dado pela seguinte fórmula:

onde AMi é a amplitude móvel para a observação i, calculada da seguinte maneira:

O Minitab usa
para calcular Smr, que é uma estimativa não-viciada de σ:

| Termo | Descrição |
|---|---|
| n | número de observações |
| w | comprimento da amplitude móvel. O padrão é 2. |
| d2() | valor da constante não-viciada d2 que corresponde ao valor especificado entre parênteses. |
A amplitude móvel mediana,
, do comprimento w é dado pela seguinte fórmula:

onde AMi é a amplitude móvel para a observação i, calculada da seguinte maneira:

O Minitab usa
para calcular Smr, que é uma estimativa não-viciada de σ:

| Termo | Descrição |
|---|---|
| n | número de observações |
| w | comprimento da amplitude móvel. O padrão é 2. |
| d4() | valor da constante não-viciada d4 que corresponde ao valor especificado entre parênteses. |
MSSD representa a média das diferenças sucessivas ao quadrado. A raiz quadrada de MSSD (SRMSSD) é calculada da seguinte maneira:


| Termo | Descrição |
|---|---|
| di | diferença entre o valor da observação de i e o valor de observação de i – 1 |
| N | número de observações |
| c4'(N) | constante não-viciada de uma tabela |
O Minitab usa o intervalo de cada subgrupo,
, para calcular
, que é um estimador não viciado de σ:

onde

Quando o tamanho do subgrupo é constante, a fórmula simplifica para o seguinte:

onde
(Rbar) é a média dos intervalos do subgrupo, calculada da seguinte maneira:

| Termo | Descrição |
|---|---|
| ri | intervalo para o subgrupo i |
| m | número de subgrupos |
| d2(·) | valor da constante não-viciada d2 que corresponde ao valor especificado entre parênteses. |
| ni | número de observações no subgrupo i |
| d3(·) | valor da constante não-viciada d3 que corresponde ao valor especificado entre parênteses. |
Se você não usar uma constante não-viciada, o Sbar é a média dos desvios padrão do subgrupo:

Se você usar a constante não-viciada, c4(ni), Sbar é calculada da seguinte maneira:


Quando o tamanho do subgrupo for constante, Sbar é:

| Termo | Descrição |
|---|---|
| c4 (ni) | valor da constante não-viciada c4 que corresponde ao valor que é especificado entre parênteses. |
| Si | desvio padrão do subgrupo i |
| m | número de subgrupos |
O desvio padrão combinado (Sp) é dado pela seguinte fórmula:

Quando o tamanho do subgrupo é constante, Sp também pode ser calculado da seguinte maneira:

Por padrão, o Minitab aplica a constante não-viciada, c4(), quando você usa o desvio padrão combinado para estimar σ:


| Termo | Descrição |
|---|---|
| xij | ja observação no io subgrupo |
![]() | média do subgrupo i |
| ni | número de observações no subgrupo i |
| μv | média das variâncias do subgrupo |
| c4(·) | valor da constante não-viciada c4 que corresponde ao valor que é especificado entre parênteses. |
| d | os graus de liberdade para Sp, dados pela seguinte fórmula:
![]() |