過分散と過小分散

過分散は、二項分布（不良）またはポアソン分布（欠陥）に基づく予想よりもデータの変動が大きい場合に存在します。従来のP管理図やU管理図では、ある期間における不良または欠陥の割合が一定であることを前提としています。ただし、特別原因ではない外部雑音因子により、ある期間における不良または欠陥の割合に何らかの変動が生じることが一般的です。

従来のP管理図やU管理図の場合、サブグループが大きくなるほど管理限界が狭くなります。サブグループが十分に大きい場合、過分散によって点が管理外ではないのに管理外のように見えることがあります。レイニーの計数管理図の場合、一般原因変動の定義には、サブグループ内変動だけでなく、連続するサブグループ間の平均変動も含まれます。過分散がある場合、レイニーの計数管理図での管理限界は、従来の計数管理図の管理限界より広くなります。

従来の計数管理図のサブグループサイズと管理限界の関係は、検出力と1サンプルt検定の関係に似ています。サンプルが大きくなるほど、t検定の差を検出する検出力は増えます。ただし、サンプルが十分に大きくなると、対象とならない非常に小さな差も有意になることがあります。たとえば、サンプルに観測値が1,000,000個ある場合、t検定ではサンプル平均の50.001と50に有意な差があると判断される可能性がありますが、工程で0.001の差に実用的な意味がない場合があります。

過小分散は過分散の逆です。過小分散は、二項分布（不良）またはポアソン分布（欠陥）に基づく予想よりもデータの変動が小さい場合に存在します。隣接するサブグループが互いに相関する場合（自己相関とも呼ばれる）に発生することがあります。

データで過小分散が示されると、従来のP管理図やU管理図では管理限界が広くなりすぎる可能性があります。管理限界が広くなりすぎている場合、特別原因による変動を一般原因による変動だと間違える可能性があります。過小分散がある場合は、レイニーの計数管理図での管理限界が従来の計数管理図での管理限界より狭くなります。

たとえば、工具が磨耗するにつれて欠陥数が増加する可能性があります。サブグループ全体で欠陥数が増加すると、偶発的な場合よりもサブグループの類似性が高くなることがあります。