La puissance d'un test d'hypothèse est la probabilité du test de rejeter l'hypothèse nulle à raison. Elle est affectée par l'effectif de l'échantillon, la différence, la variabilité des données et le seuil de signification du test.
Si un test a une faible puissance, vous pouvez ne pas réussir à détecter un effet et conclure à tort qu'aucun effet n'existe. Si la puissance d'un test est trop forte, de très petits effets ne présentant probablement aucun intérêt peuvent sembler significatifs.
Aucun test n'est parfait, il y a toujours un risque que les résultats vous amènent à rejeter l'hypothèse nulle (H0) alors qu'elle est en fait vraie (erreur de 1ère espèce), ou à ne pas rejeter H0 alors qu'elle est fausse (erreur de 2e espèce). Ceci est dû au fait que, dans le but d'estimer les moyennes de population, vous devez prendre des échantillons aléatoires. Du fait de ce caractère aléatoire, il est toujours possible que la moyenne de votre échantillon soit très différente de la moyenne de la population.
Par exemple, supposons qu'une certaine population normalement distribuée a une moyenne (μ) de 10 et un écart type (σ) de 2. Cette loi de distribution indique que 95,44 % des valeurs de cette population sont comprises entre 6 et 14. Toutefois, si vous sélectionnez 10 observations au hasard, il peut toujours arriver que vous obteniez une moyenne d'échantillon de 4. En vous fondant sur un échantillon comme celui-ci, vous pouvez difficilement imaginer que la moyenne de la population est en fait de 10.
Bien entendu, les chances d'obtenir un tel échantillon sont infiniment petites, mais cela est néanmoins possible. Une erreur d'échantillonnage peut donc malheureusement vous conduire à tirer une conclusion erronée. Bien qu'il vous soit impossible de savoir le moment où cela se produira, vous pouvez estimer la fréquence à laquelle cela se produira. C'est là que la puissance entre en jeu.
Par exemple, supposons que vous effectuiez un test t à 1 échantillon pour déterminer si le remplissage moyen des bouteilles de shampooing de votre usine diffère du volume cible, qui est de 8 oz. Vous décidez de prélever un échantillon aléatoire de 10 bouteilles. Si μ est en fait de 7,5 oz (les bouteilles sont remplies avec 0,5 oz en moins) et σ est en fait de 0,43 oz, alors le test a une puissance de 0,9039.
Une valeur de puissance de 0,9039 signifie que si vous répétez l'expérience maintes et maintes fois (en prenant à chaque fois un nouvel échantillon aléatoire), environ 90,39 % du temps, vous finirez par rejeter avec raison l'hypothèse nulle. Les autres 9,61 % du temps, l'erreur d'échantillonnage vous empêchera de rejeter H0, même si cette hypothèse est en réalité fausse. Bien entendu, il est peu probable que vous répétiez le test plus d'une fois, mais il est bon de savoir que les chances d'obtenir un échantillon trompeur sont infimes.